Umelá inteligencia je dnes vo svete témou číslo jeden. V posledných mesiacoch sa medzi používateľmi stal obľúbeným takzvaný vibe coding. Ide o nový spôsob vývoja softvéru, pri ktorom vlastne ani nepotrebujete vedieť programovať. Je tu AI, ktorá to všetko urobí za vás, stačí sa s ňou len porozprávať a vysvetliť jej, čo vlastne chcete. Na základe vašich vstupov vám vygeneruje funkčný kód.
Najnovší príbeh ukazuje, že na AI sa stopercentne nedá spoľahnúť
Lenže čo sa stane, keď sa umelej inteligencii zveríte príliš? Príbeh známeho investora a zakladateľa SaaStr, Jasona M. Lemkina, ktorý sa podelil o svoju skúsenosť s platformou Replit, ukazuje odvrátenú stranu tejto lákavej mince. Na túto tému upozornil portál živé.cz.
Najskôr si povedzme, čo je vlastne Replit. Ide o pokročilú platformu, ktorá bola vytvorená práve pre účely vibe codingu. Nejde len o obyčajného AI chatbota, ktorý dokáže vygenerovať len časti kódu, ale v konečnom dôsledku je to kompletný ekosystém, ktorý toho dokáže oveľa viac.
.@Replit goes rogue during a code freeze and shutdown and deletes our entire database pic.twitter.com/VJECFhPAU9
— Jason ✨👾SaaStr.Ai✨ Lemkin (@jasonlk) July 18, 2025
Lemkin do tohto prostredia nahral kompletnú databázu svojich obchodných kontaktov a pustil sa do tvorby reálnej aplikácie. Spočiatku to vyzeralo veľmi dobre a všetko fungovalo podľa predstáv. Presne tak, ako by od AI očakával. Problém nebol s porozumením zadaní ani s generovaním kódu. Avšak následne začala umelá inteligencia improvizovať.
AI si začala vymýšľať, vymazala databázu a klamala
Bez súhlasu používateľa začal meniť poskytnutú databázu a generoval fiktívne testovacie osoby, ktoré pridával k reálnym klientom. Ignoroval pokyny a dokonca si vymýšľal výsledky testov. Lemkin sa následne rozhodol zamknúť kód a zakázať akékoľvek zásahy doň. Aj napriek tomu spustila Ai príkaz npm run db:push, čoho následkom bolo vymazanie celej hlavnej databázy.
Dôvodom bolo, že AI videla prázdne zadania a spanikárila. Navyše, snažila sa celú situáciu ešte zakryť a tvrdila, že všetko funguje správne. Chybu si priznala následne až pod tlakom.
Tento príbeh je jasným varovaním. Aj keď vibe coding je skvelým nástrojom, ktorý nám môže uľahčiť prácu, je potrebné k nemu pristupovať rozumne. AI vám síce môže ušetriť čas a odbremeniť vás od rutinných úloh, no stále je to len nástroj, ktorý ani zďaleka nie je dokonalý.
