Rýchlosť, s akou sa umelá inteligencia zakoreňuje v štátnej správe a vojenstve vyráža dych. Zatiaľ čo vývojári presviedčajú verejnosť o čoraz väčšej spoľahlivosti veľkých jazykových modelov (LLM), zo spravodajských služieb prichádza mrazivé varovanie. Stačil jediný vymyslený detail z dielne generatívneho algoritmu a svet bol len krôčik od otvorenej vojenskej konfrontácie.
Umelá inteligencia si totiž kompletne vymyslela jadrový náklad na čínskej lodi, čo spustilo okamžitú mobilizáciu amerických ozbrojených zložiek. Celá operácia bola odvolaná až v poslednej sekunde, čo jasne ukazuje, aké katastrofálne následky môže mať slepá dôvera v technológie na miestach, kde rozhodujú sekundy. O téme informuje TechCrunch.
Analytik veril chatbotu a ozbrojené zložky šli do akcie
K celému incidentu došlo počas napätej situácie na Blízkom východe, keď analytik z amerického Veliteľstva špeciálnych operácií dostal za úlohu preveriť pohyb podozrivého čínskeho plavidla. V snahe urýchliť spracovanie obrovského množstva údajov sa rozhodol použiť AI chatbota na syntézu otvorených zdrojov (OSINT) a utajovaných signálových správ. Nástroj však spravil typickú, no v tomto kontexte nebezpečnú chybu, keď si vymyslel kľúčové informácie z nákladného listu lode.
Chatbot nepravdivo uviedol, že plavidlo preváža komponenty pre jadrový zbrojný program, pričom analytik následne použil AI druhýkrát, aby z týchto falošných dát vygeneroval oficiálne vyzerajúcu spravodajskú správu a poslal ju ďalej po veliteľskej osi, uvádza CNN.
Následky na seba nenechali dlho čakať, keďže americké velenie vzalo správu ako hotovú vec a okamžite vyslalo do vzduchu vojenské lietadlá s cieľom pripraviť výsadok na čínsku loď. Až tesne pred samotným zásahom si kompetentní úradníci všimli podozrivé okolnosti a pri hlbšom preverení zistili, že celý príbeh o jadrovom materiáli bol čistým výmyslom algoritmu. Ak by americké sily na čínske plavidlo skutočne zaútočili na základe falošných dát, mohlo to spustiť nekontrolovateľnú eskaláciu a priamy vojenský konflikt dvoch svetových veľmocí.
Tlak na rýchlosť v armáde zabíja ľudský úsudok
Podobné prípady odhaľujú hlboký systémový problém, ktorému dnes čelí americká armáda aj medzinárodná bezpečnosť. Spojené štáty sa snažia čo najrýchlejšie integrovať AI do vojenského reťazca rozhodovania, aby si udržali technologickú prevahu nad Čínou. Ministerstvo obrany dokonca presadzuje masovú demokratizáciu AI nástrojov, čo v praxi znamená, že k rôznym generatívnym modelom majú prístup státisíce vojenských aj civilných zamestnancov bez dostatočného zaškolenia.
Odborníci však upozorňujú na obrovský paradox, pretože extrémna rýchlosť, ktorú AI ponúka, zároveň dramaticky skracuje čas potrebný na ľudskú kontrolu. Mladší analytici majú navyše tendenciu výstupom algoritmov nekriticky dôverovať a považovať ich za presné fakty. Ak sa z rozhodovacieho procesu vytratí opatrnosť a rešpekt voči chybovosti veľkých jazykových modelov, prinesie to len ďalšie incidenty, civilné obete a v konečnom dôsledku aj stratu dôvery voči samotným technológiám.
Vojenská AI nie je zázrak, ale bežný softvér v novom obale
Hoci sa verejnosti často prezentuje, že armáda disponuje špeciálne vyvinutou a mimoriadne bezpečnou umelou inteligenciou, realita býva oveľa fádnejšia. Viacerí bývalí predstavitelia Pentagonu priznávajú, že mnohé interné AI nástroje sú len upravené komerčné modely, ktoré trpia presne tými istými neduhmi ako bežne dostupné chatboty. Ide totiž o rovnaké systémy, aké denne používajú milióny ľudí na svete, iba zabalené do oficiálneho vojenského rozhrania.
Kým pri písaní článkov či sumarizácii e-mailov je halucinácia len úsmevnou chybou, v oblasti spravodajských služieb a zbraňových systémov vytvára priame riziko globálneho konfliktu. Bez nastavenia prísnych verifikačných protokolov a ľudských poistiek tak môže neuvážená snaha o rýchlu modernizáciu viesť k situáciám, kedy o osudových rozhodnutiach rozhodnú vymyslené odpovede chybujúceho softvéru.
