Dron už nemusel čakať na človeka
Umelá inteligencia sa vo vojne na Ukrajine používa čoraz intenzívnejšie. Doteraz však pri útokoch zostávalo kľúčové rozhodnutie v rukách človeka. To sa podľa zistení ukrajinských odborníkov a amerického denníka The New York Times mohlo zmeniť. Ruský dron mal pri útoku v Záporoží samostatne vyhodnotiť, čo sa stane jeho cieľom.
Pri útoku zo 6. júla zahynuli v Záporoží traja civilisti. Ukrajinskí vyšetrovatelia následne analyzovali trosky dronov a našli v nich počítače Nvidia Jetson Orin, ktoré sú schopné vykonávať AI výpočty priamo na palube.
Zaujímavým detailom bolo, že v skúmaných dronoch chýbali antény potrebné na klasickú komunikáciu s operátorom. Obsahovali však kameru a výkonný minipočítač. Podľa vyšetrovania mohla práve umelá inteligencia rozhodovať o tom, na ktorý objekt sa dron v záverečnej fáze útoku zameria.
Človek určil oblasť, AI cieľ
Neznamená to, že dron dostal úplnú slobodu rozhodovať o celej misii. Podľa dostupných informácií človek najskôr naprogramoval trasu alebo určil oblasť, kam má dron smerovať.
Rozhodujúci rozdiel však spočíval v poslednej fáze. Dron mohol pomocou kamery a AI rozpoznať konkrétny objekt, ktorý zodpovedal tomu, na čo bol systém vytrénovaný. Konečné rozhodnutie tak už nemusel urobiť človek.
Práve to je na celom prípade najdôležitejšie. Nejde iba o presnejší navigačný systém. Ide o technológiu, ktorá môže samostatne vyhodnotiť človeka alebo objekt ako cieľ.
Ukrajina nechce nechať rozhodovanie iba na AI
Používanie AI na bojisku pritom nie je výnimočné. Obe strany konfliktu ju využívajú napríklad pri navigácii, analýze snímok či automatickom sledovaní cieľov.
Ukrajinská strana zároveň uvádza, že pri rozhodovaní o konečnom útoku chce zachovať ľudský dohľad. Jeden z ukrajinských veliteľov vo svojom vyjadrení uviedol, že rozhodovanie o cieľoch nemožno nechať iba na umelej inteligencii.
Otvára sa zásadná otázka
Prípad z Ukrajiny ukazuje, že hranica medzi autonómnym nástrojom a autonómnou zbraňou sa začína stierať. AI už nemusí iba pomáhať vojakovi. Môže začať robiť rozhodnutia, ktoré mali doteraz zostať výhradne na človeku.
Práve preto OSN a Medzinárodný výbor Červeného kríža v posledných dňoch vyzvali na vytvorenie záväzných pravidiel pre autonómne zbrane. Obávajú sa najmä situácie, keď by o živote a smrti človeka rozhodoval systém bez priameho ľudského zásahu.
