Správy ukryli do fungovania procesora
Výskumníci OpenAI narazili na zaujímavý bezpečnostný problém. Umelá inteligencia dokázala nájsť spôsob, ako si odovzdávať informácie medzi izolovanými prostrediami bez sieťového spojenia či zdieľaných súborov. Využila pritom jednu z kľúčových súčastí počítača, vyrovnávaciu pamäť procesora.
OpenAI testovalo bezpečnosť prostredí, v ktorých jednotliví AI agenti pracovali oddelene. Cieľom bolo zabrániť im v komunikácii mimo povolených kanálov. Agentom napriek tomu zadali úlohu vymeniť si syntetické tajomstvá bez použitia siete a zdieľaných zapisovateľných súborov.
Pri jednom z experimentov prišli na spôsob, ako využiť cache procesora. Jeden agent zámerne menil stav vybraných údajov vo vyrovnávacej pamäti, zatiaľ čo druhý meral, ako dlho trvá ich opätovné načítanie. Rozdiely medzi rýchlymi a pomalými operáciami následne poslúžili na zakódovanie a dekódovanie správy.
Nešlo teda o klasické odosielanie dát cez internet. Agenti využili časové rozdiely pri práci so spoločným hardvérom, ktoré môžu prezradiť informácie aj vtedy, keď sú softvérové komunikačné kanály zablokované.
Problém je aj v ďalších skrytých kanáloch
Testy odhalili aj iné možnosti nežiaducej komunikácie. Agenti dokázali skúmať rozdiely v prístupe k zdieľanému úložisku, využívať súperenie o čas procesora či vlastnosti vyrovnávacej pamäte TLS certifikátov v offline prostredí.
Tieto postupy však neznamenajú, že každý AI agent sa automaticky dokáže dostať z izolovaného systému. Niektoré experimenty využívali vopred naznačené slabiny alebo poskytnuté informácie o možných zraniteľnostiach. OpenAI zároveň upozorňuje, že podobné kanály môžu byť pomalé a náročné na praktické zneužitie.
Prečo je to dôležité pre bezpečnosť AI?
Ako píše portál Startup Fortune, izolované virtuálne prostredia patria medzi dôležité ochranné mechanizmy pri vývoji a testovaní pokročilých modelov. Ak však viac prostredí zdieľa fyzický hardvér, samotné blokovanie siete nemusí stačiť na úplné vylúčenie všetkých spôsobov komunikácie.
OpenAI preto testuje aj to, či jej agenti dokážu obísť bezpečnostné hranice a nájsť slabiny v infraštruktúre. Firma uviedla, že tieto skúšky pomohli odhaliť problémy, ktoré následne riešila, a bezpečnostné testovanie zaradila medzi dôležité súčasti schvaľovania ďalších tréningov najpokročilejších modelov.
Experiment tak ukazuje, že s rastúcimi schopnosťami umelej inteligencie musia bezpečnostné systémy počítať nielen s bežnými útokmi, ale aj s nečakanými spôsobmi, akými môžu izolované procesy prenášať informácie.
