Používanie nástrojov umelej inteligencie sa stáva bežnou súčasťou nášho pracovného dňa. Uľahčuje nám písanie textov, analýzu dát či tvorbu kódov. Avšak to, čo vyzerá ako skvelý pomocník, môže pre firmy predstavovať obrovské bezpečnostné riziko.
Zamestnanci totiž s týmito technológiami často pracujú tajne – bez vedomia a dohľadu firemných IT oddelení. Bezpečnosť AI je teda veľmi dôležitá.
Keď bežný pracovník vloží do verejne dostupného AI chatu zadanie, často si neuvedomuje dôsledky. Do systému tak môžu nevedomky putovať interné dokumenty, zdrojové kódy, zákaznícke údaje alebo iné obchodne citlivé informácie, ktoré by rozhodne nemali opustiť brány spoločnosti.
Čo odhalil audit? Bezpečnosť AI nástrojov ohrozujú osobné účty
Podľa správy spoločnosti LayerX sa ukazuje, že situácia je veľmi vážna. Takmer polovica všetkých firemných konverzácií s AI prebieha prostredníctvom osobných účtov zamestnancov a nie cez bezpečné, firmou spravované identity. Viac ako 6 percent interakcií s AI dokonca obsahuje aj citlivé firemné údaje. No a približne 22 % obsahu zahŕňa údaje o platobných kartách, respektíve osobné údaje.
Tento prístup, kedy zamestnanci pristupujú k AI cez nespravované osobné profily alebo cez nezabezpečené rozšírenia v internetovom prehliadači, dramaticky zvyšuje riziko úniku citlivých firemných dát.
„Umelá inteligencia je nový vektor útokov. Firmy a inštitúcie by mali venovať rovnakú pozornosť bezpečnosti AI ako bezpečnosti aplikácií, cloudových služieb alebo infraštruktúry,“ varuje Matúš Mihok, riaditeľ spoločnosti Remediata.
Klasické bezpečnostné testy sa kedysi zameriavali len na servery, siete a weby. Dnes však vznikla nová útočná plocha – samotné AI nástroje, asistenti a chatboty. Ak ich firmy netestujú, vytvárajú si nebezpečné slepé miesta. Testeri preto čoraz častejšie odhaľujú neschválené AI nástroje či neoprávnené prepojenia.
Nové hrozby a prísna legislatíva
Systémy musia po novom odolať špecifickým útokom. Medzi tie najhlavnejšie patrí:
- Prompt injection – manipulácia modelu pomocou špeciálnych príkazov
- Neoprávnený prístup k dátam a obchádzanie užívateľských oprávnení
- Únik systémových inštrukcií – prezradenie vnútorného nastavenia modelu
- Zneužitie AI konektorov a integrácií
Matúš Mihok navyše upozorňuje na blížiacu sa legislatívu. Od 2. augusta 2026 budú musieť vysokorizikové AI systémy v EÚ povinne prejsť oficiálnym posúdením zhody s nariadením AI Act. Preukázanie kybernetickej odolnosti nebude len formalita. Firmy budú musieť v praxi technicky overiť robustnosť svojich systémov.
