Jednu z najpopulárnejších AI v SR ohrozuje chyba
Spoločnosť Google berie bezpečnosť používateľov veľmi vážne a obvykle implementuje rad opatrení na zabezpečenie svojich populárnych produktov. Vyzerá to však tak, že tentokrát sa príliš nezaujíma o vyriešenie problému s AI nástrojom Gemini, ktorý je náchylný na určitý typ kybernetických hrozieb.
Podľa bezpečnostného analytika Bleeping Computer, Viktora Markopoulousa, sú náchylné viaceré nástroje, vrátane Gemini, najmä na ASCII útoky. Otestoval viaceré LLM modely, a zatiaľ čo Claude, ChatGPT či Copilot mali integrovanú ochranu voči týmto útokom, DeepSeek, Grok, ako aj spomínané Gemini ju nemajú.
Aby sme si priblížili, čo vlastne je ASCII útok alebo “pašovanie údajov”, použijeme príklad tajnej výzvy v e-mailovej správe. Napríklad útočník napíše tajnú výzvu na určité informácie pomocou najmenšej dostupnej veľkosti písma a obeť, teda používateľ, si to nemá šancu všimnúť.
Ak by používateľ požiadal AI nástroj, ako napríklad Gemini, aby zhrnul text v tejto e-mailovej správe, AI prečíta aj túto skrytú výzvu od útočníka.
Gemini je zároveň veľmi populárna služba aj u Slovákov, pravidelne sa ocitá medzi najsťahovanejšími aplikáciami pre iOS a len nedávno prekonala v porovnaní aj konkurenčný ChatGPT. Viac detailov sme ti priniesli v samostatnom článku.
Prečo nebrať túto zraniteľnosť na ľahkú váhu?
Existuje niekoľko dôvodov, prečo je niečo takéto problematické. Napríklad výzva by mohla umelej inteligencii nariadiť, aby vyhľadala citlivé informácie vo vašej doručenej pošte alebo odoslala kontaktné údaje. Vzhľadom na to, že Gemini ako služba, je teraz integrovaná aj s balíčkom Google Workspace, tento problém predstavuje ešte väčšie riziko.
🚨 ASCII Smuggling Attack Lets Hackers Manipulate Gemini to Deliver Smuggled Data to Users
Read more: https://t.co/lrVZYID9xR
ASCII Smuggling leverages zero-width or tag Unicode characters (for example, U+E0001 “Language Tag”) that render invisible in typical UIs but remain… pic.twitter.com/V6QyPQ8Y8m
— Cyber Security News (@The_Cyber_News) October 9, 2025
Markopoulos údajne kontaktoval spoločnosť Google s týmto problémom. Dokonca zašiel tak ďaleko, že poskytol ukážku, v ktorej odovzdal práve Gemini takúto neviditeľnú inštrukciu. Vo výsledku, umelá inteligencia bola podvedená, aby zdieľala škodlivú stránku s kvalitným telefónom za zvýhodnenú cenu.
Podľa dostupných informácií však spoločnosť Google túto záležitosť odmietla ako bezpečnostnú chybu, a tento problém nazvala skôr ako taktiku sociálneho inžinierstva. Spoločnosť v podstate tvrdí, že zodpovednosť nesie konečný používateľ. Vzhľadom na túto odpoveď to vyzerá, že Google nemá v pláne tento bezpečnostný problém v Gemini opraviť.
