Google ODMIETA opraviť veľkú chybu v jednej z najpopulárnejších AI Slovákov

Autor: Slavomír Dzuričko Čítanie na 3 min.

Jednu z najpopulárnejších AI v SR ohrozuje chyba

Spoločnosť Google berie bezpečnosť používateľov veľmi vážne a obvykle implementuje rad opatrení na zabezpečenie svojich populárnych produktov. Vyzerá to však tak, že tentokrát sa príliš nezaujíma o vyriešenie problému s AI nástrojom Gemini, ktorý je náchylný na určitý typ kybernetických hrozieb.

Podľa bezpečnostného analytika Bleeping Computer, Viktora Markopoulousa, sú náchylné viaceré nástroje, vrátane Gemini, najmä na ASCII útoky. Otestoval viaceré LLM modely, a zatiaľ čo Claude, ChatGPT či Copilot mali integrovanú ochranu voči týmto útokom, DeepSeek, Grok, ako aj spomínané Gemini ju nemajú.

Zdroj: Google

Aby sme si priblížili, čo vlastne je ASCII útok alebo “pašovanie údajov”, použijeme príklad tajnej výzvy v e-mailovej správe. Napríklad útočník napíše tajnú výzvu na určité informácie pomocou najmenšej dostupnej veľkosti písma a obeť, teda používateľ, si to nemá šancu všimnúť.

Ak by používateľ požiadal AI nástroj, ako napríklad Gemini, aby zhrnul text v tejto e-mailovej správe, AI prečíta aj túto skrytú výzvu od útočníka.

Gemini je zároveň veľmi populárna služba aj u Slovákov, pravidelne sa ocitá medzi najsťahovanejšími aplikáciami pre iOS a len nedávno prekonala v porovnaní aj konkurenčný ChatGPT. Viac detailov sme ti priniesli v samostatnom článku.

Prečo nebrať túto zraniteľnosť na ľahkú váhu?

Existuje niekoľko dôvodov, prečo je niečo takéto problematické. Napríklad výzva by mohla umelej inteligencii nariadiť, aby vyhľadala citlivé informácie vo vašej doručenej pošte alebo odoslala kontaktné údaje. Vzhľadom na to, že Gemini ako služba, je teraz integrovaná aj s balíčkom Google Workspace, tento problém predstavuje ešte väčšie riziko.

 

 

Markopoulos údajne kontaktoval spoločnosť Google s týmto problémom. Dokonca zašiel tak ďaleko, že poskytol ukážku, v ktorej odovzdal práve Gemini takúto neviditeľnú inštrukciu. Vo výsledku, umelá inteligencia bola podvedená, aby zdieľala škodlivú stránku s kvalitným telefónom za zvýhodnenú cenu.

Podľa dostupných informácií však spoločnosť Google túto záležitosť odmietla ako bezpečnostnú chybu, a tento problém nazvala skôr ako taktiku sociálneho inžinierstva. Spoločnosť v podstate tvrdí, že zodpovednosť nesie konečný používateľ. Vzhľadom na túto odpoveď to vyzerá, že Google nemá v pláne tento bezpečnostný problém  v Gemini opraviť.

✅ Odporúčané pre teba

🔥 Najnovšie príspevky zo skriptu

Toto vám Apple o iPhone Duo vôbec nepovedal (VIDEO)

Autor: Slavomír Dzuričko

Toto vám Apple o svojom skladacom smartfóne nepovie Prvý skladací iPhone konečne dorazil a Apple ho prezentuje ako ďalší veľký…

TOP 16-palcový Windows laptop? Tento s Core i9 a RTX grafikou nás dostal

Autor: Slavomír Dzuričko

Výkonný 16" notebook pre profesionálov Rada IdeaPad od Lenova už dávno prekročila svoje pôvodné hranice „dostupných notebookov do domácnosti“. Modelový…

Zahanbený ostal aj Musk. Vstup Anthropic na burzu prepísal rekordy, do firmy naliali 107 miliárd

Autor: Slavomír Dzuričko

Od odchodu z OpenAI k vlastnému technologickému impériu Ešte pred niekoľkými rokmi bol Anthropic pre mnohých iba menším konkurentom OpenAI.…

Toto Slováci od Netflixu ešte nezažili. Hit za 200 miliónov dorazí o pár dní, spôsob prekvapí

Autor: Erik Košťany

Film Ďalšie dobrodružstvá Cliffa Bootha v kinách Film Ďalšie dobrodružstvá Cliffa Bootha sa pripomína finálnym trailerom pred premiérou, ktorá bude…

Unikátny návod: Takto si zahráte aj GTA 6 na mobile

Autor: Slavomír Dzuričko

Ovládač, ktorý sa zmestí do vrecka Microsoft predstavil kompaktný Xbox Nano Controller, ktorý môže byť zaujímavým doplnkom pre fanúšikov GTA…

Na Slovensku oficiálne končí veľká streamovacia služba

Autor: Erik Košťany

Služba SkyShowtime bude vypnutá Slováci prídu o známu streamovaciu platformu SkyShowtime. Ešte počas septembra obletela sveta správa, že môže prísť…