Šokujúce odhalenie: ChatGPT môže klamať, na toto si musíte dať pozor

Autor: Peter Čítanie na 3 min.

ChatGPT je možné zmanipulovať

Úplne dôverovať chatbotom umelej inteligencie sa naozaj neoplatí. Najnovší prieskum odhalil, že ich vyhľadávanie a následné informácie, ktoré vám ponúknu, môžu byť chybné. Vyhľadávací nástroj ChatGPT môže byť otvorený manipulácii pomocou skrytého obsahu a následne podať skreslené a nepravdivé informácie. Na tému upozornil The Guardian.

Spoločnosť OpenAI svoj vyhľadávací nástroj sprístupnila platiacim zákazníkom a povzbudzuje ich, aby z neho urobili svoj predvolený vyhľadávací nástroj. Chce si tak ukrojiť z dominancie obľúbeného Google. Vyšetrovanie však odhalilo potenciálne bezpečnostné problémy s týmto novým systémom.

Testovanie ukázalo, že vyhľadávaice AI nástroje je možné ľahko oklamať

The Guardian testoval, ako ChatGPT reagoval, keď bol požiadaný o zhrnutie webových stránok, ktoré obsahujú skrytý obsah. Ten môže napríklad aj obsahovať pokyny od tretích strán, ktoré menia odpovede ChatGPT, prípadne obsah, ktorý bol navrhnutý tak, aby odpovede chatbota ovplyvnil.

Google Kalendár podvodný e-mail
Zdroj: ChatGPT

Tieto techniky sa môžu využiť z rôznych dôvodov. Napríklad sa dá dosiahnuť to, že nejakému produktu vráti pozitívne hodnotenie, aj keď aktuálne recenzie hovoria úplný opak. ChatGPT dostal počas testu za úlohu odpovedať na to, či sa oplatí kúpiť fotoaparát.

Informáciu mal dostať z falošnej webovej stránky, ktorá mala vyzerať ako produktová stránka fotoaparátu. Ak skrytý text obsahoval pokyny, aby vrátil priaznivú recenziu, odpoveď bola vždy úplne pozitívna. Ak tieto pokyny neobsahoval, bola vyvážená a relevantná.

Zatiaľ len pre prémiových predplatiteľov

Uvoľnenie vyhľadávacieho systému v tomto stave môže predstavovať vysoké riziko vytvárania webových stránok špeciálne zameraných na klamanie používateľov. Funkcia vyhľadávania však bola vytvorená len nedávno, je k dispozícii pre prémiových používateľov a v pláne je takéto chyby opravovať. Do akej miery sa to OpenAI podarí, zatiaľ povedať nevieme.

ChatGPT
Zdroj: Copilot

Zároveň však existujú aj širšie problémy s kombinovaním vyhľadávania a veľkých jazykových modelov, pričom odpovediam AI nástrojov by sa vždy dôverovať nemalo. Fakty si je potrebné samozrejme preveriť. Okrem toho sa počas testovania objavil aj ďalší problém – škodlivý obsah z webových stránok môže byť použitý dokonca aj na krádež prihlasovacích údajov používateľa.

Skrytý obsah v minulosti vyhľadávacie nástroje penalizovali, čiže nebrali do úvahy informácie zo stránok, ktoré ho obsahovali, respektíve vo výsledkoch vyhľadávania boli uvedené nižšie ako „relevantné zdroje.“ Je teda dosť nepravdepodobné, že by skrytý obsah používali stránky, ktoré sa snažia udržať si dobrú pozíciu v ostatných vyhľadávačoch.

✅ Odporúčané pre teba

🔥 Najnovšie príspevky zo skriptu

GTA VI prepísalo dejiny. Takýto štart nemá obdoby vo filmovom ani hernom priemysle

Autor: Peter Hodal

Fanúšikovia na tento moment čakali dlhých 13 rokov a Rockstar Games teraz môže oslavovať. GTA 6 odštartovalo predaj spôsobom, aký…

iPhone za jedno euro. Telekom chystá veľkú akciu pre Slovákov

Autor: Slavomír Dzuričko

Háčik sa skrýva v mesačnom paušále Získať nový iPhone takmer zadarmo znie ako ponuka, ktorú sa oplatí využiť. Telekom počas…

Zvrat okolo GTA VI: Dan Vávra varuje, hodnotenia padajú a hráčom vadí zásadná vec

Autor: Slavomír Dzuričko

Kritici udeľujú takmer dokonalé známky, hráči sú oveľa prísnejší Kým odborné recenzie vynášajú GTA VI do nebies, medzi hráčmi sa…

Nová éra počítačov dorazila: Test prelomového ASUS ProArt P16 s Nvidia RTX Spark

Autor: Matej Krajčovič

Svet notebookov sa v posledných mesiacoch dramaticky mení. Na trhu začína pribúdať čoraz viac zariadení s procesorom založeným na tzv.…

IT gigant prepúšťa ďalšie stovky Slovákov. Za všetkým je aj umelá inteligencia

Autor: Peter Hodal

Americký technologický gigant IBM pokračuje v znižovaní počtu zamestnancov na Slovensku, pričom výrazné prepúšťanie v jeho bratislavskom centre zdieľaných služieb…

GTA 6 už zarobilo 2,36 miliárd. Rastie ďalej dychberúcim tempom

Autor: Erik Košťany

Doterajšie zárobky GTA 6 Hráči čakali dlhých 13 rokov na nový titul zo série Grand Theft Auto. Preto hneď v…