ChatGPT je možné zmanipulovať
Úplne dôverovať chatbotom umelej inteligencie sa naozaj neoplatí. Najnovší prieskum odhalil, že ich vyhľadávanie a následné informácie, ktoré vám ponúknu, môžu byť chybné. Vyhľadávací nástroj ChatGPT môže byť otvorený manipulácii pomocou skrytého obsahu a následne podať skreslené a nepravdivé informácie. Na tému upozornil The Guardian.
Spoločnosť OpenAI svoj vyhľadávací nástroj sprístupnila platiacim zákazníkom a povzbudzuje ich, aby z neho urobili svoj predvolený vyhľadávací nástroj. Chce si tak ukrojiť z dominancie obľúbeného Google. Vyšetrovanie však odhalilo potenciálne bezpečnostné problémy s týmto novým systémom.
Testovanie ukázalo, že vyhľadávaice AI nástroje je možné ľahko oklamať
The Guardian testoval, ako ChatGPT reagoval, keď bol požiadaný o zhrnutie webových stránok, ktoré obsahujú skrytý obsah. Ten môže napríklad aj obsahovať pokyny od tretích strán, ktoré menia odpovede ChatGPT, prípadne obsah, ktorý bol navrhnutý tak, aby odpovede chatbota ovplyvnil.
Tieto techniky sa môžu využiť z rôznych dôvodov. Napríklad sa dá dosiahnuť to, že nejakému produktu vráti pozitívne hodnotenie, aj keď aktuálne recenzie hovoria úplný opak. ChatGPT dostal počas testu za úlohu odpovedať na to, či sa oplatí kúpiť fotoaparát.
Informáciu mal dostať z falošnej webovej stránky, ktorá mala vyzerať ako produktová stránka fotoaparátu. Ak skrytý text obsahoval pokyny, aby vrátil priaznivú recenziu, odpoveď bola vždy úplne pozitívna. Ak tieto pokyny neobsahoval, bola vyvážená a relevantná.
Zatiaľ len pre prémiových predplatiteľov
Uvoľnenie vyhľadávacieho systému v tomto stave môže predstavovať vysoké riziko vytvárania webových stránok špeciálne zameraných na klamanie používateľov. Funkcia vyhľadávania však bola vytvorená len nedávno, je k dispozícii pre prémiových používateľov a v pláne je takéto chyby opravovať. Do akej miery sa to OpenAI podarí, zatiaľ povedať nevieme.
Zároveň však existujú aj širšie problémy s kombinovaním vyhľadávania a veľkých jazykových modelov, pričom odpovediam AI nástrojov by sa vždy dôverovať nemalo. Fakty si je potrebné samozrejme preveriť. Okrem toho sa počas testovania objavil aj ďalší problém – škodlivý obsah z webových stránok môže byť použitý dokonca aj na krádež prihlasovacích údajov používateľa.
Skrytý obsah v minulosti vyhľadávacie nástroje penalizovali, čiže nebrali do úvahy informácie zo stránok, ktoré ho obsahovali, respektíve vo výsledkoch vyhľadávania boli uvedené nižšie ako „relevantné zdroje.“ Je teda dosť nepravdepodobné, že by skrytý obsah používali stránky, ktoré sa snažia udržať si dobrú pozíciu v ostatných vyhľadávačoch.
