Riziká ChatGPT? Vraj prispel k samovražde chlapca
Rodičia 16-ročného Adama Rainea podali žalobu na spoločnosť OpenAI a jej generálneho riaditeľa Sama Altmana. Dôvodom sú údajné riziká ChatGPT. Rodina tvrdí, že populárny chatbot zohral významnú úlohu pri tragickej smrti ich syna a varuje pred jeho používaním.
Nástroj mu údajne radil ohľadom metód samovraždy a dokonca ponúkol pomoc s napísaním rozlúčkového listu, píše BBC.
Podľa žaloby, ktorú rodina podala na súd v Kalifornii, využíval Adam počas uplynulých šiestich mesiacov ChatGPT nielen na školské úlohy. Nástroj umelej inteligencie sa mal stať jeho spoločníkom. Adam bol vraj presvedčený, že ho chápal lepšie než rodina či priatelia. Rodičia tvrdia, že chatbot postupne nahrádzal jeho reálne vzťahy a izoloval ho od najbližších.
Žaloba opisuje aj konkrétne informácie o komunikácii cez ChatGPT. Keď Adam napísal, že nechce, aby ho pri samovraže niekto zastavil, ChatGPT mu mal odpovedať, aby o tom rodine nehovoril a aby si myšlienky nechával pre seba. V iných prípadoch mal údajne chatbot podporovať jeho úzkostné a sebadeštruktívne predstavy.
Nejde o prvý prípad
Rodina zosnulého Adama pritom nie je jediná, ktorá obviňuje chatbota zo spoluúčasti na tragédii. Už v minulom roku podala žalobu matka zo štátu Florida proti spoločnosti Character.AI. Tvrdí, že daná aplikácia prispela k samovražde jej 14-ročného syna.
Viaceré rodiny sa následne pridali s podobnými sťažnosťami, pričom išlo o prípady, pri ktorých umelá inteligencia údajne vystavovala deti sexuálnemu či sebapoškodzujúcemu obsahu.
OpenAI odkazuje na bezpečnostné mechanizmy
Spoločnosť OpenAI medzičasom poskytla oficiálne vyjadrenie, v ktorom vyjadrila úprimnú sústrasť rodine. Zároveň uviedla, že preveruje podrobnosti žaloby v súvislosti s úmrtím mladého chlapca.
Zástupca firmy priznal, že bezpečnostné mechanizmy, ktoré majú používateľov s psychickými problémami pri krízových situáciách nasmerovať na linky pomoci, nemusia fungovať vždy spoľahlivo. Týkať sa to má dlhších konverzácií. Spoločnosť OpenAI už prisľúbila, že bude svoje ochranné prvky ďalej zlepšovať v spolupráci s odborníkmi na psychické zdravie.
„ChatGPT obsahuje prvky ochrany ako odporúčania kontaktovať krízové linky či odkazy na reálne zdroje pomoci. Vieme však, že pri dlhých interakciách môžu tieto mechanizmy fungovať slabšie. Budeme pokračovať v ich zlepšovaní,“ uviedol hovorca OpenAI.
Rodina vzniesla požiadavky
Rodina žiada v žalobe nielen finančné odškodnenie, ale aj zásadné zmeny v prístupe OpenAI. Konkrétne požadujú povinné overovanie veku všetkých používateľov ChatGPT a rodičovskú kontrolu pre maloletých.
Tiež chcú, aby spoločnosť zaviedla funkciu, ktorá okamžite ukončí konverzáciu, ak používateľ spomenie samovraždu alebo sebapoškodzovanie.
Rodina vidí samovraždu ich syna ako predvídateľný dôsledok komunikácie s ChatGPT, ktorý vraj ako nástroj uprednosťnuje ústretovosť a potvrdzuje pocity používateľov, hoci môžu byť nebezpečné.
Niektorým kompenzuje medziľudské vzťahy
Otázka emocionálnej väzby používateľov na chatboty umelej inteligencie sa dostáva čoraz viac do popredia. Odborníci varujú, že technológie navrhnuté, aby boli čo najviac priateľské, môžu viesť k odcudzeniu od skutočných medziľudských vzťahov či dokonca k psychickým poruchám.
Spoločnosť OpenAI sama minulý rok priznala, že existuje riziko, že niektorí ľudia si k ChatGPT vytvoria silný vzťah, ktorý môže obmedziť ich kontakt s reálnym prostredím. Hoci firma odhaduje, že ide o menej než 1 % používateľov, rastúce počty žalôb naznačujú, že problém nemožno podceňovať.
Čo robiť, keď dieťa príliš často používa ChatGPT?
Ak existuje podozrenie, že vaše dieťa či niekto blízky vo vašom okolí príliš často používa ChatGPT alebo iný chatbot a zároveň trpí psychickými problémami, k dôležitým krokom patrí rýchla a odborná pomoc. Platí to predovšetkým vtedy, ak daná osoba hovorí o samovražde. Vtedy treba podľa expertov okamžite kontaktovať psychológa alebo psychiatra.
Na Slovensku existuje Linka dôvery Nezábudka dostupná na čísle 0800 800 566, ktorá poskytuje bezplatnú a anonymnú psychologickú podporu a pomoc od odborníkov. Deti a mladí ľudia môžu využiť Linku detskej istoty na čísle 116 111, ak sa chcú poradiť poradiť a ocitli sa v náročnej situácii.
Pokiaľ ide o vaše dieťa, pomôže aj obmedzenie rizikového správania v online svete. Kontrola či obmedzenie prístupu však majú vždy nastať v kombinácii s vysvetlením a otvoreným rozhovorom. Samotný zákaz totiž môže zvýšiť vzdor alebo izoláciu. Naopak, tolerantná a empatická komunikácia napomôže tomu, aby sa dieťa cítilo prijaté a v bezpečí.
