Nové pravidlá sú už na obzore
Umelá inteligencia si v Európskej únii prejde ďalšiou významnou zmenou. Od 2. augusta 2026 začnú platiť totiž nové požiadavky na transparentnosť AI obsahu podľa článku 50 nariadenia AI Act. Cieľom je zabezpečiť, aby používatelia vedeli rozlíšiť, kedy komunikujú s umelou inteligenciou alebo sledujú obsah, ktorý nevytvoril človek.
Nová legislatíva sa netýka len veľkých technologických spoločností. Povinnosti sa vzťahujú na poskytovateľov a prevádzkovateľov vybraných systémov umelej inteligencie, predovšetkým tých, ktoré generujú text, obrázky, zvuk alebo video, prípadne umožňujú priamu komunikáciu s používateľmi. Zámerom nie je obmedziť rozvoj AI, ale zvýšiť dôveru v digitálny obsah a znížiť riziko manipulácie či šírenia dezinformácií.
Jednou z najvýznamnejších noviniek je povinnosť označovať obsah vytvorený alebo výrazne upravený umelou inteligenciou. Nepôjde pritom iba o viditeľné upozornenia. Európska únia požaduje aj takzvané strojovo čitateľné označenie, ktoré môže mať podobu metadát, digitálneho vodoznaku alebo iného technického riešenia umožňujúceho spoľahlivú identifikáciu pôvodu obsahu. Takéto označenie má uľahčiť odhaľovanie AI výstupov aj automatizovanými systémami.
Ako píše The Guardian, osobitné pravidlá platia pre takzvané deepfakes, teda realisticky upravené alebo kompletne vytvorené fotografie, videá či zvukové nahrávky. Ak môže byť takýto obsah zamenený za skutočný, používateľ musí byť jasne informovaný, že ide o materiál vytvorený alebo pozmenený pomocou umelej inteligencie. Európska únia tým reaguje na rastúci počet prípadov, keď boli deepfaky zneužité na šírenie nepravdivých informácií alebo poškodzovanie reputácie verejne známych osôb.
Za porušenie hrozí astronomická pokuta
Zmenám sa nevyhnú ani chatboty a virtuálni asistenti. Pokiaľ nie je z okolností úplne zrejmé, že používateľ komunikuje s AI systémom, prevádzkovateľ bude musieť túto skutočnosť jednoznačne oznámiť. Cieľom je, aby ľudia neboli uvedení do omylu a vedeli, že odpovede neposkytuje človek.
Výnimku dostanú niektoré texty týkajúce sa tém verejného záujmu. Ak obsah vytvorený umelou inteligenciou prejde redakčnou kontrolou človeka a za jeho zverejnenie nesie zodpovednosť konkrétna fyzická alebo právnická osoba, nebude potrebné ho označovať ako AI vytvorený. Európska komisia tým zohľadnila fungovanie médií a redakcií, kde umelá inteligencia môže slúžiť ako pomocný nástroj. Konečné rozhodnutie však zostáva na človeku.
Pravidlá zároveň nebudú platiť pre všetky situácie. Nevzťahujú sa napríklad na bežný osobný obsah používateľov ani na diela, pri ktorých je už na prvý pohľad zrejmé, že ide o satiru, fikciu alebo umeleckú tvorbu. Porušenie týchto pravidiel vás navyše môže vyjsť pekne draho. AI Act umožňuje uložiť pokutu až do 15 miliónov eur alebo do výšky 3 % celosvetového ročného obratu. Rozhodujúce pritom bude, ktorá suma je vyššia podľa konkrétneho prípadu.
