V auguste 2026 vstúpi do plnej platnosti prvý komplexný zákon o umelej inteligencii na svete. Hoci sa na prvý pohľad môže zdať, že ide o tému určenú výhradne pre technologických gigantov, realita je iná. AI Act totiž zásadne mení pravidlá hry pre každého z nás a vnáša jasné hranice tam, kde doteraz chýbali.
Umelá inteligencia už dávno nerozhoduje len niekde v laboratóriách vývojárov. Triedi životopisy, vyhodnocuje bonitu žiadateľov o úver, odporúča obsah na internete, filtruje reklamy a vybavuje požiadavky cez chatboty. V mnohých prípadoch stojí aj za tým, či sa k vám vôbec dostane človek, alebo len automatizovaná odpoveď. Rozdiel je v tom, že doteraz o tom firmy nemuseli takmer nič vysvetľovať. Po novom to už nebude možné. O téme informuje gerrishlegal.
Jednou z najzásadnejších zmien budú nové pravidlá transparentnosti, ktoré vstúpia do účinnosti 2. augusta 2026. Zavádza sa totiž povinnosť označovať AI obsah, informovať o deepfakes a zároveň upozorniť používateľa, ak komunikuje s umelou inteligenciou. Cieľom je, aby bol vždy jasný rozdiel medzi človekom a algoritmom a aby sa obmedzilo šírenie manipulatívneho obsahu, píše advokátska kancelária Dentons na webe zpravy.kurzy.cz.
Keď o vás rozhoduje algoritmus a vy o tom ani neviete
Ak dnes pošlete životopis a nedostanete odpoveď, veľmi často za tým stojí automatizovaný systém, ktorý vás vyhodnotil ako nevhodného kandidáta. Nové pravidlá prinútia firmy preukázať, že takýto systém nefunguje diskriminačne, že pracuje s kvalitnými dátami a že jeho rozhodnutie vie skontrolovať konkrétny človek. O vás už nebude môcť rozhodovať „čierna skrinka“, ktorej logike nerozumie ani samotná firma.
Zákon zavádza povinný ľudský dohľad nad systémami, ktoré môžu zásadne ovplyvniť život ľudí. Týka sa to najmä oblastí ako zamestnanie, financie, vzdelávanie, zdravotníctvo alebo prístup k službám. V praxi to znamená, že zamestnanci budú musieť presne vedieť, ako systém funguje, čo robí a budú musieť byť schopní jeho rozhodnutie preveriť, upraviť alebo zrušiť. Automatizované rozhodovanie bez kontroly človeka má byť v týchto prípadoch minulosťou.
Firmy vám budú musieť povedať, že komunikujete s AI
Firmy teda budú mať povinnosť jasne informovať o tom, že komunikácia prebieha s umelou inteligenciou, alebo že zobrazovaný obsah bol vytvorený AI. Cieľom je zabezpečiť, aby bolo vždy zrejmé, či na druhej strane stojí človek, alebo automatizovaný systém.
Najprísnejšie pravidlá sa budú týkať takzvaných vysoko rizikových systémov. Ide o umelú inteligenciu, používanú napríklad pri prijímaní do zamestnania, posudzovaní úverov a poistenia, prijímaní na školy, hodnotení osôb, či rozhodovaní o prístupe k dôležitým službám. Pri týchto systémoch budú firmy povinné zaviesť riadenie rizík, zabezpečiť kvalitu dát, presnosť, kyberbezpečnosť, podrobnú dokumentáciu, aj nepretržitý ľudský dohľad.
AI už nebude môcť fungovať potichu a bez zodpovednosti
Firmy už nebudú môcť AI jednoducho nasadiť a nechať ju fungovať bez kontroly. Budú musieť viesť dokumentáciu o tom, kde a ako ju používajú, pravidelne kontrolovať jej fungovanie a vedieť kedykoľvek preukázať, že spĺňajú zákonné podmienky. Na tento účel sa pripravujú aj európske technické štandardy, ktoré presne určia, ako má byť takýto systém nastavený a riadený počas celého svojho životného cyklu.
Pre bežného občana nastáva zásadný zlom v digitálnej ére. Končí sa totiž obdobie netransparentných algoritmov a nastupuje prísny režim kontroly. V praxi to znamená, že každý bude presne vedieť, kedy o jeho záležitostiach rozhoduje umelá inteligencia, pričom firmy budú zákonom nútené jasne vysvetliť logiku každého verdiktu. Umelá inteligencia z našich životov nezmizne, no jej nekontrolovanému rozmachu odzvonilo. Kľúčovým pilierom novej regulácie je osobná zodpovednosť, podľa ktorej musí za každým systémom stáť konkrétny človek. Technológie tak už nebudú môcť expandovať v šedej zóne bez dohľadu a bez právnych následkov.
Nové pravidlá transparentnosti a označovania AI
Ďalšie nové pravidlá sa týkajú najmä generatívnej umelej inteligencie, ktorá vytvára texty, obrázky, audio alebo video. Cieľom je, aby bol AI obsah vždy rozpoznateľný ako umelo vytvorený. Zavádza sa povinnosť technického označovania, napríklad pomocou metadát, digitálnych vodoznakov alebo kryptografických značiek, ktoré budú súčasťou samotného súboru. Tieto technické prvky majú umožniť automatickú detekciu AI obsahu naprieč platformami, ako sú sociálne siete, vyhľadávače či mediálne systémy, aby bolo vždy jasné, že ide o výstup umelej inteligencie.
Okrem toho bude od augusta 2026 povinné aj viditeľné označenie AI obsahu pre používateľa, najmä pri deepfakes a obsahu určenom pre verejnosť. Môže ísť o textové upozornenia, ikony alebo iné jasné vizuálne označenie. Cieľom je najmä ochrana používateľov pred manipulatívnym alebo klamlivým obsahom a zvýšenie dôvery v digitálne prostredie.
Zmeny sa dotknú aj chatbotov a virtuálnych asistentov. Pri prvej interakcii musí byť používateľ jasne informovaný, že komunikuje s umelou inteligenciou, aby nedošlo k zámene s človekom. Tento princíp vychádza z požiadavky transparentnosti podľa AI Act, ktorý zdôrazňuje, že používateľ nesmie byť uvedený do omylu o tom, či komunikuje s človekom alebo strojom.
