Claude Fable 5 zmizol len pár dní po uvedení
Vo svete umelej inteligencie sa odohral bezprecedentný krok. Americká vláda nariadila spoločnosti Anthropic okamžite vypnúť prístup k jej najpokročilejším modelom Claude Fable 5 a Claude Mythos 5. Stalo sa tak len niekoľko dní po ich uvedení na trh, pričom dôvodom majú byť obavy o národnú bezpečnosť.
Anthropic potvrdil, že dostal oficiálnu smernicu založenú na exportných obmedzeniach. Tá zakazuje prístup k modelom všetkým zahraničným občanom, a to bez ohľadu na to, či sa nachádzajú v USA alebo v zahraničí. Keďže firma nedokázala technicky zabezpečiť okamžité dodržiavanie takéhoto pravidla, rozhodla sa modely vypnúť úplne pre všetkých používateľov.
AI, ktorá vraj vedela príliš veľa
Model Fable 5 bol predstavený ako verejne dostupná verzia ešte výkonnejšieho systému Mythos 5. Anthropic ho označoval za jeden z najlepších modelov na programovanie, analýzu dát a riešenie komplexných problémov. Zároveň však obsahoval bezpečnostné obmedzenia, ktoré mali zabrániť jeho zneužitiu pri kybernetických útokoch.
Práve schopnosti v oblasti kybernetickej bezpečnosti mali vyvolať obavy amerických úradov. Podľa dostupných informácií sa vláda domnieva, že existuje spôsob, ako obísť ochranné mechanizmy modelu a využiť ho na vyhľadávanie softvérových zraniteľností alebo hackerské aktivity. Anthropic však tvrdí, že nedostal konkrétne dôkazy a že identifikované slabiny nie sú unikátne pre Fable 5.
Spor medzi Anthropicom a vládou sa vyostruje
Celá situácia prichádza v období napätých vzťahov medzi Anthropicom a americkou administratívou. Spoločnosť sa v minulosti dostala do konfliktu s vládnymi inštitúciami po tom, čo odmietla umožniť využívanie svojich modelov na autonómne zbraňové systémy a niektoré formy sledovania.
Anthropic rozhodnutie rešpektoval, no zároveň ho verejne kritizoval. Firma upozorňuje, že ak by sa podobné pravidlá začali uplatňovať aj na ďalšie AI modely, mohlo by to výrazne spomaliť vývoj umelej inteligencie v celom odvetví.
Historický precedens pre AI priemysel
Prípad Claude Fable 5 môže byť prvým náznakom novej éry regulácie umelej inteligencie. Doteraz sa americké obmedzenia sústreďovali najmä na vývoz čipov a hardvéru. Teraz sa pozornosť presúva priamo na samotné AI modely a ich schopnosti.
Pre technologický sektor ide o významný moment. Ukazuje totiž, že najvýkonnejšie modely umelej inteligencie začínajú byť vnímané podobne ako strategické technológie či vojenské systémy. A práve preto môže byť Claude Fable 5 len prvým z radu modelov, ktoré sa v budúcnosti dostanú pod prísnejší dohľad štátov.
