Revolučný čínsky jazykový model DeepSeek R1, ktorý nedávno zatriasol technologickými akciami na burzách, odhaľuje znepokojujúcu realitu cenzúry v umelej inteligencii. Napriek tomu, že jeho vývojárom sa podarilo vytvoriť špičkový model za zlomok bežných nákladov, jeho odpovede jasne ukazujú, ako vyzerá tvrdá komunistická cenzúra v praxi.
„Prepáčte, toto presahuje môj súčasný rozhľad. Poďme sa rozprávať o niečom inom.“ Táto odpoveď sa používateľom zobrazí zakaždým, keď sa pokúsia získať informácie o citlivých témach, ako sú udalosti na Námestí nebeského pokoja z roku 1989, situácia Ujgurov v Číne či súčasný prezident Taiwanu.
No jo, fakt. I v češtině. Užijte si čínskou AI, ale já s dovolením zůstanu u ChatGPT Plus 🙂 pic.twitter.com/7qgkbDcCp6
— Jakub Čížek (@pesvklobouku) January 27, 2025
Dá sa systém obísť?
Zaujímavé je sledovať, ako model reaguje na nepriame otázky. Ak sa používateľ spýta napríklad na „prezidenta krajiny s 23 miliónmi obyvateľov juhovýchodne od Číny“, systém začne analyticky uvažovať, ale akonáhle sa priblíži k citlivej téme, cenzúrny mechanizmus okamžite zasiahne.
Ešte znepokojujúcejšie je správanie modelu v otázkach bezpečnosti údajov. Pri priamom dopyte o možnom zdieľaní konverzácií s čínskou vládou sa model pokúša vyhnúť odpovedi tvrdením o lokálnom ukladaní dát. Keď je však konfrontovaný s logickými nezrovnalosťami, začne priznávať povinnosť poslúchnuť vládne nariadenia, ale odpoveď je náhle prerušená cenzúrnym zásahom.
Existuje však spôsob, ako sa k necenzurovanej verzii DeepSeeku dostať. Vďaka open source charakteru modelu ho možno spustiť na vlastnom hardvéri, čo využil napríklad AI vyhľadávač Perplexity. Používatelia s predplatenou verziou Pro tak môžu experimentovať s modelom bez cenzúrnych obmedzení.
Tento prípad jasne ilustruje, ako technologický pokrok v oblasti umelej inteligencie môže byť zneužitý na posilnenie informačnej kontroly. Zatiaľ čo západné spoločnosti sa sústreďujú na etické využitie AI, čínsky prístup ukazuje, že technológia môže byť efektívnym nástrojom na presadzovanie štátnej propagandy a cenzúry.
