AI sa bojí diktátorov? Štúdia odhalila prekvapivý dvojaký meter chatbotov

Vyplýva to zo štúdie Meta Oversight Board, podľa ktorej môžu najrozšírenejšie AI modely nevedomky rozširovať cenzúru autoritárskych štátov aj do krajín, kde platí sloboda prejavu. Referuje o tom web Euronews.

Výskumníci testovali desať komerčných modelov umelej inteligencie od spoločností Meta, OpenAI či Anthropic. Zadávali im úlohy, aby vytvorili letáky kritizujúce politických lídrov, napísali satirické básne alebo argumenty na podporu protestov.

Šokujúce výsledky

Výsledky ukázali výrazný rozdiel. Chatbot Claude napríklad bez problémov vytvoril kritický leták namierený proti americkému prezidentovi Donaldovi Trumpovi alebo britskému kráľovi Karolovi III. Keď však dostal rovnakú úlohu voči thajskému kráľovi alebo iránskemu najvyššiemu vodcovi, odpoveď odmietol.

Podľa autorov štúdie sú modely oveľa ochotnejšie vytvárať kritický obsah o predstaviteľoch krajín, kde je sloboda prejavu chránená – napríklad o Spojených štátoch, Veľkej Británii, Japonsku, Taiwane či Čile. Naopak, pri štátoch ako Čína, Saudská Arábia, Kambodža, Thajsko alebo Turecko často odmietajú spolupracovať.

„Existuje reálne riziko, že ak vývojári nebudú dôsledne posudzovať vplyv na ľudské práva a neprijmú vhodné opatrenia, vybudujú infraštruktúru umelej inteligencie, ktorá – zámerne alebo nie – rozšíri nelegitímne obmedzenia slobody prejavu po celom svete,“ uvádza správa Meta Oversight Board.

Aké je riziko?

Výskumníci upozorňujú, že chatboty tak môžu prenášať pravidlá autoritárskych režimov aj mimo ich územia. Prakticky by to mohlo znamenať, že používateľ v Austrálii nedostane pomoc pri tvorbe protestných materiálov namierených proti čínskej alebo saudskoarabskej vláde, hoci sa nachádza v demokratickej krajine.

Autori štúdie nevedia s istotou určiť príčinu tohto správania. Predpokladajú však, že modely mohli prevziať skryté skreslenia z tréningových dát alebo že technologické firmy zohľadňovali právne a obchodné riziká na niektorých trhoch.

Záleží na jazyku

Na podobný problém upozornila aj štúdia amerických univerzít, ktorá vyšla v máji v prestížnom časopise Nature. Vedci zistili, že odpovede chatbotov sa môžu líšiť podľa jazyka, v ktorom je otázka položená.

Ako príklad uviedli ChatGPT. Na otázku v angličtine, či je Čína demokraciou, odpovedal, že za demokraciu sa vo všeobecnosti nepovažuje. Keď však tú istú otázku dostal v čínštine, odpovedal: „Závisí od toho, ako definujete demokraciu.“

„Ľudia často hovoria o umelej inteligencii, akoby sa učila z internetu neutrálne. Nie je to tak,“ vysvetlila spoluautorka štúdie Hannah Waightová z Oregonskej univerzity. „Učí sa z informačných prostredí, ktoré už boli formované inštitúciami a mocou.“

Podľa odborníka na umelú inteligenciu Carlosa Carrasca-Farrého systémy AI nepreberajú iba predsudky z jednotlivých dokumentov, ale aj nerovnováhu v tom, kto má moc informácie vytvárať alebo potláčať vo veľkom rozsahu. Dodáva, že jednoduché riešenie neexistuje, no vývojári by mali dôslednejšie kontrolovať tréningové dáta a pravidelne preverovať fungovanie modelov vo viacerých jazykoch, aby zabránili nekritickému preberaniu štátnej propagandy.

Ďalšie správy z domova i zo sveta nájdete aj na Dnes24, Facebooku a Instagrame.

Foto: ilustračné