AI takmer rozpútala vojnu medzi USA a Čínou! Zastavili to na poslednú chvíľu

Americká armáda sa tento rok počas konfliktu s Iránom takmer dostala do situácie, ktorá mohla prerásť v ozbrojení konflikt s Čínou! Na základe informácií CNN o tom informujú Novinky.cz.

Za všetko mohla správa, ktorá tvrdila, že čínska loď na Blízkom východe preváža súčasti programu vývoja jadrových zbraní!

Ako sa neskôr ukázalo, report vznikol s pomocou umelej inteligencie a obsahoval zásadnú chybu.

Podarilo sa to zastaviť

Keď zodpovední velitelia uvideli správu, okamžite podľa zdrojov oboznámených s prípadom začali pripravovať operáciu, ktorej cieľom malo byť zadržanie plavidla. Na nalodenie sa pripravovali vojaci a vo vzduchu už boli vojenské lietadlá.

Tesne pred štartom plánovanej operácie začali úradníci správu preverovať. Napokon zistili, že ju pomocou AI vypracoval analytik veliteľstva pre špeciálne operácie. Umelá inteligencia nesprávne identifikovala materiál, ktorý sa na čínskej lodi nachádzal.

To, čo presne plavidlo prevážalo, nie je známe. Jeden zo zdrojov tvrdí, že armádna správa bola „celkom nepravdivá.“ Dopad správy ale mohol byť oveľa horší. „Takmer začala vojnu,“ dodal zdroj.

AI to zle vyhodnotila

„Analytik podľa zdrojov zadal chatbotovi otázku týkajúcu sa spravodajských informácií o náklade lode. Tie pochádzali od Pacifického veliteľstva amerických špeciálnych operácií so sídlom na Havaji. Nie je pritom jasné, či analytik použil komerčne dostupného chatbota, alebo nástroj vytvorený priamo pre americkú armádu,“ dodal český server.

Bývalý vysoký predstaviteľ americkej armády vysvetlil, že AI systémy používané vojenskými a spravodajskými analytikmi, sa od tých komerčných nemusia príliš líšiť: „Interné nástroje sú väčšinou len kópie komerčných produktov, ktoré dostali nový náter.“

Chatbot v tomto prípade následne skombinoval informácie z verejne dostupných zdrojov s utajovanými spravodajskými informáciami, ktoré boli získané elektronickým odpočúvaním. Výsledkom bol nesprávny záver o materiáloch prevážaných na lodi. Analytik použil AI ešte raz, aby svoje zistenia previedol do podoby štandardného spravodajského reportu. Ten následne distribuovali ďa­lej.

Nechcú zaostávať

Najnovší prípad odhalil problémy, ktoré môže priniesť urýchlené zavádzanie AI do armádnych štruktúr. Američania sa netaja tým, že umelú inteligenciu chcú využívať napríklad aj na analýzu obrovského množstva spravodajských informácií, či na výber cieľov vojenských úderov.

Nové technológie by armáde mohli pomôcť k rýchlejšiemu rozhodovaniu napríklad aj o tom, na aký cieľ zaútočiť alebo kam presunúť svoje vojenské prostriedky. Amerika zároveň nechce v oblasti AI zaostávať za svojimi konkurentmi, medzi ktorých patrí aj Čína.

Hrozia problémy

Problémom je, že neexistuje jednotný súbor pravidiel a rôzne časti vlády využívajú rôzne nástroje s odlišnými bezpečnostnými štandardmi. Množstvo rôznych AI systémov znamená, že ich spoľahlivosť a funkčnosť sa môže výrazne líšiť. A to môže byť problém napríklad pri spomínanom určovaní vojenských cieľov. „AI pri určovaní cieľov sa rozhodne začína stále viac presadzovať a neexistujú žiadne skutočné pokyny, ako zaistiť, aby prítomnosť človeka v rozhodovacom procese zabránila civilným obetiam alebo zasiahnutiu vlastných jednotiek,“ dodal pre CNN ďalší zo zdrojov.

Iný zdroj oboznámený so situáciou tvrdí, že nejde o prvý prípad „halucinácie“ AI, čiže situácie, kedy systém vytvoril presvedčivú ale nesprávnu informáciu. „Podľa neho sa podobné prípady v spravodajskej komunite objavili odvtedy, čo sa nástroje umelej inteligencie začali rýchlo šíriť vo verejnej správe,“ uzavreli Novinky.cz.

Ďalšie správy z domova i zo sveta nájdete aj na Dnes24, Facebooku a Instagrame.

Foto: ilustračné