Blíži sa Terminátor? OSN bije na poplach! Vraždiace roboty sú už nebezpečne blízko

Organizácia Spojených národov (OSN) a Medzinárodný výbor Červeného kríža (MVČK) varovali, že svet sa „nebezpečne približuje“ k prekročeniu morálnej hranice, za ktorou budú autonómne zbraňové systémy samostatne rozhodovať o tom, koho napadnú. V spoločnom vyhlásení preto naliehavo vyzvali štáty, aby prijali medzinárodné pravidlá upravujúce používanie takzvaných vražedných robotov.

Vyberajú ciele bez pokynu od človeka

„Dnes túto výzvu obnovujeme s ešte väčšou naliehavosťou,“ uviedli generálny tajomník OSN António Guterres a prezidentka MVČK Mirjana Spoljaricová. „Nebezpečne sa približujeme k prekročeniu morálnej červenej čiary: autonómnemu určovaniu ľudských cieľov strojmi.“

Za smrtiace autonómne zbraňové systémy sa všeobecne považujú zbrane, ktoré bez ľudského zásahu samostatne vyberajú ciele a následne proti nim použijú silu. Doteraz nebola oficiálne potvrdená žiadna ich úplne autonómna bojová operácia, no rýchly vývoj umelej inteligencie (AI) a skúsenosti z vojen na Ukrajine a Blízkom východe zvyšujú obavy, že sa to môže čoskoro zmeniť.

Prichádzajú časy Terminátora?

Podľa informácií z Ukrajiny, ktoré priniesol denník The New York Times, ruský dron vybavený experimentálnym systémom umelej inteligencie si minulý mesiac v Záporožskej oblasti po priblížení sa k čerpacej stanici údajne sám presne vybral cieľ a zasiahol ho.

Pri výbuchu zahynula 19-ročná študentka Tetiana Bubynecová a ďalší dvaja ľudia. Ukrajinskí odborníci našli v troskách dronov komerčne dostupné minipočítačové moduly, ktoré podľa nich umožňovali autonómne rozhodovanie pri navádzaní na cieľ.

„Je to riziko pre celý svet. O niekoľko rokov budeme žiť vo filme Terminátor. Nie je to žiadny žart. Stroje robia rozhodnutia o útoku,“ povedal veliteľ protivzdušnej obrany v Záporoží Serhij Minajev.

Zásadný posun

Práve odstránenie človeka z konečného výberu cieľa predstavuje zásadný posun oproti doterajším systémom, pri ktorých umelá inteligencia pomáhala najmä v záverečnej fáze útoku po tom, čo cieľ vybral operátor. Kritici varujú, že autonómne systémy môžu chybne rozlišovať medzi civilistami a bojovníkmi a porušovať pravidlá medzinárodného humanitárneho prá­va.

Štáty už desať rokov diskutujú o budúcej zmluve regulujúcej autonómne zbrane a v novembri majú rozhodnúť, či začnú plnohodnotné rokovania. Guterres a Spoljaricová vyzvali na politickú odvahu a zdôraznili, že nečinnosť môže stáť životy.

„Ak samotní tvorcovia tejto technológie volajú po stanovení hraníc, štáty si nemôžu dovoliť zostať pasívne,“ uviedli. „Inovácie musia slúžiť ľudstvu, nie ho ohrozovať.“

Ďalšie správy z domova i zo sveta nájdete aj na Dnes24, Facebooku a Instagrame.

Foto: ilustračné