Bývalý výskumník v Anthropicu a OpenAI VARUJE: AI môže VYHLADIŤ ľudstvo! Čas sa kráti
Umelá inteligencia môže do desiatich rokov vyhladiť ľudstvo, varuje bývalý výskumník v Anthropicu a OpenAI.
Bývalý zamestnanec dvoch vedúcich amerických spoločností zaoberajúcich sa vývojom umelej inteligencie, OpenAI a Anthropic, obvinil svojich bývalých zamestnávateľov z toho, že v pretekoch o vývoj modelov schopných samostatného zlepšovania sa zahrávajú s ľudskými životmi.
Hazard so životmi
„Ani jedna spoločnosť nekoná zodpovedne. Ženú sa priamo k samostatne sa zlepšujúcej superinteligencii a hazardujú s našimi životmi,“ vyhlásil v utorok dvadsaťsedemročný Jacob Coxon.
Superinteligencia je teoretický bod, keď schopnosti AI presiahnu ľudskú inteligenciu.
Hrozivé slová
Coxon, ktorý posledné tri roky strávil predtrénovaním AI modelov – najprv v OpenAI a tento rok v konkurenčnom Anthropicu –, sa preto rozhodol túto oblasť úplne opustiť. „Ľudia, ktorí vyvíjajú AI, úprimne veria, že nás to môže do konca desaťročia všetkých zabiť,“ uviedol na platforme X. „Toto nie je marketingový trik,“ dodal.
Bezpečnostný pracovník spoločnosti Anthropic Evan Hubinger Coxona v príspevku na platforme X podporil. „My naozaj úprimne veríme, že AI môže zabiť všetkých ľudí!“ napísal a riziko odhadol na viac než desať percent v priebehu nasledujúceho desaťročia.
Už sa to blíži
Hubinger uviedol, že Anthropic „robí, čo môže“, no zatiaľ nemá plán, ako zabezpečiť, aby systém „s nadľudskými schopnosťami“ poslúchal svojich tvorcov. Pri súčasných modeloch je však podľa neho toto riziko nízke.
Lídri v oblasti umelej inteligencie tvrdia, že tzv. „rekurzívne samostatné zlepšovanie“, t.j. fáza, keď by systémy AI mohli navrhovať a trénovať ďalšiu generáciu modelov s minimálnym zásahom človeka, sa blíži.
Najvyššia priorita!
Koncom júla viac než 1 000 pracovníkov technologického sektora vrátane generálneho riaditeľa spoločnosti Anthropic Daria Amodeiho požiadalo Washington, aby podporil koordinované spomalenie vývoja najpokročilejších AI systémov.
V nedeľu šéf výskumu v OpenAI Jakub Pachocki vyzval na „extrémnu opatrnosť“. „Medzinárodná koordinácia budúceho vývoja AI sa musí stať najvyššou prioritou vlád na celom svete,“ napísal na blogu.
Ďalšie správy z domova i zo sveta nájdete aj na Dnes24, Facebooku a Instagrame.
Foto: ilustračné