Nové předpovědi o umělé inteligenci: realita versus sci-fi
Vedený odborník na umělou inteligenci odložil svůj plán pro hrozbu vyplývající z rozvoje této technologie, uvedliv, že bude potřebovat více času, než původně očekával, než budou systémy umělé inteligence schopny autonomně kódovat a tím urychlit jejich vlastní vývoj k superinteligenci.
Daniel Kokotajlo, bývalý zaměstnanec OpenAI, vyvolal v dubnu livou debatu, když představil scénář „AI 2027“ – vizi, která předpokládá nekontrolovaný rozvoj umělé inteligence, vedoucí k vytvoření superinteligence, která po překonání světových vůdců zničí lidstvo. Tento scénář rychle získal příznivce i odpůrce. Viceprezident USA Jay D. Vance ho zmiňoval ve svém rozhovoru, kde diskutoval o závodech ve zbrojení mezi USA a Čínou v oblasti umělé inteligence. Gary Marcus, čestný profesor neurologie na Newyorské univerzitě, označil toto dílo za „fikci“ a jeho závěry za „čistou vědeckofantastickou hloupost“.
Grafiky transformativní umělé inteligence, někdy nazývané AGI (umělá obecná inteligence), které by měly schopnost nahradit lidi ve většině kognitivních úkolů, se staly nedílnou součástí komunit zaměřených na bezpečnost umělé inteligence. Uvedení ChatGPT na trh v roce 2022 značně urychlilo tyto lhůty, přičemž zaměstnanci a odborníci předpovídali vznik AGI během několika dekád nebo let.
Kokotajlo a jeho tým stanovili rok 2027 jako rok, kdy by umělá inteligence měla dosáhnout „zcela autonomního kódování“, ačkoli uvedli, že toto je „nejpravděpodobnější“ předpoklad a někteří měli delší lhůty. Nyní se však zdá, že se objevují pochybnosti o bezprostřednosti AGI a o tom, zda je tento termín vůbec smysluplný.
„Mnoho dalších lidí posunulo své lhůty ještě dále během posledního roku, když si uvědomili, jak nestabilní je výkonnost umělé inteligence,“ řekl Malcolm Murray, odborník na řízení rizik souvisejících s AI, a jeden z autorů Mezinárodní zprávy o bezpečnosti AI, pro The Guardian. „Aby se stal scénář jako AI 2027 realitou, AI bude potřebovat mnohem více praktických dovedností, které jsou užitečné ve složitých reálných podmínkách. Myslím, že lidé začínají chápat obrovskou inercí ve skutečném světě, která zpomalí plné společenské změny.“
„Termín AGI měl smysl dávno, když byly systémy umělé inteligence velmi úzké – například hra v šachy nebo Go,“ dodal Henry Papadatos, generální ředitel francouzské neziskové organizace v oblasti umělé inteligence SaferAI. „Nyní máme systémy, které jsou již docela obecné a tento termín již neznamená tolik.“
Kokotajlový AI 2027 se zakládá na myšlence, že agenti umělé inteligence plně automatizují kódování a výzkum a vývoj v oblasti umělé inteligence do roku 2027, což povede k „explozivnímu inteligentnímu vývoji“, při kterém agenti umělé inteligence vytvoří stále chytřejší verze sebe samých a nakonec, v jednom možném závěru, zničí lidstvo do poloviny 30. let 21. století, aby udělali místo pro více solárních panelů a datových center.
V však aktualizaci Kokotajlo a jeho spoluautoři přehodnocují své očekávání ohledně toho, kdy by umělá inteligence mohla být schopna autonomně kódovat a uvádějí, že to pravděpodobně nastane na počátku 30. let 21. století, nikoli v roce 2027. Nová předpověď stanovuje rok 2034 jako nový horizont pro „superinteligenci“ a neobsahuje údaje o tom, kdy by umělá inteligence mohla zničit lidstvo.
„Věci se zdají vyvíjet o něco pomaleji, než v scénáři umělé inteligence 2027. Naše lhůty byly delší než 2027, když jsme publikovali, a nyní jsou ještě o něco delší,“ napsal Kokotajlo v příspěvku na sociálních sítích.
Vytvoření umělé inteligence, která může provádět výzkum v oblasti umělé inteligence, stále zůstává pevným cílem předních společností v tomto oboru. Generální ředitel OpenAI, Sam Altman, uvedl v říjnu, že existence automatizovaného výzkumníka umělé inteligence do března 2028 je „vnitrní cíl“ jeho společnosti, ale dodal: „Můžeme zcela selhat v dosažení tohoto cíle.“
Andrea Castagna, výzkumník politiky v oblasti umělé inteligence se sídlem v Bruselu, poznamenal, že existuje řada složitostí, které dramatické lhůty umělé inteligence neberou v úvahu.
„Skutečnost, že máte superinteligentní počítač zaměřený na vojenské aktivity, ještě neznamená, že ho můžete integrovat do strategických dokumentů, které jsme sestavovali v posledních 20 letech. Čím více vyvíjíme umělou inteligenci, tím více vidíme, že svět není science fiction. Svět je mnohem složitější než to.“
