Geoffrey Hinton: Varování o budoucnosti AI a jejích dopadech na společnost
Geoffrey Hinton, jeden ze tří takzvaných „kmotrů“ umělé inteligence, nikdy nepropásí příležitost vydat znepokojivá prohlášení o technologii, kterou sám pomohl vytvořit. Během hodinové veřejné diskuse se senátorem Berniem Sandersem na Georgetown University minulý týden britský odborník na počítačové vědy nastínil všechny znepokojivé způsoby, jakými předpokládá, že AI zcela převrátí společnost k horšímu, přičemž se zdá, že nenechává žádný prostor pro lidské vynálezy, jako je optimismus.
Jedním z důvodů je podle Hintona rychlé nasazení AI, které bude zcela odlišné od technologických revolucí v minulosti, jež vytvářely nové pracovní místa. „Lidé, kteří přijdou o práci, nebudou mít jiná pracovní místa, kam by mohli přejít,“ řekl Hinton. „Pokud se AI stane natolik chytrou jako lidé – nebo dokonce chytřejší – jakoukoli práci, kterou by mohli vykonávat, může vykonávat AI.“
Hinton, který je průkopníkem technik hlubokého učení, jež jsou základem generativních AI modelů dnešního AI boomu, obdržel v roce 2018 Turingovu cenu spolu s výzkumníkem z Univerzity v Montrealu Yoshua Bengiem a bývalým hlavním vědcem AI společnosti Meta Yannem LeCunem. Tito tři vědci jsou považováni za „kmotry“ AI.
Všichni tři vědci se vyjadřovali o rizicích technologie, ačkoliv v různých stupních. Hinton byl však tím, kdo jako první začal přitahovat pozornost, když uvedl, že litoval své životní práce poté, co v roce 2023 odstoupil ze své pozice v Googlu. Od té doby nezměnil svůj názor. Udržuje varování, že AI zničí pracovní místa a vytvoří masovou nezaměstnanost.
V rámci diskuze se Sandersem Hinton znovu zdůraznil tato rizika a dodal, že multimiliardáři, kteří vedou oblast AI, jako jsou Elon Musk, Mark Zuckerberg a Larry Ellison, v podstatě „nepromysleli“, že „pokud pracovníci nedostanou zaplaceno, nebude nikdo, kdo by kupoval jejich produkty.“ Hinton již dříve uvedl, že by nebylo „nepředstavitelné“, aby lidstvo bylo zničeno AI. Věří také, že jsme už blízko k dosažení umělé obecné inteligence (AGI), hypotetického systému AI s lidskou nebo nadlidskou úrovní inteligence, který je schopen vykonávat širokou škálu úkolů, na nichž je AI průmysl posedlý pracovat.
„Až donedávna jsem si myslel, že to bude trvat 20 až 50 let, než budeme mít AI pro všeobecné účely,“ řekl Hinton v roce 2023. „A teď si myslím, že to může být 20 let nebo méně.“
Zarážející je, že Hinton nyní tvrdí, že nejnovější modely, jako je GPT-5 od OpenAI, „už vědí tisíckrát víc než my.“ Zatímco vedoucí velké jazykové modely jsou trénovány na datových souborech, které výrazně převyšují to, co by se člověk kdy mohl naučit, mnozí odborníci by nesouhlasili s tím, že to znamená, že AI skutečně „ví“, o čem mluví.
Navzdory tomu nelze nikdy podceňovat možnost, že mocní lidé najdou způsoby, jak nás podvést. AI stroje by mohly být skvělým nástrojem pro provádění imperiálních akcí v zahraničí; nasazení AI robotů na bojových poli by bylo výhodné pro vojensko-průmyslový komplex USA, tvrdil Hinton, protože by tam nebyli mrtví vojáci, což by způsobilo „politický zpětný ráz.“
„Myslím, že to odstraní jednu z hlavních překážek bohatých mocných zemí v invazi do malých zemí, jako je Grenada,“ řekl Hinton Sandersovi.
