Pauza v rozvoji superinteligence: Vyzva od pionýrů umělé inteligence
Sociální obavy o rychlý pokrok v oblasti umělé inteligence (AI) se přeměnily na celosvětový problém, který již přesahuje pouhou technickou debatu. Více než 800 osobností z různých oblastí — vědecké, politické, náboženské a kulturní — se spojilo a podepsalo otevřený dopis, ve kterém žádají o pozastavení vývoje „superinteligence“, hypotetické formy AI, která by byla schopna překonat lidskou inteligenci ve všech kognitivních úlohách.
Mezi signatáři se nacházejí významné osobnosti, jako jsou Geoffrey Hinton a Yoshua Bengio, pionýři v oblasti AI, Steve Wozniak, spoluzakladatel společnosti Apple, bývalý stratég Donalda Trumpa Steve Bannon, stejně jako Princ Harry a Meghan Markle. Dopis spojuje hlasy téměř z celého ideologického spektra — od konzervativců, jako je Steve Bannon a Glenn Beck, až po progresivní osobnosti, jako je Susan Rice, bývalá velvyslankyně USA při OSN, a náboženské figury, jakými je Paolo Benanti, mnich a poradce papeže v otázkách AI. Mezi signatáři jsou také pět vítězů Nobelovy ceny a podnikatel Richard Branson.
Tato iniciativa, kterou podporuje Future of Life Institute, žádá o úplný zákaz rozvoje superinteligentních systémů. Nové technologie by měly být vyvíjeny až poté, co bude dosaženo „širokého vědeckého konsensu“ o jejich bezpečnosti a ověřené veřejné podpoře.
Mezera mezi společností a technologickými giganty
Dopis vychází v době, kdy je publikována zpráva od Future of Life Institute, která zdůrazňuje rostoucí propast mezi společností a velkými technologickými společnostmi, které rychle pokročily v oblasti umělé inteligence. V této situaci se hledá rovnováha mezi inovacemi a bezpečností, která by mohla mít dalekosáhlé důsledky pro budoucnost naší společnosti.
