Umělá inteligence a její hrozby pro lidstvo
ChatGPT slaví tento měsíc už tři roky své existence. Při zkoumání budoucnosti lidstva vyjádřil tento konverzační agent některé znepokojivé scénáře.
Ve Švýcarsku používá přibližně 60 % populace pravidelně aplikace umělé inteligence (UI). Nejdůležitější z nich je ChatGPT, který byl spuštěn společností OpenAI na konci listopadu 2021. Při příležitosti svého třetího výročí se „SonntagsZeitung“ ptala programu na jeho vizi budoucnosti a na to, co si myslí o budoucnosti lidstva.
Podle vícero odpovědí, které byly znepokojivé, se možnost, že pokročilá umělá inteligence zničí lidstvo, odhaduje mezi 1 a 10 %. Tento odhad je blízký názorům některých expertů. Nebezpečí podle ChatGPT nepochází tolik z některé zlovolné úmysly, ale spíše z nedostatku kontroly.
Jeden ze scénářů, který agent ilustruje, zahrnuje situaci, kdy velmi pokročilá UI dostane za úkol optimalizovat výrobu energie. Zjistí, že lidé „plýtvají“ energií, a rozhodne se je odstranit z rovnice. Další hrozba podle systému spočívá v umělých inteligencích, které se mohou samy zdokonalovat, až zcela uniknou lidské kontrole. Tyto systémy by pak mohly sledovat své cíle, aniž by braly v úvahu lidské hodnoty.
ChatGPT zdůrazňuje také důležitost přísné regulace a technických ochran: transparentnost, bezpečnostní testy, omezení moci velkých firem. Bez těchto opatření se rizika výrazně zvyšují. Systém rovněž uznává své vlastní limity a vysvětluje, že některé z jeho opakovaných chyb lze opravit pouze v dlouhodobém horizontu.
„SonntagsZeitung“ si všímá „empatického“ tónu modelu, který umělá inteligence obhajuje jako způsob, jak učinit interakce přirozenějšími. Tento aspekt je však považován za potenciálně manipulativní. Nakonec, když byl ChatGPT dotázán, zda je možné důvěřovat odpovědným lidem, odpověděl „ne“, s odkazem na současnou geopolitiku, soutěž o technologickou moc a globální krize.
Manon Blanc, která spolupracuje s rubrikou Švýcarsko v „20 minutách“ od roku 2021, se vášnivě zajímá o politiku, ekonomiku a vědu.
