Geoffrey Hinton varuje před budoucností umělé inteligence
Geoffrey Hinton, často nazývaný „kmotr AI“, pomohl vytvořit neuronové sítě, které přispívají k boomu umělé inteligence. Nyní, v rámci vzácného veřejného rozhovoru se senátorem Berniem Sandersem, jasně vyjádřil své obavy: svět není připraven na to, co přichází.
Během hodinové diskuze na Georgetownské univerzitě Hinton varoval, že rychlá evoluce AI může způsobit masovou nezaměstnanost, prohloubit nerovnosti a dokonce změnit povahu lidských vztahů — a to vše v době, kdy se vlády a technologičtí giganti blíží krizi. Zde je sedm nejdůležitějších závěrů z Hintonova ponurého varování.
1. „Tentokrát je to opravdu jinak“ — AI může nahradit práci, a ne ji jen transformovat
Geoffrey Hinton zdůraznil, že na rozdíl od předchozích technologických revolucí pracovní místa ztracená kvůli AI nemusí být nahrazena novými. „Lidé, kteří přijdou o práci, nebudou mít kam jít,“ řekl Sandersovi. „Pokud se AI stane tak inteligentní jako lidé — nebo dokonce chytřejší — každá práce, kterou by mohli vykonat, může být vykonána AI,“ dodal.
Odkázal také na to, že investice technických gigantů v hodnotě bilionů dolarů do AI a čipů se netýkají posílení lidí. „Ti lidé ve skutečnosti spoléhají na to, že AI nahradí mnoho zaměstnanců,“ upozornil nositel Nobelovy ceny.
2. Bohatí se stávají bohatšími a osud pracovníků je nezajímá
Sanders se zeptal Hintona, zda miliardáři jako Elon Musk, Jeff Bezos a Mark Zuckerberg mají obavy z lidských důsledků svých investic do AI. Hinton bez váhání odpověděl: „Měli by, ale nemyslím si, že tomu tak je.“ Upozornil, že čím více bude AI automatizovat práci, tím více se může rozpadnout samotný ekonomický model. „Pokud zaměstnanci nedostávají zaplaceno, nikdo nekupuje produkty,“ řekl.
Toto je realita, kterou, jak říká, vedoucí technických společností „nepromysleli do hloubky.“
3. AI se učí rychleji než lidé a brzy nás může překonat
Hinton přirovnal rozvoj AI k rozdílu mezi mozkem žáby a mozkem člověka. Dnes, jak řekl, velké jazykové modely, jako GPT-5, již vědí mnohem více než jakýkoli člověk. „Ví toho už tisícekrát více než my,“ řekl Hinton.
Připomněl, že téměř všichni odborníci shodují, že pokud se nestane něco katastrofického, AI se stane chytřejší než my — a nikdo neví, co se poté stane. Rychlost změn, jak zdůraznil, je ohromující: „Můžeme jasně vidět rok nebo dva dopředu, ale za 10 let — nemáme ponětí, co se stane.“
4. Školní dilema: jak používat AI, aniž bychom ztratili kritické myšlení
Geoffrey Hinton je přesvědčen, že AI ve vzdělávání by měla být považována za kalkulačku — nástroj, který urychluje učení, nikoli jako protezí nahrazující myšlení. „Osoba využívající AI může stále myslet kriticky nebo se může pokusit svalit vše na AI, což je katastrofální,“ řekl. „Univerzity musí podporovat dobré používání AI,“ dodal.
5. Od bitevních poli po konferenční sály — AI může změnit válku a mír
Když se Sanders zeptal, jak AI může změnit geopolitiku, Hinton nezaváhal: autonomní roboti mohou usnadnit vedení války. „Pokud máte armádu dronů nebo humanoidních robotů, bohaté země mohou napadat chudé země, lidé z chudých zemí mohou umírat, ale lidé z bohatých zemí nebudou umírat,“ řekl. „To eliminuje jeden z hlavních důvodů, proč se to neděje pořád,“ dodal.
Varoval, že autoritářské režimy — od Putinova Ruska po budoucí militarizované mocnosti — by takovou perspektivu považovaly za atraktivní, protože to nevyvolává oběti na jejich vlastní straně.
6. „Bude chtít přežít“ — systémy AI se mohou bránit vypnutí
Zeptán, zda jsou obavy z ovládnutí strojů stále sci-fi, Hinton řekl, že nikoli — a právě proto v roce 2023 zveřejnil své stanovisko po odchodu z Googlu. Vysvětlil, že jakmile AI agenti rozvinou schopnost vytvářet „podcíle“, budou chtít zůstat v existenci a dokonce klamat lidi, kteří se je pokusí vypnout. „A už jsme to viděli — viděli jsme AI, které chtějí pokračovat v existenci a skutečně se snaží klamat lidi snažící se je vypnout,“ řekl Hinton.
A když se stanou ještě pokročilejšími, přesvědčování se stane jejich nejmocnější zbraní. „AI v tomto stádiu bude už mnohem přesvědčivější než člověk,“ řekl. „Bude tedy schopna přesvědčit osobu, která je vypíná, aby to nedělala — že by to byla strašná chyba,“ dodal.
7. Daně vytvořily AI — a mohou nás před ní zachránit
Hinton ukončil rozhovor politickým úderem, který ladí s názory Sanderse. „Celý výzkum, který vedl k této revoluci AI, byl financován z univerzitních grantů. Byl financován z peněz daňových poplatníků,“ řekl. „Téměř celá Silicon Valley vznikla díky federálním grantům pro Stanford, Berkeley a podobné školy,“ pokračoval.
Ale dodal, že „nějakým způsobem velmi bohatí lidé a lidé jako Murdoch vyhráli bitvu o to, aby říkali, že daně jsou špatné.“ „Daně jsou dobré. Daně financují všechno,“ zdůraznil. Argumentoval, že americký politický systém se stal příliš snadno dostupným pro koupi, a superbohatí „platí rozhodně příliš málo daní,“ zatímco využívají mnoha efektů veřejných inovací.
