Geoffrey Hinton vyvrací šéfa AI Microsoftu: „Není nic, co by bránilo strojům být vědomé“
Geoffrey Hinton, uznávaný jako „kmotr“ umělé inteligence, znovu oživil debatu o možnosti, že stroje dosáhnou vědomí. Britský vědec tvrdí, že neexistuje žádný princip, který by bránil umělému systému vyvinout sebeuvědomění, čímž vyvrací nedávné výroky Mustafy Suleymana, šéfa AI ve společnosti Microsoft.
Během rozhovoru v kanálu The Diary Of A CEO Hinton vysvětlil, že vědomí by mohlo vzniknout z funkční komplexity systémů, nezávisle na jejich biologické povaze. Podle jeho slov “nevěřím, že existuje něco, co by v zásadě bránilo strojům být vědomé”. Vědec se domnívá, že pokud se umělý systém dokáže modelovat sám sebe a vnímat své okolí, může vyvinout formu vědomí podobnou lidskému.
Expert obhajuje, že emoce jsou kognitivní a behaviorální reakce, které by teoreticky mohly existovat i u strojů. “Nejenom simulují emoce, oni skutečně tyto emoce prožívají,” řekl. Hinton tvrdí, že vědomí nezávisí na biologickém materiálu, ale na fungování a organizaci systému.
Biologické limity podle Mustafy Suleymana
Na druhé straně, Mustafa Suleyman, šéf divize umělé inteligence společnosti Microsoft, nadále zastává zcela opačný postoj. Během svého vystoupení na konferenci AfroTech, která se konala v Houstonu, prohlásil, že “pouze biologické bytosti mohou mít vědomí”. Na základě teorie biologického naturalismu Johna Searlea argumentoval, že vědomí je důsledkem neuronálních procesů v živém mozku a že systémy AI tuto základnu postrádají.
“Bolest u člověka má fyzickou a emocionální dimenzi; AI necítí smutek, když prožívá bolest,” vysvětlil šéf Microsoftu. Pro Suleymana algoritmy pouze reprodukují narativ, který napodobuje lidské emoce, ale ve skutečnosti je nežijí. V tomto ohledu považuje přisuzování citlivosti stroji za “tázání se špatné otázky”.
Suleyman dále zdůraznil, že společnost se nebude podílet na projektech, které by usilovaly o to, aby systémy měly identitu nebo emoce. “AI není vědomá a nemůže být,” prohlásil a zdůraznil, že cílem společnosti je vyvíjet technologie sloužící lidstvu. Tímto postojem se nadnárodní corporation odlišuje od ostatních firem v odvětví, jako jsou Meta nebo xAI, které zkoumaly možnosti vytváření konverzačních modelů s emocionálními rysy.
Navzdory svému varování ohledně rizik umělé inteligence se Geoffrey Hinton ukazuje jako mírně optimistický. Vědec je přesvědčen, že stále “existuje naděje, že budeme moci koexistovat s něčím inteligentnějším než jsme my”. Nicméně trvá na tom, že společnost by měla reflektovat etické limity a důsledky konstrukce stále pokročilejších systémů.
