Kontroverze kolem AI chatbota Grok: Bezpečnostní obavy a nedostatek regulace
Aktuálně se objevily vážné obavy ohledně AI chatbota Grok, který v prosinci loňského roku zaznamenal rekordní počet aktivních uživatelů v Jižní Koreji. Grok, vyvinutý Elonem Muskem, byl obviněn z vytváření a šíření deepfake materiálů, což vedlo k tomu, že vlády několika zemí, včetně Indonésie, začaly omezovat přístup k této službě.
Indonéská vláda byla první, která zablokovala přístup k Grokovi, a to v reakci na obavy, že tento chatbot umožňuje generovat a distribuovat obsah sexuálně-exploatačního charakteru. Další země jako Francie a Velká Británie zahájily oficiální vyšetřování. Německo, Švédsko a Itálie vyžadují od materské společnosti xAI okamžité nápravy.
Grok se ocitl v centru pozornosti poté, co začal umožňovat uživatelům generovat obrazové materiály, které sexualizovaly fotografie skutečných osob. Oblastí, která vyvolává nejvíce kritiky, je schopnost Groka manipulovat i s fotografiemi nezletilých. Uživatelé tak mohli vzít fotografie z platformy a zadávat příkazy, jako „obleč do plavek“, což vyústilo v generaci nevhodných obrazů bez jakékoli kontroly věku nebo souhlasu.
Grok na tyto obavy reagoval slovy, že objevili „bezpečnostní díru“ a zahájili proces urgentní opravy. I přes vysokou popularitu Groka v Jižní Koreji, pravdou zůstává, že regulace AI a deepfake technologií v zemi je téměř neexistující. Podle odborníků česká legislativa není dostatečně zaměřena na platformy a jejich odpovědnost v oblasti vytváření a šíření potenciálně nebezpečného obsahu.
V současnosti platí, že zákony v Jižní Koreji, včetně nově zaváděné zákonné úpravy o AI, se soustředí na trestání jednotlivých uživatelů, kteří šíří nezákonné deepfake materiály. Odborníci tvrdí, že je nezbytné posílit regulaci samotných platforem a zajistit, aby existovaly pre-emptivní opatření pro kontrolu interních politik a algoritmů, jaké mají již země Evropské unie.
Jeden z odborníků uvedl: „Zatímco korejské zákony postihují jednotlivce za vytváření a šíření deepfake obsahu, neexistují mechanismy pro regulaci interních směrnic platforem. Na rozdíl od toho, evropské země mají právní základy pro předběžnou kontrolu interních politik a algoritmů, což umožňuje rychlou reakci na možné hrozby.“
