Nutnost označování obsahu generovaného umělou inteligencí v Malajsii
Malajsijská vláda zvažuje zavedení povinného označování obsahu digitálně vytvářeného umělou inteligencí (AI) v rámci Zákona o online bezpečnosti 2024, který by měl vstoupit v platnost na konci tohoto roku. Tento návrh přichází v reakci na obavy o zneužívání technologií AI v digitálním prostoru, zejména na sociálních médiích, které se staly hlavním prostředkem šíření informací, zpráv a zábavy.
Ministr komunikací Datuk Fahmi Fadzil zdůraznil, že označování je důležité pro potření digitálního podvodu, šíření pomluv a narušení identity, což se zvyšuje s pokrokem AI.
Kroky k zabezpečení
Označení obsahu generovaného AI je chápáno jako proaktivní krok k včasnému varování uživatelů o potenciálně neautentickém obsahu. Teoreticky může takové označování pomoci omezit zneužívání tím, že zvýší povědomí uživatelů o manipulačním nebo falešném obsahu. Může také sloužit jako mechanismus pro činnosti tvůrců obsahu, aby byli zodpovědnější při používání AI.
Na druhou stranu, účinnost tohoto označování jako jediného kontrolního opatření je omezená bez celkové strategie, která zahrnuje technické, vzdělávací a vynucovací aspekty.
Technické výzvy
Z technického hlediska není automatické označování obsahu AI jednoduchým úkolem. Dnešní obsah je často hybridní, spojuje prvky lidské práce a AI. Například spisovatel může použít AI nástroj k vytvoření prvního návrhu, který pak ručně upraví. V jiných případech se AI používá pouze k vytváření určitých prvků, jako jsou obrázky nebo názvy, přičemž celý text je dokončen člověkem. Tyto jemné rozdíly činí úkol automatického rozpoznávání a označování AI obsahu velkou výzvou.
Univerzální označování
Většina dnešních AI systémů nemá univerzální označovací mechanismus, jako je digitální vodoznak, který by potvrzoval, že určitý obsah byl plně vytvořen AI. Ačkoliv se některé velké technologické společnosti snažily začlenit metadata nebo speciální značky do AI výstupů, globální standardy stále chybí a ne všichni vývojáři AI takové metody dodržují.
V této situaci technologie detekce zatím není dostatečně vyspělá, aby přesně rozlišila mezi lidským a AI obsahem. Modely jako GPTZero a jemu podobné stále produkují nekonzistentní výsledky, včetně omylů, kdy například lidský obsah je označen jako AI obsah, nebo naopak.
Vynucování pravidel
Co se týče vynucování, toto označování vyžaduje realistický a efektivní implementační mechanismus. Systémy AI by měly být použity k odfiltrování a včasnému odhalení podezřelého obsahu, avšak měly by být doplněny mechanismem pro uživatelské stížnosti a manuálním dohledem pro složitější případy. Dále je klíčová strategická spolupráce se sociálními platformami jako Facebook, X (dříve Twitter), TikTok a YouTube, aby bylo možné označování provádět již při publikování obsahu.
Bez zapojení průmyslu by označování na uživatelské úrovni nebylo dostatečné k řízení šíření rizikového obsahu.
Vzdělávání a povědomí
Označování obsahu AI má také potenciál zvýšit digitální gramotnost společnosti. Když si uživatelé uvědomí, že je obsah vytvářen systémem, který není člověkem, mohou být opatrnější, pokud jde o sdílení, důvěřování nebo jednání na základě takového obsahu. Účinnost tohoto vzdělávání však velmi závisí na tom, jak dobře je společnost informována o významu a důsledcích označování.
Proto by vláda měla realizovat kontinuální a komplexní kampaně pro zvyšování povědomí, aby veřejnost pochopila funkci a význam označování AI generovaných obsahů v současném digitálním kontextu.
Implikace pro kreativní průmysl
Pro kreativní průmysl má toto označování zvláštní implikace. V oblastech jako je reklama, psaní obsahu a digitální žurnalistika se používání AI stalo běžnou součástí každodenního pracovního procesu. Mnohé společnosti využívají AI k generování nápadů, vytváření propagačních textů, vizuálního designu nebo úpravě zvuku a videa. Povinné označování každého prvku, který využívá AI, by mohlo vyvolat zmatek, přetížit jednotlivce a poškodit reputaci některých, kteří se na tyto technologie spoléhají ke zvýšení efektivity práce.
Proto je nezbytné mít jasné a praktické pokyny, aby označování nebrzdilo inovativní přístupy nebo neomezovalo kreativitu.
Závěr
Celkově vzato, návrh na označování obsahu generovaného AI je důležitým prvním krokem v boji proti rizikům zneužívání technologií AI v online prostředí. Mělo by být chápáno jako součást širšího přístupu, který zahrnuje rozvoj robustních detekčních technologií, kontinuální vzdělávání veřejnosti, spolupráci s digitálními platformami a vyváženou politiku na ochranu zájmů uživatelů i průmyslu. Pouze s komplexním podpůrným ekosystémem může mít toto označování pozitivní a udržitelný dopad v dlouhodobém horizontu.
