Podvodné využívání AI v čínských e-shopech
Podle zprávy SCMP se v Číně objevilo znepokojivé chování mezi některými spotřebiteli, kteří využívají umělou inteligenci (AI) k úpravám obrázků produktů z dobrých na špatné, a následně požadují vrácení peněz za tyto zboží. Toto chování vyvolává etické a právní obavy.
Speciálně během nákupního festivalu „Double 11“ (11. listopadu) řada majitelů e-shopů hlásila příliv fotografií poškozených produktů, které byly vytvořeny pomocí AI, od zákazníků, kteří požadovali vrácení peněz. Mnozí spotřebitelé posílali fotografie ovoce, které dostali, a požadovali, aby AI změnila obrázky na shnilé kusy. Zatímco jeden prodejce elektrických zubních kartáčků uvedl: „Zákazník poslal obrázek zubního kartáčku s rezavými skvrnami a požadoval vrácení peněz. Říkal, že problémy, které uvádí, jsou naprosto nelogické.“
V jiném případě pracovník módního obchodu uvedl, že zákazník požadoval plné vrácení peněz za šaty s tím, že se na krku šatů uvolnil šev, a poslal k tomu obrázek vytvořený pomocí AI. Obchod poté zjistil, že osvětlení na krku šatů se liší od zbytku produktu, což naznačuje, že obrázek byl manipulován AI.
Podle SCMP prodejce porcelánových hrnků uvedl, že zákazník zaslal žádost o vrácení peněz s fotografií hrnku, který měl prasklinu. Protože všechny produkty byly pečlivě baleny, prodejce požádal zákazníka o video rozbalení zásilky, na což zákazník svou žádost vzal zpět. Při analýze pomocí softwaru na detekci AI obchod zjistil, že existuje až 92% pravděpodobnost, že fotografie byla padělaná.
V současné době se mnoho online obchodů v Číně pravidelně setkává se situacemi, kdy zákazníci zneužívají politiky k získání finanční kompenzace za levné výrobky, aniž by je vraceli. E-commerce platformy mají tendenci být velkorysé vůči spotřebitelům, a proto jsou někdy nesmyslné žádosti snadno schvalovány.
Naopak někteří uživatelé obviňují obchody z toho, že také zneužívají AI k „zkrášlování“ produktů, vytváření pozadí, modelů či dokonce falešných výrobků pro reklamní účely. V reakci na rostoucí podvody pomocí AI tyto platformy zrušily možnost „vrácení peněz bez vrácení zboží“. Platformy jako Taobao a Tmall rovněž zavedly systém hodnocení uživatelů na základě historie transakcí a zpětné vazby od prodejců.
Odborník Liu Dongchen z firmy Shaanxi Zhongzhi Law Firm varoval: „Spotřebitelé, kteří používají obrázky vytvořené AI k žádosti o vrácení peněz, se mohou dopouštět podvodu. Platformy by neměly tolerovat takové neetické chování. Ti, kteří zneužívají AI k podvodným vracení peněz, by měli být navždy vyloučeni.“
Některé názory naznačují, že protože AI může vytvářet extrémně přesvědčivé obrázky, požadavek na to, aby obchody žádaly zákazníky o poskytnutí videí jako důkaz, by mohl být účinným řešením k zamezení podvodům.
