Chyba v AI: Školní úřad vyvrací fámu o zastavení přijímacího řízení
V poslední době se stala chyba v generativní AI, která šíří nepravdivé informace. Někdo narazil na šokující zprávu při hledání informací o přijímacím řízení na základní škole Zhengxin v Yulin, kde Google uvedl, že „Zhengxin Základní škola přestane přijímat studenty od 114. školního roku“. Tato informace zaskočila školní úřad, který okamžitě musel začít ověřovat pravdivost zprávy. Po důkladném prozkoumání bylo zjištěno, že Google AI omylem zaměnil novinky o jiné škole.
Škola Zhengxin zdůraznila, že pravděpodobně kvůli nedávné aktualizaci jejich oficiálních webových stránek na začátku října se v AI objevily mezery v informacích. Když se Google spojil s jejich inženýry, ukázalo se, že AI správně identifikovala klíčová slova jako „základní škola“ a „přijímací řízení“, ale nedokázala přesně rozlišit názvy škol. Tím pádem došlo k záměně mezi školou Zhengxin a školou Zhongzheng, která skutečně plánuje zastavit přijímání studentů. To vedlo k vzniku nepravdivého tvrzení o Zhengxin.
Škola dále informovala, že po oznámení o chybě inženýři Google provedli optimalizaci, ale problém stále přetrvává. Zástupci školy uvedli, že nejde o úmyslné šíření dezinformací, ale spíše o „halucinace“ AI, které vznikly v důsledku absence dalšího ověření ze strany člověka. To ukazuje na omezení AI algoritmů, které zpracovávají informace z velkých dat, a oprava nebude okamžitě možná.
Školní úřad vyzdvihl, jak důležité je, aby se lidé stali opatrnými uživateli AI technologií. Toto nedorozumění by mělo sloužit jako příležitost k poučení pro rodiče a studenty. Je důležité dodržovat tři základní principy při používání AI nástrojů: vrátit se k oficiálnímu zdroji pro klíčové informace, zachovat skepsi vůči informacím poskytovaným AI a používat AI jako pomocný nástroj, nikoliv jako jediný zdroj pravdy. Pouze tímto způsobem mohou lidé zabránit podobným informačním katastrofám.
