Proč umělá inteligence není klasickým vyhledávačem
V současné době polovina Němců využívá umělou inteligenci (AI) jako alternativu k vyhledávačům jako je Google. Tento trend pociťují zejména mladší generace, což ukazuje nedávný průzkum provedený Digitalverbandem Bitkom mezi více než 1 000 respondenty. Zjistilo se, že polovina lidí alespoň občas používá AI chatbota, přičemž pět procent lidí spoléhá pouze na tyto nástroje.
Podle různých studií představuje problém vysoký podíl chybných informací obsažených v odpovědích chatbota. Závažných chyb je až 45 procent, což podtrhuje studie Evropské vysílací unie (EBU) z října, která ukázala, že velké procento odpovědí populárních chatbotů obsahuje významné chyby ohledně přesnosti, citací, kontextu nebo rozlišení mezi fakty a názory.
Proč vznikají problémy
Chyby v odpovědích umělé inteligence mohou vznikat z různých důvodů. Například mohou být reakce na aktuální témata zastaralé. Chatboti často využívají starší texty a při nejednoznačných dotazech poskytují neaktuální informace. Kromě toho mohou přebírat neověřené informace z internetu nebo připisovat nepřesné zdroje.
Hlavní problém spočívá ve struktuře samotného systému. Chatboti fungují jako jazykové modely, které na základě velkého množství textu určují, která slova se s největší pravděpodobností spojují. To může vést k takzvaným halucinacím, kdy umělá inteligence generuje odpovědi, které nejsou přesné, protože pouze poskládala statisticky pravděpodobné řetězce slov, aniž by věděla, zda je výsledek pravdivý.
Problém s původem informací
Celá situace se stává složitější, protože mnohé zdroje, které AI používá, mohou být také generovány jinými AI modely. Podle analýzy od Originality.ai čerpá Google AI z řady zdrojů, které často pocházejí od jiných jazykových modelů. Podle nedávné studie se na anglické Wikipedii za srpen minulého roku objevilo až pět procent článků, které obsahovaly obsah generovaný umělou inteligencí, přičemž kvalita těchto článků často zaostávala za standardy.
Rozdíly mezi AI a tradičními vyhledávači
Přestože se technologie vyvíjejí a společnosti jako Google a OpenAI investují do vylepšení svých modelů, výsledky vyhledávání AI se významně liší od výsledků tradičního vyhledávání na Google nebo Bingu. Výzkum z Ruhr-Univerzität Bochum a Max-Planck-Institut für Softwaresysteme ukázal, že AI vyhledává informační zdroje z širšího spektra webových stránek, ale často nezahrnuje nejlepší výsledky. To znamená, že i když AI využívá více zdrojů, nemusí poskytovat komplexnější odpovědi.
Autoři studie upozorňují na nutnost nových standardů pro hodnocení odpovědí AI a zdůrazňují význam spoléhání se na důvěryhodné zdroje.
Opatrnost v užívání AI
V souvislosti s těmito problémy zdůrazňuje profesorka informatiky Katharina Zweig z Technické univerzity v Rýn-Mohanďsku, že by se AI neměla používat jako vyhledávač. Místo toho doporučuje její využití pro kreativní procesy a aplikace, kde nedochází k nebezpečným důsledkům. Domnívá se, že vyhledávače založené na AI se možná nikdy nestanou standardem, protože náklady na jejich provoz jsou výrazné a otázka návratnosti investic se stává klíčovým faktorem.
