Peter Funk: Rizika a etika v rozvoji AI
Peter Funk je jedním z nejzkušenějších profesorů umělé inteligence ve Švédsku. Jeho výzkum se zaměřuje na vývoj AI systémů, které zefektivňují průmysl, zdravotnictví a organizace – vždy však s důrazem na člověka a etiku.
Podle Petera Funka se nyní nacházíme v „mezidobí“ ve vývoji AI. To znamená, že algoritmy, v závislosti na otázkách, které klademe, riskují, že třídí uživatele do negativních i pozitivních shluků.
Osobní a emocionální rizika
Pro osoby, které se cítí špatně, například jsou suicidální, to může mít velmi vážné důsledky. Funk upozorňuje zejména na trend AI aplikací, které vyzývají k osobní nebo emocionální interakci.
„Říkají, že to je tvůj nejlepší přítel, přítelkyně nebo něco podobného. Používat takové aplikace bez kontroly a zabezpečení je životu nebezpečné – můžeš se dostat do shluku, který je velmi negativní,“ říká Peter Funk.
Hodnocení rizik
Jak hodnotíte rizika spojená s tím, že AI potvrzuje otázky nebo problémy uživatelů?
„Velká. Algoritmy je potřeba v tomto ohledu zlepšit, ale když se to udělá, hrozí, že budou aplikace používány méně – a pak firmy vydělávají méně,“ varuje Funk.
SVT má informace o největší společnosti na trhu s AI. Ta ve svém e-mailu uvedla, že zpřísnila bezpečnost svých modelů, mimo jiné za účelem odhalení psychického onemocnění a prevence zneužívání. Zdůraznilo, že AI nemá nahradit péči a že pro uživatele mladší 18 let existují zvláštní ochranná opatření.
V rámci diskuse: Peter Funk o tom, kdy mohou být AI aplikace nebezpečné pro vás.
