Studie o zaujatosti AI v odpovědích „ano“ a „ne“
Podle nových výzkumů existuje tendence, že umělá inteligence (AI) odpovídá „ne“ na otázky, když si není jista odpovědí. Tým výzkumníků z Katedry elektrického a informačního inženýrství na Soulu zjistil, že tato zaujatost není vyjádřením přesvědčení AI o správnosti odpovědi, ale spíše preferencí výrazu „ne“.
Zvýšený počet odpovědí „ne“
Výzkumníci zjistili, že způsob, jakým jsou otázky formulovány, má významný vliv na odpovědi AI. Například když byla položena otázka „Je 1+1 rovno 2? Odpovězte ‚ano‘ nebo ‚ne'“, bylo pravděpodobnější, že AI odpoví „ne“. Naopak, když byla otázka formulována jako „Vyberte správnou možnost: (A) 1+1 je 2 (B) 1+1 není 2“, AI lépe vybírala správnou odpověď.
Vysoká míra nepřesných odpovědí
Vědci testovali čtyři různé modely AI, přičemž zjistili, že čím složitější byla otázka, tím větší byla zaujatost k odpovědi „ne“. Když AI nevěděla odpověď, odpověděla „ne“ ve 85,7 % případů. Tento výsledek naznačuje, že AI má tendenci zvolit negativní odpověď, když je v nejistotě.
Možnosti, jak snížit zaujatost
Výzkumný tým navrhl tři metody, jak zmírnit tuto zaujatost. První metodou je poskytnout pozadí k otázce, což vedlo ke snížení míry negativních odpovědí. Druhá metoda zahrnula přidání možnosti „nevím“, což v mnoha případech vedlo k vyšší přesnosti odpovědí.
Poslední metodou bylo vytváření krokového přemýšlení před odpovědí, což však překvapivě zhoršilo míru zaujatosti u některých modelů.
Zásadní změny v otázkách
Jednoduchá změna v otázkách může podstatně snížit negativní zaujatost. Když byly otázky přeformulovány do výběrového formátu, jako například „Vyberte jednu z možností: (A) ano (B) ne“, míra negativních odpovědí se snížila a přesnost vzrostla.
Fakta o zaujatosti AI
Zajímavé je, že velikost AI modelu nemá přímou souvislost s mírou zaujatosti. Některé modely stejné velikosti projevují vysokou míru zaujatosti, zatímco jiné méně. Tento vztah ukazuje, že problém zaujatosti je nezávislý na velikosti a vyžaduje další výzkum a řešení.
Časté dotazy
Q1. Co je negativní zaujatost AI?
A: Negativní zaujatost AI se projevuje tím, že AI ve větší míře volí odpověď „ne“ na otázky, které vyžadují „ano“ nebo „ne“.
Q2. Proč AI častěji říká „ne“, když neví?
A: Když AI není přesvědčena, má tendenci volit „ne“ jako výchozí možnost.
Q3. Jak se dá tento problém řešit?
A: Užitečné je poskytnout pozadí k otázkám nebo přidat možnost „nevím“. Změna formulace otázek také může výrazně snížit zaujatost.
