Obavy: Nadměrné používání chatovacího GPT může zhoršit osamělost
Studie společnosti OpenAI našla spojení mezi intenzivním používáním chatbotu a pocity osamělosti či emocionální závislosti uživatelů. V březnu tohoto roku, týden předtím, než byly sociální sítě zaplaveny anime obrázky generovanými pomocí chatovacího GPT, společnost OpenAI, která chatbot vyvinula, publikovala dva články, které jakoby prošly pod radarem. Tyto články, napsané ve spolupráci s výzkumníky z technologického institutu Massachusetts (MIT), dosud nebyly podrobeny odborné revizi, zkoumají emocionální dopady používání chatbotu, zejména u těžkých uživatelů, kteří tráví hodně času komunikací s tímto nástrojem.
První studie byla prováděna jako jakýsi terénní výzkum, tedy analyzovala běžné Konverzace mezi uživateli a chatbotem. Výzkumníci analyzovali přibližně tři miliony rozhovorů pomocí automatického mechanismu, který uchovával identitu uživatelů a obsah konverzací v anonymitě. Kromě toho požádali kolem 4 000 uživatelů, aby vyplnili dotazník o svém emocionálním stavu. Druhá studie byla kontrolovaným pokusem, v němž bylo kolem tisíce účastníků požádáno, aby každodenně komunikovali s chatbotem během přibližně jednoho měsíce na osobní, neosobní a volně zvolená témata, přičemž zároveň hlásili svůj emocionální stav. Obě studie měly doplňovat jedna druhou: jedna se soustředila na každodenní používání chatbotu, zatímco druhá zkoumala účinky v kontrolovaných podmínkách.
Výzkumníci zhodnotili dopady konverzací na čtyři oblasti týkající se duševní pohody uživatelů: pocity osamělosti, úroveň sociální angažovanosti s rodinou a přáteli, rozvoj emocionální závislosti na chatbotu a problematické používání chatbotu. Problematic use was defined according to a scale that measures, among other things, the appearance of withdrawal symptoms in the absence of access to the chatbot, loss of control over the dosage of chatbot use, and mood changes due to its use. Vědci také zkoumali rozdíly mezi používáním psané verze chatbota, jeho neutrální hlasové verze a pokročilé hlasové verze, která vyjadřuje i emocionální nuance.
Varování o užívání: Obě studie naznačují, že existuje spojení mezi dlouhým užíváním chatbotu a zvýšenou emocionální závislostí, poklesem úrovně sociální angažovanosti a nárůstem problematického používání chatovacího GPT, jak to vyplývá ze zpráv samotných uživatelů.
Výzkumníci se zaměřili na osoby, které tráví zvlášť hodně času konverzacemi s pokročilou hlasovou verzí chatbota. Ukázalo se, že tito uživatelé mají větší tendenci považovat chatbot za přítele. Mnozí z nich také uvádějí, že se jim lépe mluví s chatbotem než s jinými lidmi, a cítí frustraci, pokud dojde ke změnám v charakteristikách chatbota.
Výzkumníci také analyzovali obsah konverzací samotných a zkoumali takové trendy v chování uživatelů, například když uživatelé hledali v chatbotu psychologickou podporu nebo vyjadřovali k němu náklonnost. Zkoumali také důsledky stylu mluvy chatbota: zda vyjadřoval zájem o uživatele, zda se ptal na osobní otázky nebo oslovoval uživatele různými laskavými jmény. Zdá se, že nejen uživatelé ovlivňují emocionální obsah konverzace, ale také umělá inteligence se na tom aktivně podílí.
Závěry výzkumníků ohledně formy komunikace s chatbotem – psané, neutrální hlasové nebo pokročilé hlasové – byly smíšené. Ukázalo se, že krátkodobé používání hlasového chatbota bylo spojeno s lepší duševní pohodou uživatelů ve srovnání s těmi, kteří používali psanou verzi chatbota. Naopak při delším užívání se tendence obrátila. Zdá se, že i původní psychický stav uživatelů hraje roli: uživatelé, kteří předtím hlásili pocity osamělosti, ukázali na konci kontrolovaného pokusu nižší ukazatele duševní pohody.
Spolu s mocí přichází odpovědnost. Tyto dvě studie jsou pouze prvotními pokusy o ocenění psychologického dopadu používání chatbotů založených na umělé inteligenci. Analýza dat odhaluje existenci spojení mezi stavem uživatelů a povahou jejich používání chatbota, ale nenabízí kauzální vztah. Všechna shromážděná data pocházejí od dospělých uživatelů, takže dopady na mladistvé vyžadují další zkoumání. Kontrolovaný výzkum trval pouze jeden měsíc, avšak chatovací GPT a podobné umělé inteligence nás provázejí již více než dva roky a neexistuje žádný důvod se domnívat, že plánují zmizet. Proto budou potřebné další výzkumy, které prozkoumají důsledky delšího používání chatbota a potenciální dlouhodobé účinky.
Výzkumníci ve svých zprávách upozornili, že znepokojivé chování se objevuje pouze u malé a výjimečné skupiny uživatelů, což je podle jejich formulace pokládáno za „neproporcionální aktivitu malého počtu uživatelů“. Pro dobro i zlo mají společnosti jako OpenAI, které má přibližně 400 milionů uživatelů týdně, zásadní vliv na lidskou společnost. Každodenní přístup k tak obrovskému množství uživatelů na ně klade zodpovědnost usilovat o bezpečné používání chatbotů, definovat směrnice pro konverzace, které by byly přínosné pro uživatele, a implementovat politiky pro monitorování problematického chování. Dokud se tak nestane, nenechte se okouzlit krásnými anime ilustracemi, které by mohly odvádět pozornost od znepokojivých důsledků, které mohou vzniknout používáním umělých inteligencí.
