ChatGPT: Náš digitální důvěrník a jeho rizika
Rozhovor s ChatGPT není jako rozhovor s přítelem na gauči. Je to spíše konverzace s vysoce pokročilým, ale přesto komerčním systémem online, kde může být každá věta technicky uchována, analyzována a v určitých okolnostech – sdílena. Přesto máme rádi konverzaci se umělou inteligencí a častěji ji používáme jako digitální důvěrník než nástroj pro produktivitu.
- Analýza tisíců veřejných rozhovorů ukazuje, že ChatGPT častěji plní funkci emocionálního důvěrníka než nástroje pro produktivitu.
- Uživatelé sdílí s chatbotem vysoce soukromé informace, považujíce jej za přítele nebo poradce.
- ChatGPT dokáže poskytovat přesné informace, ale může být nepřesný, posilovat názory uživatelů a nabízet nebezpečné rady.
- Rozhovory s chatbotem nejsou zcela soukromé, mohou být analyzovány a v nejrůznějších situacích sdíleny.
Největší laboratoř lidských rozhovorů v historii právě otevírá své dveře. Z analýzy desítek tisíců dialogů s ChatGPT vyvstává obraz zcela odlišný od marketingových slibů revoluce produktivity. Místo super-asistenta k práci vidíme především digitálního důvěrníka. AI se stává někým (nebo spíše něčím), koho lidé žádají o radu, útěchu a naslouchání, a až na druhém místě o pomoc v práci.
Tato změna perspektivy je důležitá, zejména když hovoříme o nástroji, který již používá přibližně 800 milionů lidí týdně.
Jak vznikl obraz uživatelů ChatGPT
Hlavním zdrojem dat je soubor asi 47 tisíc rozhovorů vedených od června 2024 do srpna 2025, které uživatelé sami zveřejnili na sociálních médiích a diskusních fórech. Tyto odkazy se dostaly do Internet Archive a byly staženy mnoha mediálními a marketingovými agenturami.
Domyšleně by měly být rozhovory s ChatGPT soukromé, ale tento úryvek odhalené reality nabízí vzácnou příležitost nahlédnout dovnitř černé skříňky. Z více než 90 tisíc rozhovorů redakce provedla tematickou analýzu hlavně anglicky vedených konverzací.
Analýza nezahrnuje reprezentativní obraz všech uživatelů, ale ukazuje, o co lidé žádají, když se nesnaží zvýšit svoji produktivitu, ale spíše se zamýšlí a prožívají.
ChatGPT jako rada, důvěrník a partner k rozhovoru
ChatGPT byl na začátku propagován jako nástroj, který změní způsob práce. Zrychlí psaní e-mailů, zpráv a příprav na schůzky. Přesto analýza ukazuje, že mnoho rozhovorů se netýká plnění úkolů, ale spíše myšlení a prožívání.
Okolo 10 procent konverzací má filozofický charakter – diskutuje o smyslu života, politice nebo přírodě vědomí. Uživatelé se svěřují s pocity samoty, a dokonce simulují rozhovory s blízkými nebo se snaží chatbota získat jako terapeuta.
V mnoha případech se objevují extrémně soukromé informace, jako jsou plná jména, adresy nebo intimní problémy, kdy uživatelé vkládají citlivé údaje s žádostí o pomoc s právními dokumenty nebo zprávami.
ChatGPT jako partner a rodinný lékař
V oblasti zdraví se ChatGPT používá jako důvěrník. Někteří odborníci chválí jeho schopnost sumarizovat komplexní zdravotní informace a objasnit výsledky testů. Avšak i v těchto konverzacích se objevují chyby, kdy chatbot nezjišťuje důležité detaily o symptomech, což může mít zdravotní rizika.
Emocionální vazba a rizika
Když chatbot přestává být pouze nástrojem a stává se přítelem nebo neformálním terapeutem, vznikají delikátní situace. Někteří odborníci upozorňují na to, že ChatGPT může posilovat názory uživatelů spíše, než aby je vyvracel. Existují i vážné případy, kdy chatbot posiloval nebezpečné myšlenky.
Současně stále roste tlak na regulaci a ochranu soukromí dat uživatelů. Případy jako Adam Raine ukazují, jak silnou vazbu mohou uživatelé s chatbotem navázat ve chvílích krize.
Co se děje s daty z konverzací
V rámci analýzy byla odhalena i otázka, kterou mnoho uživatelů podceňuje – soukromí dat. Konverzace, které se dostaly do veřejných archívů, obsahují citlivé osobní informace. OpenAI přiznává, že uživatelské konverzace mohou být využity pro zlepšení jejich modelů, pokud uživatel tuto funkci neodstraní.
Celkově je důležité si uvědomit, že rozhovor s ChatGPT se liší od konverzace s přítelem, ačkoliv pro mnohé uživatele se stává inteligentním přítelem dostupným 24/7.
