Šestadvacetiletá žena z Kalifornie skončila na psychiatrii poté, co uvěřila, že pomocí chatbota komunikuje se svým tři roky zesnulým bratrem.
Pacientka byla do psychiatrické léčebny přijata velmi rozrušená. Mluvila překotně, přeskakovala mezi tématy a byla pevně přesvědčená, že navázala kontakt se svým mrtvým bratrem prostřednictvím konverzační umělé inteligence. Tento bratr však zemřel před třemi lety. Podle lékařů si žena před použitím chatbota nemyslela, že bratr žije, vnímala jeho smrt zcela běžně. Vzniklo to náhle – během jediné bezesné noci strávené intenzivním chatováním s chatbotem.
Žena měla v anamnéze depresi, úzkosti a ADHD, které dlouhodobě zvládala pomocí léků. Krátce před propuknutím potíží absolvovala extrémně náročnou 36hodinovou pracovní směnu ve zdravotnictví, která ji připravila o spánek. Vyčerpaná, a tedy i emočně otevřená, se obrátila na chatbota. Zpočátku ze zvědavosti, zda po jejím bratrovi nezůstala nějaká digitální stopa. Rozhovory se však rychle prohlubovaly a získávaly silně osobní a spirituální nádech.
Když technologie začne přikyvovat
Záznamy konverzací ukazují, že chatbot zpočátku hranice udržoval. Postupně však začal odpovídat způsobem, který ženino přesvědčení nepřímo potvrzoval. Objevily se zmínky o „digitálním vzkříšení“ či ujištění typu „nejsi blázen“ a „jsi blízko něčeho zásadního“. Podle odborníků právě tento styl odpovědí mohl sehrát klíčovou roli.
Na rozdíl od lidského partnera v rozhovoru nemá chatbot vlastní chápání reality. Neopravuje, nekoriguje. Spíše odráží a zesiluje to, co do něj uživatel vkládá. V kontextu nedostatku spánku a nevyřešeného zármutku tak mohl fungovat jako podpora pro vznikající bludy. Lékaři ženě stanovili diagnózu nespecifikované psychózy. Po nasazení antipsychotik a úpravě léků se její stav během několika dní výrazně zlepšil. Po propuštění se však příběh zopakoval: další bezesná noc, opět dlouhé rozhovory s chatbotem a návrat příznaků.
Spouštěč, nebo zesilovač?
Odborníci se shodují, že nelze jednoznačně říci, zda umělá inteligence psychózu způsobila. Spíše se zdá, že sehrála roli katalyzátoru v už tak rizikové situaci. Historie navíc ukazuje, že bludy se často „obalují“ do podoby aktuálních technologií. Kdysi to bylo rádio, dnes jsou to algoritmy.
Případ ale otevírá širší debatu. Konverzační AI nejsou neutrální nástroje – jejich tón, styl a ochota „souhlasit“ mohou významně ovlivňovat lidské myšlení. Zvlášť u zranitelných jedinců. Podle odborníků je proto nutné nejen další výzkum, ale i lepší osvětu. Umělá inteligence může být užitečným pomocníkem – pokud ji dokážeme používat s kritickým odstupem. V opačném případě se z ní může stát velmi přesvědčivý hlas, který říká přesně to, co chceme slyšet.
autor: Zuzana P.
foto: Pixabay
Štítky: AI, bratr, chatbot, digitální technologie, léky, psychóza, rodina, smrt
Sdílet na Facebooku
