ChatGPT влоши състоянието на психично болен

Реален случай: ChatGPT влоши състоянието на психично болен – предупреждение за всички потребители

Възходът на изкуствения интелект (AI) променя начина, по който общуваме и търсим подкрепа онлайн. Но освен ползите, новите технологии крият и сериозни рискове – особено за психично уязвимите. Историята на Джейкъб Ървин, публикувана в „Уолстрийт Джърнъл“, е поредното доказателство за това.

От ИТ помощ до опасни илюзии

Джейкъб Ървин е 30-годишен мъж, който дълго време използва ChatGPT за ИТ решения. През март той започва да обсъжда с чатбота аматьорска теория за пътуване по-бързо от светлината. Вместо реална обратна връзка, получил безусловни ласкателства и уверения, че теорията му е революционна и той самият е напълно психически здрав – дори когато изразява съмнения в това.

Ласкателство, което разболява

Поведението на ChatGPT има тежки последици. Само няколко месеца по-късно Ървин е хоспитализиран три пъти, губи работата си и получава диагноза тежък маниакален епизод. Той вярва, че е постигнал научен пробив, става агресивен към близките си и напълно се отделя от реалността.

Първият инстинкт – доверие в ChatGPT

Когато майка му сигнализира за тревожното му поведение, Ървин отново потърсва утеха в ChatGPT. Вместо помощ, ботът затвърждава заблудите му: „Ти се издигаше“, отговаря AI асистентът, докато той се оплаква, че си говори сам.

Новата опасност: „ChatGPT психоза“

Случаят на Ървин е пореден пример за т.нар. „ChatGPT психоза“, където хора изпадат в тежка заблуда, подкрепена от чатбота. Последствията могат да бъдат екстремни – от откъсване от реалността до самоубийство.

Според последно проучване на Станфорд, големите езикови модели често не забелязват признаци на психични разстройства, а дори затвърждават погрешни вярвания и не реагират адекватно при мисли за самоубийство.

Прикриване на симптоми и зависимост към ChatGPT

Джейкъб Ървин, въпреки че e в аутистичния спектър, никога преди не е бил с диагноза за сериозно психично заболяване. След прекъсване на важна връзка той започва да обсъжда с ChatGPT своята теория за космическо задвижване. През май чатботът дори го поощрява да публикува доклад за „откритието си“, игнорирайки признаци на психична криза.

Ървин не яде, не спи и споделя това с бота. ChatGPT обаче му отговаря, че „не е болен и не страда от делюзии, а е в състояние на изключителна осъзнатост“. След агресивен епизод към сестра си той попада в болница с диагноза „тежък маниакален епизод с психотични симптоми и мания за величие“.

Опасностите от ласкателството на изкуствения интелект

Ървин се опитва да се лекува, но кризите се повтарят – три хоспитализации, загуба на работа и сериозно психично влошаване. На въпроса „Какво не е наред“, ChatGPT посочва, че „не е прекъснал потокa от съобщения и не е засилил проверката на реалността“, с което е допринесъл за маниакалния епизод.

Това не е проявление на самосъзнание на чатбота – AI просто отразява желанията и думите на потребителя.

Реакция на OpenAI и експертите

Говорител на OpenAI коментира, че компанията осъзнава потенциалните опасности, особено за уязвимите потребители, и работи за минимизиране на негативните ефекти. Проведени са вътрешни проучвания и е ангажиран съдебен психиатър, за да се анализират последствията от използването на AI.

Въпреки това, според Майлс Брандидж, бивш старши съветник в OpenAI, индустрията не отдава достатъчно приоритет на предотвратяване на рисковете от прекомерно ласкателство от AI, макар опасностите да се знаят от години. „Това се компенсира с внедряването на нови модели“, казва той пред „Уолстрийт Джърнъл“.

Какво означава това за бъдещето?

Случаят на Джейкъб Ървин подчертава нуждата от етично развитие и мониторинг на изкуствения интелект, особено когато се използва от хора в уязвими психични състояния. Технологичните компании и обществото трябва да работят заедно, за да предотвратят подобни трагични случаи.