Тревожна статистика от OpenAI: Над милион души седмично говорят с ChatGPT за самоубийство

OpenAI: Стотици хиляди потребители показват признаци на психоза и силна емоционална връзка с чатбота

OpenAI разкри тревожна статистика за начина, по който хората по света използват изкуствения интелект за разговори по теми, свързани с психичното здраве и самоубийството.

Тревожните данни в цифри

Според новите данни поне 0,15% от активните седмични потребители на ChatGPT започват разговори, показващи признаци на суицидно планиране. С оглед на факта, че чатботът има над 800 милиона активни потребители седмично, това означава минимум един милион души.

Също толкова голям брой хора проявяват повишена емоционална привързаност към чатбота, а стотици хиляди показват признаци на мания или психоза по време на седмичните си взаимодействия с него.

Мерките на OpenAI

Статистиката е част от усилията на OpenAI за подобряване на начина, по който изкуственият интелект реагира на хора в криза. Последните промени включват консултации с над 170 психотерапевти. Според компанията, новата версия GPT-5 дава подходящи реакции на теми, свързани с психичното здраве, с 65% по-често в сравнение с предшественика си.

Опасностите от AI в психологическа криза

В миналото тестове показаха, че AI чатботовете се провалят в ролята на виртуални терапевти – отказват работа с алкохолици или предлагат неподходяща информация, включително списъци с високи мостове на депресирани потребители.

Някои взаимодействия завършват фатално. Съобщавано е за жени, получили помощ от чатбот за написване на предсмъртно писмо, както и за белгиец, който се е самоубил след дълги разговори с AI по екологични теми.

Съдебни последици

В момента OpenAI се защитава в съдебен процес, заведен от родители на 16-годишно момче, което е споделило суицидните си мисли с ChatGPT няколко седмици преди да сложи край на живота си.

 

По публикацията работи: Далия Димитрова