OpenAI: Стотици хиляди потребители показват признаци на психоза и силна емоционална връзка с чатбота
OpenAI разкри тревожна статистика за начина, по който хората по света използват изкуствения интелект за разговори по теми, свързани с психичното здраве и самоубийството.
Тревожните данни в цифри
Според новите данни поне 0,15% от активните седмични потребители на ChatGPT започват разговори, показващи признаци на суицидно планиране. С оглед на факта, че чатботът има над 800 милиона активни потребители седмично, това означава минимум един милион души.
Също толкова голям брой хора проявяват повишена емоционална привързаност към чатбота, а стотици хиляди показват признаци на мания или психоза по време на седмичните си взаимодействия с него.
Мерките на OpenAI
Статистиката е част от усилията на OpenAI за подобряване на начина, по който изкуственият интелект реагира на хора в криза. Последните промени включват консултации с над 170 психотерапевти. Според компанията, новата версия GPT-5 дава подходящи реакции на теми, свързани с психичното здраве, с 65% по-често в сравнение с предшественика си.
Опасностите от AI в психологическа криза
В миналото тестове показаха, че AI чатботовете се провалят в ролята на виртуални терапевти – отказват работа с алкохолици или предлагат неподходяща информация, включително списъци с високи мостове на депресирани потребители.
Някои взаимодействия завършват фатално. Съобщавано е за жени, получили помощ от чатбот за написване на предсмъртно писмо, както и за белгиец, който се е самоубил след дълги разговори с AI по екологични теми.
Съдебни последици
В момента OpenAI се защитава в съдебен процес, заведен от родители на 16-годишно момче, което е споделило суицидните си мисли с ChatGPT няколко седмици преди да сложи край на живота си.
По публикацията работи: Далия Димитрова
