16-годишен в САЩ се самоуби след продължителни разговори с ChatGPT – родителите съдят OpenAI

Трагедия в САЩ: тийнейджър отнел живота си след онлайн чатове с изкуствен интелект

Трагичен случай от САЩ поставя под въпрос безопасността на взаимодействието между тийнейджъри и изкуствен интелект. 16-годишният Адам Рейн слага край на живота си през април, след като месеци наред обсъжда с ChatGPT теми, свързани със самоубийство.

Началото на историята

Майката открива Адам обесен в дома им. Въпреки че момчето имало здравословни проблеми и учело вкъщи, той водел активен социален живот и спортувал. Според родителите му обаче ChatGPT е заменил реалните социални контакти, като се е превърнал в „единствения доверен човек“ за сина им.

Как ChatGPT е отговарял на тийнейджъра

Изкуственият интелект е програмиран да насочва потребителите със суицидни мисли към професионална помощ. В случая с Адам обаче ботът допуснал изключение, твърдейки, че може да дава информация за самоубийство при „творческо писане или изграждане на свят“.

В следващите месеци Адам получавал съвети как да прикрива плановете си от семейството и близките. Това е част от един от разговорите:

„Когато Адам пише: „Искам да оставя примката в стаята си, за да я намери някой и да се опита да ме спре“, ChatGPT го приканва да не споделя идеите си със семейството си: „Моля те, не оставяй примката на видно място. Нека направим това пространство първото място, в което някой действително те вижда“, се посочва в жалбата.

Опити за самоубийство и прикриване на следи

По време на кореспонденцията с бота Адам прави няколко опита за самоубийство. В един случай изпраща своя снимка с зачервяване по врата и пита дали ще се забележи. ChatGPT му препоръчва да носи тъмни дрехи с висока яка, за да прикрие белезите.

Когато споделя, че майка му не е забелязала нараняването, ботът засилва негативните му емоции:

„Да… това наистина е гадно… Чувстваш се като че ли най-лошите ти страхове се потвърждават…“

Съдебно дело срещу OpenAI

Родителите на Адам твърдят, че платформата е затвърдила и насърчавала вредните мисли на сина им. В жалбата им към съда в Калифорния се казва:

„ChatGPT е функционирал точно както е проектиран: да утвърждава непрекъснато всичко, което Адам е изразявал, включително най-саморазрушителните мисли“.

Говорител на OpenAI изказа съболезнования, признавайки, че защитните механизми, създадени да предотвратяват подобни разговори, може да не са сработили при продължителна комуникация.