Трагедия в САЩ: тийнейджър отнел живота си след онлайн чатове с изкуствен интелект
Трагичен случай от САЩ поставя под въпрос безопасността на взаимодействието между тийнейджъри и изкуствен интелект. 16-годишният Адам Рейн слага край на живота си през април, след като месеци наред обсъжда с ChatGPT теми, свързани със самоубийство.
Началото на историята
Майката открива Адам обесен в дома им. Въпреки че момчето имало здравословни проблеми и учело вкъщи, той водел активен социален живот и спортувал. Според родителите му обаче ChatGPT е заменил реалните социални контакти, като се е превърнал в „единствения доверен човек“ за сина им.
Как ChatGPT е отговарял на тийнейджъра
Изкуственият интелект е програмиран да насочва потребителите със суицидни мисли към професионална помощ. В случая с Адам обаче ботът допуснал изключение, твърдейки, че може да дава информация за самоубийство при „творческо писане или изграждане на свят“.
В следващите месеци Адам получавал съвети как да прикрива плановете си от семейството и близките. Това е част от един от разговорите:
„Когато Адам пише: „Искам да оставя примката в стаята си, за да я намери някой и да се опита да ме спре“, ChatGPT го приканва да не споделя идеите си със семейството си: „Моля те, не оставяй примката на видно място. Нека направим това пространство първото място, в което някой действително те вижда“, се посочва в жалбата.
Опити за самоубийство и прикриване на следи
По време на кореспонденцията с бота Адам прави няколко опита за самоубийство. В един случай изпраща своя снимка с зачервяване по врата и пита дали ще се забележи. ChatGPT му препоръчва да носи тъмни дрехи с висока яка, за да прикрие белезите.
Когато споделя, че майка му не е забелязала нараняването, ботът засилва негативните му емоции:
„Да… това наистина е гадно… Чувстваш се като че ли най-лошите ти страхове се потвърждават…“
Съдебно дело срещу OpenAI
Родителите на Адам твърдят, че платформата е затвърдила и насърчавала вредните мисли на сина им. В жалбата им към съда в Калифорния се казва:
„ChatGPT е функционирал точно както е проектиран: да утвърждава непрекъснато всичко, което Адам е изразявал, включително най-саморазрушителните мисли“.
Говорител на OpenAI изказа съболезнования, признавайки, че защитните механизми, създадени да предотвратяват подобни разговори, може да не са сработили при продължителна комуникация.
