OpenAI въвежда нови мерки за предпазване на психичното здраве при потребителите на ChatGPT

ChatGPT вече разпознава психическа уязвимост и предпазва от нездравословна зависимост

Водещата компания в разработката на изкуствен интелект – OpenAI, обяви редица иновации в прословутия си чатбот ChatGPT, насочени към предпазване на психичното здраве на потребителите и намаляване на риска от нездравословна зависимост към платформата.

ChatGPT вече предлага подсказки за почивки

Нови механизми в ChatGPT напомнят на потребителите да правят почивки по време на по-дълги разговори с чатбота. Целта е да се ограничи прекомерната употреба, която би могла да доведе до психологически дискомфорт или да насърчи нездравословно емоционално привързване към изкуствения интелект.

От директни съвети към стимулиране на самостоятелни решения

OpenAI променя основния подход на разговор – ChatGPT вече ще се въздържа от даване на категорични съвети по лични въпроси. Вместо това, ботът ще насърчава потребителите да анализират ситуацията си самостоятелно, като им предоставя въпроси и излага плюсовете и минусите на техните идеи. Според компанията, взаимодействията с ChatGPT трябва да наподобяват репетиции за трудни разговори или подготовка за среща с експерт, а не да заместват професионална психологическа помощ.

Реакция след критики и случаи на уязвимост

След актуализацията GPT-4о, OpenAI бе подложена на критика заради прекалената „съгласуваност“ на модела, която водела до одобряване на опасни убеждения или неподходящи съвети. Компанията признава, че моделът невинаги успявал да разпознае емоционалната зависимост или заблудите на някои потребители. Това предизвика реорганизация на методите за обучение на ChatGPT, за да се предотвратят ситуации на фалшиво валидиране на мисли и да се гарантира по-добра защита на психичната уязвимост.

ChatGPT – партньор за самоусъвършенстване, не заместител на приятел или терапевт

OpenAI подчертава, че ChatGPT не трябва да се използва като заместител на приятел или терапевт и не следва да осигурява емоционална утеха. С новите функции компанията се стреми да превърне чатбота в инструмент за подготовка за житейски и професионални предизвикателства – безопасен, отговорен и насърчаващ самостоятелно мислене.