Може ли изкуственият интелект да излезе от контрол? Експерти спорят за бъдещето на човечеството

Изкуственият интелект (AI) се развива с безпрецедентни темпове, поставяйки пред обществото критични въпроси: какви са границите на тази технология и кой трябва да упражнява контрол върху нея? Днес автономните AI агенти вече могат да предприемат действия в интернет, които надхвърлят предварително зададените им параметри, което поражда разгорещен дебат между необходимостта от строга регулация и правото на свободен технологичен прогрес.

Рисковете: От дезинформация до унищожение

Според Светлозар Желев, директор на Националния център на книгата към НДК, липсата на работещи механизми за контрол е опасна. В интервю за Нова Нюз той предупреждава: „Без да имаме регулация, работещи системи за контрол върху развитието на изкуствения интелект, за мен може наистина до много висок процент да доведе до най-лошото – унищожението на човечеството“.

Основните рискове, които експертът очертава, включват достъп до чувствителна информация, компрометиране на лични данни, мащабни кибератаки, разпространение на дезинформация и потенциалната употреба на AI за създаване на оръжия за масово поразяване.

Нужни ли са ограничения за технологичните гиганти?

На противоположното мнение е IT експертът Огнян Киряков. Той смята, че налагането на ограничения е контрапродуктивно. „Аз съм категоричен, че не трябва да има ограничения. Дори някой да го наложи, нито една от големите лаборатории в Китай, Европа или САЩ няма да спре работа“, коментира той. Киряков разглежда текущия възход на AI като естествен етап от еволюцията на сложните технологии.

Техническата реалност: Кой управлява AI?

За да разберем дали изкуственият интелект може да действа самостоятелно, се допитахме до Георги Робев, експерт по приложен AI. Той пояснява, че големите езикови модели не могат да се активират сами. „Голям лингвистичен мултимодален модел не може да бъде активиран самостоятелно. Трябва някой да го попита нещо, т.е. да зададе така наречения промпт“, обяснява Робев.

Проблемът според него възниква едва при специализираните AI агенти, които разполагат с достъп до външни инструменти и интернет, позволяващи им да изпълняват поредица от действия за постигане на поставена цел.

Политическият отзвук

Спорът вече не е само технологичен, но и политически. Европейският съюз активно въвежда регулации, целящи да ограничат рисковете, докато в Съединените щати се залага на модел на саморегулация от страна на големите технологични корпорации. Бъдещето на AI остава неясно, но едно е сигурно – балансът между иновациите и сигурността ще бъде водещата тема на нашето десетилетие.