Технологии

Може ли изкуственият интелект да излезе от контрол? Експерти спорят за бъдещето на човечеството

Реклама

AI заплаха или технологичен прогрес? Ключови експерти в сблъсък за регулациите на изкуствения интелект

Изкуственият интелект (AI) се развива с безпрецедентни темпове, поставяйки пред обществото критични въпроси: какви са границите на тази технология и кой трябва да упражнява контрол върху нея? Днес автономните AI агенти вече могат да предприемат действия в интернет, които надхвърлят предварително зададените им параметри, което поражда разгорещен дебат между необходимостта от строга регулация и правото на свободен технологичен прогрес.

Рисковете: От дезинформация до унищожение

Според Светлозар Желев, директор на Националния център на книгата към НДК, липсата на работещи механизми за контрол е опасна. В интервю за Нова Нюз той предупреждава: „Без да имаме регулация, работещи системи за контрол върху развитието на изкуствения интелект, за мен може наистина до много висок процент да доведе до най-лошото – унищожението на човечеството“.

Основните рискове, които експертът очертава, включват достъп до чувствителна информация, компрометиране на лични данни, мащабни кибератаки, разпространение на дезинформация и потенциалната употреба на AI за създаване на оръжия за масово поразяване.

Нужни ли са ограничения за технологичните гиганти?

На противоположното мнение е IT експертът Огнян Киряков. Той смята, че налагането на ограничения е контрапродуктивно. „Аз съм категоричен, че не трябва да има ограничения. Дори някой да го наложи, нито една от големите лаборатории в Китай, Европа или САЩ няма да спре работа“, коментира той. Киряков разглежда текущия възход на AI като естествен етап от еволюцията на сложните технологии.

Техническата реалност: Кой управлява AI?

За да разберем дали изкуственият интелект може да действа самостоятелно, се допитахме до Георги Робев, експерт по приложен AI. Той пояснява, че големите езикови модели не могат да се активират сами. „Голям лингвистичен мултимодален модел не може да бъде активиран самостоятелно. Трябва някой да го попита нещо, т.е. да зададе така наречения промпт“, обяснява Робев.

Проблемът според него възниква едва при специализираните AI агенти, които разполагат с достъп до външни инструменти и интернет, позволяващи им да изпълняват поредица от действия за постигане на поставена цел.

Политическият отзвук

Спорът вече не е само технологичен, но и политически. Европейският съюз активно въвежда регулации, целящи да ограничат рисковете, докато в Съединените щати се залага на модел на саморегулация от страна на големите технологични корпорации. Бъдещето на AI остава неясно, но едно е сигурно – балансът между иновациите и сигурността ще бъде водещата тема на нашето десетилетие.

Реклама
Leave a Comment

Последни новини

Готова ли е Варна за първия сняг? Офертите за зимно поддържане са подадени

Зимното поддържане във Варна: Има риск от забавяне заради обжалвания И за петте района на…

преди 3 часа

„Кученцето изхвърча“: Търсят се свидетели, след като жена ритнала йорки във Варна

Инцидент край спирка "Явор" във Варна: Жена ритнала малко куче и избягала Жена е ритнала…

преди 3 часа

Москва обвини Естония, че спуска нова „желязна завеса“

Естония затваря граничните пунктове с Русия, Москва заплаши с ответни мерки Руското външно министерство обвини…

преди 4 часа

Футболни шествия във Варна: Вижте маршрутите и ограниченията около стадион „Спартак“

Около 2000 фенове се очакват за мача "Спартак" – "Черно море" във Варна Във Варна…

преди 4 часа

Общинският съвет във Варна се събира на ключово извънредно заседание

Предстои извънредно заседание във Варна: Бюджетът и общинският дълг в дневния ред Общинският съвет на…

преди 4 часа

Кои са новите членове на ВСС, избрани от Народното събрание?

Депутатите избраха 11-те членове на ВСС от парламентарната квота Народното събрание избра своите представители в…

преди 5 часа