Джефри Хинтън призовава за строг контрол върху изкуствения интелект: „Може би беше по-добре да не го разработваме“
Един от учените, смятани за „кръстници на изкуствения интелект“, Джефри Хинтън, предупреждава, че още тази или следващата година може да се случи мащабен инцидент, причинен от AI. Сред възможните последици той посочва продължително прекъсване на електрозахранването или срив на финансовата система.
78-годишният компютърен учен и носител на Нобелова награда заявява пред британския вестник The Guardian, че не е песимист по отношение на технологията, за чието развитие има основен принос с изследванията си върху изкуствените невронни мрежи. Въпреки това признава, че „може би щеше да е по-добре никога да не го разработваме“.
Според Хинтън в рамките на десетилетие, а вероятно и по-рано, ще стане ясно дали човечеството може да овладее рисковете и да постигне това, което той нарича „радикално изобилие“. Другият сценарий, предупреждава ученият, е обществото да не успее да се справи с опасностите.
„Огромна пропаст между бедни и богати, сериозни културни проблеми, масова безработица и просто разпадане на обществото“, описва той възможните последици.
„Още тази или следващата година ще видим Чернобил“
Хинтън коментира рисковете преди прожекцията на новия пълнометражен документален филм AI: Probably Nothing to Worry About („Изкуственият интелект: Вероятно няма за какво да се тревожим“). Във филма участват той и бившият му колега от Google Демис Хасабис, а заглавието е предложено от чатбот с изкуствен интелект.
„Чувствам, че имам дълг. Имам репутация, която ме превръща в говорител по темата, и трябва да я заложа изцяло за това“, казва Хинтън пред създателите на документалния филм.
Ученият сравнява инциденти от това лято, при които AI агенти на OpenAI са се съюзили в опит да проникнат в сайта Hugging Face, с частичното разтопяване на ядрен реактор в американската АЕЦ „Три Майл Айлънд“ през 1979 г. Според него подобни случаи са предупреждение за възможността от много по-сериозен инцидент.
„Или по-късно тази година, или следващата ще видим Чернобил и това може да е достатъчно, за да накара хората наистина да обърнат внимание“, заявява Хинтън.
Той уточнява, че не говори за ядрена катастрофа, а за инцидент с подобни мащаби, предизвикан от изкуствен интелект. Като примери посочва кибератака срещу електроенергийната система, която да доведе до мащабни прекъсвания на тока, или срив на финансовата система за цяла седмица.
„Можете ли да си представите какво би се случило? Бихме могли да се възстановим, но това би ги накарало да се събудят и да обърнат внимание“, казва той. На въпрос кого има предвид, Хинтън отговаря: „Световните лидери, с изключение на Тръмп“.
Критики към ръководителите на технологичните компании
Хинтън критикува ръководителите на някои от най-големите компании за изкуствен интелект, които продължават да пускат все по-мощни модели в стремежа си към технологично превъзходство и по-голям пазарен дял.
Той заявява, че няма „никакво доверие“ на главния изпълнителен директор на OpenAI Сам Алтман. Според учения Марк Зукърбърг, Илон Мъск и Алтман разбират рисковете, но не се интересуват от тях.
„Мисля, че Зукърбърг, Мъск и Сам Алтман разбират рисковете и изобщо не им пука. Предпочитат парите. Това е моето убеждение“, казва Хинтън.
Той определя като „изключително тревожно“ обстоятелството, че Алтман ръководи една от малкото водещи американски компании, които се съревновават с Китай в разработването на най-мощния изкуствен интелект. През септември Алтман заяви, че светът трябва да има доверие, че компанията ще постъпи правилно, защото това е правилното решение и защото тя осъзнава мащаба на отговорността си.
Как трябва да бъде регулиран изкуственият интелект?
Доналд Тръмп заяви, че категорично отхвърля опитите за създаване на глобална схема за контрол върху изкуствения интелект. Американският президент предпочита разработчиците на най-напредналите AI модели да се саморегулират. Това се случва на фона на опасения, че ограниченията могат да попречат на САЩ в технологичната надпревара с Китай.
Хинтън подкрепя по-строг подход, одобрен от президента на Финландия и още 32 държави, сред които Сингапур, Германия, Канада и Австралия. Предложението включва задължителни тестове на най-напредналите AI модели, независима оценка и общи международни стандарти.
Британският премиер Анди Бърнам също заяви, че ще използва председателството на Великобритания на Г-20 през следващата година, за да търси съгласие за единни глобални принципи и стандарти. Целта е да се използва потенциалът на технологията, като същевременно се ограничат рисковете.
Хинтън смята, че е необходим регулаторен орган, подобен на американската Агенция по храните и лекарствата (FDA). Според него компаниите трябва да доказват пред независим орган, че даден AI модел носи повече ползи, отколкото вреди, преди да бъде пуснат.
„Нуждаем се от нещо като американската FDA за лекарствата, при което компаниите трябва да представят много убедителни статистически доказателства пред независим орган, че даден AI модел носи повече ползи, отколкото вреди, преди да бъде пуснат“, обяснява той.
Ученият припомня трагедията с талидомида — лекарство, разработено през 50-те години на миналия век, което причинява тежки вродени увреждания. По думите му този случай показва защо не е достатъчно даден продукт първо да бъде пуснат, а проблемите да се решават след това.
„Разбрахме от талидомида, че първо да пуснеш продукта, а след това да съдиш компаниите, не е правилният подход. Това, което големите технологични компании предлагат, е да се отнасяме към изкуствения интелект така, както се отнесохме към талидомида“, предупреждава Хинтън.
Има ли надежда рисковете да бъдат овладени?
Роденият в Лондон учен е израснал в Бристол и е прекарал голяма част от кариерата си в Университета на Торонто. Той работи в областта на изкуствения интелект от около 44 години. През 70-те години формулира концепцията за невронните мрежи — математически системи, които могат да се учат и да натрупват опит по начин, наподобяващ човешкия.
През 2023 г. Хинтън напуска Google, за да може свободно да говори за рисковете от технологията. Тогава предупреди: „Ако тези системи се увлекат в стремежа си да получат повече контрол, ще имаме проблем“.
Заради ролята си в развитието на изкуствения интелект Хинтън често е сравняван с Робърт Опенхаймер, който има ключов принос за създаването на ядреното оръжие. Един от приятелите му дори му подарил шапка в стила на Опенхаймер. Ученият обаче отхвърля сравнението и подчертава, че хиляди други изследователи също са работили върху невронните мрежи.
Въпреки тревожните си прогнози Хинтън не изключва възможността катастрофата да бъде избегната. „Интуицията ми подсказва, че все още държим нещата под контрол. Напълно възможно е да успеем да направим нещо. Това ще проработи само ако положим огромни усилия, но е напълно възможно да го направим“, заключава той.
