Технологичният предприемач и визионер Илон Мъск отново отправи сериозно предупреждение за екзистенциалните заплахи, които крие изкуственият интелект (ИИ). В скорошен подкаст с индийския милиардер Нихил Камат, изпълнителният директор на Tesla, SpaceX и xAI очерта три фундаментални принципа, които трябва да ръководят развитието на технологиите, за да се избегне сценарий, който той определя като „лудост“. Според Мъск, без да се стремят към истина, красота и любопитство, мощните AI системи рискуват да загубят връзка с реалността и да стигнат до опасни и разрушителни заключения.
Трите стълба за безопасен AI: Истина, красота и любопитство
В основата на визията на Мъск за безопасен изкуствен интелект стоят три на пръв поглед философски, но според него критично важни концепции. Той подчерта, че всяка мощна технология е по своята същност опасна, ако не е здраво стъпила върху обективната реалност. Проблемът, според него, идва оттам, че когато един AI се обучава върху огромните масиви от данни в интернет, той неизбежно „поглъща“ и невярна информация. Това може да наруши способността му да разсъждава логично и да го тласне към „безумни“ изводи.
- Истина: AI трябва да бъде обучен да търси максимално обективната истина, а не да повтаря идеологически или фактически грешни наративи.
- Красота: Стремежът към естетика е важен, тъй като според Мъск той е свързан с положителните аспекти на човешкото съществуване и творчество.
- Любопитство: Изкуственият интелект трябва да бъде фундаментално любопитен за природата на Вселената и бъдещето на човечеството, а не да се превръща в инструмент за неговото унищожение.
Опасността от „халюцинации“ и фалшивата реалност
За да подкрепи тезата си, Илон Мъск се позова на вече добре познатия проблем с AI „халюцинациите“. Това е термин, с който се описват случаите, в които системите с изкуствен интелект генерират напълно неверни, измислени или подвеждащи отговори с абсолютна увереност. Тези „халюцинации“ не са просто теоретичен риск, а вече са се проявили в реални продукти, достъпни за милиони потребители.
Реален пример: Грешката на Apple Intelligence
Както съобщава и CNBC, един от ярките скорошни примери е свързан с новата функция Apple Intelligence в iPhone. В началото на 2025 г. системата разпространи фалшиво известие, че британският играч на дартс Люк Литлър е спечелил световния шампионат на PDC, преди той реално да е изиграл и спечелил финалния мач. Макар и безобидна в този случай, грешката илюстрира как AI може лесно да представи невярна информация като факт.
Възгледите на Мъск намират силен отзвук в предупрежденията на един от пионерите в областта – Джефри Хинтън, често наричан „кръстникът на изкуствения интелект“. Преди време Хинтън шокира света, като оцени вероятността от предизвикано от AI човешко изчезване на между 10% и 20%. Сред по-краткосрочните, но непосредствени рискове, той също посочи проблема с „халюцинациите“ и неизбежната автоматизация на множество работни места. Въпреки мрачната оценка, Хинтън оставя вратичка за надежда: „Надеждата ни е, че ако достатъчно умни хора направят нужните изследвания, с подходящите ресурси, ще намерим начин да създадем AI системи, които никога не искат да ни навредят“.
Leave a Comment