Безопасен ли е изкуственият интелект в Европа? Забраняват някои AI приложения

Европейският парламент и страните-членки постигнаха споразумение за закона за изкуствения интелект. Новото законодателство се очаква да влезе в сила в началото на 2024 година

Евродепутатите постигнаха политическо споразумение със Съвета по законопроект, за да се гарантира, че Изкуственият интелект (ИИ) в Европа е безопасен, зачита основните права и демокрацията, като в същото време бизнесът може да процъфтява и да се разширява, съобщават от Европейския парламент.

В петък преговарящите от Парламента и Съвета постигнаха временно споразумение относно Закона за изкуствения интелект. Този регламент има за цел да гарантира, че основните права, демокрацията, върховенството на закона и устойчивостта на околната среда са защитени от ИИ с висок риск, като същевременно насърчава иновациите и прави Европа лидер в тази област. Правилата установяват задължения за ИИ въз основа на неговите потенциални рискове и ниво на въздействие.

Забранени приложения

Признавайки потенциалната заплаха за правата на гражданите и демокрацията, породена от определени приложения на ИИ, съзаконодателите се съгласиха да забранят:

• системи за биометрична категоризация, които използват чувствителни характеристики (напр. политически, религиозни, философски убеждения, сексуална ориентация, раса);
• нецеленасочено събиране на изображения на лица от интернет или видеозаписи за създаване на бази данни за разпознаване на лица;
• разпознаване на емоции на работното място и в образователните институции;
• социално оценяване въз основа на социално поведение или лични характеристики;
• AI системи, които манипулират човешкото поведение, за да заобиколят свободната им воля;
• AI, използван за използване на уязвимостите на хората (поради тяхната възраст, увреждане, социално или икономическо положение).

Изключения от правоприлагащите органи

Преговарящите се споразумяха за поредица от предпазни мерки и тесни изключения за използването на биометрични идентификационни системи (RBI) в обществено достъпни пространства за целите на правоприлагането, предмет на предварително съдебно разрешение и за строго определени списъци с престъпления. „Постдистанционният“ RBI ще се използва стриктно при целенасоченото издирване на лице, осъдено или заподозряно в извършване на тежко престъпление.

RBI „в реално време“ ще отговаря на строги условия и използването му ще бъде ограничено във времето и местоположението за целите на:

• целенасочени издирвания на жертви (отвличане, трафик, сексуална експлоатация),
• предотвратяване на конкретна и настояща терористична заплаха, или
• локализирането или идентифицирането на лице, заподозряно в извършване на едно от конкретните престъпления, посочени в регламента (напр. тероризъм, трафик, сексуална експлоатация, убийство, отвличане, изнасилване, въоръжен грабеж, участие в престъпна организация, престъпления срещу околната среда).

Превод и редакция: Пламена Сутева