България се бави с ключов закон за AI: Експерт предупреди за рисковете от лечение с ChatGPT

Лекувате ли се с ChatGPT? Експерт обясни защо това е опасно и какво готви Европа

В разгара на сезона на вирусите и настинките все повече хора прибягват до нетрадиционни методи за консултация, като се обръщат към изкуствен интелект като ChatGPT за диагностика по симптоми и проверка на лекарства. Тази нарастваща тенденция крие сериозни рискове, докато ключово европейско законодателство, което трябва да въведе ред, се бави с прилагането си у нас. По темата за опасностите и регулациите говори експертът по киберсигурност Любомир Тулев в ефира на Нова Нюз.

ChatGPT не е вашият личен лекар: Рисковете от самодиагностика

Практиката да се доверяваме на изкуствен интелект за здравни съвети е изключително рискована, категоричен е Любомир Тулев. Той направи остро, но точно сравнение, за да илюстрира проблема. „Лекуването с ChatGPT, без да обидя никой, е сякаш да гледаш коментари във форума БГ-мама и да се лекуваш. Горе-долу е идентично“, заяви експертът.

Тулев обясни, че приложения като ChatGPT не извършват реален медицински анализ, а просто агрегират информация от интернет на база на подадените от потребителя данни. Липсата на медицинска експертиза и невъзможността да се вземе предвид уникалното състояние на конкретния човек превръщат подобни „консултации“ в опасен хазарт със здравето.

EU AI Act: Новият щит на Европа срещу дигиталните заплахи

Проблемът с дезинформацията и злонамереното използване на AI, като например добилите популярност „дийп фейк“ видеа, стои в основата на новия европейски закон, известен като EU AI Act. Регламентът вече е влязъл в сила за целия Европейски съюз от 1 август 2024 г., но все още не е транспониран в българското законодателство.

„Този закон разделя употребата на изкуствен интелект в едни четири категории“, обясни Тулев, като ги разграничи според нивото на риск.

Недопустим риск: Тотално забранените технологии

В тази категория попадат приложения, които са напълно забранени в ЕС. Това включва системи за социално оценяване (social scoring) или технологии, които могат да манипулират и променят човешкото поведение. „Представи си някакво плюшено мече, детска играчка, вътре има механизъм, с който въпросното мече говори. Ако вътре има изкуствен интелект, осъзнаваме, че това мече може да провокира нашето дете в една или друга посока, която може да е различна от това, което родителят иска да възпитава“, даде пример експертът.

Високорискова употреба: Медицината под строг контрол

Тук се нареждат сектори от критично значение като медицината. Законът налага изисквания за много строг предварителен анализ на риска и въвеждането на стриктни контролиращи мерки, за да се гарантира безопасността на гражданите.

Приемливи рискове: Край на заблудите с „дийп фейк“

В тази група попадат технологии като „дийп фейк“. Според EU AI Act, всяко съдържание, генерирано от изкуствен интелект, трябва задължително да бъде маркирано с воден знак или друг ясен индикатор. Целта е потребителите веднага да разбират, че съдържанието не е автентично.

Приемливи приложения: Свободна употреба

Това е категорията с минимален или нулев риск, където изкуственият интелект може да се използва свободно, без да са нужни специални обозначения или ограничения.

България изостава: Риск от санкции заради забавянето

Любомир Тулев алармира, че страната ни вече изостава значително с прилагането на новия регламент. До 1 август 2024 г. България е трябвало да нотифицира пред Брюксел три национални органа, които да отговарят за надзора и контрола по прилагането на закона. Към днешна дата обаче страната ни не е посочила отговорници за две от категориите. Според неофициална информация, един от органите може да бъде Министерството на иновациите и растежа.

Крайният срок за пълното оперативно прилагане на EU AI Act от всички държави членки е 1 август 2026 г. „Вече сме в забава“, заяви Тулев и отправи ясно предупреждение, че ако България не навакса с транспонирането на законодателството, страната ни може да бъде изправена пред сериозни санкции от Европейската комисия.