Лекувате ли се с ChatGPT? Експерт обясни защо това е опасно и какво готви Европа
В разгара на сезона на вирусите и настинките все повече хора прибягват до нетрадиционни методи за консултация, като се обръщат към изкуствен интелект като ChatGPT за диагностика по симптоми и проверка на лекарства. Тази нарастваща тенденция крие сериозни рискове, докато ключово европейско законодателство, което трябва да въведе ред, се бави с прилагането си у нас. По темата за опасностите и регулациите говори експертът по киберсигурност Любомир Тулев в ефира на Нова Нюз.
ChatGPT не е вашият личен лекар: Рисковете от самодиагностика
Практиката да се доверяваме на изкуствен интелект за здравни съвети е изключително рискована, категоричен е Любомир Тулев. Той направи остро, но точно сравнение, за да илюстрира проблема. „Лекуването с ChatGPT, без да обидя никой, е сякаш да гледаш коментари във форума БГ-мама и да се лекуваш. Горе-долу е идентично“, заяви експертът.
Тулев обясни, че приложения като ChatGPT не извършват реален медицински анализ, а просто агрегират информация от интернет на база на подадените от потребителя данни. Липсата на медицинска експертиза и невъзможността да се вземе предвид уникалното състояние на конкретния човек превръщат подобни „консултации“ в опасен хазарт със здравето.
EU AI Act: Новият щит на Европа срещу дигиталните заплахи
Проблемът с дезинформацията и злонамереното използване на AI, като например добилите популярност „дийп фейк“ видеа, стои в основата на новия европейски закон, известен като EU AI Act. Регламентът вече е влязъл в сила за целия Европейски съюз от 1 август 2024 г., но все още не е транспониран в българското законодателство.
„Този закон разделя употребата на изкуствен интелект в едни четири категории“, обясни Тулев, като ги разграничи според нивото на риск.
Недопустим риск: Тотално забранените технологии
В тази категория попадат приложения, които са напълно забранени в ЕС. Това включва системи за социално оценяване (social scoring) или технологии, които могат да манипулират и променят човешкото поведение. „Представи си някакво плюшено мече, детска играчка, вътре има механизъм, с който въпросното мече говори. Ако вътре има изкуствен интелект, осъзнаваме, че това мече може да провокира нашето дете в една или друга посока, която може да е различна от това, което родителят иска да възпитава“, даде пример експертът.
Високорискова употреба: Медицината под строг контрол
Тук се нареждат сектори от критично значение като медицината. Законът налага изисквания за много строг предварителен анализ на риска и въвеждането на стриктни контролиращи мерки, за да се гарантира безопасността на гражданите.
Приемливи рискове: Край на заблудите с „дийп фейк“
В тази група попадат технологии като „дийп фейк“. Според EU AI Act, всяко съдържание, генерирано от изкуствен интелект, трябва задължително да бъде маркирано с воден знак или друг ясен индикатор. Целта е потребителите веднага да разбират, че съдържанието не е автентично.
Приемливи приложения: Свободна употреба
Това е категорията с минимален или нулев риск, където изкуственият интелект може да се използва свободно, без да са нужни специални обозначения или ограничения.
България изостава: Риск от санкции заради забавянето
Любомир Тулев алармира, че страната ни вече изостава значително с прилагането на новия регламент. До 1 август 2024 г. България е трябвало да нотифицира пред Брюксел три национални органа, които да отговарят за надзора и контрола по прилагането на закона. Към днешна дата обаче страната ни не е посочила отговорници за две от категориите. Според неофициална информация, един от органите може да бъде Министерството на иновациите и растежа.
Крайният срок за пълното оперативно прилагане на EU AI Act от всички държави членки е 1 август 2026 г. „Вече сме в забава“, заяви Тулев и отправи ясно предупреждение, че ако България не навакса с транспонирането на законодателството, страната ни може да бъде изправена пред сериозни санкции от Европейската комисия.
