Опитите за преписване чрез AI придобиват застрашен статут: Измислят програми, с които да ги засекат

Поради нарастващия капацитет на Изкуствения Интелект, все по-голяма част от младите го използват, за да изпълняват задачите в училище или на работа. Скоро обаче, това ще бъде невъзможно, защото има екипи, които се стремят да изработят програми, които засичат тези опити за измама. 

Компаниите, които разработват софтуер за откриване на това дали изкуствен интелект или човек е автор на есе или друго писмено задание, преживяват небивал успех на фона на големия успех на ChatGPT. 

Chat GPT стартира през ноември миналата година и до януари бързо достигна 100 милиона активни потребители месечно, поставяйки рекорд като най-бързо растящата потребителска база в историята. Платформата е особено предпочитана от по-младите поколения, включително учениците от средното училище до колежа.

Проучванията показват, че около 30% от колежаните са съобщили, че са използвали ChatGPT за училищни задачи след стартирането на платформата, а половината от колежаните казват, че използването на системата е форма на измама. 

Фирми за откриване на изкуствен интелект, като Winston AI и Turnitin, разкриват, че бурният успех на ChatGPT е донесъл ползи и на фирмите за откриване на технологии, тъй като учителите и работодателите се стремят да отсеят хората, които представят компютърно генерирани материали като създадени от хора.

„Всичко се случи в рамките на една-две седмици. Изведнъж не успяхме да отговорим на търсенето“, казва Джон Рено, съосновател на Winston AI, пред The Guardian.

Winston AI е обявен за „най-мощното решение за откриване на съдържание с изкуствен интелект“ на пазара, с 99% точност, според компанията. Потребителите могат да качват писмено съдържание, което искат да бъде проверено, и само за няколко секунди системата ще докладва дали материалите вероятно са генерирани от компютърна система като Chat GPT или са написани от човек.

Winston AI ще предоставя на потребителите „скала от 0 до 100, процента на вероятност копието да е генерирано от човек или AI“, както и ще търси потенциални плагиати.

Рено обясни, че материалите, генерирани от ИИ, имат „признаци“, които ги разкриват като компютърно генерирани, включително „недоумение“ и „избухливост“. Компанията определя перплексията като проследяване на езиковите модели в писмения образец и определяне дали той следва начина, по който е обучена системата на ИИ, или изглежда уникален и написан от човек. 

Бързината е „когато текстът се характеризира с група от думи и фрази, които се повтарят в рамките на кратък период от време“.

Рено заяви пред Fox News Digital, че според него „основният въпрос и притеснение при откриването на ИИ е дали един ден той ще стане неоткриваем“.

„Основите на генеративния ИИ работят с прогнозни данни“, обясни той. „Всички модели, включително ChatGPT, Bard, Claude, Stability Text, са обучени върху големи масиви от данни и ще връщат резултати, които са „предсказуеми“ от добре изградени и обучени детектори на ИИ. Силно вярвам, че това ще бъде така, докато не се появи истински AGI (изкуствен общ интелект). Но засега това все още е научна фантастика.

„И така, по същия начин, по който генеративният ИИ се обучава върху големи набори от данни, ние обучихме нашия детектор да идентифицира ключови модели в „синтетични“ текстове чрез дълбоко обучение.“

Рено казва, че първоначално е бил „много притеснен“ за ChatGPT, но след това притесненията му са намалели. Според него изкуственият интелект винаги ще има „забележки“, които други платформи могат да открият.

„С предсказващия изкуствен интелект винаги ще можем да създадем модел за предсказване“, казва той пред The Guardian.

Съоснователят на Winston AI заяви, че платформата се използва най-вече за сканиране на училищни есета, докато „издателите сканират работата на своите журналисти/копирайтъри преди публикуване“ е набрала популярност и е заела второ място сред най-често използваните приложения на платформата.

„Нуждите от откриване на ИИ вероятно ще нарастват извън академичните среди. Имаме много издатели и работодатели, които биха искали да получат яснота относно оригиналността на съдържанието, което публикуват“, добави Рено в коментар за Fox News Digital.

Главният продуктов директор на Turnitin, друга компания, която открива материали, генерирани от ИИ, наскоро публикува писмо до редактора на The Chronicle of Higher Education, в което твърди, че материалите с ИИ се откриват лесно.

Ани Чечители от Turnitin отговори на есе, публикувано в The Chronicle of Higher Education, чийто автор е студент от Колумбийския университет, който казва: „Никой професор или софтуер не би могъл да засече“ материали, подадени от студенти, но всъщност написани от компютър.

„Само през първия месец, в който нашата система за откриване на изкуствен интелект беше на разположение на преподавателите, ние отбелязахме над 1,3 милиона академични материали като такива, в които повече от 80 процента от съдържанието вероятно е написано от изкуствен интелект – флагове, които предупреждават преподавателите да разгледат по-внимателно материала и след това да използват информацията, за да подпомогнат вземането на решения“, пише Чечители.

Тя добави, че учениците може да предполагат, че днешните технологии не могат да открият училищни работи, генерирани от изкуствен интелект, но едновременно с това те правят лош залог, че утрешните технологии няма да засекат измамата.

„Дори и да успеете да се изплъзнете от детектора на изкуствен интелект или от професора си, академичната работа е вечна, което означава, че не просто залагате на това, че сте достатъчно умни или че процесът ви е достатъчно елегантен, за да заобиколите проверките, които съществуват днес – залагате на това, че нито една технология няма да е достатъчно добра, за да я улови утре. Това не е добър залог“, пише тя.

Подобно на Рено, Чечители твърди, че материалите с изкуствен интелект винаги ще имат „подсказки“ и че технологичните компании, които искат да разкрият компютърно генерираните материали, са създали нови начини за разкриване на материалите с изкуствен интелект.

„Смятаме, че винаги ще има какво да кажем“, казва тя пред The Guardian. „И виждаме други методи за разобличаване. Вече имаме случаи, в които учителите искат от учениците да направят нещо лично, за да установят базови данни. И имайте предвид, че разполагаме с 25-годишни данни за учениците, върху които да обучим нашия модел“.

Чечители казва, че след пускането на ChatGPT миналата година се наблюдава и рязък скок в използването на Turnitin и че учителите са наблегнали повече на осуетяването на измамите, отколкото през предишните години.

„Всяка година се провежда проучване на най-големите предизвикателства пред учителите в областта на обучението. През 2022 г. „предотвратяването на измамите на учениците“ беше на 10-то място“, каза тя. „Сега то е номер едно.“

Студенти от колежа, анкетирани от College Rover по-рано тази година, съобщават, че 36% от техните преподаватели са ги заплашили, че ще ги провалят, ако бъдат хванати да използват изкуствен интелект за курсови работи. Около 29 % от анкетираните студенти са заявили, че техният колеж е издал насоки за ИИ, докато мнозинството от студентите – 60 % – са заявили, че не смятат, че тяхното училище трябва да забрани изцяло технологиите на ИИ.

На фона на опасенията, че студентите все по-често ще мамят с помощта на ИИ, някои колежи в САЩ се стремят да приемат революционната технология, внедрявайки я в класните стаи, за да подпомогне преподаването и курсовата работа.

Харвардският университет например обяви, че тази есен ще използва чат ботове с изкуствен интелект, за да подпомогне преподаването на водещия клас по кодиране в училището. Според професора по компютърни науки в Харвард Дейвид Малан чатботовете „ще подпомагат учениците, както можем, чрез софтуер и ще преразпределят най-полезните ресурси – хората – за да помагат на учениците, които имат най-голяма нужда от това“.

Превод и редакция: Александра Крумова