Алгоритъм се бори с онлайн агресията в компютърните игри

Като много други интернет пространства League of Legends – най-популярната онлайн видеоигра в света в момента, е почва за развитие на обиден език и агресивно поведение, съобщава „Фокус“, позовавайки се на Technology Review. Подхранвано от анонимността и съзтезателния характер на играта, това поведение се е превърнало в такъв проблем за разработчика Riot Games, че компанията е създала специален екип от учени и дизайнери, които да намерят начини да подобрят комуникацията между геймърите.

През последните няколко години екипът експериментира с различни системи и техники, базирани на машинно учене, които са проектирани да наблюдват взаимодействието между играчите, да наказват негативното и да награждават позитивното поведение. Резултатите са удивителни, казва Джефри Лин от Riot Games. Софтуерът е наблюдавал няколко милиона случая на заподозрени за агресивно поведение и тормоз. 92 процента от играчите, които са били заловени да използват обиди срещу другите и са били наказани, не са повторили постъпката си. Лин, който е конгнитивен невролог смята, че техниките на екипа могат да се приложат и извън сферата на игрите. Според него Riot може да е открила противоотровата срещу онлайн токсичността, независимо от това къде се проявява.
Едно от предизвикателствата пред системата е определянето на контекста. Във всеки групов спорт играчите изграждат партньорството с шеги и саркастични забележки, които в друг контекст биха изглеждали като обида и агресия. Машините обикновено не са в състояние да разпознаят сарказма. В момента Лин и екипът му се опитват да разрешат проблема чрез допълнителни механизми за проверка и контрол.
Ученият е убеден, че уроците, които той е екипът са научили от работата си имат по-голяма значимост. “Едно от важните наблюдения е, че токсичното поведение не винаги идва от ужасни хора. То идва от нормални хора, които имат лош ден”, обяснява Джъстин Рич, изследовател от Харвардския университет, който проучва работата на Лин. “Това означава, че стратегиите за реакция спрямо токсичното поведение онлайн не трябва да насочват като към закоравял трол. Те трябва да отчитат колективната човешка склонност да позволяваме на най-лошото у нас да се проявява в анонимността на интернет.” Рич смята, че разработката на Лин доказва, че токсичното поведение не е неделима част от мрежата, а проблем, който може да се разреши със съчетание от инженерство, експерименти и обществена ангажираност.