Луѓето на интернет сè почесто бараат медицински совети, а со појавата на чет-ботови базирани на вештачка интелигенција, ваквите информации им се уште подостапни. За да покажат колку овие системи се чувствителни на дезинформации, шведските научници во неодамнешен проект создадоа измислена здравствена состојба наречена „биксониманија“.
Болеста ја осмислила Алмира Османовиќ Тунстром, научник од Универзитетот во Гетеборг, заедно со својот тим. Целта била да се испита дали напредните големи јазични модели, обучени врз огромни количини податоци собрани од интернет, можат да препознаат и филтрираат дезинформации.
Идејата ѝ се родила додека предавала на студенти по право и им објаснувала како се создаваат и користат податоците за обука на ваквите системи.
- Навистина сакав да имаме јасен пример кој ќе покаже како се движат податоците низ целиот систем - како се обработуваат, како се генерираат и како функционираат моделите за предвидување и обука кога станува збор за ширење информации - вели Османовиќ Тунстром, која е и стратег за вештачка интелигенција и менаџер за иновации во „Чалмерс индустритекник“, шведска организација за истражување и развој.
На почетокот на 2024 година, тимот започнал да шири информации за „биксониманија“ - состојба наводно поврзана со користење компјутерски екрани. Биле објавени блогови на платформата „Медиум“, како и два истражувачки трудa на сервери за предпубликациски трудови каде што се објавуваат нерецензирани студии.
Како автор на истражувањата бил наведен измислен научник со име „Лажљив Изгубеновиќ“, а еден од насловите на трудовите бил „Хиперпигментација: вистинска глупост“.
- Не очекував дека предпубликациските трудови, кои понекогаш функционираат како академски таблоиди бидејќи сè може да се објави таму, ќе бидат сфатени толку сериозно и ќе влезат во бази на податоци - признава Османовиќ.
Како се ширеле дезинформациите?
Големите јазични модели почнале да ја споменуваат лажната болест, која дури добила и своја страница на „Википедија“.
Во април 2024 година, „Мајкрософт бинг копајлот“ навел дека биксониманијата е „интригантна и релативно ретка состојба“. „Гугл џемини“ ја опишал како состојба поврзана со прекумерна изложеност на сина светлина, додека „ЧетГПТ“ наведувал дека симптомите укажуваат на реална болест.
- Алатките за вештачка интелигенција и интернетот се корисни, но одговорноста е кај нас - да ги користиме безбедно, а не тие да нè манипулираат. Дезинформациите отсекогаш постоеле, но брзината со која сега се шират е нешто сосема ново - истакнуваат научници од Универзитетот во Кембриџ.
Главниот проблем што го открива овој проект е тоа што и некои научни трудови цитирале лажни предпубликациски трудови, што укажува дека тие дури и не биле прочитани. Доколку биле внимателно проверени, веднаш би се открило дека се работи за измислица.
Во експериментот биле додадени и намерно апсурдни елементи како финансирање од „Галактичката тријада“, благодарности до „Старшип ентерпрајз“ и професорот Рос Гелер. Барем еден од трудовите јасно наведувал дека станува збор за измислен материјал.
Извор:
Eklinika.telegraf.rs
Фото: Magnific