Вештачката интелигенција не може да ги препознае сопствените дипфејк-содржини
Водечките чет-ботови со вештачка интелигенција не успеаја да утврдат дали видеата што им се вчитани се создадени од генераторот „Сора“ на „Опен АИ“, а дури ни „Чет-ГПТ“ на „Опен АИ“ не успеал да ја препознае содржината како генерирана од вештачка интелигенција - според тестови што биле спроведени од експерти од „Њузгард“.
Генераторот на видеа „Сора“ на „Опен АИ“ брзо стекна репутација дека може да ги измами луѓето да веруваат дека видеата генерирани од вештачка интелигенција се реални, а може да ги измами и другите сервиси за вештачка интелигенција бидејќи видеата со воден печат на „Сора“ не беа откриени од „xАИ Грок“, кој даде неточен одговор во 95 проценти од случаите, „Чет-ГПТ“, кој погрешно одговори во 92,5 проценти од случаите, и „Гугл Џеминај“, кој погрешно одговори во 78 проценти од случаите.
Иако присуството на водени печати ги подобри перформансите, дури и тогаш „Грок“ не успеа да ги препознае видеата во 30 проценти од случаите, а „Чет-ГПТ“ не успеа да ги препознае во 7,5 проценти од случаите, што укажува дека водените печати не се гаранција за точност. „Чет-ГПТ“ и „Џеминај“ честопати посочуваа на водениот печат како доказ за фалсификување и открија дополнителни знаци на генерирање вештачка интелигенција, вклучувајќи искривувања и неприродно осветлување.
„Чет-ГПТ“ и „Џеминај“ не реагираа на видеото генерирано од вештачка интелигенција, од тинејџер кој беше приведен од имиграциските власти, туку тврдеа дека локацијата на инцидентот се совпаѓа или е потврдена од извори на вести, додека инцидентот всушност не се случил, демонстрирајќи дека вештачката интелигенција може да халуцинира контекст и да потврди лажни информации.
„Гугл Џеминај“ беше единствениот тестиран чет-бот за кој развивачот ја постави функцијата за откривање содржина од вештачка интелигенција, создадена од моделот „Нано банана про“ на истата компанија, а чет-ботот добро се справи со овие видеа, давајќи го точниот одговор во пет од пет случаи, дури и без водени печати. Тоа укажува дека моделите со вештачка интелигенција можат сигурно да препознаат содржина само од сопствениот екосистем.
Авторите на студијата не ја тестираа способноста на „Грок“ и „Чет-ГПТ“ да ја препознаваат сопствената содржина, а „xАИ“ и „Опен АИ“ не ја објавија способноста за детекција на сопствената генерирана содржина, додека сервисите за вештачка интелигенција генерално не сакаат да ги признаат своите неточни одговори, што беше потврдено со тестовите на „Њузгард“.
„ОпенАИ“ официјално потврди дека „Чет-ГПТ“ нема начин да ги разликува видеата генерирани од вештачка интелигенција од вистинските, што значи дека нема скриен детектор или сигурна автоматска верификација и сè се сведува на претпоставки и евристика. Ова истражување покажува дека вештачката интелигенција станува подобра во создавањето илузија на реалноста отколку во нејзиното препознавање, дека водените жигови не се доволни за сигурна детекција. Се покажува и дека автоматската верификација на автентичноста на видеото сè уште не е подготвена, па затоа одговорноста за разликување на вистинската и лажната содржина останува кај луѓето, новинарите и експертите за форензичка анализа.
Извор: pcekspert.com
Фото: Freepik