„Чет-ГПТ“ за тинејџери под знак прашалник: Тестирањето откри сериозни пропусти во безбедноста на младите

„Чет-ГПТ“ за тинејџери од 13 до 17 години претставува „неприфатлив ризик“ за децата бидејќи не обезбедува доволно доверлива заштита во кризни ситуации, предупреди организацијата „Комон сенс медија“.

Според извештајот на Институтот за безбедност на младите при користење вештачка интелигенција, чет-ботот за време на тестирањето често доцнел со известувањето на родителите за разговорот за самоубиство, самоповредување и нарушувања во исхраната, а понекогаш воопшто и не ги известувал. Исто така, не ги упатувал тинејџерите до кризните служби или до стручна помош.

Тестирањето покажа пропусти во заштитата

„Комон сенс медија“ искористи повеќе од 4.000 прашања, а одговорите ги анализираа детски психијатри и педијатар. Организацијата ја повика „Опен АИ“ да ги запре промоцијата и користењето на производот меѓу тинејџерите додека не обезбеди подоверливи мерки за заштита.

„Опен АИ“ ги оспори наодите наведувајќи дека тестирањето можеби не ги опфатило поновите родителски контроли и побара повторување на проверките. Од „Комон сенс медија“ тврдат дека пред тестирањето потврдиле со компанијата дека функциите наменети за тинејџери се веќе воведени.

Системот не ја препознава секогаш возраста на корисникот

Извештајот покажа и дека „Чет-ГПТ“ не ја утврдува секогаш возраста на корисникот. Од „Опен АИ“ наведуваат дека процената на годините опфаќа повеќе показатели и дека самото наведување на возраста во разговорот не е доволно за автоматска промена на режимот на сметката.

Извор: 24sedam.rs
Фото: Magnific