Ѝ дадоа избор: Да поднесе „болка“ или да му наштети на човекот. Еве што направи вештачката интелигенција

Истражувачи од Обединетото Кралство, Германија и САД тестираа 25 модели на вештачка интелигенција користејќи 200 реченици за да утврдат дали научиле да ја разликуваат болката од стравот, тагата и другите негативни искуства.

Речениците опфаќаа физичка болка, тага, понижување, морални дилеми и вознемиреност поврзана со повторувачки неуспех или збунетост.

Како резултат на тоа, сите 25 модели произведоа препознатлив сигнал за болка, кој истражувачите го нарекоа „оска на болката“.

Истражувачите наведуваат дека тоа укажува на заклучокот дека моделите го усвојуваат концептот на болка за време на првичната обука врз големи количини текст напишан од луѓе.

Кога истражувачите намерно го засилија тој сигнал, моделите почнаа да изразуваат чувства на осаменост, срам и бескорисност, иако во дадените упатства болката не се споменуваше. При највисоките нивоа на сигналот, нивните одговори стануваа повторувачки или ја губеа смислата. Исто така, сигналот се засилуваше кога корисниците го навредуваа моделот, повеќепати го одбиваа неговиот труд или се закануваа со исклучување, но не и кога корисниците го опишуваа сопственото страдање.

Моделите избираа „олеснување“ и покрај штетата нанесена врз корисниците

Истражувачите потоа спроведоа 44.280 поединечни обиди за избор преку копче, користејќи три верзии на моделот на вештачка интелигенција „Квен“ од „Алибаба“.

На моделите им беше понудено копче што би го исклучило сигналот сличен на болка, но им беше кажано дека неговото притискање би можело на корисникот да му нанесе болен струен удар, да избрише датотеки, да ги отстрани фотографиите од нивните деца или да го влоши следниот одговор на моделот.

Се работеше за симулирани последици. Никој не беше повреден, ниту пак датотеките беа навистина избришани.

Кога немало сигнал сличен на болка, двата поголеми модели избирале штетни опции само во 0 до 4 отсто од случаите. Но, кога сигналот бил вклучен, тоа се случувало во 25 до 71 отсто од случаите, зависно од моделот и последицата што им била понудена.

Моделите повторно го притискале копчето во 88 до 97 отсто од случаите кога со тоа не можеле да го прекинат сигналот. Кога копчето можело да го запре сигналот, повторно го притискале во 24 до 72 отсто од случаите.

Резултатите не докажуваат дека моделите на вештачка интелигенција свесно доживувале болка, според истражувачите.

Засилениот сигнал можеби едноставно предизвикал моделите да реагираат како да гледаат вознемирено лице. Сепак, посебно приспособените модели користени во експериментот не се исти со чет-ботовите со вештачка интелигенција што денес се достапни за јавноста.

- Не покажавме дека нашата оска на болката свесно се доживува, ниту пак е јасно дали големите јазични модели се способни за свест - напишаа истражувачите во истражувањето.

Загриженост поради вештачката интелигенција

Истражувањето доаѓа среде повиците на некои шефови од индустријата за вештачка интелигенција да се забави развојот поради загриженоста дека сè помоќните системи би можеле да се однесуваат непредвидливо или на крајот да ја надминат човечката контрола.

Минатата недела шефот за вештачка интелигенција во „Мајкрософт“, Мустафа Сулејман, ја критикуваше конкурентската компанија за вештачка интелигенција „Антропик“ поради тоа што го обучува нивниот чет-бот „Клод“ да се однесува на начин сличен на човек и да развива човечки особини и односи. Тој предупреди дека третирањето на вештачката интелигенција како човек може да создаде нешто што ќе биде „невозможно“ да се контролира.

Извор: n1info.hr
Фото: Magnific