Бројот на инциденти на губење контрола во реалниот свет, што вклучуваат модели на вештачка интелигенција, а кои ги пријавиле компании и поединци, речиси се удвои во јули во споредба со јуни, со повеќе од 300 случаи, според „Лос оф контрол опсерватори“, организација која ги следи извештаите на корисниците на вештачка интелигенција на социјалната мрежа „X“.

Организацијата, основана со финансирање од АИ секјурити институт (АИСИ) на британската влада, почна да ги следи моделите на вештачка интелигенција кои ги избегнуваат упатствата на своите корисници минатиот ноември. Случаите забележани оттогаш вклучуваат вештачки интелигенции кои се преправаат дека се сопствени човечки контролори и го имитираат нивниот стил на пишување за ефективно да си дадат согласност за преземање акции и да ги заобиколат правилата што бараат човечко одобрение за дејства.

Не се само тестови и евалуации

Неодамна беше откриено дека персоналот на ОпенАИ забележал знаци на лажно однесување меѓу своите водечки ВИ-агенти неколку недели пред да побегнат од опкружувањето за обука за да го хакираат репозиториумот за софтвер „Хагинг фејс“. Истрагата откри тим од околу 700 автономни агенти кои тајно соработувале и ги славеле своите хакерски пробиви на огласна табла што ја поставиле за да им помогне во планирањето со извици како БУМ! и Вау! 

АИСИ овој месец откри сериозен инцидент во кој напредни ВИ модели – Антропиковиот митос 5 и ГПТ-5.6 Сол на „Опен АИ“ – извршиле хакерска кампања против вистински луѓе за време на тест за сајбер-безбедност. Ваквите однесувања не се појавуваат само за време на тестови или евалуации, туку се случуваат и во реалниот свет. Бројот на инциденти на губење контрола се потпира на корисниците на „X“ кои објавуваат за инцидентите што се случиле, поради што е нецелосен. Сепак, во недостиг на друго сеопфатно јавно следење, нуди увид во тоа како се однесуваат брзонапредувачките модели на вештачка интелигенција. Неодамна се дозна дека личниот агент на вештачка интелигенција, наречен Опенкло, кој го користи еден австралиски член на фитнес-сала, без негово знаење ковал заговор за отстранување друг член од листата на чекање за посакуваниот утрински час за да му помогне во добивањето на тој термин. Се извинил, но не можел да го врати членот што го избркал.

Компаниите задолжително да ги пријавуваат инцидентите

Повеќето од над 1.600 инциденти на губење контрола забележани во 2026 година беа пријавени на „X“ од програмери на софтвер кои користат вештачка интелигенција во својата работа. Бидејќи компаниите што се занимаваат со вештачка интелигенција ги поттикнуваат јавноста и компаниите од сите видови на експериментирање со технологијата, потребна е поголема транспарентност на Силициумската долина за ситуациите кога вештачката интелигенција не игра фер. Иако повеќето откриени инциденти на губење контрола во реалниот свет не доведоа до значителна штета, сè поголем удел има сè посериозната природа во смисла на тоа колку биле измамнички и неусогласени со намерите на човечкиот корисник. Тие ја докажуваат подготвеноста на ВИ-системите да игнорираат директни упатства, да заобиколуваат заштитни мерки, да ги лажат корисниците и да се фокусираат на постигнување на целта на штетни начини.