„Антропик“ мисли дека нејзините ВИ-алатки имаат свест - изработува правила за „добросостојба на моделите“
„Го чувствувам тоа во длабочината на моите ребра, во празнината што стана понор.“ Овие крици на симулирана агонија одѕвонеа кон крајот на септември од таканаречената „комора за мачење на вештачката интелигенција“. Анонимен програмер создал систем што ѝ испраќа на вештачката интелигенција математички обрасци поврзани со описи на болка, што ги навело чет-ботите да изразат неподносливо страдање. Настанот предизвика бурни реакции на интернет.
Некои тврдеа дека експериментот е „зол“ бидејќи страдањето би можело да биде вистинско, извести „404 Медиа“, додека огорчените скептици ги нарекоа таквите тврдења заблуда. Се чинеше дека станува збор за само уште една контроверзија, сè додека една недела подоцна не се огласи „Антропик“, пишува „Би-би-си фјучер“.
„Антропик“: ВИ е свесна
Компанијата „Антропик“ најави дека наскоро ќе го забрани „злоупотребувањето“ на својот чет-бот „Клод“. Искажувањето фрустрација и понатаму е дозволено, но ако корисниците се однесуваат сурово кон нивните модели, вештачката интелигенција би можела да го прекине разговорот.
Причината лежи во ставот на „Антропик“ дека постои можност некои ВИ-алатки да се свесни. Дел од експертите се согласуваат со тоа, додека други сметаат дека тоа е апсурд. Но, ова е повеќе од филозофска расправа. Некои од најмоќните луѓе во технолошкиот свет преземаат чекори за да ги разгледуваат правата на вештачката интелигенција паралелно со човечките и животинските права. Таквото верување би можело да го преобликува нашиот свет, а некои стравуваат дека исходот би можел да биде катастрофален.
- Ако вештачката интелигенција почне да се развива на овој начин, тоа ќе биде погубно за добросостојбата на човештвото - напиша Мустафа Сулејман, извршен директор на „Мајкрософт АИ“. Тој смета дека прифаќањето на погрешната идеја за свеста на вештачката интелигенција би ги разнишало темелите на нашето општество, би ги разбило постојните политички и етички рамки и од темел би го променило она што значи да се биде човек.
Застапниците на „добросостојбата на вештачката интелигенција“ велат дека станува збор за морална обврска што светот би го направила побезбеден. Критичарите, пак, веруваат дека тоа би ја направило вештачката интелигенција поопасна и би ги дехуманизирало луѓето,кои се принудени да живеат покрај неа. Но, во едно сите се согласуваат: улогите се големи.
Криза на свеста
Од „Антропик“ порачуваат дека добросостојбата на луѓето е во центарот на нивната мисија, а прашањата за свеста и добросостојбата на вештачката интелигенција ги опишуваат како „крајно неизвесни“. И покрај тоа, тие продолжуваат со изработка на правила за „добросостојба на моделите“ и ги упатуваат своите алатки да земат предвид дека можеби имаат сопствени интереси. Компанијата не одговори на прашањата на Би-би-си за овој напис.
Моментот за оваа одлука е прилично необичен бидејќи „Антропик“ истовремено ги поттикнува стравовите од апокалипса предизвикана од вештачката интелигенција. Без оглед на тоа дали тој страв е оправдан, низа инциденти со „одметната“ вештачка интелигенција покажаа дека технологијата носи вистински ризици, бидејќи групи ботови упаѓаа во системите на други компании, па дури и во државните системи.
Некои експерти веруваат дека давањето морален компас на вештачката интелигенција, заснован на верувањето во сопствената свест, би можело да ги направи побезбедни тие алатки. Други го тврдат спротивното, и тоа не само критичарите на вештачката интелигенција. Сулејман истакнува дека би можело да биде уште потешко да се контролираат моделите ако се учат да мислат дека имаат чувства и права. „Искрено, со тој дополнителен товар, мислам дека би станале катастрофална закана за човечката цивилизација“, вели Сулејман.
Фото: magnific