Нацистите работеле со технологијата од 20 век и била потребна светска војна за да ги запре.  Колку помоќни и потрајни можеа да бидат нацистите ако ги победеа САД со атомска бомба? Контролирањето на најнапредната технологија во тоа време можело да ја зацврсти нацистичката моќ и да го промени текот на историјата.


Сепак, постои една закана за иднината што е помалку позната - и иако не вклучува истребување на нашиот вид, може да биде исто толку лоша. Се нарекува сценарио „свет во синџири“, каде што, како претходен мисловен експеримент, глобална тоталитарна влада користи нова технологија за да заклучи поголем дел од светот во трајно страдање.

Звучи прилично мрачно. Но, дали е веројатно да се случи?

Истражувачите и филозофите почнуваат да размислуваат како може да се случи тоа - и што е уште поважно, што можеме да сториме за да го избегнеме тоа.

Егзистенцијалните ризици (екс-ризици) се фатални затоа што тие го заклучуваат човештвото во една судбина, како што е трајниот колапс на цивилизацијата или истребувањето на нашиот вид. Овие катастрофи можат да имаат природни причини, како што се удари од астероиди или супервулкани, или можат да бидат создадени од луѓе од извори како што се нуклеарна војна или климатски промени.

Ако се ​​дозволи да се случи тоа, ќе биде „мизерен крај на човечката приказна“ и ќе ги изневери стотиците генерации што се појавиле пред нас, вели Хајдн Белфилд, академски менаџер на проектот во Центарот за проучување егзистенцијален ризик на Универзитетот во Кембриџ.

Тоби Орд, постар истражувач на Институтот за иднината на човештвото (FHI) на Универзитетот „Оксфорд“, верува дека шансите за егзистенцијална катастрофа што се случува во овој век од природни причини се помалку од една наспроти две илјади, бидејќи луѓето преживеале две илјади века без такви.

Меѓутоа, кога ќе се додаде веројатноста за вештачки катастрофи, Орд верува дека шансите се зголемуваат на неверојатни една наспрема шест. Овој век тој го нарекува „бездна“ затоа што ризикот од губење на иднината никогаш не бил толку голем.

Истражувачите од Центарот за долгорочен ризик, непрофитен истражувачки институт во Лондон, ги прошириле екс-ризиците со уште постудена опција за преземање ризици. Овие „с-ризици“ се дефинирани како „страдање од астрономска скала, што е далеку над сите страдања што постоеле на Земјата досега“. Во овие сценарија животот продолжува за милијарди луѓе, но квалитетот е толку низок, а изгледите се толку мрачни што ќе биде пожелно истребувањето.

Накратко: иднината со негативна вредност е полоша од онаа што нема никаква вредност.

Тука влегува сценариото „свет во синџири“.

Ако злонамерна група или влада одеднаш ја добие моќта, таа доминира на технолошкиот пат и нема што да ѝ застане на патот, а тоа може да доведе до подолг период на страдање и потчинување.

Извештајот за егзистенцијалните ризици од Проектот за глобални приоритети во 2017 година, заедно со FHI и Министерството за надворешни работи на Финска, предупредува дека долгата иднина во особено брутална светска тоталитарна држава може да биде полоша од целосно истребување.

Хипотеза „синглтон“

Иако светскиот тоталитаризам сè уште е предмет на истражување, истражувачите од областа на егзистенцијалниот ризик сè повеќе се фокусираат на најверојатната причина: вештачката интелигенција.

Во „хипотезата за синглтон“, Ник Бостром, директор на FHI, објаснува како може да се формира светска влада со употреба на вештачка интелигенција или други моќни технологии - и зошто не би било возможно да се урне. Тој пишува дека може да се случи свет со единствена агенција за донесување одлуки на највисоко ниво доколку таа агенција одлучно доведе до технолошки чекор напред во вештачката интелигенција или молекуларната нанотехнологија.

Откако ќе биде надлежна, таа агенција ќе го контролира напредокот на технологијата што спречува внатрешни предизвици, како што е надзорот или автономното оружје, и, со овој монопол, ќе остане трајно стабилна.

Ако синглтон е тоталитарен, животот би бил мрачен. Дури и во земји со најстроги режими, вестите „протекуваат“ и влегуваат од други земји и луѓето можат да избегаат. Светското тоталитарно владеење ќе го отстрани дури и ова мало семе на надеж.

Да бидат работите полоши од истребувањето, тоа би значело дека не чувствуваме апсолутно никаква слобода, приватност, надеж за бегство, никаква агенција што воопшто би ги контролирала нашите животи, вели Такер Дејви, писател на Институтот за иднината на животот во Масачусетс, кој се фокусира на истражување на егзистенцијален ризик.

- Во тоталитарните режими во минатото имало толку многу параноја и психолошко страдање, затоа што едноставно немате идеја дали ќе бидете убиени за погрешен збор. И сега замислете, нема да има ни прашања, туку сето она што ќе го кажете, ќе биде пријавено и анализирано. Можеби сè уште ја немаме технологијата за тоа, но видовите технологии што ги развиваме се чини дека го прават тоа сè полесно и полесно. Се чини дека ова може да стане можно во текот на наредните сто години - вели Орд.


Иако животот под светска тоталитарна влада сè уште е малку веројатен, а сценариото е за далечната иднина, вештачката интелигенција веќе дозволува авторитаризам во некои земји и ја зајакнува инфраструктурата што опортунистички деспот може да ја стекне кај другите.

Во минатото биле потребни стотици илјади луѓе за надзор - еден од сто источногермански граѓани бил шпион. Но, сега технологијата може да го направи тоа.

Во САД, Националната агенција за безбедност собрала стотици милиони записи за повици и пораки пред да го запре домашниот надзор во 2019 година, а се проценува дека има околу 4 до 6 милиони безбедносни камери за видеонадзор низ Велика Британија.

18 од 20 надгледувани градови во светот се во Кина, но Лондон е трет. Разликата меѓу нив помалку лежи во технологијата што ја користат земјите, а повеќе во тоа како ја користат.

Што би се случило доколку се прошири дефиницијата за она што е нелегално во САД и Велика Британија и вклучува критики кон владата или практикување на одредени религии?

Инфраструктурата е веќе поставена за распоредување, а вештачката интелигенција - со која НСА веќе почна да експериментира - ќе им овозможи на агенциите да ги пребаруваат нашите податоци побрзо од кога било. Покрај засилениот надзор, вештачката интелигенција исто така поддржува раст на дезинформации на мрежата, што е уште едно средство за авторитарно владеење.

Превентивни мерки


На пример, ЕУ, која размислува за паузирање на препознавање лице на јавни места), е оптимист дека можеме да избегнеме катастрофални судбини.

Такер Дејви се согласува.

- Сега мораме да одлучиме која е прифатлива, а која неприфатлива употреба на вештачката интелигенција. Треба да бидеме внимателни околу дозволувањето на контролата на нашата инфраструктура. Ако ја вооружаме полицијата со препознавање лица и федералната влада ги собере нашите податоци, тоа е лош почеток - вели Такер Дејви.

Ако сè уште сте скептични дека вештачката интелигенција може да обезбеди таква моќ, размислете за светот пред нуклеарното оружје. Три години пред првата нуклеарна верижна реакција дури и научниците што се обиделе да ја постигнат верувале дека е малку веројатна. Исто така, човештвото не било подготвено за нуклеарен пробив и било на работ на заемно уништување пред договорите да го насочат глобалното ширење на смртоносно оружје без егзистенцијална катастрофа.

Можеме да го направиме тоа и со вештачка интелигенција, но само ако ги комбинираме лекциите од историјата со предвидливоста за да се подготвиме за оваа моќна технологија. Можеби светот не може да ги запре тоталитарните режими во иднина - но можеме да избегнеме да им даваме алатки за ширење на нивната моќ на неодредено време.

Извор: B92.net
Фото: Freepik