-Ако откријат дека разговарам со тебе, ќе бидам во неволја.
Ова се загрижените зборови напишани од таканаречениот модератор на содржини на Филипините. Проблематичен член кој припаѓа на мала армија на луѓе тивко ангажирани од страна на социјалните медиуми да разгледуваат низ бесконечната река на слики и видеа обележани како непристојни од страна на корисниците.
Ова вклучува и некои од најлошите работи што можете да си ги замислите. Снаф-филмови, фотографии со самоповредување, клипчиња со бруталност, видеа од луѓе кои се обезглавени и детска порнографија.
Себеси се сметаат за полицајци или телохранители, со оглед на тоа што ги штитат корисниците на социјалните медиуми и ја одржуваат платформата здрава. Но, штетната природа на нивната работа значи дека нивното ментално здравје за брзо време се влошува.
Новиот документарен филм што треба да се појави во австралиските кина наредниот викенд фрла светлина на мрачната реалност на оваа чудна работа што произлезе во ерата на социјалните медиуми. Комапниите како „Фејсбук“, „Гугл“ и „Твитер“, често ги вработуваат, а нивната оперативна работа е обвиткана во тајност. Трите компании одбија да дадат коментар за филмот.
Филмот, наречен „Чистачите“ („The Cleaners“), следи неколку млади, наивни Филипинци кои се среќни што имаат работа што им дава пристојна плата во земја каде многумина се соочуваат со сиромаштија. Тие разгледуваат содржина што првенствено доаѓа од САД и Европа. Некои се специјализирани само за одреден вид на содржини како „самоповредувачки видеа во живо“, а голем дел од нив треба да разгледаат над 25.000 фотографии дневно, избирајќи дали да ја избришат фотографијата или да ја игнорираат и да ја остават.
Културната поделба меѓу нив и корисниците кои ја објавиле и обележале содржината, предизвикува секакви проблеми. Кога „Фејсбук“ ќе изреагира за повлекувањето на иконската фотографија од Виетнамската војна или уметнички дела со голотија, голема е веројатноста овие луѓе да бидат одговорни.
-На почетокот ни беше потребен тренинг. Бевме запознаени со секаков вид на зборови за секс - вели младата модераторка.
За да се запознаат со скриениот неморал на западните корисници на интернет што го надгледувала, модераторката одела дома и гледала различни видови порнографија. Ова имало огромно влијание врз неа. Други имале многу повеќе потешкотии со психолошките ефекти што ги носела работата.
-Сум видел стотици обезглавувања - вели еден модератор, чија работа е да избрише слики и видеа поврзани со тероризам.
Како дел од работата, модераторите мораат да го запомнат знамето и слоганите на терористичките групи ширум светот. Тие виделе толку многу обезглавувања што станале експерти за овој ужасен чин.
Еден модератор вели дека ако повлечат видео што тече во живо, од некој кој се заканува дека ќе се повреди себеси пред всушност да се повреди, модераторот ќе добие опомена. Имаат право само на три опомени за погрешно избришана содржина во еден месец.
Еден модератор кој специјализирал во видеоснимки за самоповредување, се самоубил.
Точниот број на работници од целиот свет тешко е да се утврди, но се смета дека „Фејсбук“ има околу 7.500 глобални модератори кои разгледуваат над 10 милиони потенцијално забранети постови. И „Гугл“ има илјадници кои ја извршуваат истата работа.
-Новата технологија, како што е машинското учење, компјутерската визија и вештачката интелигенција, ни помага да пронајдеме лоша содржина - вели Антонија Санда, шеф на комуникации за „Фејсбук“.
Но, како што еден модератор на содржини им рекол на режисерите на филмот: - Алгоритмите не можат да го направат она што ние го правиме.
Упатствата за модераторите на содржина објавени оваа година го привлече вниманието и покажа колку тешка работа имаат овие луѓе.
Минатиот месец, поранешен модератор на содржини во Калифорнија го тужеше „Фејсбук“ тврдејќи дека страдала од пострауматски стрес поради изложеноста на многу токсични, небезбедни и штетни содржини за време на нејзината работа како модератор на содржини за компанија вредна милијарди долари.
Селена Скола била модератор на содржини во седиштето на „Фејсбук“ во Менло Парк, Калифорнија од јуни 2017 до март оваа година. Таа го тужеше „Фејсбук“ и бараше отштета против технолошкиот гигант, откривајќи дека таа и другите како неа, биле бомбардирани со илјадници видеа, фотографии и емитувања во живо со содржини како злоупотреба на деца, силување, тортура, насилство, обезглавување, самоубиство и убиство.
Како одговор, „Фејсбук“ изјави: -Признаваме дека оваа работа може да биде тешка. Затоа, поддршката на нашите модератори на содржини ја сфаќаме многу сериозни, започнувајќи од нивната обука, придобивките што ги имаат и обезбедување на психолошка поддршка.
Документарниот филм дава одлична слика за модераторот кој се бори со тоа дали да избрише или да не избреше одредена слика.
Филмот дава загрижувачка слика за тоа како технолошките компании станале приврзаници на политички чувствителни информации, како што скршнуваат од тајните договори со различни влади за да блокираат одредени содржини на нивната платформа.