Хенри Сото работел во тимот за интернет безбедност во „Microsoft“ во Сиетл, скоро 8 години. Неговата задача била да го прегледува непристојниот материјал на производите на „Microsoft“ - на „Bing“, „OneDrive“, и „Xbox Live“ меѓу другите, и да одлучи кој материјал треба да биде избришан, а кој пријавен во полиција.

Секој ден Сото гледал илјадници вознемирувачки фотографии и видеа, на кои биле претставени убиства и злоупотреба на деца. Особено трауматично видео било силување на една девојка, а потоа и нејзино убиство. Оваа работа си го зела данокот - Сото развил симптоми на посттрауматско стресно растројство, вклучувајќи несоница, кошмари, анксиозност и халуцинации. Тој започнал да има проблеми кога бил со неговиот син, бидејќи тоа му ги предизвикувало трауматските спомени. Во февруари 2015 година тој отишол на боледување.

Приказната е дел од тужбата поднесена против „Microsoft“, минатата година, од Сото и неговиот колега Грег Блаурет. Тие двајца тврделе дека компанијата не ги подготвила за стресот со кој се соочувале на работното место, ниту пак за соодветното советување и другите мерки за ублажување на психолошката штета. „Microsoft“ пак, ја оспорува приказната на Сото, изјавуваќи дека „сериозно ја сфаќа својата одговорност за отстранување и пријавување на фотографии со сексуална експлоатација на деца споделени на нивните платформи, како и за здравјето на вработените кои ја извршуваат оваа важна работа“.

Тужбата нуди поглед кон помалку познато дигитално поле познато како содржина на умереност. Дури и за технологијата за која се чини дека постојат само податоци на серверот, потребен е досаден и потенцијално опасен човечки труд. Иако алгоритмите и вештачката интелигенција помага во насочување на процесот на умереност, повеќето технолошки компании вработуваат луѓе како Сото кои прават селекција на материјалот. Често, овие модератори се работници во земјите во развој, како Филипините или Индија, или ниско платени работници во Америка. Не постои бројка за тоа колку луѓе се вработени за да ја работат оваа работа, меѓутоа со сигурност изнесува повеќе од десет илјади. Нивниот број ќе се зголеми, со зголемувањето на животите кои се живеат онлајн.

Постојаната изложено на најлошото од човештвото на дневна основа е нешто што неизбежно си зема данок. Еден поранешен ваков модератор од „Facebook“ вели: „Замислете дека има канал на канализација - сета таа нечистотија/отпад во светот доаѓа кон вас, а вие треба да ја исчистите“. Поранешен модератор на „YouTube“ вели дека постојаната изложеност на брутални бомби и злоупотреба на животни на видеа испратени до него го довеле до депресија. Ретки се истражувањата кои го испитуваат влијанието на изложеноста на вознемирувачка средина кај овие модератори, меѓутоа постојат истражувања за полицајци кои истражуваат компјутерски криминал. Една четвртина од вработените кои истражуваат интернет злосторства против деца, покажале симптоми на средно трауматско растројство, предизвикано од индиректна изложеност на траума.

Технолошките компании не сакаат да ги откриваат деталите, па тешко е да се процени колку добро се грижат за психичкото здравје на модераторите. И социјалните медиуми не сакаат да откријат до која мера поставуваат граница на нашето изразување во дигиталното доба - помислете на цензурата и контроверзиите, вклучувајќи и многу избришани профили на социјалните мрежи.

Умереноста стана особено жешка тема во изминатава година, откако и „Facebook“ и „Twitter“ беа вклучени во контроверзии од високо ниво во однос на нивните практики на умереност, односно недостатокот на умереност. „Facebook“ доби критики од Барак Обама поради лажните вести, додека „Twitter“ беше критикуван поради порастот на говор на омраза и таргетираното малтретирање.

Технолошките компании сакаат да се гледаат себеси како неутрална платформа, ефикасно водена од кодови и логика. Но, корисниците сакаат овие компании да бидат флексибилни и да одговараат на нивните потреби. Тие сакаат нешто повеќе од услови за користење изречени од тимовите за политика или глупави одговори за пријавена злоупотреба кои подоцна исчезнуваат во бирократскиот лавиринт. Тие сакаат меѓучовечки односи со платформи кои играат важна улога во нивниот живот. Ова никогаш нема да биде возможно ако овие платформи се обидуваат да ги отчовечат работниците кои ги заштитуваат.