"Я была модератором Facebook и захотела к психологу" (18+)
Эта статья содержит описания сексуального насилия над детьми и других действий, которые могут шокировать читателей.
Сара Кац, некогда модерировавшая материалы в сети "Фейсбук", рассказала, что после восьми месяцев работы ей захотелось обратиться за психологической помощью. Об этом пишет BBC.
"Это была преимущественно порнография", - рассказывает Сара, вспоминая о своем труде.
В позапрошлом году девушка была в числе сотен модераторов, которые работали на агентство в Калифорнии, которому компания Facebook отдала на аутсорсинг услуги по модерации.
"Работодатель очень четко предупреждал нас о контенте, с которым мы можем столкнуться, поэтому нельзя сказать, что нас не проинформировали", - делится впечатлениями Кац.
Ее работа заключалась в проверке жалоб от пользователей "Фейсбука" на неприемлемый контент.
О своем опыте Сара рассказала в эфире BBC Live 5 с Эммой Барнетт. Ниже приведены избранные моменты из ее интервью.
***
Изображения вне закона
"Нам давали примерно одну минуту на один пост, чтобы решить, спам ли это и следует ли его удалять. Иногда мы также могли удалить профиль, отправивший сообщение.
Руководство не требовало от нас работать больше восьми часов в день. За это время мы обрабатывали по 8 тыс. постов - это примерно тысяча публикаций в час.
Вы очень многому учитесь на работе, особенно в первый день. Если бы мне пришлось описать эту работу одним словом, то это было бы "напряженно". Вы должны быть готовы увидеть что-то шокирующее после одного клика мыши, без предупреждения.
Часть контента, с которым мне приходилось сталкиваться, составляла откровенная детская порнография. На одном из изображений было двое детей - мальчик примерно 12 лет и девочка около восьми лет от роду. Они стояли лицом к лицу, на них не было штанов, и они трогали друг друга.
Казалось, будто кто-то взрослый с камерой указывает им, что делать. Это выглядело очень пугающе, потому что происходило в реальности".
Посты повторяются снова и снова
"Многие из таких откровенных публикаций распространяются моментально. Мы наблюдали, как они появляются у примерно шести разных пользователей в день, и это очень осложняет поиск первоисточника.
В то время нам было не с кем поговорить об этом, получить психологическую помощь. Возможно, сейчас такая возможность есть, но я не уверена".
Сара говорит, что если бы ей предложили услуги психолога, то она скорее всего ими бы воспользовалась.
"Конечно, они нас предупреждали, но предупреждения и то, что ты реально видишь, - совершенно разные вещи.
Некоторые люди думают, что они могут справиться с этим, но на практике оказывается, что нет или что это хуже, чем они ожидали".
Безжалостное насилие
"Со временем вы теряете чувствительность. Я бы не сказала, что становится проще, но вы, безусловно, привыкаете.
Попадалось много порнографии со взрослыми людьми, добровольно вступающими в половой акт, и это не вызывало большой тревоги. Иногда встречалась и зоофилия. Был один пост с конем, который все не удавалось удалить окончательно, поскольку его продолжали распространять.
Также встречалась масса изображений насилия. Например, фото убитой женщины. Ей стреляли в голову, и часть ее тела свешивалась со стула.
Правила модерации были более жесткие по отношению к порнографии, чем к изображениям насилия".
Фейковые новости
"Я думаю, фейковые новости застали "Фейсбук" врасплох. Накануне американских выборов им не уделялось особо много внимания, по крайней мере когда я там работала.
Не могу вспомнить, чтобы мы когда-нибудь слышали на работе термин "фейковые новости".
"Мы видели много новостей, которые распространяли пользователи, но руководство никогда не просило нас просматривать новостные статьи, чтобы убедиться в точности всех фактов из тех публикаций.
Это была очень монотонная работа. Можно быстро привыкнуть различать, что спам, а что нет. Просто работа превращается в массу кликов.
Порекомендовала бы я свою тогдашнюю работу кому-нибудь? Если вам есть чем заняться, я бы сказала "нет".
Ответ от Facebook
Би-би-си поделилась рассказом Сары с самой компанией.
В ответ представитель Facebook заявил: "Наши модераторы играют важную роль в том, чтобы сделать соцсеть безопасной и открытой. Это очень сложная работа, и мы хотим быть уверены, что они чувствуют нашу поддержку".
"Это одна из причин, почему мы устраиваем регулярные тренинги, консультации и оказываем психологическую помощь всем нашим работникам и всем, кто работает на нас через наших партнеров", - говорилось в ответе.
"Хотя мы используем искусственный интеллект там, где можем, у нас также модерируют контент в соцсети более семи тысяч человек, и их благополучие действительно является нашим приоритетом", - добавили в пресс-службе компании.
А как "ВКонтакте" справляется?
В самой популярной в России сети "ВКонтакте" нередко встречаются изображения порнографии и насилия.
Подобно своему заокеанскому конкуренту, соцсеть сталкивается с массовым копированием и перепостом изображений, что делает модерацию и удаление запретного контента крайне непростым делом.
Как замечают в пресс-службе VK.com, в российском интернет-гиганте также используют гибридный метод модерации.
"Первый этап - входящие жалобы пользователей. Время реакции команды модерации "ВКонтакте" не превышает одного часа, а обычно составляет несколько минут", - сообщила пресс-служба VK.com в ответ на запрос Би-би-си.
"Второй этап - внутренняя проактивная модерация. Модераторы запускают машинный поиск запрещенного правилами контента на всем сайте, который блокируется и делает невозможным загрузку копий в будущем", - описывают во "ВКонтакте" процесс модерирования.
Что до психологической помощи сотрудникам, то она, согласно пресс-службе VK.com, предоставляется в соцпакете.