С какими материалами работают модераторы контента в TikTok?

ForbesБизнес

Зачем TikTok база изображений сексуализированного насилия над несовершеннолетними

Бывшие подрядчики TikTok заявляют, что справочным материалом для сторонних модераторов контента соцсети служит множество изображений с детьми, подвергшимися сексуализированному насилию, ― и все это находится в почти неограниченном корпоративном доступе

Александра С. Левин. Перевод Forbes USA. Перевод Антона Бундина

Фото Scott Eells / Bloomberg via Getty Images

Бывший сотрудник TikTok Нассер (фамилии этого и некоторых других собеседников не называются из соображений конфиденциальности) знал, что в процессе обучения на должность модератора контента TikTok ему придется иметь дело с неприятными материалами. Но когда ему и другим новичкам на обучении показали изображения сексуального характера без цензуры с участием детей, для него это стало настоящим шоком.

Нассер работал в сторонней компании Teleperformance, которая модерирует контент социальной сети. Нового сотрудника взяли на специальный проект, в рамках которого планировалось научить искусственный интеллект (ИИ) TikTok выявлять на платформе худшее из худшего. Спустя всего несколько дней после начала работы Нассеру и его коллегам показали натуралистические изображения и видео, где дети подвергаются действиям сексуального характера, ― все ролики и фотографии, удаленные из TikTok.

«У меня самого есть дочь, и мне кажется, что неправильно, когда это смотрит толпа незнакомых людей, ― рассказал Forbes Нассер (из Teleperformance он ушел в 2020 году). ― Думаю, что такое для обучения использовать нельзя».

Уитни Тернер, работавшая в Teleperformance по этой же программе TikTok в Эль-Пасо на протяжении чуть больше года и уволившаяся в 2021-м, тоже вспоминает, как на обучении ей показывали визуальные материалы с сексуализированным насилием над детьми. Сотруднице дали доступ к общей таблице. Сама Уитни и ее бывшие коллеги утверждают, что в файле полно материалов, нарушающих правила сообщества TikTok, в том числе сотни изображений с детьми, которых заставляют раздеваться или насилуют. Бывшие модераторы заявляют, что документ под названием DRR (англ. Daily Required Reading, «обязательная ежедневная вычитка») находился в широком доступе для сотрудников Teleperformance и TikTok еще этим летом. Несмотря на то что некоторым модераторам, задействованным по другим направлениям, просмотр этого документа был запрещен, многие источники рассказали Forbes о том, что свободный доступ к файлу имели сотни работников из обеих компаний. DRR и другие справочные материалы хранились в программе Lark, корпоративной системе китайского гиганта ByteDance, владельца социальной сети.

Уитни была настолько ошеломлена небрежным обращением с материалами, что сообщила об этом в ФБР и впоследствии, в июне, встречалась по этому поводу с агентом. В ФБР на вопросы о том, предвидится ли какое-то расследование, не ответили.

«Я модерировала контент и думала: это же чей-то сын, чья-то дочь. И их родители даже не знают, что у нас сохранены эти фотографии, эти видео, этот ужас, настоящее преступление, ― поделилась Уитни. ― Будь родители в курсе, я уверена, они бы сожгли TikTok дотла».

Президент глобального подразделения по доверию и безопасности Teleperformance Акаш Пугалия заявил Forbes, что ролики откровенного содержания с участием детей компания в целях обучения не применяет. Кроме того, он добавил, что фирма не хранит подобный контент в своих «инструментах калибровки», хотя, что это за инструменты и для чего используются, он не пояснил. Отвечать на другие вопросы из обширного списка о том, сколько людей имеют через DRR доступ к материалам с насилием в отношении детей и как Teleperformance охраняет визуальный данные, управленец тоже отказался.

TikTok ― далеко не единственная платформа, которая борется с материалами сексуального насилия над несовершеннолетними. Крупнейшие социальные сети мира давно прибегают к машинному обучению и помощи сторонних проверяющих, чтобы находить и удалять подобные записи до того, как они разлетятся по интернету. Многие фирмы сотрудничают с Национальным центром по поиску пропавших и подвергшихся насилию детей (National Center for Missing & Exploited Children), чтобы сообщать о подобных постах в своем приложении органам правопорядка.

Однако уникально то, как TikTok и его сторонние консультанты обращаются с таким контентом. Эксперты называют сложившийся подход в лучшем случае небрежным и халатным, а в худшем ― опасным и травмирующим снова и снова. Специалисты подчеркивают, что изображения сексуального характера с детьми при обучении модерации контента ― не важно, с цензурой или без, ― лишь унижает жертв каждый раз заново. Кроме того, хранение записей в документе с общим доступом безответственно и излишне.

Пресс-секретарь TikTok Джейми Фавацца заявила, что «материалы для обучения в компании имеют строгий контроль доступа и не включают в себя наглядные примеры материалов сексуального насилия над детьми», но признала, что бизнес работает со сторонними фирмами, у которых внутренние процессы могут отличаться. Отвечать на вопросы о том, сколько сотрудников имеют доступ к файлу DRR и где документ хранится, в TikTok отказались. Родительская компания ByteDance, разработчик платформы Lark, многочисленные запросы прокомментировать эту информацию оставила без внимания.

«Свободный и неограниченный оборот здесь не пройдет»

Изображения насилия над детьми и их эксплуатации противозаконны, и существуют строгие правила по обращению с такими данными в случае обнаружения. Материал подлежит незамедлительной блокировке, и о нем необходимо сообщать в систему CyberTipline Национального центра по поиску пропавших и подвергшихся насилию детей. Там персонал анализирует файлы и ищет их первоисточник, чтобы уведомить соответствующие правоохранительные органы. Как только компания сообщает о материале в профильный центр, ей официально разрешается хранить контент в течение 90 дней для помощи следствию. Но федеральный закон США четко требует от предприятий «минимизировать число сотрудников, которым дается доступ» к незаконному контенту, «хранить материалы в безопасном месте» и «обеспечивать полное уничтожение любого визуального изображения по запросу от органов правопорядка».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как брат с сестрой создали в Томске бизнес с незрячими массажистами Как брат с сестрой создали в Томске бизнес с незрячими массажистами

Что подтолкнуло брата с сестрой на открытие школы массажа с незрячими

Forbes
5 способов спасти себя от разрушительного стресса 5 способов спасти себя от разрушительного стресса

Комплекс мер по поддержанию нормальной работы мозга во время стресса

Psychologies
«Это настоящий бизнес»: как миллиардерша Мишель Канг меняет женский футбол «Это настоящий бизнес»: как миллиардерша Мишель Канг меняет женский футбол

Как Мишель Канг добивается равенства женского футбола с мужским?

Forbes
Кокетливый язык тела: какие жесты заводят мужчин и женщин Кокетливый язык тела: какие жесты заводят мужчин и женщин

Язык тела позволяет выразить наши чувства и желания

Psychologies
«Дневник невидимки»: история необычной старшеклассницы с обычными проблемами «Дневник невидимки»: история необычной старшеклассницы с обычными проблемами

Отрывок из «Дневника невидимки» — романа о том, как оставаться собой

Forbes
«Жене стал неинтересен секс»: как преодолеть разлад в браке и сексе — и выстроить доверительные отношения? «Жене стал неинтересен секс»: как преодолеть разлад в браке и сексе — и выстроить доверительные отношения?

Почему женщины не хотят секса в браке и как об этом говорить?

Правила жизни
Сойти с пути: как топ-менеджеру успешно перейти из кризисной отрасли в растущую Сойти с пути: как топ-менеджеру успешно перейти из кризисной отрасли в растущую

Кому доступен кросс-индустриальный переход и как его упростить

Forbes
Что вы знаете о Лермонтове? 7 неожиданных фактов из жизни русского поэта Что вы знаете о Лермонтове? 7 неожиданных фактов из жизни русского поэта

7 неочевидных фактов о самом романтичном поэте своего времени

ТехИнсайдер
Как отпустить человека, которого любишь: 4 шага Как отпустить человека, которого любишь: 4 шага

Как отпустить любовь и сохранить себя

Psychologies
Как не нужно делать: оказалось, что опытные Как не нужно делать: оказалось, что опытные

Опыт — не главный критерий, когда речь заходит об общении кошки и человека

ТехИнсайдер

Иногда мир становится словно картонным...

VOICE
5 математических трюков, которые помогут решить любую задачу за секунды 5 математических трюков, которые помогут решить любую задачу за секунды

Простые трюки могут облегчить решение любых повседневных математических задач

ТехИнсайдер
Как выбрать TWS-наушники: 6 важных критериев Как выбрать TWS-наушники: 6 важных критериев

К выбору TWS-наушников стоит подойти максимально серьезно

CHIP
Какие привычные продукты богаты железом: рацион для укрепления иммунитета Какие привычные продукты богаты железом: рацион для укрепления иммунитета

Простые продукты, в которых много железа

ТехИнсайдер
Формула успеха Формула успеха

Эти 10 привычек улучшат твое финансовое положение

Лиза
Красота по-османски: 5 бьюти-правил турчанок, которые стоит взять на заметку Красота по-османски: 5 бьюти-правил турчанок, которые стоит взять на заметку

Мы раскрыли тайну османских красавиц — бери их ключевые бьюти-правила на заметку

VOICE
Конец двусмысленности Конец двусмысленности

Краткая история культурных реформ — от открытия до закрытия «Гоголь-центра»

Weekend
Почему даже домашние кошки охотятся на диких животных и играют с полумертвой добычей? Почему даже домашние кошки охотятся на диких животных и играют с полумертвой добычей?

Почему домашние кошки, оказавшись за порогом, превращаются в свирепого хищника?

ТехИнсайдер
«Разовая выплата 12 окладов»: как IT-компании нанимают персонал после «спецоперации» «Разовая выплата 12 окладов»: как IT-компании нанимают персонал после «спецоперации»

Количество вакансий в IT-компаниях России в июле 2022 года снизилось на 9%

Forbes
Из-за глобального потепления живородящие ящерицы начали стареть до рождения Из-за глобального потепления живородящие ящерицы начали стареть до рождения

Тепловой стресс укорачивает длину теломер у матерей и их потомства

N+1
Все как в космосе: ученые воспроизведут столкновение нейтронных звезд в ускорителе Все как в космосе: ученые воспроизведут столкновение нейтронных звезд в ускорителе

Эксперимент на установке BM@N для изучения столкновения нейтронных звезд

ТехИнсайдер
Биологи построили теорию происхождения сложных клеток, из которых построены высшие организмы, в том числе человек Биологи построили теорию происхождения сложных клеток, из которых построены высшие организмы, в том числе человек

Как возникают сложные клетки — эукариоты?

ТехИнсайдер
6 главных финансовых ошибок, которые люди совершают с 30 до 40 лет 6 главных финансовых ошибок, которые люди совершают с 30 до 40 лет

О деньгах нужно заботиться в любом возрасте, но с 30 до 40 — особенно

Maxim
Сизые горожане Сизые горожане

Почему голуби стали жить рядом с человеком?

Вокруг света
Химики научились получать карбеноиды из альдегидов Химики научились получать карбеноиды из альдегидов

Химики разработали метод превращения альдегидов в нестабилизированные карбеноиды

N+1
Как ухаживать за кожаной обувью: следуйте этим правилам, и ботинки прослужат вам дольше Как ухаживать за кожаной обувью: следуйте этим правилам, и ботинки прослужат вам дольше

Как правильно ухаживать за ботинками из кожи, чтобы сохранить их состояние

ТехИнсайдер
Как правильно вести себя с ребенком с тяжелым заболеванием Как правильно вести себя с ребенком с тяжелым заболеванием

Есть ли разница в отношении к больному и здоровому ребенку?

Psychologies
Сделать код понятным: как Барбара Лисков повлияла на современное программирование Сделать код понятным: как Барбара Лисков повлияла на современное программирование

Барбара Лисков — пионерка развития современных языков программирования

Forbes
Чем страдал Ван Гог, от чего, скорее всего, умер и как это сказалось на его картинах Чем страдал Ван Гог, от чего, скорее всего, умер и как это сказалось на его картинах

Какая история стояла за картиной «Прогулка заключенных» Ван Гога?

Правила жизни
Стрит-арт, яхтинг, сиг: что смотреть и пробовать в Нижнем Новгороде Стрит-арт, яхтинг, сиг: что смотреть и пробовать в Нижнем Новгороде

Нижний Новгород — один из центров отечественного гастротуризма

РБК
Открыть в приложении