С какими материалами работают модераторы контента в TikTok?

ForbesБизнес

Зачем TikTok база изображений сексуализированного насилия над несовершеннолетними

Бывшие подрядчики TikTok заявляют, что справочным материалом для сторонних модераторов контента соцсети служит множество изображений с детьми, подвергшимися сексуализированному насилию, ― и все это находится в почти неограниченном корпоративном доступе

Александра С. Левин. Перевод Forbes USA. Перевод Антона Бундина

Фото Scott Eells / Bloomberg via Getty Images

Бывший сотрудник TikTok Нассер (фамилии этого и некоторых других собеседников не называются из соображений конфиденциальности) знал, что в процессе обучения на должность модератора контента TikTok ему придется иметь дело с неприятными материалами. Но когда ему и другим новичкам на обучении показали изображения сексуального характера без цензуры с участием детей, для него это стало настоящим шоком.

Нассер работал в сторонней компании Teleperformance, которая модерирует контент социальной сети. Нового сотрудника взяли на специальный проект, в рамках которого планировалось научить искусственный интеллект (ИИ) TikTok выявлять на платформе худшее из худшего. Спустя всего несколько дней после начала работы Нассеру и его коллегам показали натуралистические изображения и видео, где дети подвергаются действиям сексуального характера, ― все ролики и фотографии, удаленные из TikTok.

«У меня самого есть дочь, и мне кажется, что неправильно, когда это смотрит толпа незнакомых людей, ― рассказал Forbes Нассер (из Teleperformance он ушел в 2020 году). ― Думаю, что такое для обучения использовать нельзя».

Уитни Тернер, работавшая в Teleperformance по этой же программе TikTok в Эль-Пасо на протяжении чуть больше года и уволившаяся в 2021-м, тоже вспоминает, как на обучении ей показывали визуальные материалы с сексуализированным насилием над детьми. Сотруднице дали доступ к общей таблице. Сама Уитни и ее бывшие коллеги утверждают, что в файле полно материалов, нарушающих правила сообщества TikTok, в том числе сотни изображений с детьми, которых заставляют раздеваться или насилуют. Бывшие модераторы заявляют, что документ под названием DRR (англ. Daily Required Reading, «обязательная ежедневная вычитка») находился в широком доступе для сотрудников Teleperformance и TikTok еще этим летом. Несмотря на то что некоторым модераторам, задействованным по другим направлениям, просмотр этого документа был запрещен, многие источники рассказали Forbes о том, что свободный доступ к файлу имели сотни работников из обеих компаний. DRR и другие справочные материалы хранились в программе Lark, корпоративной системе китайского гиганта ByteDance, владельца социальной сети.

Уитни была настолько ошеломлена небрежным обращением с материалами, что сообщила об этом в ФБР и впоследствии, в июне, встречалась по этому поводу с агентом. В ФБР на вопросы о том, предвидится ли какое-то расследование, не ответили.

«Я модерировала контент и думала: это же чей-то сын, чья-то дочь. И их родители даже не знают, что у нас сохранены эти фотографии, эти видео, этот ужас, настоящее преступление, ― поделилась Уитни. ― Будь родители в курсе, я уверена, они бы сожгли TikTok дотла».

Президент глобального подразделения по доверию и безопасности Teleperformance Акаш Пугалия заявил Forbes, что ролики откровенного содержания с участием детей компания в целях обучения не применяет. Кроме того, он добавил, что фирма не хранит подобный контент в своих «инструментах калибровки», хотя, что это за инструменты и для чего используются, он не пояснил. Отвечать на другие вопросы из обширного списка о том, сколько людей имеют через DRR доступ к материалам с насилием в отношении детей и как Teleperformance охраняет визуальный данные, управленец тоже отказался.

TikTok ― далеко не единственная платформа, которая борется с материалами сексуального насилия над несовершеннолетними. Крупнейшие социальные сети мира давно прибегают к машинному обучению и помощи сторонних проверяющих, чтобы находить и удалять подобные записи до того, как они разлетятся по интернету. Многие фирмы сотрудничают с Национальным центром по поиску пропавших и подвергшихся насилию детей (National Center for Missing & Exploited Children), чтобы сообщать о подобных постах в своем приложении органам правопорядка.

Однако уникально то, как TikTok и его сторонние консультанты обращаются с таким контентом. Эксперты называют сложившийся подход в лучшем случае небрежным и халатным, а в худшем ― опасным и травмирующим снова и снова. Специалисты подчеркивают, что изображения сексуального характера с детьми при обучении модерации контента ― не важно, с цензурой или без, ― лишь унижает жертв каждый раз заново. Кроме того, хранение записей в документе с общим доступом безответственно и излишне.

Пресс-секретарь TikTok Джейми Фавацца заявила, что «материалы для обучения в компании имеют строгий контроль доступа и не включают в себя наглядные примеры материалов сексуального насилия над детьми», но признала, что бизнес работает со сторонними фирмами, у которых внутренние процессы могут отличаться. Отвечать на вопросы о том, сколько сотрудников имеют доступ к файлу DRR и где документ хранится, в TikTok отказались. Родительская компания ByteDance, разработчик платформы Lark, многочисленные запросы прокомментировать эту информацию оставила без внимания.

«Свободный и неограниченный оборот здесь не пройдет»

Изображения насилия над детьми и их эксплуатации противозаконны, и существуют строгие правила по обращению с такими данными в случае обнаружения. Материал подлежит незамедлительной блокировке, и о нем необходимо сообщать в систему CyberTipline Национального центра по поиску пропавших и подвергшихся насилию детей. Там персонал анализирует файлы и ищет их первоисточник, чтобы уведомить соответствующие правоохранительные органы. Как только компания сообщает о материале в профильный центр, ей официально разрешается хранить контент в течение 90 дней для помощи следствию. Но федеральный закон США четко требует от предприятий «минимизировать число сотрудников, которым дается доступ» к незаконному контенту, «хранить материалы в безопасном месте» и «обеспечивать полное уничтожение любого визуального изображения по запросу от органов правопорядка».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Почему фильм «Крейвен-охотник» о супергерое с русскими корнями провалился в прокате Почему фильм «Крейвен-охотник» о супергерое с русскими корнями провалился в прокате

Почему экранизация комикса с саундтреком-колыбельной провалился в прокате

Forbes
7 причин влюбиться в интроверта 7 причин влюбиться в интроверта

Почему вам стоит построить отношения с интровертом

Psychologies
Далекий гром: как распознать признаки грядущего разрыва с китайским партнером Далекий гром: как распознать признаки грядущего разрыва с китайским партнером

Как не потерять китайского партнера?

Forbes
У меня FOBO: как «страх лучшего варианта» парализует человека при принятии решений У меня FOBO: как «страх лучшего варианта» парализует человека при принятии решений

Что на самом деле кроется за этой аббревиатурой FOBO?

Forbes
Что такое субъективная бессонница и как ее лечить Что такое субъективная бессонница и как ее лечить

Не спите всю ночь? А может быть, это только ощущение?

РБК
8 самых опасных для жизни мест на Земле 8 самых опасных для жизни мест на Земле

Самые экстремальных места на планете, которые требуют стойкости для выживания

ТехИнсайдер
Завещать лайки и разделить подписчиков: как можно распорядиться аккаунтом в соцсетях Завещать лайки и разделить подписчиков: как можно распорядиться аккаунтом в соцсетях

Можно ли продать популярный аккаунт за долги обанкротившегося владельца?

Forbes
Григорий Распутин. Грешный старец у трона Российской империи Григорий Распутин. Грешный старец у трона Российской империи

Почему "грязный деревенский мужик" получил такую неограниченную власть

Караван историй
Язык кошек и мозг таксистов: за что женщины получали Шнобелевскую премию Язык кошек и мозг таксистов: за что женщины получали Шнобелевскую премию

Женщины-ученые, которые внесли свой вклад в науку, не забывая о чувстве юмора

Forbes
Как правильно искать (и находить!) грибы Как правильно искать (и находить!) грибы

Вернуться с «тихой охоты» пустым обидно и унизительно

Maxim
Люди сжульничали независимо от предыдущей победы или поражения Люди сжульничали независимо от предыдущей победы или поражения

От чего зависит жульничество в азартных играх?

N+1
Автомобили Михаила Горбачева. На чем ездил президент СССР Автомобили Михаила Горбачева. На чем ездил президент СССР

Автопарк президента СССР: от «Запорожца» до бронированного лимузина и Mercedes

РБК
Ищу проверенного косметолога Ищу проверенного косметолога

7 «красных флажков» при знакомстве с косметологом

Лиза
Как часто нужно стирать подушки: совет, который мы привыкли игнорировать Как часто нужно стирать подушки: совет, который мы привыкли игнорировать

Как правильно поддерживать гигиену подушек?

ТехИнсайдер
Цвет личности: что расскажет о вас выпускное платье Цвет личности: что расскажет о вас выпускное платье

Как цвет платья на выпускном отражает ваше психологическое состояние?

Psychologies
Слизь так важна для жизни, что разные виды самостоятельно получали ее в ходе эволюции снова и снова Слизь так важна для жизни, что разные виды самостоятельно получали ее в ходе эволюции снова и снова

Слизь появлялась на мировом эволюционном древе ни один и не два раза

ТехИнсайдер
Казанский аллигатор: история Алексея Суклетина, который ел школьниц и кормил их мясом соседей Казанский аллигатор: история Алексея Суклетина, который ел школьниц и кормил их мясом соседей

Впервые Алексей убил в шесть лет — он задушил котенка

VOICE
Готовится ли Тайвань к войне? Готовится ли Тайвань к войне?

Китаевед Андрей Дагаев — о том, как устроено тайваньское общество

Эксперт
«Автостопом по мозгу. Когда вся вселенная у тебя в голове». Все об устройстве и работе мозга «Автостопом по мозгу. Когда вся вселенная у тебя в голове». Все об устройстве и работе мозга

Пора заглянуть внутрь: что же происходит в мозге, когда мы ничем не заняты?

N+1
Как делают футбольные мячи: простая вещь со сложной разработкой Как делают футбольные мячи: простая вещь со сложной разработкой

Создание профессионального футбольного мяча — это целая наука

ТехИнсайдер
Земля, вода, огонь и воздух: шесть книг о природных стихиях Земля, вода, огонь и воздух: шесть книг о природных стихиях

Книги, которые покажут как менялась Земля под нашим воздействием

ТехИнсайдер
Какие тайны выдают дома Анастасии Волочковой, Николая Баскова и Яны Рудковской о своих владельцах — рассказывает эксперт Какие тайны выдают дома Анастасии Волочковой, Николая Баскова и Яны Рудковской о своих владельцах — рассказывает эксперт

О чем говорит дизайн домов знаменитостей

Maxim
Ты слишком громко дышишь Ты слишком громко дышишь

Что на самом деле вызывает нервозность и раздражительность

Лиза
5 нон-фикшн книг, которые стоит взять с собой в отпуск 5 нон-фикшн книг, которые стоит взять с собой в отпуск

Книга — лучший попутчик в отпуске!

Maxim
Кто сильнее – карбон или титан? Команда гиков сравнила реакцию обоих материалов на сжатие Кто сильнее – карбон или титан? Команда гиков сравнила реакцию обоих материалов на сжатие

Парни решили проверить, насколько суперматериалы действительно «супер»

ТехИнсайдер
Как выбрать весы для кухни: простая инструкция Как выбрать весы для кухни: простая инструкция

Какие детали надо учесть, чтобы выбрать лучшие весы для кухни?

CHIP
Палеогенетики прочитали геном «воина с грифоном» из дворца Нестора Палеогенетики прочитали геном «воина с грифоном» из дворца Нестора

Палеогенетики исследовали происхождение древних популяций

N+1
10 вещей, которые нельзя делать с кошкой 10 вещей, которые нельзя делать с кошкой

10 вещей, которые могут навредить вашей кошке

Maxim
Кофейный пояс, пыльный котел, банановая республика: расшифровываем 7 географических метафор Кофейный пояс, пыльный котел, банановая республика: расшифровываем 7 географических метафор

Что скрывается за звучными названиями мест, маршрутов и событий

Вокруг света
Сойти за своего: как адаптироваться к жизни в другой стране Сойти за своего: как адаптироваться к жизни в другой стране

Как интегрироваться в новое общество и преодолеть культурные барьеры?

Psychologies
Открыть в приложении