С какими материалами работают модераторы контента в TikTok?

ForbesБизнес

Зачем TikTok база изображений сексуализированного насилия над несовершеннолетними

Бывшие подрядчики TikTok заявляют, что справочным материалом для сторонних модераторов контента соцсети служит множество изображений с детьми, подвергшимися сексуализированному насилию, ― и все это находится в почти неограниченном корпоративном доступе

Александра С. Левин. Перевод Forbes USA. Перевод Антона Бундина

Фото Scott Eells / Bloomberg via Getty Images

Бывший сотрудник TikTok Нассер (фамилии этого и некоторых других собеседников не называются из соображений конфиденциальности) знал, что в процессе обучения на должность модератора контента TikTok ему придется иметь дело с неприятными материалами. Но когда ему и другим новичкам на обучении показали изображения сексуального характера без цензуры с участием детей, для него это стало настоящим шоком.

Нассер работал в сторонней компании Teleperformance, которая модерирует контент социальной сети. Нового сотрудника взяли на специальный проект, в рамках которого планировалось научить искусственный интеллект (ИИ) TikTok выявлять на платформе худшее из худшего. Спустя всего несколько дней после начала работы Нассеру и его коллегам показали натуралистические изображения и видео, где дети подвергаются действиям сексуального характера, ― все ролики и фотографии, удаленные из TikTok.

«У меня самого есть дочь, и мне кажется, что неправильно, когда это смотрит толпа незнакомых людей, ― рассказал Forbes Нассер (из Teleperformance он ушел в 2020 году). ― Думаю, что такое для обучения использовать нельзя».

Уитни Тернер, работавшая в Teleperformance по этой же программе TikTok в Эль-Пасо на протяжении чуть больше года и уволившаяся в 2021-м, тоже вспоминает, как на обучении ей показывали визуальные материалы с сексуализированным насилием над детьми. Сотруднице дали доступ к общей таблице. Сама Уитни и ее бывшие коллеги утверждают, что в файле полно материалов, нарушающих правила сообщества TikTok, в том числе сотни изображений с детьми, которых заставляют раздеваться или насилуют. Бывшие модераторы заявляют, что документ под названием DRR (англ. Daily Required Reading, «обязательная ежедневная вычитка») находился в широком доступе для сотрудников Teleperformance и TikTok еще этим летом. Несмотря на то что некоторым модераторам, задействованным по другим направлениям, просмотр этого документа был запрещен, многие источники рассказали Forbes о том, что свободный доступ к файлу имели сотни работников из обеих компаний. DRR и другие справочные материалы хранились в программе Lark, корпоративной системе китайского гиганта ByteDance, владельца социальной сети.

Уитни была настолько ошеломлена небрежным обращением с материалами, что сообщила об этом в ФБР и впоследствии, в июне, встречалась по этому поводу с агентом. В ФБР на вопросы о том, предвидится ли какое-то расследование, не ответили.

«Я модерировала контент и думала: это же чей-то сын, чья-то дочь. И их родители даже не знают, что у нас сохранены эти фотографии, эти видео, этот ужас, настоящее преступление, ― поделилась Уитни. ― Будь родители в курсе, я уверена, они бы сожгли TikTok дотла».

Президент глобального подразделения по доверию и безопасности Teleperformance Акаш Пугалия заявил Forbes, что ролики откровенного содержания с участием детей компания в целях обучения не применяет. Кроме того, он добавил, что фирма не хранит подобный контент в своих «инструментах калибровки», хотя, что это за инструменты и для чего используются, он не пояснил. Отвечать на другие вопросы из обширного списка о том, сколько людей имеют через DRR доступ к материалам с насилием в отношении детей и как Teleperformance охраняет визуальный данные, управленец тоже отказался.

TikTok ― далеко не единственная платформа, которая борется с материалами сексуального насилия над несовершеннолетними. Крупнейшие социальные сети мира давно прибегают к машинному обучению и помощи сторонних проверяющих, чтобы находить и удалять подобные записи до того, как они разлетятся по интернету. Многие фирмы сотрудничают с Национальным центром по поиску пропавших и подвергшихся насилию детей (National Center for Missing & Exploited Children), чтобы сообщать о подобных постах в своем приложении органам правопорядка.

Однако уникально то, как TikTok и его сторонние консультанты обращаются с таким контентом. Эксперты называют сложившийся подход в лучшем случае небрежным и халатным, а в худшем ― опасным и травмирующим снова и снова. Специалисты подчеркивают, что изображения сексуального характера с детьми при обучении модерации контента ― не важно, с цензурой или без, ― лишь унижает жертв каждый раз заново. Кроме того, хранение записей в документе с общим доступом безответственно и излишне.

Пресс-секретарь TikTok Джейми Фавацца заявила, что «материалы для обучения в компании имеют строгий контроль доступа и не включают в себя наглядные примеры материалов сексуального насилия над детьми», но признала, что бизнес работает со сторонними фирмами, у которых внутренние процессы могут отличаться. Отвечать на вопросы о том, сколько сотрудников имеют доступ к файлу DRR и где документ хранится, в TikTok отказались. Родительская компания ByteDance, разработчик платформы Lark, многочисленные запросы прокомментировать эту информацию оставила без внимания.

«Свободный и неограниченный оборот здесь не пройдет»

Изображения насилия над детьми и их эксплуатации противозаконны, и существуют строгие правила по обращению с такими данными в случае обнаружения. Материал подлежит незамедлительной блокировке, и о нем необходимо сообщать в систему CyberTipline Национального центра по поиску пропавших и подвергшихся насилию детей. Там персонал анализирует файлы и ищет их первоисточник, чтобы уведомить соответствующие правоохранительные органы. Как только компания сообщает о материале в профильный центр, ей официально разрешается хранить контент в течение 90 дней для помощи следствию. Но федеральный закон США четко требует от предприятий «минимизировать число сотрудников, которым дается доступ» к незаконному контенту, «хранить материалы в безопасном месте» и «обеспечивать полное уничтожение любого визуального изображения по запросу от органов правопорядка».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

$117 000 из бассейна: сколько принесло россиянам возвращение на ЧМ по плаванию $117 000 из бассейна: сколько принесло россиянам возвращение на ЧМ по плаванию

Сколько заработали россияне, и кто из пловцов стал самым богатым в сезоне

Forbes
Еда от дьявола: какие продукты было запрещено употреблять в пищу на Руси Еда от дьявола: какие продукты было запрещено употреблять в пищу на Руси

Почему некоторые привычные нам продукты запрещались на Руси волею правителей

ТехИнсайдер
«Сколько ты зарабатываешь?»: стоит ли говорить родственникам о своих доходах и расходах «Сколько ты зарабатываешь?»: стоит ли говорить родственникам о своих доходах и расходах

Важно ли скрывать, сколько вы зарабатываете от родственников?

Psychologies
Освободить тело Освободить тело

Избавиться от зажимов помогут танцевальные практики

Psychologies
Используй ложку и телефон: 20 способов доставить себе удовольствие Используй ложку и телефон: 20 способов доставить себе удовольствие

Двадцать разных способов мастурбации на любой вкус и цвет

Cosmopolitan
Воскрешение в воскресенье: как настроиться на тяжёлую неделю Воскрешение в воскресенье: как настроиться на тяжёлую неделю

Как с помощью воскресенья сделать подарок себе будущему

VC.RU
Сделать код понятным: как Барбара Лисков повлияла на современное программирование Сделать код понятным: как Барбара Лисков повлияла на современное программирование

Барбара Лисков — пионерка развития современных языков программирования

Forbes
Темная и светлая триады личности: как наука объясняет доброе и злое начала в человеке Темная и светлая триады личности: как наука объясняет доброе и злое начала в человеке

Почему одних людей мы называем «добрыми», а других скорее считаем «злыми»?

Forbes
Авангард Леонтьев. Счастливчик Авангард Леонтьев. Счастливчик

«Только сейчас начал понимать, как мне везло в жизни»

Коллекция. Караван историй
История одной песни: «Gangnam Style», PSY, 2012 История одной песни: «Gangnam Style», PSY, 2012

Летом 2012 года YouTube пережил первое в своей истории музыкальное потрясение

Maxim
5 увлекательных аудиокниг для длинных путешествий 5 увлекательных аудиокниг для длинных путешествий

Хорошая аудиокнига — лучший спутник в путешествии

СНОБ
Новые открытия в Помпеях рассказывают подробности жизни римского среднего класса Новые открытия в Помпеях рассказывают подробности жизни римского среднего класса

Каким был римский средний класс?

ТехИнсайдер
Вы расстались, а он нашел другую? Признание мужчины комментирует психолог Вы расстались, а он нашел другую? Признание мужчины комментирует психолог

После разрыва ваш бывший быстро нашел утешение в новом романе? Почему?

Psychologies
6 мифов о космосе, в которые вы до сих пор верите 6 мифов о космосе, в которые вы до сих пор верите

По количеству существующих мифов космос может соперничать разве что с медициной

ТехИнсайдер
По законам геометрии По законам геометрии

Оригинальная кровля делает неповторимым внешний облик этого частного владения

SALON-Interior
Кризис разного возраста: как выстоять и двигаться дальше Кризис разного возраста: как выстоять и двигаться дальше

Действенные способы, которые помогут не потерять веру в себя

Psychologies
«Самое опасное звено — сам человек»: как воруют криптовалюту и можно ли ее вернуть «Самое опасное звено — сам человек»: как воруют криптовалюту и можно ли ее вернуть

Как у криптовалютных инвесторов пропадают цифровые активы

Forbes
Какими бывают токсичные отцы Какими бывают токсичные отцы

Основные особенности характера токсичных отцов

Psychologies
Сахелантропу вновь разрешили ходить на двух ногах Сахелантропу вновь разрешили ходить на двух ногах

Ученые исследовали находки, сделанные больше 20 лет назад в Чаде

N+1
Золото Колчака: недостающее звено Золото Колчака: недостающее звено

Судьба золота Колчака оставалась до недавнего времени одной из загадок истории

Дилетант
Ученые: некоторые виды стресса могут улучшить работу мозга и снизить риск психических заболеваний Ученые: некоторые виды стресса могут улучшить работу мозга и снизить риск психических заболеваний

Стресс может быть полезен для мозга и вашего будущего

Inc.
Окно в Париж Окно в Париж

Художник-импрессионист Камиль Писсарро и его парижские пейзажи

Вокруг света
Метаповерхности излучили запутанные фотоны с переменной длиной волны Метаповерхности излучили запутанные фотоны с переменной длиной волны

Тонкие метаповерхности, состоящие из массивов кремниевых нанорезонаторов

N+1
Какие растения любят подкормку из яичной скорлупы: дешевое удобрение, о котором должен знать каждый дачник Какие растения любят подкормку из яичной скорлупы: дешевое удобрение, о котором должен знать каждый дачник

Многие собирают скорлупу для подкормки сада и комнатных растений

ТехИнсайдер
Как помочь своей психике после выматывающего рабочего дня: 5 эффективных способов Как помочь своей психике после выматывающего рабочего дня: 5 эффективных способов

Как быстро и эффективно восстановить психическое равновесие в конце дня

Psychologies
Мифы и суеверия: почему информатика теперь — это необходимая наука об окружающем мире Мифы и суеверия: почему информатика теперь — это необходимая наука об окружающем мире

Почему в современном мире необходимо пересмотреть отношение к информатике

Forbes
Как правильно искать (и находить!) грибы Как правильно искать (и находить!) грибы

Вернуться с «тихой охоты» пустым обидно и унизительно

Maxim
«Обидчивый маньяк»: история Николая Дудина, который убивал всех, кто ему грубил «Обидчивый маньяк»: история Николая Дудина, который убивал всех, кто ему грубил

Николай Дудин поставил печальный рекорд по количеству жертв

VOICE
Как жара влияет на организм Как жара влияет на организм

Врач объяснил, что происходит с нашим телом под воздействием высокой температуры

Psychologies
Как часто сбываются наши опасения? Как часто сбываются наши опасения?

Что если большинство наших предчувствий — лишь сигналы ложной тревоги?

Psychologies
Открыть в приложении