С какими материалами работают модераторы контента в TikTok?

ForbesБизнес

Зачем TikTok база изображений сексуализированного насилия над несовершеннолетними

Бывшие подрядчики TikTok заявляют, что справочным материалом для сторонних модераторов контента соцсети служит множество изображений с детьми, подвергшимися сексуализированному насилию, ― и все это находится в почти неограниченном корпоративном доступе

Александра С. Левин. Перевод Forbes USA. Перевод Антона Бундина

Фото Scott Eells / Bloomberg via Getty Images

Бывший сотрудник TikTok Нассер (фамилии этого и некоторых других собеседников не называются из соображений конфиденциальности) знал, что в процессе обучения на должность модератора контента TikTok ему придется иметь дело с неприятными материалами. Но когда ему и другим новичкам на обучении показали изображения сексуального характера без цензуры с участием детей, для него это стало настоящим шоком.

Нассер работал в сторонней компании Teleperformance, которая модерирует контент социальной сети. Нового сотрудника взяли на специальный проект, в рамках которого планировалось научить искусственный интеллект (ИИ) TikTok выявлять на платформе худшее из худшего. Спустя всего несколько дней после начала работы Нассеру и его коллегам показали натуралистические изображения и видео, где дети подвергаются действиям сексуального характера, ― все ролики и фотографии, удаленные из TikTok.

«У меня самого есть дочь, и мне кажется, что неправильно, когда это смотрит толпа незнакомых людей, ― рассказал Forbes Нассер (из Teleperformance он ушел в 2020 году). ― Думаю, что такое для обучения использовать нельзя».

Уитни Тернер, работавшая в Teleperformance по этой же программе TikTok в Эль-Пасо на протяжении чуть больше года и уволившаяся в 2021-м, тоже вспоминает, как на обучении ей показывали визуальные материалы с сексуализированным насилием над детьми. Сотруднице дали доступ к общей таблице. Сама Уитни и ее бывшие коллеги утверждают, что в файле полно материалов, нарушающих правила сообщества TikTok, в том числе сотни изображений с детьми, которых заставляют раздеваться или насилуют. Бывшие модераторы заявляют, что документ под названием DRR (англ. Daily Required Reading, «обязательная ежедневная вычитка») находился в широком доступе для сотрудников Teleperformance и TikTok еще этим летом. Несмотря на то что некоторым модераторам, задействованным по другим направлениям, просмотр этого документа был запрещен, многие источники рассказали Forbes о том, что свободный доступ к файлу имели сотни работников из обеих компаний. DRR и другие справочные материалы хранились в программе Lark, корпоративной системе китайского гиганта ByteDance, владельца социальной сети.

Уитни была настолько ошеломлена небрежным обращением с материалами, что сообщила об этом в ФБР и впоследствии, в июне, встречалась по этому поводу с агентом. В ФБР на вопросы о том, предвидится ли какое-то расследование, не ответили.

«Я модерировала контент и думала: это же чей-то сын, чья-то дочь. И их родители даже не знают, что у нас сохранены эти фотографии, эти видео, этот ужас, настоящее преступление, ― поделилась Уитни. ― Будь родители в курсе, я уверена, они бы сожгли TikTok дотла».

Президент глобального подразделения по доверию и безопасности Teleperformance Акаш Пугалия заявил Forbes, что ролики откровенного содержания с участием детей компания в целях обучения не применяет. Кроме того, он добавил, что фирма не хранит подобный контент в своих «инструментах калибровки», хотя, что это за инструменты и для чего используются, он не пояснил. Отвечать на другие вопросы из обширного списка о том, сколько людей имеют через DRR доступ к материалам с насилием в отношении детей и как Teleperformance охраняет визуальный данные, управленец тоже отказался.

TikTok ― далеко не единственная платформа, которая борется с материалами сексуального насилия над несовершеннолетними. Крупнейшие социальные сети мира давно прибегают к машинному обучению и помощи сторонних проверяющих, чтобы находить и удалять подобные записи до того, как они разлетятся по интернету. Многие фирмы сотрудничают с Национальным центром по поиску пропавших и подвергшихся насилию детей (National Center for Missing & Exploited Children), чтобы сообщать о подобных постах в своем приложении органам правопорядка.

Однако уникально то, как TikTok и его сторонние консультанты обращаются с таким контентом. Эксперты называют сложившийся подход в лучшем случае небрежным и халатным, а в худшем ― опасным и травмирующим снова и снова. Специалисты подчеркивают, что изображения сексуального характера с детьми при обучении модерации контента ― не важно, с цензурой или без, ― лишь унижает жертв каждый раз заново. Кроме того, хранение записей в документе с общим доступом безответственно и излишне.

Пресс-секретарь TikTok Джейми Фавацца заявила, что «материалы для обучения в компании имеют строгий контроль доступа и не включают в себя наглядные примеры материалов сексуального насилия над детьми», но признала, что бизнес работает со сторонними фирмами, у которых внутренние процессы могут отличаться. Отвечать на вопросы о том, сколько сотрудников имеют доступ к файлу DRR и где документ хранится, в TikTok отказались. Родительская компания ByteDance, разработчик платформы Lark, многочисленные запросы прокомментировать эту информацию оставила без внимания.

«Свободный и неограниченный оборот здесь не пройдет»

Изображения насилия над детьми и их эксплуатации противозаконны, и существуют строгие правила по обращению с такими данными в случае обнаружения. Материал подлежит незамедлительной блокировке, и о нем необходимо сообщать в систему CyberTipline Национального центра по поиску пропавших и подвергшихся насилию детей. Там персонал анализирует файлы и ищет их первоисточник, чтобы уведомить соответствующие правоохранительные органы. Как только компания сообщает о материале в профильный центр, ей официально разрешается хранить контент в течение 90 дней для помощи следствию. Но федеральный закон США четко требует от предприятий «минимизировать число сотрудников, которым дается доступ» к незаконному контенту, «хранить материалы в безопасном месте» и «обеспечивать полное уничтожение любого визуального изображения по запросу от органов правопорядка».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Новая жизнь с понедельника: почему в психологии не бывает быстрых результатов Новая жизнь с понедельника: почему в психологии не бывает быстрых результатов

Чем опасны мифы о мгновенных изменениях, как на деле выглядит развитие личности?

Forbes
Неужели паре пришел конец? Неужели паре пришел конец?

На что надеяться в любви, а от чего предстоит отказаться?

Psychologies
Юрий Афанасьев: «Управление делами семьи — наша задача» Юрий Афанасьев: «Управление делами семьи — наша задача»

Как клиенты банков приходят к пониманию, что время дороже золота?

СНОБ
Все время спешим и ничего не успеваем: виноват ли в этом цифровой прогресс? Все время спешим и ничего не успеваем: виноват ли в этом цифровой прогресс?

Отрывок из книги «Времени в обрез: ускорение жизни при цифровом капитализме»

Psychologies
Лисички: почему самый хитрый гриб никогда не бывает червивым Лисички: почему самый хитрый гриб никогда не бывает червивым

Что такого опасного содержится в лисичках, что червяки отказываются их есть?

ТехИнсайдер
По заветам матери Терезы: личная история волонтерства в Индии По заветам матери Терезы: личная история волонтерства в Индии

Волонтерство: пролететь полмира, чтобы бескорыстно помогать страдающим

Вокруг света
«Пришло то самое время, когда надо поверить в себя» «Пришло то самое время, когда надо поверить в себя»

Маша Шейх получила широкую известность благодаря своей работе в группе #2Маши

OK!
Как выстроить личные границы, когда босс стучит кулаком по столу? Как выстроить личные границы, когда босс стучит кулаком по столу?

Как выстроить свою рабочую зону комфорта раз и навсегда?

Psychologies
Как лечат обсессивно-компульсивное расстройство Как лечат обсессивно-компульсивное расстройство

Как врачи-психиатры работают с ОКР

Psychologies
Зачем изучать искусство: 5 причин Зачем изучать искусство: 5 причин

Как искусство развивает наш кругозор и снимает тревожность?

Psychologies
Наталья Подольская и Владимир Пресняков. «Так и живем: один подумал — другой сказал» Наталья Подольская и Владимир Пресняков. «Так и живем: один подумал — другой сказал»

Интервью с Натальей Подольской о ее детях, программах и песнях

Коллекция. Караван историй
Можно ли удлинить ногтевое ложе? Да! Рассказываем, как это сделать Можно ли удлинить ногтевое ложе? Да! Рассказываем, как это сделать

Что делать, если природа не подарила тебе изящные ногти?

VOICE
«Мальчики не плачут»: в чем вред запрета на эмоции «Мальчики не плачут»: в чем вред запрета на эмоции

Почему вредно запрещать детям жаловаться и ныть?

Psychologies
Казанский аллигатор: история Алексея Суклетина, который ел школьниц и кормил их мясом соседей Казанский аллигатор: история Алексея Суклетина, который ел школьниц и кормил их мясом соседей

Впервые Алексей убил в шесть лет — он задушил котенка

VOICE
3 главные загадки Древнего Египта, которые ученые до сих пор не могут раскрыть 3 главные загадки Древнего Египта, которые ученые до сих пор не могут раскрыть

Мы до сих пор очень мало знаем о загадочных египетских пирамидах

ТехИнсайдер
Тянет на солёное и поплакать: ранние признаки беременности Тянет на солёное и поплакать: ранние признаки беременности

Как уловить изменения в своем теле на ранних сроках беременности

VOICE
«За Горбачева»: как создавалась скандальная реклама пиццы Pizza Hut с Михаилом Горбачевым «За Горбачева»: как создавалась скандальная реклама пиццы Pizza Hut с Михаилом Горбачевым

Почему бывший советский лидер согласился стать лицом сети ресторанов пиццы

Правила жизни
6 главных финансовых ошибок, которые люди совершают с 30 до 40 лет 6 главных финансовых ошибок, которые люди совершают с 30 до 40 лет

О деньгах нужно заботиться в любом возрасте, но с 30 до 40 — особенно

Maxim
Спортсменка по призванию: как Софья Мальцева открыла женщинам дорогу в большой теннис Спортсменка по призванию: как Софья Мальцева открыла женщинам дорогу в большой теннис

Она пришла в теннис и стала одной из самых ярких чемпионок своего времени

Forbes
Библия сексуальной революции и космические мечты: что почитать у Роберта Хайнлайна Библия сексуальной революции и космические мечты: что почитать у Роберта Хайнлайна

Знаковые романы Роберта Хайнлайна

ТехИнсайдер

У Веры было много талантов, один из них — это умение дружить

Караван историй
«Лавка Болотова». Как металлург из Тулы стал поставщиком помидоров в White Rabbit, Selfie и рестораны Новикова «Лавка Болотова». Как металлург из Тулы стал поставщиком помидоров в White Rabbit, Selfie и рестораны Новикова

Можно ли бросить всё, сделать ставку на продажу овощей и выиграть?

Inc.
Макс-фактор Макс-фактор

О том, почему Pro Max в итоге не промах

Автопилот
Культ успеха: откуда взялись «инфоцыгане» и почему их марафоны так популярны? Культ успеха: откуда взялись «инфоцыгане» и почему их марафоны так популярны?

Чем последователи «успешного успеха» так сильно похожи на сектантов

Maxim
8 фильмов для тех, кто не готов прощаться с летом 8 фильмов для тех, кто не готов прощаться с летом

Чтобы задержаться в атмосфере лета, достаточно включить любой фильм из подборки

Psychologies
Змеиный характер Змеиный характер

Стопе повезло: она остановилась в каких-то двадцати сантиметрах от головы змеи

Наука и жизнь
«Он исчез, не попрощавшись»: как уберечь себя от такого сценария «Он исчез, не попрощавшись»: как уберечь себя от такого сценария

Почему мужчина неожиданно перестал общаться и просто «пропал с радаров»?

Psychologies
8 признаков здорового нарциссизма, которые ведут к успеху 8 признаков здорового нарциссизма, которые ведут к успеху

Здоровый нарциссизм, который способствует личностному росту

Psychologies
Умер Михаил Горбачев. Жизнь первого и последнего президента СССР — в фотографиях Умер Михаил Горбачев. Жизнь первого и последнего президента СССР — в фотографиях

Вспоминаем, чем запомнилась эпоха Горбачева

Правила жизни
Призрачный успех: почему российскому бизнесу сложно покорить китайский рынок Призрачный успех: почему российскому бизнесу сложно покорить китайский рынок

Как оценивать потенциально новый рынок Китая?

Forbes
Открыть в приложении