С какими материалами работают модераторы контента в TikTok?

ForbesБизнес

Зачем TikTok база изображений сексуализированного насилия над несовершеннолетними

Бывшие подрядчики TikTok заявляют, что справочным материалом для сторонних модераторов контента соцсети служит множество изображений с детьми, подвергшимися сексуализированному насилию, ― и все это находится в почти неограниченном корпоративном доступе

Александра С. Левин. Перевод Forbes USA. Перевод Антона Бундина

Фото Scott Eells / Bloomberg via Getty Images

Бывший сотрудник TikTok Нассер (фамилии этого и некоторых других собеседников не называются из соображений конфиденциальности) знал, что в процессе обучения на должность модератора контента TikTok ему придется иметь дело с неприятными материалами. Но когда ему и другим новичкам на обучении показали изображения сексуального характера без цензуры с участием детей, для него это стало настоящим шоком.

Нассер работал в сторонней компании Teleperformance, которая модерирует контент социальной сети. Нового сотрудника взяли на специальный проект, в рамках которого планировалось научить искусственный интеллект (ИИ) TikTok выявлять на платформе худшее из худшего. Спустя всего несколько дней после начала работы Нассеру и его коллегам показали натуралистические изображения и видео, где дети подвергаются действиям сексуального характера, ― все ролики и фотографии, удаленные из TikTok.

«У меня самого есть дочь, и мне кажется, что неправильно, когда это смотрит толпа незнакомых людей, ― рассказал Forbes Нассер (из Teleperformance он ушел в 2020 году). ― Думаю, что такое для обучения использовать нельзя».

Уитни Тернер, работавшая в Teleperformance по этой же программе TikTok в Эль-Пасо на протяжении чуть больше года и уволившаяся в 2021-м, тоже вспоминает, как на обучении ей показывали визуальные материалы с сексуализированным насилием над детьми. Сотруднице дали доступ к общей таблице. Сама Уитни и ее бывшие коллеги утверждают, что в файле полно материалов, нарушающих правила сообщества TikTok, в том числе сотни изображений с детьми, которых заставляют раздеваться или насилуют. Бывшие модераторы заявляют, что документ под названием DRR (англ. Daily Required Reading, «обязательная ежедневная вычитка») находился в широком доступе для сотрудников Teleperformance и TikTok еще этим летом. Несмотря на то что некоторым модераторам, задействованным по другим направлениям, просмотр этого документа был запрещен, многие источники рассказали Forbes о том, что свободный доступ к файлу имели сотни работников из обеих компаний. DRR и другие справочные материалы хранились в программе Lark, корпоративной системе китайского гиганта ByteDance, владельца социальной сети.

Уитни была настолько ошеломлена небрежным обращением с материалами, что сообщила об этом в ФБР и впоследствии, в июне, встречалась по этому поводу с агентом. В ФБР на вопросы о том, предвидится ли какое-то расследование, не ответили.

«Я модерировала контент и думала: это же чей-то сын, чья-то дочь. И их родители даже не знают, что у нас сохранены эти фотографии, эти видео, этот ужас, настоящее преступление, ― поделилась Уитни. ― Будь родители в курсе, я уверена, они бы сожгли TikTok дотла».

Президент глобального подразделения по доверию и безопасности Teleperformance Акаш Пугалия заявил Forbes, что ролики откровенного содержания с участием детей компания в целях обучения не применяет. Кроме того, он добавил, что фирма не хранит подобный контент в своих «инструментах калибровки», хотя, что это за инструменты и для чего используются, он не пояснил. Отвечать на другие вопросы из обширного списка о том, сколько людей имеют через DRR доступ к материалам с насилием в отношении детей и как Teleperformance охраняет визуальный данные, управленец тоже отказался.

TikTok ― далеко не единственная платформа, которая борется с материалами сексуального насилия над несовершеннолетними. Крупнейшие социальные сети мира давно прибегают к машинному обучению и помощи сторонних проверяющих, чтобы находить и удалять подобные записи до того, как они разлетятся по интернету. Многие фирмы сотрудничают с Национальным центром по поиску пропавших и подвергшихся насилию детей (National Center for Missing & Exploited Children), чтобы сообщать о подобных постах в своем приложении органам правопорядка.

Однако уникально то, как TikTok и его сторонние консультанты обращаются с таким контентом. Эксперты называют сложившийся подход в лучшем случае небрежным и халатным, а в худшем ― опасным и травмирующим снова и снова. Специалисты подчеркивают, что изображения сексуального характера с детьми при обучении модерации контента ― не важно, с цензурой или без, ― лишь унижает жертв каждый раз заново. Кроме того, хранение записей в документе с общим доступом безответственно и излишне.

Пресс-секретарь TikTok Джейми Фавацца заявила, что «материалы для обучения в компании имеют строгий контроль доступа и не включают в себя наглядные примеры материалов сексуального насилия над детьми», но признала, что бизнес работает со сторонними фирмами, у которых внутренние процессы могут отличаться. Отвечать на вопросы о том, сколько сотрудников имеют доступ к файлу DRR и где документ хранится, в TikTok отказались. Родительская компания ByteDance, разработчик платформы Lark, многочисленные запросы прокомментировать эту информацию оставила без внимания.

«Свободный и неограниченный оборот здесь не пройдет»

Изображения насилия над детьми и их эксплуатации противозаконны, и существуют строгие правила по обращению с такими данными в случае обнаружения. Материал подлежит незамедлительной блокировке, и о нем необходимо сообщать в систему CyberTipline Национального центра по поиску пропавших и подвергшихся насилию детей. Там персонал анализирует файлы и ищет их первоисточник, чтобы уведомить соответствующие правоохранительные органы. Как только компания сообщает о материале в профильный центр, ей официально разрешается хранить контент в течение 90 дней для помощи следствию. Но федеральный закон США четко требует от предприятий «минимизировать число сотрудников, которым дается доступ» к незаконному контенту, «хранить материалы в безопасном месте» и «обеспечивать полное уничтожение любого визуального изображения по запросу от органов правопорядка».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Тонны мусора: как современная экономика заставляет нас увеличивать количество отходов Тонны мусора: как современная экономика заставляет нас увеличивать количество отходов

О том, как гражданское общество в России строит систему сокращения отходов

Forbes
Хайп мирового масштаба от исследователя NASA. Кто придумал нейросеть Midjourney и отберет ли она работу у живых художников и дизайнеров? Хайп мирового масштаба от исследователя NASA. Кто придумал нейросеть Midjourney и отберет ли она работу у живых художников и дизайнеров?

Может ли машина заменить живых дизайнеров? История нейросети Midjourney

Inc.
Назад к истокам: почему создатель соуса Mr. Yoshida's выкупил его назад у Heinz Назад к истокам: почему создатель соуса Mr. Yoshida's выкупил его назад у Heinz

Неожиданные повороты в истории соуса Mr. Yoshida's

Forbes
Самые бюджетные бренды, в которые одеваются современные королевы и принцессы Самые бюджетные бренды, в которые одеваются современные королевы и принцессы

Масс-маркет, который можно носить по-королевски

VOICE
7 самых распространенных способов обмана на шиномонтаже 7 самых распространенных способов обмана на шиномонтаже

Как не попасться на крючок мошенников в шиномонтаже

Maxim
«Секс с живыми мне не нравился»: история каширского маньяка Андрея Ежова «Секс с живыми мне не нравился»: история каширского маньяка Андрея Ежова

Задержали каширского маньяка недавно — 2020 году

VOICE
Гид по метаверсу от Покраса Гид по метаверсу от Покраса

Покрас Лампас — о метаверсе, метаценностях и метамодернизме

Собака.ru
Он держался до последнего: какого рода слово Он держался до последнего: какого рода слово

Так как правильно: "горячий кофе" или все же "горячее"?

ТехИнсайдер
Жить – можно Жить – можно

Что такое «биполярка» и почему шизофрения больше не приговор?

Psychologies
Что запускать и где взять деньги: венчурный гид по Латинской Америке Что запускать и где взять деньги: венчурный гид по Латинской Америке

Как устроен венчурный рынок в Латинской Америке

Forbes
Как часто сбываются наши опасения? Как часто сбываются наши опасения?

Что если большинство наших предчувствий — лишь сигналы ложной тревоги?

Psychologies
Почему отдых вызывает негатив: ловушки выходного дня Почему отдых вызывает негатив: ловушки выходного дня

Как настроиться на мысли о чем-то полезном или радостном в выходной день?

Psychologies
Правда ли, что искусственный интеллект научился выявлять рак точнее рентгенолога: прорыв в диагностике онкологии Правда ли, что искусственный интеллект научился выявлять рак точнее рентгенолога: прорыв в диагностике онкологии

Может ли искусственный интеллект выявить рак? Как это поможет врачам?

ТехИнсайдер
Антиоксиданты: что это такое, и зачем они нужны Антиоксиданты: что это такое, и зачем они нужны

Как работают антиоксиданты?

ТехИнсайдер
От бомбочек с содой к ягелю и морошке: как бренд крафтовой косметики из Излучинска нашел свою нишу От бомбочек с содой к ягелю и морошке: как бренд крафтовой косметики из Излучинска нашел свою нишу

Как аллергия приводит к новому хобби, а хобби превращается в бизнес

Inc.
М или Ж? Как раз и навсегда запомнить род слова М или Ж? Как раз и навсегда запомнить род слова

Тюль — мужской род или женский?

ТехИнсайдер
«Облачно, возможны косатки». Морской биолог рассказывает, как они живут и общаются между собой «Облачно, возможны косатки». Морской биолог рассказывает, как они живут и общаются между собой

Отрывок из книги «Облачно, возможны косатки» — как косатки видят и слышат

N+1
Пан и не пропал: 55 лет назад вышел дебютный альбом Pink Floyd. Вот почему он знаковый Пан и не пропал: 55 лет назад вышел дебютный альбом Pink Floyd. Вот почему он знаковый

Как The Piper at the Gates of Dawn прославил Pink Floyd

Правила жизни
Маньяк, который продолжил убивать в тюрьме: история «архангельского Чикатило» Сергея Шипилова Маньяк, который продолжил убивать в тюрьме: история «архангельского Чикатило» Сергея Шипилова

«Я — архангельский Чикатило», — обычно говорит он с гордой улыбкой

VOICE
Вот что будет с телом, если каждый день стоять в планке Вот что будет с телом, если каждый день стоять в планке

Действительно ли планка — идеальное упражнение?

ТехИнсайдер
Трюк имени Мэрилин: лучшие платья Монро, которые скроют твои недостатки Трюк имени Мэрилин: лучшие платья Монро, которые скроют твои недостатки

Монро умела маскировать недостатки так, чтобы об их наличии никто не догадывался

VOICE
Как тебя могут обмануть на автомойке Как тебя могут обмануть на автомойке

Слишком рачительные автовладельцы весь год ездят на грязных машинах

Maxim
А если он не бил, а просто замахнулся? Виды насилия в семье и когда точно пора бежать А если он не бил, а просто замахнулся? Виды насилия в семье и когда точно пора бежать

Каким бывает насилие в семье, и когда стоит расставаться

Psychologies
Импровизация Михаила Горбачева Импровизация Михаила Горбачева

«Сноб» вспоминает Михаила Сергеевича и публикует мемуарный очерк

СНОБ
Зоологи случайно обнаружили в японском аквариуме новый вид глубоководных гигантских изопод Зоологи случайно обнаружили в японском аквариуме новый вид глубоководных гигантских изопод

Новый вид изоподов получил название Bathynomus yucatanensis

N+1
Призрачный успех: почему российскому бизнесу сложно покорить китайский рынок Призрачный успех: почему российскому бизнесу сложно покорить китайский рынок

Как оценивать потенциально новый рынок Китая?

Forbes
Керамика, мечи и украшения: в Германии найдены богатые могилы каменного века и раннего Средневековья Керамика, мечи и украшения: в Германии найдены богатые могилы каменного века и раннего Средневековья

Найденные сокровища говорят о долгой истории проживания людей у ​​реки Дунай

ТехИнсайдер
Оказалось, что бактерии-коммунисты ненавидят нахлебников и сами избавляются от тех, кто не трудится на благо колонии Оказалось, что бактерии-коммунисты ненавидят нахлебников и сами избавляются от тех, кто не трудится на благо колонии

Колонии бактерий не выдерживают «бактерий-халявщиков» в своих рядах

ТехИнсайдер
Блефаропластика: операция на веках, которая возвращает лицу молодость Блефаропластика: операция на веках, которая возвращает лицу молодость

Блефаропластика – малоинвазивная операция на верхних и нижних веках

ТехИнсайдер
У древних колоссальных динозавров была мягкая У древних колоссальных динозавров была мягкая

Что позволяло огромным зауроподам иметь такой большой вес?

ТехИнсайдер
Открыть в приложении