С какими материалами работают модераторы контента в TikTok?

ForbesБизнес

Зачем TikTok база изображений сексуализированного насилия над несовершеннолетними

Бывшие подрядчики TikTok заявляют, что справочным материалом для сторонних модераторов контента соцсети служит множество изображений с детьми, подвергшимися сексуализированному насилию, ― и все это находится в почти неограниченном корпоративном доступе

Александра С. Левин. Перевод Forbes USA. Перевод Антона Бундина

Фото Scott Eells / Bloomberg via Getty Images

Бывший сотрудник TikTok Нассер (фамилии этого и некоторых других собеседников не называются из соображений конфиденциальности) знал, что в процессе обучения на должность модератора контента TikTok ему придется иметь дело с неприятными материалами. Но когда ему и другим новичкам на обучении показали изображения сексуального характера без цензуры с участием детей, для него это стало настоящим шоком.

Нассер работал в сторонней компании Teleperformance, которая модерирует контент социальной сети. Нового сотрудника взяли на специальный проект, в рамках которого планировалось научить искусственный интеллект (ИИ) TikTok выявлять на платформе худшее из худшего. Спустя всего несколько дней после начала работы Нассеру и его коллегам показали натуралистические изображения и видео, где дети подвергаются действиям сексуального характера, ― все ролики и фотографии, удаленные из TikTok.

«У меня самого есть дочь, и мне кажется, что неправильно, когда это смотрит толпа незнакомых людей, ― рассказал Forbes Нассер (из Teleperformance он ушел в 2020 году). ― Думаю, что такое для обучения использовать нельзя».

Уитни Тернер, работавшая в Teleperformance по этой же программе TikTok в Эль-Пасо на протяжении чуть больше года и уволившаяся в 2021-м, тоже вспоминает, как на обучении ей показывали визуальные материалы с сексуализированным насилием над детьми. Сотруднице дали доступ к общей таблице. Сама Уитни и ее бывшие коллеги утверждают, что в файле полно материалов, нарушающих правила сообщества TikTok, в том числе сотни изображений с детьми, которых заставляют раздеваться или насилуют. Бывшие модераторы заявляют, что документ под названием DRR (англ. Daily Required Reading, «обязательная ежедневная вычитка») находился в широком доступе для сотрудников Teleperformance и TikTok еще этим летом. Несмотря на то что некоторым модераторам, задействованным по другим направлениям, просмотр этого документа был запрещен, многие источники рассказали Forbes о том, что свободный доступ к файлу имели сотни работников из обеих компаний. DRR и другие справочные материалы хранились в программе Lark, корпоративной системе китайского гиганта ByteDance, владельца социальной сети.

Уитни была настолько ошеломлена небрежным обращением с материалами, что сообщила об этом в ФБР и впоследствии, в июне, встречалась по этому поводу с агентом. В ФБР на вопросы о том, предвидится ли какое-то расследование, не ответили.

«Я модерировала контент и думала: это же чей-то сын, чья-то дочь. И их родители даже не знают, что у нас сохранены эти фотографии, эти видео, этот ужас, настоящее преступление, ― поделилась Уитни. ― Будь родители в курсе, я уверена, они бы сожгли TikTok дотла».

Президент глобального подразделения по доверию и безопасности Teleperformance Акаш Пугалия заявил Forbes, что ролики откровенного содержания с участием детей компания в целях обучения не применяет. Кроме того, он добавил, что фирма не хранит подобный контент в своих «инструментах калибровки», хотя, что это за инструменты и для чего используются, он не пояснил. Отвечать на другие вопросы из обширного списка о том, сколько людей имеют через DRR доступ к материалам с насилием в отношении детей и как Teleperformance охраняет визуальный данные, управленец тоже отказался.

TikTok ― далеко не единственная платформа, которая борется с материалами сексуального насилия над несовершеннолетними. Крупнейшие социальные сети мира давно прибегают к машинному обучению и помощи сторонних проверяющих, чтобы находить и удалять подобные записи до того, как они разлетятся по интернету. Многие фирмы сотрудничают с Национальным центром по поиску пропавших и подвергшихся насилию детей (National Center for Missing & Exploited Children), чтобы сообщать о подобных постах в своем приложении органам правопорядка.

Однако уникально то, как TikTok и его сторонние консультанты обращаются с таким контентом. Эксперты называют сложившийся подход в лучшем случае небрежным и халатным, а в худшем ― опасным и травмирующим снова и снова. Специалисты подчеркивают, что изображения сексуального характера с детьми при обучении модерации контента ― не важно, с цензурой или без, ― лишь унижает жертв каждый раз заново. Кроме того, хранение записей в документе с общим доступом безответственно и излишне.

Пресс-секретарь TikTok Джейми Фавацца заявила, что «материалы для обучения в компании имеют строгий контроль доступа и не включают в себя наглядные примеры материалов сексуального насилия над детьми», но признала, что бизнес работает со сторонними фирмами, у которых внутренние процессы могут отличаться. Отвечать на вопросы о том, сколько сотрудников имеют доступ к файлу DRR и где документ хранится, в TikTok отказались. Родительская компания ByteDance, разработчик платформы Lark, многочисленные запросы прокомментировать эту информацию оставила без внимания.

«Свободный и неограниченный оборот здесь не пройдет»

Изображения насилия над детьми и их эксплуатации противозаконны, и существуют строгие правила по обращению с такими данными в случае обнаружения. Материал подлежит незамедлительной блокировке, и о нем необходимо сообщать в систему CyberTipline Национального центра по поиску пропавших и подвергшихся насилию детей. Там персонал анализирует файлы и ищет их первоисточник, чтобы уведомить соответствующие правоохранительные органы. Как только компания сообщает о материале в профильный центр, ей официально разрешается хранить контент в течение 90 дней для помощи следствию. Но федеральный закон США четко требует от предприятий «минимизировать число сотрудников, которым дается доступ» к незаконному контенту, «хранить материалы в безопасном месте» и «обеспечивать полное уничтожение любого визуального изображения по запросу от органов правопорядка».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Профессиональные бездельники»: кто такие NEET-сотрудники и как заставить их работать «Профессиональные бездельники»: кто такие NEET-сотрудники и как заставить их работать

Чем NEET-поведение опасно для бизнеса и как включить таких сотрудников в работу

Forbes
Дружить с бывшими — признак психопатии? Дружить с бывшими — признак психопатии?

«Мы разошлись, но остались друзьями» — знакомое выражение?

Psychologies
Банкротство ИП: от долгов к новому старту Банкротство ИП: от долгов к новому старту

Как проходит банкротство ИП: от условий проведения процедуры до списания долгов

Inc.
5 продуктов, которые можно есть перед сном, если вы хотите похудеть 5 продуктов, которые можно есть перед сном, если вы хотите похудеть

Чтобы сбросить лишний вес, есть на ночь не только можно, но и нужно!

ТехИнсайдер
Вечная молодость: 7 легендарных внедорожников, которые выпускались более 20 лет Вечная молодость: 7 легендарных внедорожников, которые выпускались более 20 лет

Автотитаны, которые десятилетиями остаются на конвейере

4x4 Club
Дети и старческая деменция: как научить ребенка не злиться на больного Дети и старческая деменция: как научить ребенка не злиться на больного

Как научить взаимодействовать с человеком, который может забыть собственное имя?

Psychologies
Священные правила окрошки: как ее готовили на Руси Священные правила окрошки: как ее готовили на Руси

Можно ли готовить окрошку на кефире? А на рассоле?

Maxim
Токсичные отношения: почему VFX-художники называют Marvel худшим работодателем Токсичные отношения: почему VFX-художники называют Marvel худшим работодателем

Выход сериала Marvel вызвал дискуссию о токсичном отношении студии к художникам

Forbes
В космосе найдена В космосе найдена

Одна из самых «экстремальных» звезд Млечного Пути оказалась намного более жуткой

ТехИнсайдер
Разработано первое приложение для обмена сообщениями под водой Разработано первое приложение для обмена сообщениями под водой

Ученые разработали приложение для смартфона для передачи сообщений под водой

ТехИнсайдер
Как отпустить человека, которого любишь: 4 шага Как отпустить человека, которого любишь: 4 шага

Как отпустить любовь и сохранить себя

Psychologies
Четыре неочевидные идеи, которые добавят в интерьер дизайнерские нотки Четыре неочевидные идеи, которые добавят в интерьер дизайнерские нотки

Как разнообразить интерьер вашей квартиры и сделать его оригинальным

Караван историй
У древних колоссальных динозавров была мягкая У древних колоссальных динозавров была мягкая

Что позволяло огромным зауроподам иметь такой большой вес?

ТехИнсайдер
Треть цинка попала на Землю вместе с метеоритами Треть цинка попала на Землю вместе с метеоритами

Метеориты могут быть источником цинка, ртути, селена на Земле

N+1
Гарем для маньяка: история Александра Комина, который держал в подвале невольниц Гарем для маньяка: история Александра Комина, который держал в подвале невольниц

«Рабовладелец» — такое прозвище получил серийный убийца Александр Комин.

VOICE
Пилоты, солдаты, цензоры: каким профессиям по-настоящему угрожает искусственный интеллект Пилоты, солдаты, цензоры: каким профессиям по-настоящему угрожает искусственный интеллект

Отрывок из книги «Искусственный интеллект и экономика»

Inc.
Эффективные способы укрепить ногти в домашних условиях Эффективные способы укрепить ногти в домашних условиях

На красоту и здоровье ногтей влияет множество факторов

VOICE
Блефаропластика: операция на веках, которая возвращает лицу молодость Блефаропластика: операция на веках, которая возвращает лицу молодость

Блефаропластика – малоинвазивная операция на верхних и нижних веках

ТехИнсайдер
8 упражнений на растяжку, которые облегчат боль в спине 8 упражнений на растяжку, которые облегчат боль в спине

Наш спасительный фитнес для вашей спины

Лиза
Груминг и созависимость: устаревшая этика в сериале «Жена путешественника во времени» Груминг и созависимость: устаревшая этика в сериале «Жена путешественника во времени»

Этот сериал c мог бы сместить с пьедестала фильмы о созависимых отношениях

Forbes
Врачи назвали 5 причин, из-за которых мы просыпаемся ночью и рано утром Врачи назвали 5 причин, из-за которых мы просыпаемся ночью и рано утром

Замечаете, что ни с того ни с сего просыпаетесь среди ночи?

ТехИнсайдер
Вымрет ли человечество в случае ядерной зимы: ученые предсказали последствия мировой войны Вымрет ли человечество в случае ядерной зимы: ученые предсказали последствия мировой войны

Что произойдет после ядерной войны?

ТехИнсайдер
В пробах, взятых с астероида Рюгу, найдены особые зерна — они древнее нашего Солнца В пробах, взятых с астероида Рюгу, найдены особые зерна — они древнее нашего Солнца

Рюгу похож на класс метеоритов, известных как углеродистые хондриты типа Ивуна

ТехИнсайдер
Как диагностировали беременность до изобретения тестов и анализов? Ты удивишься! Как диагностировали беременность до изобретения тестов и анализов? Ты удивишься!

Как определяли наличие беременности до того, как изобрели анализ крови и тесты?

VOICE
«Создательница ангелов»: история Хильды Нильссон, которая убивала детей «Создательница ангелов»: история Хильды Нильссон, которая убивала детей

«Создательница ангелов с улицы Брюкс» — самая известная в Швеции серийная убийца

VOICE
Как пить, чтобы похудеть Как пить, чтобы похудеть

Влияет ли употребление алкоголя на набор веса?

Maxim
Впервые на русском — роман Джойс Кэрол Оутс «Ночь, сон, смерть и звезды» Впервые на русском — роман Джойс Кэрол Оутс «Ночь, сон, смерть и звезды»

Отрывок из новой семейной саги современного классика Джойс Кэрол Оутс

СНОБ
Анализ 777 древних геномов прояснил происхождение популяций эпохи палеометалла Анализ 777 древних геномов прояснил происхождение популяций эпохи палеометалла

Историю индоевропейских языков можно проследить до ямной культуры

N+1
Правда ли, что наше тело не переваривает кукурузу? И есть ли от нее польза? Правда ли, что наше тело не переваривает кукурузу? И есть ли от нее польза?

Ядра кукурузы проходят через наш пищеварительный тракт и выходят невредимыми

ТехИнсайдер
Как справиться с источниками негатива в нашей жизни: 3 совета Как справиться с источниками негатива в нашей жизни: 3 совета

Как найти источники негативного влияния и нейтрализовать их?

Psychologies
Открыть в приложении