С какими материалами работают модераторы контента в TikTok?

ForbesБизнес

Зачем TikTok база изображений сексуализированного насилия над несовершеннолетними

Бывшие подрядчики TikTok заявляют, что справочным материалом для сторонних модераторов контента соцсети служит множество изображений с детьми, подвергшимися сексуализированному насилию, ― и все это находится в почти неограниченном корпоративном доступе

Александра С. Левин. Перевод Forbes USA. Перевод Антона Бундина

Фото Scott Eells / Bloomberg via Getty Images

Бывший сотрудник TikTok Нассер (фамилии этого и некоторых других собеседников не называются из соображений конфиденциальности) знал, что в процессе обучения на должность модератора контента TikTok ему придется иметь дело с неприятными материалами. Но когда ему и другим новичкам на обучении показали изображения сексуального характера без цензуры с участием детей, для него это стало настоящим шоком.

Нассер работал в сторонней компании Teleperformance, которая модерирует контент социальной сети. Нового сотрудника взяли на специальный проект, в рамках которого планировалось научить искусственный интеллект (ИИ) TikTok выявлять на платформе худшее из худшего. Спустя всего несколько дней после начала работы Нассеру и его коллегам показали натуралистические изображения и видео, где дети подвергаются действиям сексуального характера, ― все ролики и фотографии, удаленные из TikTok.

«У меня самого есть дочь, и мне кажется, что неправильно, когда это смотрит толпа незнакомых людей, ― рассказал Forbes Нассер (из Teleperformance он ушел в 2020 году). ― Думаю, что такое для обучения использовать нельзя».

Уитни Тернер, работавшая в Teleperformance по этой же программе TikTok в Эль-Пасо на протяжении чуть больше года и уволившаяся в 2021-м, тоже вспоминает, как на обучении ей показывали визуальные материалы с сексуализированным насилием над детьми. Сотруднице дали доступ к общей таблице. Сама Уитни и ее бывшие коллеги утверждают, что в файле полно материалов, нарушающих правила сообщества TikTok, в том числе сотни изображений с детьми, которых заставляют раздеваться или насилуют. Бывшие модераторы заявляют, что документ под названием DRR (англ. Daily Required Reading, «обязательная ежедневная вычитка») находился в широком доступе для сотрудников Teleperformance и TikTok еще этим летом. Несмотря на то что некоторым модераторам, задействованным по другим направлениям, просмотр этого документа был запрещен, многие источники рассказали Forbes о том, что свободный доступ к файлу имели сотни работников из обеих компаний. DRR и другие справочные материалы хранились в программе Lark, корпоративной системе китайского гиганта ByteDance, владельца социальной сети.

Уитни была настолько ошеломлена небрежным обращением с материалами, что сообщила об этом в ФБР и впоследствии, в июне, встречалась по этому поводу с агентом. В ФБР на вопросы о том, предвидится ли какое-то расследование, не ответили.

«Я модерировала контент и думала: это же чей-то сын, чья-то дочь. И их родители даже не знают, что у нас сохранены эти фотографии, эти видео, этот ужас, настоящее преступление, ― поделилась Уитни. ― Будь родители в курсе, я уверена, они бы сожгли TikTok дотла».

Президент глобального подразделения по доверию и безопасности Teleperformance Акаш Пугалия заявил Forbes, что ролики откровенного содержания с участием детей компания в целях обучения не применяет. Кроме того, он добавил, что фирма не хранит подобный контент в своих «инструментах калибровки», хотя, что это за инструменты и для чего используются, он не пояснил. Отвечать на другие вопросы из обширного списка о том, сколько людей имеют через DRR доступ к материалам с насилием в отношении детей и как Teleperformance охраняет визуальный данные, управленец тоже отказался.

TikTok ― далеко не единственная платформа, которая борется с материалами сексуального насилия над несовершеннолетними. Крупнейшие социальные сети мира давно прибегают к машинному обучению и помощи сторонних проверяющих, чтобы находить и удалять подобные записи до того, как они разлетятся по интернету. Многие фирмы сотрудничают с Национальным центром по поиску пропавших и подвергшихся насилию детей (National Center for Missing & Exploited Children), чтобы сообщать о подобных постах в своем приложении органам правопорядка.

Однако уникально то, как TikTok и его сторонние консультанты обращаются с таким контентом. Эксперты называют сложившийся подход в лучшем случае небрежным и халатным, а в худшем ― опасным и травмирующим снова и снова. Специалисты подчеркивают, что изображения сексуального характера с детьми при обучении модерации контента ― не важно, с цензурой или без, ― лишь унижает жертв каждый раз заново. Кроме того, хранение записей в документе с общим доступом безответственно и излишне.

Пресс-секретарь TikTok Джейми Фавацца заявила, что «материалы для обучения в компании имеют строгий контроль доступа и не включают в себя наглядные примеры материалов сексуального насилия над детьми», но признала, что бизнес работает со сторонними фирмами, у которых внутренние процессы могут отличаться. Отвечать на вопросы о том, сколько сотрудников имеют доступ к файлу DRR и где документ хранится, в TikTok отказались. Родительская компания ByteDance, разработчик платформы Lark, многочисленные запросы прокомментировать эту информацию оставила без внимания.

«Свободный и неограниченный оборот здесь не пройдет»

Изображения насилия над детьми и их эксплуатации противозаконны, и существуют строгие правила по обращению с такими данными в случае обнаружения. Материал подлежит незамедлительной блокировке, и о нем необходимо сообщать в систему CyberTipline Национального центра по поиску пропавших и подвергшихся насилию детей. Там персонал анализирует файлы и ищет их первоисточник, чтобы уведомить соответствующие правоохранительные органы. Как только компания сообщает о материале в профильный центр, ей официально разрешается хранить контент в течение 90 дней для помощи следствию. Но федеральный закон США четко требует от предприятий «минимизировать число сотрудников, которым дается доступ» к незаконному контенту, «хранить материалы в безопасном месте» и «обеспечивать полное уничтожение любого визуального изображения по запросу от органов правопорядка».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Тонны мусора: как современная экономика заставляет нас увеличивать количество отходов Тонны мусора: как современная экономика заставляет нас увеличивать количество отходов

О том, как гражданское общество в России строит систему сокращения отходов

Forbes
Скорость взаимодействия ридберговских кубитов приблизили к фундаментальному пределу Скорость взаимодействия ридберговских кубитов приблизили к фундаментальному пределу

Японским физикам удалось добиться обмена энергией между кубитами

N+1
2 простых стратегии, чтобы улучшить отношения с коллегами 2 простых стратегии, чтобы улучшить отношения с коллегами

Как начать развивать свою социальную адаптивность в разговорах с коллегами?

Inc.
«Человек не имеет значения ни для кого, кроме самого себя» «Человек не имеет значения ни для кого, кроме самого себя»

Говард Лавкрафт о том, что по-настоящему ужасно

Weekend
Немедикаментозное снижение массы обрекло канадца на хроническую боль Немедикаментозное снижение массы обрекло канадца на хроническую боль

Почему может развиться хроническая боль на фоне снижения массы тела

N+1
Повлиять на качество Повлиять на качество

Если в ваших интимных зонах что-то пошло не так, на помощь придут специалисты

Psychologies
Совсем не игрушки Совсем не игрушки

Сколько могут стоить машины, которые были у дедушки, когда он был внуком

Автопилот
Необычные Необычные

Некоторые экзопланеты могут странным «образом сжиматься»

ТехИнсайдер
Малый ледниковый период отразился на почвах из Тульского кремля Малый ледниковый период отразился на почвах из Тульского кремля

Палеопочвоведы нашли признаки похолодания в культурных слоях XVI–XVIII веков

N+1
«Лавка Болотова». Как металлург из Тулы стал поставщиком помидоров в White Rabbit, Selfie и рестораны Новикова «Лавка Болотова». Как металлург из Тулы стал поставщиком помидоров в White Rabbit, Selfie и рестораны Новикова

Можно ли бросить всё, сделать ставку на продажу овощей и выиграть?

Inc.
Как я жила с альфонсом: личная история нашей читательницы Как я жила с альфонсом: личная история нашей читательницы

Наша героиня искала любовь, а нашла мужчину, который решил пожить за ее счет

VOICE
5 нон-фикшн книг, которые стоит взять с собой в отпуск 5 нон-фикшн книг, которые стоит взять с собой в отпуск

Книга — лучший попутчик в отпуске!

Maxim
Чертоги памяти. Как работает «метод Шерлока» в реальности и можно ли его освоить, если вы простой смертный Чертоги памяти. Как работает «метод Шерлока» в реальности и можно ли его освоить, если вы простой смертный

Как работает одна из самых популярных мнемонических техник?

Inc.
Есть ли у растений нервы? Есть ли у растений нервы?

Нервов у растений нет, во всяком случае, в том виде, в каком они есть у животных

Наука и жизнь
Как возникли Гималаи. Новое исследование движения индийской тектонической плиты Как возникли Гималаи. Новое исследование движения индийской тектонической плиты

Могут ли континенты бегать?

ТехИнсайдер
Слишком консервативен: какими получились рассказы Владимира Сорокина о женщинах Слишком консервативен: какими получились рассказы Владимира Сорокина о женщинах

Владимир Сорокин о женщинах — стереотипно и мизогинно

Forbes
5 увлекательных аудиокниг для длинных путешествий 5 увлекательных аудиокниг для длинных путешествий

Хорошая аудиокнига — лучший спутник в путешествии

СНОБ
«Становится все абсурднее»: Александр Хант о фильме «Межсезонье» и самоцензуре в кино «Становится все абсурднее»: Александр Хант о фильме «Межсезонье» и самоцензуре в кино

Режиссер Александр Хант — о новом поколении, свободе и новой цензуре

Forbes
«Смотришь на эти вывески, и они честно заявляют — стало хуже». Что не так с ребрендингом западных компаний, попавших в руки российских бизнесменов «Смотришь на эти вывески, и они честно заявляют — стало хуже». Что не так с ребрендингом западных компаний, попавших в руки российских бизнесменов

Почему правильный ребрендинг — это важно? И почему он не у всех получается?

Inc.
У меня FOBO: как «страх лучшего варианта» парализует человека при принятии решений У меня FOBO: как «страх лучшего варианта» парализует человека при принятии решений

Что на самом деле кроется за этой аббревиатурой FOBO?

Forbes
Если родители были токсичными: 5 защитных механизмов психики Если родители были токсичными: 5 защитных механизмов психики

Как сделать свою взрослую жизнь и отношения счастливее?

Psychologies
Генетики нашли сходство в ДНК у неродственных двойников Генетики нашли сходство в ДНК у неродственных двойников

Так ли похожи неродственные двойники?

N+1
«Разные инструменты давления на жертву»: чем отличается буллинг у детей и взрослых «Разные инструменты давления на жертву»: чем отличается буллинг у детей и взрослых

Травля в детских и взрослых коллективах проходит по-разному.

Forbes
AMOLED-дисплеи в смартфонах: плюсы и минусы AMOLED-дисплеи в смартфонах: плюсы и минусы

Разбираемся в том, что такое AMOLED-экран в смартфоне

CHIP
В каких фруктах и ягодах больше всего белка В каких фруктах и ягодах больше всего белка

Что поможет тебе не только восполнить дефицит витаминов, но и набрать массу

Maxim
От бомбочек с содой к ягелю и морошке: как бренд крафтовой косметики из Излучинска нашел свою нишу От бомбочек с содой к ягелю и морошке: как бренд крафтовой косметики из Излучинска нашел свою нишу

Как аллергия приводит к новому хобби, а хобби превращается в бизнес

Inc.
Что делает BYD: гид по моделям самой быстрорастущей компании мира Что делает BYD: гид по моделям самой быстрорастущей компании мира

С каким арсеналом «убийцы Tesla» собираются захватить мир

РБК
Почему короли и императоры веками вступали в близкородственные браки? Почему короли и императоры веками вступали в близкородственные браки?

Корона, кольцо, ваш двоюродный брат — что еще нужно для королевской свадьбы?

ТехИнсайдер
8 признаков здорового нарциссизма, которые ведут к успеху 8 признаков здорового нарциссизма, которые ведут к успеху

Здоровый нарциссизм, который способствует личностному росту

Psychologies
Физики-теоретики доказали устойчивость черных дыр Физики-теоретики доказали устойчивость черных дыр

Гравитационисты изучила устойчивость черной дыры Керра с малым угловым моментом

N+1
Открыть в приложении