С какими материалами работают модераторы контента в TikTok?

ForbesБизнес

Зачем TikTok база изображений сексуализированного насилия над несовершеннолетними

Бывшие подрядчики TikTok заявляют, что справочным материалом для сторонних модераторов контента соцсети служит множество изображений с детьми, подвергшимися сексуализированному насилию, ― и все это находится в почти неограниченном корпоративном доступе

Александра С. Левин. Перевод Forbes USA. Перевод Антона Бундина

Фото Scott Eells / Bloomberg via Getty Images

Бывший сотрудник TikTok Нассер (фамилии этого и некоторых других собеседников не называются из соображений конфиденциальности) знал, что в процессе обучения на должность модератора контента TikTok ему придется иметь дело с неприятными материалами. Но когда ему и другим новичкам на обучении показали изображения сексуального характера без цензуры с участием детей, для него это стало настоящим шоком.

Нассер работал в сторонней компании Teleperformance, которая модерирует контент социальной сети. Нового сотрудника взяли на специальный проект, в рамках которого планировалось научить искусственный интеллект (ИИ) TikTok выявлять на платформе худшее из худшего. Спустя всего несколько дней после начала работы Нассеру и его коллегам показали натуралистические изображения и видео, где дети подвергаются действиям сексуального характера, ― все ролики и фотографии, удаленные из TikTok.

«У меня самого есть дочь, и мне кажется, что неправильно, когда это смотрит толпа незнакомых людей, ― рассказал Forbes Нассер (из Teleperformance он ушел в 2020 году). ― Думаю, что такое для обучения использовать нельзя».

Уитни Тернер, работавшая в Teleperformance по этой же программе TikTok в Эль-Пасо на протяжении чуть больше года и уволившаяся в 2021-м, тоже вспоминает, как на обучении ей показывали визуальные материалы с сексуализированным насилием над детьми. Сотруднице дали доступ к общей таблице. Сама Уитни и ее бывшие коллеги утверждают, что в файле полно материалов, нарушающих правила сообщества TikTok, в том числе сотни изображений с детьми, которых заставляют раздеваться или насилуют. Бывшие модераторы заявляют, что документ под названием DRR (англ. Daily Required Reading, «обязательная ежедневная вычитка») находился в широком доступе для сотрудников Teleperformance и TikTok еще этим летом. Несмотря на то что некоторым модераторам, задействованным по другим направлениям, просмотр этого документа был запрещен, многие источники рассказали Forbes о том, что свободный доступ к файлу имели сотни работников из обеих компаний. DRR и другие справочные материалы хранились в программе Lark, корпоративной системе китайского гиганта ByteDance, владельца социальной сети.

Уитни была настолько ошеломлена небрежным обращением с материалами, что сообщила об этом в ФБР и впоследствии, в июне, встречалась по этому поводу с агентом. В ФБР на вопросы о том, предвидится ли какое-то расследование, не ответили.

«Я модерировала контент и думала: это же чей-то сын, чья-то дочь. И их родители даже не знают, что у нас сохранены эти фотографии, эти видео, этот ужас, настоящее преступление, ― поделилась Уитни. ― Будь родители в курсе, я уверена, они бы сожгли TikTok дотла».

Президент глобального подразделения по доверию и безопасности Teleperformance Акаш Пугалия заявил Forbes, что ролики откровенного содержания с участием детей компания в целях обучения не применяет. Кроме того, он добавил, что фирма не хранит подобный контент в своих «инструментах калибровки», хотя, что это за инструменты и для чего используются, он не пояснил. Отвечать на другие вопросы из обширного списка о том, сколько людей имеют через DRR доступ к материалам с насилием в отношении детей и как Teleperformance охраняет визуальный данные, управленец тоже отказался.

TikTok ― далеко не единственная платформа, которая борется с материалами сексуального насилия над несовершеннолетними. Крупнейшие социальные сети мира давно прибегают к машинному обучению и помощи сторонних проверяющих, чтобы находить и удалять подобные записи до того, как они разлетятся по интернету. Многие фирмы сотрудничают с Национальным центром по поиску пропавших и подвергшихся насилию детей (National Center for Missing & Exploited Children), чтобы сообщать о подобных постах в своем приложении органам правопорядка.

Однако уникально то, как TikTok и его сторонние консультанты обращаются с таким контентом. Эксперты называют сложившийся подход в лучшем случае небрежным и халатным, а в худшем ― опасным и травмирующим снова и снова. Специалисты подчеркивают, что изображения сексуального характера с детьми при обучении модерации контента ― не важно, с цензурой или без, ― лишь унижает жертв каждый раз заново. Кроме того, хранение записей в документе с общим доступом безответственно и излишне.

Пресс-секретарь TikTok Джейми Фавацца заявила, что «материалы для обучения в компании имеют строгий контроль доступа и не включают в себя наглядные примеры материалов сексуального насилия над детьми», но признала, что бизнес работает со сторонними фирмами, у которых внутренние процессы могут отличаться. Отвечать на вопросы о том, сколько сотрудников имеют доступ к файлу DRR и где документ хранится, в TikTok отказались. Родительская компания ByteDance, разработчик платформы Lark, многочисленные запросы прокомментировать эту информацию оставила без внимания.

«Свободный и неограниченный оборот здесь не пройдет»

Изображения насилия над детьми и их эксплуатации противозаконны, и существуют строгие правила по обращению с такими данными в случае обнаружения. Материал подлежит незамедлительной блокировке, и о нем необходимо сообщать в систему CyberTipline Национального центра по поиску пропавших и подвергшихся насилию детей. Там персонал анализирует файлы и ищет их первоисточник, чтобы уведомить соответствующие правоохранительные органы. Как только компания сообщает о материале в профильный центр, ей официально разрешается хранить контент в течение 90 дней для помощи следствию. Но федеральный закон США четко требует от предприятий «минимизировать число сотрудников, которым дается доступ» к незаконному контенту, «хранить материалы в безопасном месте» и «обеспечивать полное уничтожение любого визуального изображения по запросу от органов правопорядка».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Если какие сложности, основной груз на мне»: как женщины воспитывают приемных детей «Если какие сложности, основной груз на мне»: как женщины воспитывают приемных детей

Forbes Woman исследовал гендерные аспекты приемного родительства

Forbes
Наш мозг считает быстрее всего не слева направо, а снизу вверх Наш мозг считает быстрее всего не слева направо, а снизу вверх

Самое удобное для нашего мозга расположение чисел — в столбик снизу вверх

ТехИнсайдер
Использование нейросетей может угрожать бизнесу Использование нейросетей может угрожать бизнесу

Бизнес и ИИ: какие риски связаны с использованием нейросетей

Inc.
«Джуны» не нужны: почему выпускникам IT-курсов стало сложнее найти работу «Джуны» не нужны: почему выпускникам IT-курсов стало сложнее найти работу

Что может помочь молодым IT-специалистам с трудоустройством

Forbes
Ешь, двигайся, спи Ешь, двигайся, спи

Как повседневные решения влияют на здоровье и долголетие

kiozk originals
Малый ледниковый период отразился на почвах из Тульского кремля Малый ледниковый период отразился на почвах из Тульского кремля

Палеопочвоведы нашли признаки похолодания в культурных слоях XVI–XVIII веков

N+1
Болезнь тридцатилетних. Что такое кризис четверти жизни и как его правильно прожить Болезнь тридцатилетних. Что такое кризис четверти жизни и как его правильно прожить

Почему люди испытывают кризис четверти жизни?

Inc.
Уверенность, гармония и энергия: 3 рецепта счастья для разных поколений россиян Уверенность, гармония и энергия: 3 рецепта счастья для разных поколений россиян

Что же нам необходимо, чтобы отлично себя чувствовать?

Psychologies
Что появилось раньше: мышечный орган в ротовой полости или речь? И вообще, почему язык прозвали языком? Что появилось раньше: мышечный орган в ротовой полости или речь? И вообще, почему язык прозвали языком?

Орган или речь — кто был первым?

ТехИнсайдер
Какие растения любят подкормку из яичной скорлупы: дешевое удобрение, о котором должен знать каждый дачник Какие растения любят подкормку из яичной скорлупы: дешевое удобрение, о котором должен знать каждый дачник

Многие собирают скорлупу для подкормки сада и комнатных растений

ТехИнсайдер
Ресторатор Борис Зарьков — о японской муке, машине и The World's 50 Best Ресторатор Борис Зарьков — о японской муке, машине и The World's 50 Best

Ресторатором Борисом Зарьковым — о насмотренности, любви к Японии и планах

РБК
Когда (не) поздно начать Когда (не) поздно начать

У желаний нет возраста

Psychologies
Убивший 100 женщин: история орского маньяка, который до сих пор на свободе Убивший 100 женщин: история орского маньяка, который до сих пор на свободе

Валерий Андреев — один из самых опасных убийц в России

VOICE
Потому что может: как экс-президент Дональд Трамп рассчитался с огромным долгом Потому что может: как экс-президент Дональд Трамп рассчитался с огромным долгом

Как у Дональда Трампа чудесным образом оказалось полно денег

Forbes
Как сойти за умного в любой ситуации? 4 способа прикинуться интеллектуалом Как сойти за умного в любой ситуации? 4 способа прикинуться интеллектуалом

Кто не хочет, чтобы о нем думали, как об умном и образованном человеке?

ТехИнсайдер
Археологи нашли на новгородском Немецком дворе европейскую посуду и обувь Археологи нашли на новгородском Немецком дворе европейскую посуду и обувь

Руководитель экспедиции рассказал о находках, сделанных в слоях XIII–XIV веков

N+1
Как проблемы в отношениях влияют на психическое здоровье мужчин Как проблемы в отношениях влияют на психическое здоровье мужчин

Что происходит с мужчинами, когда отношения портятся или подходят к завершению?

Psychologies
Сверхновая 1181 года вписалась в модель слияния двух белых карликов Сверхновая 1181 года вписалась в модель слияния двух белых карликов

Возникновение сверхновой произошло из-за слияния двух белых карликов

N+1
Китайские химики смоделировали фильтрацию дыма древней лампы-гуся Китайские химики смоделировали фильтрацию дыма древней лампы-гуся

Древняя масляная лампа-гусь могла снижать загрязнение воздуха в помещении

N+1
Отец объемной мультипликации: как жил и работал Владислав Старевич Отец объемной мультипликации: как жил и работал Владислав Старевич

«Этот человек обогнал всех аниматоров мира на несколько десятилетий»

Правила жизни
Как выглядеть отдохнувшей: 7 рекомендаций Как выглядеть отдохнувшей: 7 рекомендаций

Несколько простых способов освежиться

Psychologies
Как справиться с источниками негатива в нашей жизни: 3 совета Как справиться с источниками негатива в нашей жизни: 3 совета

Как найти источники негативного влияния и нейтрализовать их?

Psychologies
Как делают футбольные мячи: простая вещь со сложной разработкой Как делают футбольные мячи: простая вещь со сложной разработкой

Создание профессионального футбольного мяча — это целая наука

ТехИнсайдер
Совсем не игрушки Совсем не игрушки

Сколько могут стоить машины, которые были у дедушки, когда он был внуком

Автопилот
В пустынном солончаке чудом обнаружили древние В пустынном солончаке чудом обнаружили древние

Археологи наткнулись на таинственные «призрачные следы» на солончаках пустыни

ТехИнсайдер
Треть цинка попала на Землю вместе с метеоритами Треть цинка попала на Землю вместе с метеоритами

Метеориты могут быть источником цинка, ртути, селена на Земле

N+1
Из-за чего судятся акционеры одной из самых популярных франшиз «Мозгобойня» Из-за чего судятся акционеры одной из самых популярных франшиз «Мозгобойня»

Почему сеть паб-квизов «Мозгобойня» раздирает корпоративный конфликт

Forbes
В краю двух морей: зачем вам непременно стоит отправиться на Терский берег В краю двух морей: зачем вам непременно стоит отправиться на Терский берег

Кольский полуостров часто называют краем земли

Вокруг света
Что случилось с фильмами, в которых главные актеры умирали посреди съемок Что случилось с фильмами, в которых главные актеры умирали посреди съемок

Как выкручивались студии, когда оставались без основного героя

Maxim
Спасти отношения с любимым человеком: 10 шагов Спасти отношения с любимым человеком: 10 шагов

Стоит ли сохранять отношения, когда они трещат по швам?

Psychologies
Открыть в приложении