С какими материалами работают модераторы контента в TikTok?

ForbesБизнес

Зачем TikTok база изображений сексуализированного насилия над несовершеннолетними

Бывшие подрядчики TikTok заявляют, что справочным материалом для сторонних модераторов контента соцсети служит множество изображений с детьми, подвергшимися сексуализированному насилию, ― и все это находится в почти неограниченном корпоративном доступе

Александра С. Левин. Перевод Forbes USA. Перевод Антона Бундина

Фото Scott Eells / Bloomberg via Getty Images

Бывший сотрудник TikTok Нассер (фамилии этого и некоторых других собеседников не называются из соображений конфиденциальности) знал, что в процессе обучения на должность модератора контента TikTok ему придется иметь дело с неприятными материалами. Но когда ему и другим новичкам на обучении показали изображения сексуального характера без цензуры с участием детей, для него это стало настоящим шоком.

Нассер работал в сторонней компании Teleperformance, которая модерирует контент социальной сети. Нового сотрудника взяли на специальный проект, в рамках которого планировалось научить искусственный интеллект (ИИ) TikTok выявлять на платформе худшее из худшего. Спустя всего несколько дней после начала работы Нассеру и его коллегам показали натуралистические изображения и видео, где дети подвергаются действиям сексуального характера, ― все ролики и фотографии, удаленные из TikTok.

«У меня самого есть дочь, и мне кажется, что неправильно, когда это смотрит толпа незнакомых людей, ― рассказал Forbes Нассер (из Teleperformance он ушел в 2020 году). ― Думаю, что такое для обучения использовать нельзя».

Уитни Тернер, работавшая в Teleperformance по этой же программе TikTok в Эль-Пасо на протяжении чуть больше года и уволившаяся в 2021-м, тоже вспоминает, как на обучении ей показывали визуальные материалы с сексуализированным насилием над детьми. Сотруднице дали доступ к общей таблице. Сама Уитни и ее бывшие коллеги утверждают, что в файле полно материалов, нарушающих правила сообщества TikTok, в том числе сотни изображений с детьми, которых заставляют раздеваться или насилуют. Бывшие модераторы заявляют, что документ под названием DRR (англ. Daily Required Reading, «обязательная ежедневная вычитка») находился в широком доступе для сотрудников Teleperformance и TikTok еще этим летом. Несмотря на то что некоторым модераторам, задействованным по другим направлениям, просмотр этого документа был запрещен, многие источники рассказали Forbes о том, что свободный доступ к файлу имели сотни работников из обеих компаний. DRR и другие справочные материалы хранились в программе Lark, корпоративной системе китайского гиганта ByteDance, владельца социальной сети.

Уитни была настолько ошеломлена небрежным обращением с материалами, что сообщила об этом в ФБР и впоследствии, в июне, встречалась по этому поводу с агентом. В ФБР на вопросы о том, предвидится ли какое-то расследование, не ответили.

«Я модерировала контент и думала: это же чей-то сын, чья-то дочь. И их родители даже не знают, что у нас сохранены эти фотографии, эти видео, этот ужас, настоящее преступление, ― поделилась Уитни. ― Будь родители в курсе, я уверена, они бы сожгли TikTok дотла».

Президент глобального подразделения по доверию и безопасности Teleperformance Акаш Пугалия заявил Forbes, что ролики откровенного содержания с участием детей компания в целях обучения не применяет. Кроме того, он добавил, что фирма не хранит подобный контент в своих «инструментах калибровки», хотя, что это за инструменты и для чего используются, он не пояснил. Отвечать на другие вопросы из обширного списка о том, сколько людей имеют через DRR доступ к материалам с насилием в отношении детей и как Teleperformance охраняет визуальный данные, управленец тоже отказался.

TikTok ― далеко не единственная платформа, которая борется с материалами сексуального насилия над несовершеннолетними. Крупнейшие социальные сети мира давно прибегают к машинному обучению и помощи сторонних проверяющих, чтобы находить и удалять подобные записи до того, как они разлетятся по интернету. Многие фирмы сотрудничают с Национальным центром по поиску пропавших и подвергшихся насилию детей (National Center for Missing & Exploited Children), чтобы сообщать о подобных постах в своем приложении органам правопорядка.

Однако уникально то, как TikTok и его сторонние консультанты обращаются с таким контентом. Эксперты называют сложившийся подход в лучшем случае небрежным и халатным, а в худшем ― опасным и травмирующим снова и снова. Специалисты подчеркивают, что изображения сексуального характера с детьми при обучении модерации контента ― не важно, с цензурой или без, ― лишь унижает жертв каждый раз заново. Кроме того, хранение записей в документе с общим доступом безответственно и излишне.

Пресс-секретарь TikTok Джейми Фавацца заявила, что «материалы для обучения в компании имеют строгий контроль доступа и не включают в себя наглядные примеры материалов сексуального насилия над детьми», но признала, что бизнес работает со сторонними фирмами, у которых внутренние процессы могут отличаться. Отвечать на вопросы о том, сколько сотрудников имеют доступ к файлу DRR и где документ хранится, в TikTok отказались. Родительская компания ByteDance, разработчик платформы Lark, многочисленные запросы прокомментировать эту информацию оставила без внимания.

«Свободный и неограниченный оборот здесь не пройдет»

Изображения насилия над детьми и их эксплуатации противозаконны, и существуют строгие правила по обращению с такими данными в случае обнаружения. Материал подлежит незамедлительной блокировке, и о нем необходимо сообщать в систему CyberTipline Национального центра по поиску пропавших и подвергшихся насилию детей. Там персонал анализирует файлы и ищет их первоисточник, чтобы уведомить соответствующие правоохранительные органы. Как только компания сообщает о материале в профильный центр, ей официально разрешается хранить контент в течение 90 дней для помощи следствию. Но федеральный закон США четко требует от предприятий «минимизировать число сотрудников, которым дается доступ» к незаконному контенту, «хранить материалы в безопасном месте» и «обеспечивать полное уничтожение любого визуального изображения по запросу от органов правопорядка».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Борьба вместо рестлинга: Халк Хоган создал профессиональную лигу и привлек чемпионов Борьба вместо рестлинга: Халк Хоган создал профессиональную лигу и привлек чемпионов

Пиво, чемпионы и венчурные фонды: зачем Халк Хоган создал свою лигу?

Forbes
«За Горбачева»: как создавалась скандальная реклама пиццы Pizza Hut с Михаилом Горбачевым «За Горбачева»: как создавалась скандальная реклама пиццы Pizza Hut с Михаилом Горбачевым

Почему бывший советский лидер согласился стать лицом сети ресторанов пиццы

Правила жизни
Студенты перестали мечтать о быстрых головокружительных карьерах Студенты перестали мечтать о быстрых головокружительных карьерах

У российских студентов скорректировались приоритеты при выборе места работы

Ведомости
Магия кристалла Магия кристалла

Многогранный и статусный интерьер просторной квартиры в центре столицы

SALON-Interior
Индивидуалистка из СССР: как Айн Рэнд боролась с коммунизмом и создавала бестселлеры Индивидуалистка из СССР: как Айн Рэнд боролась с коммунизмом и создавала бестселлеры

Как Айн Рэнд, дочь аптекаря из Петербурга, смогла покорить США

Forbes
Весь мозг на одном кристалле. Будущее мемристоров приближается Весь мозг на одном кристалле. Будущее мемристоров приближается

Мемристорная вычислительная техника может прийти на смену традиционной

ТехИнсайдер
Исследование показало, какую сексуальную практику предпочитают устойчивые пары Исследование показало, какую сексуальную практику предпочитают устойчивые пары

Секс втроем положительно сказывается на моногамных отношениях

Psychologies
Не только «Брат-2»: самые скрепные отечественные фильмы про русских за границей Не только «Брат-2»: самые скрепные отечественные фильмы про русских за границей

Как советские и российские режиссеры видели соотечественников за границей?

Maxim
В каких фруктах и ягодах больше всего белка В каких фруктах и ягодах больше всего белка

Что поможет тебе не только восполнить дефицит витаминов, но и набрать массу

Maxim
Мама, не грусти Мама, не грусти

Мамы проходят испытание послеродовой депрессией, даже не подозревая об этом

Лиза
М или Ж? Как раз и навсегда запомнить род слова М или Ж? Как раз и навсегда запомнить род слова

Тюль — мужской род или женский?

ТехИнсайдер
Сосредоточьтесь на чем-то одном: как многозадачность вредит нашему здоровью и отношениям Сосредоточьтесь на чем-то одном: как многозадачность вредит нашему здоровью и отношениям

Многозадачность на самом деле снижает нашу общую продуктивность

Psychologies
Катерина Сильванова, Елена Малисова: «О чем молчит Ласточка». Продолжение бестселлера «Лето в пионерском галстуке» Катерина Сильванова, Елена Малисова: «О чем молчит Ласточка». Продолжение бестселлера «Лето в пионерском галстуке»

Глава из книги «О чем молчит Ласточка» — о рефлексии юношеской любви

СНОБ
6 вещей, которыми можно злоупотреблять, хоть все считают иначе 6 вещей, которыми можно злоупотреблять, хоть все считают иначе

Удовольствия, которых мы себя зачем-то лишили, а зря!

Maxim
Как настроить велосипедный переключатель скоростей в любых условиях Как настроить велосипедный переключатель скоростей в любых условиях

Как любителю настроить переключатель на велосипеде?

ТехИнсайдер
Серена Уильямс завершает карьеру: как ей удалось стать одной из главных теннисисток в мире Серена Уильямс завершает карьеру: как ей удалось стать одной из главных теннисисток в мире

Чем запомнится теннисистка Серена Уильямс?

СНОБ
Все время спешим и ничего не успеваем: виноват ли в этом цифровой прогресс? Все время спешим и ничего не успеваем: виноват ли в этом цифровой прогресс?

Отрывок из книги «Времени в обрез: ускорение жизни при цифровом капитализме»

Psychologies
Мужские гаремы и женская дружба: как устроены отношения полов в дикой природе Мужские гаремы и женская дружба: как устроены отношения полов в дикой природе

Натуралист Евгения Тимонова: о борьбе полов, феминизме, бодипозитиве — у зверей

Forbes
Почему мужчина не дарит подарки и должен ли: мнение психолога Почему мужчина не дарит подарки и должен ли: мнение психолога

Каждой девушке хочется чувствовать себя особенной в глазах мужчины

Psychologies
Наркотики, измены и смерть обоих: каким на самом деле был Наркотики, измены и смерть обоих: каким на самом деле был

Союз Джона Кеннеди-младшего и Кэролин Бессет — каким был их брак?

VOICE
Прямые траектории миграции мертвых голов указали на наличие внутреннего компаса Прямые траектории миграции мертвых голов указали на наличие внутреннего компаса

Вероятно, бражники ориентируются по ландшафту и магнитному полю Земли

N+1
Почему маленькие дети так часто заражаются острицами и как уберечь ребенка от паразитов Почему маленькие дети так часто заражаются острицами и как уберечь ребенка от паразитов

Острицы способны нарушить даже самые всеобъемлющие стандарты гигиены

ТехИнсайдер
Есть ли толк от интервального голодания: ученые попытались разобраться, но в итоге запутались еще больше Есть ли толк от интервального голодания: ученые попытались разобраться, но в итоге запутались еще больше

В чем секрет интервального голодания?

ТехИнсайдер
5 способов спасти себя от разрушительного стресса 5 способов спасти себя от разрушительного стресса

Комплекс мер по поддержанию нормальной работы мозга во время стресса

Psychologies
Как понять, что у партнера сексуальная зависимость? Как понять, что у партнера сексуальная зависимость?

Не оказался ли ваш партнер секс-зависимым?

Psychologies
Люди сжульничали независимо от предыдущей победы или поражения Люди сжульничали независимо от предыдущей победы или поражения

От чего зависит жульничество в азартных играх?

N+1
Непентес приспособился использовать энергию падающих капель дождя для поимки жертв Непентес приспособился использовать энергию падающих капель дождя для поимки жертв

Механизм ловушки этого растения работает не так, как предполагалось ранее

N+1
Просто уходило лето Просто уходило лето

Как вернуть силы и восстановиться после отпуска?

Лиза
«Абонент временно недоступен»: как реагировать на звонки и сообщения от пьяных знакомых «Абонент временно недоступен»: как реагировать на звонки и сообщения от пьяных знакомых

Стоит ли вступать в «пьяные» диалоги и верить откровениям выпившего человека

Psychologies
Автомобили Михаила Горбачева. На чем ездил президент СССР Автомобили Михаила Горбачева. На чем ездил президент СССР

Автопарк президента СССР: от «Запорожца» до бронированного лимузина и Mercedes

РБК
Открыть в приложении