С какими материалами работают модераторы контента в TikTok?

ForbesБизнес

Зачем TikTok база изображений сексуализированного насилия над несовершеннолетними

Бывшие подрядчики TikTok заявляют, что справочным материалом для сторонних модераторов контента соцсети служит множество изображений с детьми, подвергшимися сексуализированному насилию, ― и все это находится в почти неограниченном корпоративном доступе

Александра С. Левин. Перевод Forbes USA. Перевод Антона Бундина

Фото Scott Eells / Bloomberg via Getty Images

Бывший сотрудник TikTok Нассер (фамилии этого и некоторых других собеседников не называются из соображений конфиденциальности) знал, что в процессе обучения на должность модератора контента TikTok ему придется иметь дело с неприятными материалами. Но когда ему и другим новичкам на обучении показали изображения сексуального характера без цензуры с участием детей, для него это стало настоящим шоком.

Нассер работал в сторонней компании Teleperformance, которая модерирует контент социальной сети. Нового сотрудника взяли на специальный проект, в рамках которого планировалось научить искусственный интеллект (ИИ) TikTok выявлять на платформе худшее из худшего. Спустя всего несколько дней после начала работы Нассеру и его коллегам показали натуралистические изображения и видео, где дети подвергаются действиям сексуального характера, ― все ролики и фотографии, удаленные из TikTok.

«У меня самого есть дочь, и мне кажется, что неправильно, когда это смотрит толпа незнакомых людей, ― рассказал Forbes Нассер (из Teleperformance он ушел в 2020 году). ― Думаю, что такое для обучения использовать нельзя».

Уитни Тернер, работавшая в Teleperformance по этой же программе TikTok в Эль-Пасо на протяжении чуть больше года и уволившаяся в 2021-м, тоже вспоминает, как на обучении ей показывали визуальные материалы с сексуализированным насилием над детьми. Сотруднице дали доступ к общей таблице. Сама Уитни и ее бывшие коллеги утверждают, что в файле полно материалов, нарушающих правила сообщества TikTok, в том числе сотни изображений с детьми, которых заставляют раздеваться или насилуют. Бывшие модераторы заявляют, что документ под названием DRR (англ. Daily Required Reading, «обязательная ежедневная вычитка») находился в широком доступе для сотрудников Teleperformance и TikTok еще этим летом. Несмотря на то что некоторым модераторам, задействованным по другим направлениям, просмотр этого документа был запрещен, многие источники рассказали Forbes о том, что свободный доступ к файлу имели сотни работников из обеих компаний. DRR и другие справочные материалы хранились в программе Lark, корпоративной системе китайского гиганта ByteDance, владельца социальной сети.

Уитни была настолько ошеломлена небрежным обращением с материалами, что сообщила об этом в ФБР и впоследствии, в июне, встречалась по этому поводу с агентом. В ФБР на вопросы о том, предвидится ли какое-то расследование, не ответили.

«Я модерировала контент и думала: это же чей-то сын, чья-то дочь. И их родители даже не знают, что у нас сохранены эти фотографии, эти видео, этот ужас, настоящее преступление, ― поделилась Уитни. ― Будь родители в курсе, я уверена, они бы сожгли TikTok дотла».

Президент глобального подразделения по доверию и безопасности Teleperformance Акаш Пугалия заявил Forbes, что ролики откровенного содержания с участием детей компания в целях обучения не применяет. Кроме того, он добавил, что фирма не хранит подобный контент в своих «инструментах калибровки», хотя, что это за инструменты и для чего используются, он не пояснил. Отвечать на другие вопросы из обширного списка о том, сколько людей имеют через DRR доступ к материалам с насилием в отношении детей и как Teleperformance охраняет визуальный данные, управленец тоже отказался.

TikTok ― далеко не единственная платформа, которая борется с материалами сексуального насилия над несовершеннолетними. Крупнейшие социальные сети мира давно прибегают к машинному обучению и помощи сторонних проверяющих, чтобы находить и удалять подобные записи до того, как они разлетятся по интернету. Многие фирмы сотрудничают с Национальным центром по поиску пропавших и подвергшихся насилию детей (National Center for Missing & Exploited Children), чтобы сообщать о подобных постах в своем приложении органам правопорядка.

Однако уникально то, как TikTok и его сторонние консультанты обращаются с таким контентом. Эксперты называют сложившийся подход в лучшем случае небрежным и халатным, а в худшем ― опасным и травмирующим снова и снова. Специалисты подчеркивают, что изображения сексуального характера с детьми при обучении модерации контента ― не важно, с цензурой или без, ― лишь унижает жертв каждый раз заново. Кроме того, хранение записей в документе с общим доступом безответственно и излишне.

Пресс-секретарь TikTok Джейми Фавацца заявила, что «материалы для обучения в компании имеют строгий контроль доступа и не включают в себя наглядные примеры материалов сексуального насилия над детьми», но признала, что бизнес работает со сторонними фирмами, у которых внутренние процессы могут отличаться. Отвечать на вопросы о том, сколько сотрудников имеют доступ к файлу DRR и где документ хранится, в TikTok отказались. Родительская компания ByteDance, разработчик платформы Lark, многочисленные запросы прокомментировать эту информацию оставила без внимания.

«Свободный и неограниченный оборот здесь не пройдет»

Изображения насилия над детьми и их эксплуатации противозаконны, и существуют строгие правила по обращению с такими данными в случае обнаружения. Материал подлежит незамедлительной блокировке, и о нем необходимо сообщать в систему CyberTipline Национального центра по поиску пропавших и подвергшихся насилию детей. Там персонал анализирует файлы и ищет их первоисточник, чтобы уведомить соответствующие правоохранительные органы. Как только компания сообщает о материале в профильный центр, ей официально разрешается хранить контент в течение 90 дней для помощи следствию. Но федеральный закон США четко требует от предприятий «минимизировать число сотрудников, которым дается доступ» к незаконному контенту, «хранить материалы в безопасном месте» и «обеспечивать полное уничтожение любого визуального изображения по запросу от органов правопорядка».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как фотограф Рино Бариллари снимал Одри Хепберн, принцессу Диану и 12 раз ломал ребра Как фотограф Рино Бариллари снимал Одри Хепберн, принцессу Диану и 12 раз ломал ребра

О том, почему профессия папарацци все еще жива и востребована

Forbes
8 программ для записи видео с экрана ноутбука 8 программ для записи видео с экрана ноутбука

Самые подходящие программы для записи видео с экрана компьютера

CHIP
Больше чем репост: как бизнесу делать кросс-промо, которое работает Больше чем репост: как бизнесу делать кросс-промо, которое работает

Кросс-промо: как найти хорошего партнера и построить успешную коллаборацию

Inc.
Экономные наши! Звезды, которым не стыдно дважды надевать одно и то же Экономные наши! Звезды, которым не стыдно дважды надевать одно и то же

Некоторые звезды без проблем носят одни и те же вещи по два, три, пять раз!

VOICE
Блогер рассказал, как надо правильно вести себя в Японии, и развеял стереотип о запретах на открытую одежду в общественных местах Блогер рассказал, как надо правильно вести себя в Японии, и развеял стереотип о запретах на открытую одежду в общественных местах

Правила поведения в японском обществе, которые помогут путешественникам

Maxim
Андрей Кончаловский: гид по творчеству живого классика (азбука «Правил жизни») Андрей Кончаловский: гид по творчеству живого классика (азбука «Правил жизни»)

Опорные пункты в творчестве мэтра Андрея Кончаловского

Правила жизни
Грибы-скороспелки Грибы-скороспелки

Среди грибов встречаются виды, которые быстро растут и так же быстро исчезают

Наука и жизнь
Анализ 777 древних геномов прояснил происхождение популяций эпохи палеометалла Анализ 777 древних геномов прояснил происхождение популяций эпохи палеометалла

Историю индоевропейских языков можно проследить до ямной культуры

N+1
Бесплатная медицина и очередь за визой: что нужно знать при переезде в Канаду Бесплатная медицина и очередь за визой: что нужно знать при переезде в Канаду

К каким неожиданностям стоит приготовиться при переезде в Канаду?

Forbes
Кино как улика Кино как улика

Как одна телевизионная трилогия спасла троих невинно осужденных

Weekend
Древнейшие земледельцы сформировались из трех предковых популяций Древнейшие земледельцы сформировались из трех предковых популяций

Ученые разобрались в происхождении населения эпохи докерамического неолита

N+1
Слизь так важна для жизни, что разные виды самостоятельно получали ее в ходе эволюции снова и снова Слизь так важна для жизни, что разные виды самостоятельно получали ее в ходе эволюции снова и снова

Слизь появлялась на мировом эволюционном древе ни один и не два раза

ТехИнсайдер
Как подростки снимали фильм «Дух сейда» для проекта «Кинолаборатория» Как подростки снимали фильм «Дух сейда» для проекта «Кинолаборатория»

«Сноб» поговорил с командой фильма «Дух сейда» о том, что дал им этот проект

СНОБ
Непентес приспособился использовать энергию падающих капель дождя для поимки жертв Непентес приспособился использовать энергию падающих капель дождя для поимки жертв

Механизм ловушки этого растения работает не так, как предполагалось ранее

N+1
Илон Маск в переработке. Как выпускник Принстона создал крупнейшую в мире частную компанию по утилизации мусора с оборотом $70 млн в год Илон Маск в переработке. Как выпускник Принстона создал крупнейшую в мире частную компанию по утилизации мусора с оборотом $70 млн в год

История компании по утилизации отходов TerraCycle

Inc.
Полив этиловым спиртом защитил резуховидку от засухи Полив этиловым спиртом защитил резуховидку от засухи

Генетики предложили повысить засухоустойчивость растений с помощью этанола

N+1
Как перекупщики обманывают водителей: что важно знать при ввозе машины Как перекупщики обманывают водителей: что важно знать при ввозе машины

Эксперты назвали риски при заказе автомобилей из-за границы у перекупщиков

РБК
Кокетливый язык тела: какие жесты заводят мужчин и женщин Кокетливый язык тела: какие жесты заводят мужчин и женщин

Язык тела позволяет выразить наши чувства и желания

Psychologies
8 способов похудеть для очень занятых людей 8 способов похудеть для очень занятых людей

Мы составили самую простую и быструю программу похудения

Psychologies
Как появилось знаменитое розовое платье Мэрилин Монро Как появилось знаменитое розовое платье Мэрилин Монро

Кто одевал Монро и почему сработал один из самых известных нарядов Монро?

Правила жизни
Домашний тест для определения рака горла и полости рта показал точность в 90 процентов Домашний тест для определения рака горла и полости рта показал точность в 90 процентов

Может ли машина выявить рак горла и полости рта по слюне?

N+1
Города вечной жизни: 5 мест в мире, где введен запрет на смерть Города вечной жизни: 5 мест в мире, где введен запрет на смерть

Местных жителей этих городов смерть не застанет врасплох

Maxim
Весь мозг на одном кристалле. Будущее мемристоров приближается Весь мозг на одном кристалле. Будущее мемристоров приближается

Мемристорная вычислительная техника может прийти на смену традиционной

ТехИнсайдер
Отсеквенирован геном «бессмертной» медузы Отсеквенирован геном «бессмертной» медузы

Ученые составили список генов, которые отвечают за «бессмертие» медузы

N+1
Время во Вселенной может не существовать вовсе! Но вот почему этого не стоит бояться Время во Вселенной может не существовать вовсе! Но вот почему этого не стоит бояться

Существует ли время?

ТехИнсайдер
После людей После людей

Призраки прошлого служат наглядным напоминанием об ошибках человечества

Вокруг света
Как быстро очистить подошву утюга от пригара: возвращаем бытовой технике прежний вид Как быстро очистить подошву утюга от пригара: возвращаем бытовой технике прежний вид

Мы знаем, как вернуть утюгу былой блеск и чистоту

ТехИнсайдер
Генетики нашли сходство в ДНК у неродственных двойников Генетики нашли сходство в ДНК у неродственных двойников

Так ли похожи неродственные двойники?

N+1
«Люди не хотят, чтобы ребенок попал в переплет»: как воспитывают мальчиков и девочек «Люди не хотят, чтобы ребенок попал в переплет»: как воспитывают мальчиков и девочек

Какие клише по воспитанию детей существуют в России?

Forbes
Вопрос психологу: как перестать искать у себя болезни Вопрос психологу: как перестать искать у себя болезни

Почему озабоченность здоровьем может перерастать в одержимость?

Правила жизни
Открыть в приложении