Мы считаем, что интернет создан ради нас, но на деле его пользователи — боты

РБКHi-Tech

Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News

Автор: Максим Момот

Мы считаем, что интернет создан ради нас, но на самом деле основные его пользователи — уже давно боты. Так, согласно исследованию компании Imperva, занимающейся вопросами кибербезопасности, еще в 2016 году число посещений сайтов программами, созданными для различных целей, превысило количество их просмотров людьми. В чем похожи и те и другие, так это в своей неразборчивости к распространяемой информации.

Люди то и дело перепощивают в соцсетях сообщения, которые считают правдой, потому что они их пугают или, наоборот, радуют. Примерно то же самое, но в целях пропаганды, делают боты — например для выведения недостоверных публикаций в топ новостей. Положить этому конец обещают разработчики платформ, способных в полуавтоматическом режиме отслеживать лживый и оскорбительный контент. Впрочем, деятельность этих платформ сама по себе поднимает моральную проблему — где разница между правдой и пропагандой?

В поисках истины

Трудно поверить, но одни из главных потенциальных клиентов платформ автоматического фактчекинга — рекламщики. «Исследования показывают, что 80% пользователей избегают покупок у брендов, присутствующих рядом с радикальным или опасным контентом», — отметил в комментарии РБК основатель и CEO нидерландского стартапа Adverif.ai Ор Леви. Компания разработала алгоритм FakeRank, позволяющий выявлять фальшивые новости. А это, в свою очередь, дает брендам возможность не размещать свою рекламу рядом с такими сообщениями в соцсетях.

Пример фальшивой новости, рядом с которой серьезному рекламодателю вряд ли захочется увидеть свои объявления, — сообщение о том, что покончившего с собой в американской тюрьме (согласно официальной версии) финансиста Джеффри Эпштейна видели живым после его смерти. FakeRank поставит такой новости высокий индекс недостоверности и не допустит размещения рядом с ней рекламных сообщений, утверждают в компании.

По словам Ора Леви, наиболее эффективный способ определения фальшивых новостей — это имитация процесса человеческих умозаключений. «Невозможно вручную проверять каждый фрагмент контента соцсетей, — говорит он. — Однако некоторые задачи, которые выполняют журналисты и люди, профессионально занимающиеся проверкой фактов, могут быть автоматизированы, что поможет увеличить масштабы этой работы».

Если ложные сообщения, которые намеренно распространяют боты, легко отловить обычным поиском (ведь тексты дословно повторяют друг друга), то фейковые новости, которые разносят люди, могут циркулировать в отличных друг от друга вариациях. Поэтому алгоритм FakeRank использует обработку естественного языка. Вердикт о ложности информации он выносит, сравнивая тексты в соцсетях и форумах с утверждениями из достоверных источников, например ведущих СМИ. Adverif.ai продает доступ к FakeRank рекламодателям, рекламным сетям и СМИ.

По схожей модели работает и лондонская компания Factmata. Как рассказал в комментарии РБК ее основатель и CEO Друв Галати, в основе технологии, которую они используют, лежит классификация текстов по различным категориям риска — оскорбления, угрозы, расистские заявления и так далее. Обнаружив в какой-либо публикации фрагменты, содержащие опасный контент, алгоритм отслеживает их перепосты и цитирование другими пользователями. Чтобы улучшить работу алгоритмов, компания сотрудничает с журналистами, исследователями и общественными организациями.

Впрочем, Factmata отлавливает не только оскорбления и угрозы: стартап, сумевший привлечь $3 млн инвестиций, утверждает, что ему удалось создать систему оценки онлайн-контента на достоверность и нормы морали. Ложь для Factmata — понятие многомерное: в частности, система оценивает в процентах вероятность того, имеет ли текст политическую ангажированность, не призывает ли к насилию и не является ли заголовок материала кликбейтным (то есть намеренно не соответствующим содержанию текста и нацеленным лишь на то, чтобы на него кликнули).

Как считает Галати, компании, которые борются с недостоверными сообщениями, могут помочь, помимо брендов, и модераторам контента. Еще одна цель — предотвратить монетизацию таких недостоверных новостей, которая может происходить, например, через продажу рекламы на желтых сайтах, зарабатывающих популярность тиражированием уток.

Выявлять фальшивые новости, которые распространяются в рамках заказных информационных кампаний, можно не только изучая их содержание. Другой способ — отслеживать скоординированное поведение ботов, продвигающих эти новости. Такую технологию разработала компания Logically, привлекшая $12,7 млн инвестиций (ее офисы расположены в Великобритании и Индии, также открывается представительство в США). Как рассказали РБК в пресс-службе компании, для определения первоисточника недостоверных сообщений Logically использует интеллектуальную поисковую систему. Она может отследить, кто именно первым запустил в сеть недостоверную информацию — в том числе вирусные видео. А вот проверку содержимого публикаций Logically решила не отдавать полностью на откуп алгоритмам — этим занимаются в том числе эксперты-люди.

Детектор лжи

На смену фальшивым текстовым новостям идут более изощренные подделки, основанные на технологии дипфейк, позволяющей накладывать одно видео на другое при помощи ИИ. Нетрудно представить, к каким проблемам может привести, например, подделка видеовыступлений глав государств. «Превращение дипфейков и синтетических медиа («роботизированных СМИ», в которых контент создается или модифицируется алгоритмами. — РБК) в оружие уже вошло в число главных угроз будущего с точки зрения кибербезопасности», — отметил в комментарии РБК Кристоф Сабо, CEO и сооснователь датской компании Defudger, занимающейся выявлением дипфейков. По его словам, по мере распространения таких технологий люди будут все сильнее теряться в лабиринте подлинных и сфальсифицированных материалов (подробнее о дипфейках — в другой статье в данном номере).

Если недостоверность видео и изображений может быть доказана чисто технически и у результатов такой проверки вряд ли может быть политический уклон (если разоблачаться будут фейки разных политических групп, а не исключительно одной), то с оценкой текстов все сложнее. «Сама идея, что есть нечто, называемое фактчекингом, и что это заменит журналистику и редактуру, и политику, и аргументацию, и субъективные решения, всегда было химерой, но это так привлекательно для индустрии технологий», — отмечал колумнист The New York Times Бен Смит. То есть оценка текстам в конечном счете все равно будет даваться людьми, что опять может вызвать подозрения в необъективности.

Как рассказал в комментарии РБК сооснователь российского сервиса Fakecheck Дмитрий Казьмин, в его компании проверки достоверности публикаций проводятся именно вручную. «ИИ сейчас может эффективно находить хейтспич, токсичные слова и картинки», — рассказывает он. По мнению Казьмина, ИИ может сильно упростить проверку, взяв на себя механическую работу, но не способен полностью заменить человека, поскольку не учитывает все нюансы текста. К тому же автоматическая проверка текстов пока совершенствуется в основном для англоязычных источников. «Все продукты с анализом текста и робожурналистикой на английском сильно опережают аналогичные продукты на русском языке, — говорит Дмитрий Казьмин. — Поэтому автоматизация русскоязычных сервисов отстает».

В качестве примера анализа, который проводит Fakecheck, можно привести опубликованный на сайте компании разбор поста в «Яндекс.Дзен», в котором со ссылкой на выдуманное сообщение «РИА Новости» утверждалось, что со 2 ноября 2020 года в Москве по решению мэра Сергея Собянина вводится пропускной режим. Чтобы опровергнуть эту информацию, Fakecheck хватило трех фактов: «Агентство «РИА Новости» не выпускало такой новости. О том, что со 2 ноября в Москве начнут возвращать пропускной режим, не говорил и мэр города. Более того, Собянин и его подчиненные неоднократно в течение октября говорили, что хотели бы в этот раз избежать жестких ограничений».

Избирательный фактчекинг

Приведенный пример с проверкой поста на «Яндекс.Дзен» — это простой случай, разоблачение утверждения, которое легко опровергнуть со ссылкой на общедоступные и достоверные первоисточники. Однако когда фактчекингу пытаются подвергнуть мнения и оценки, правдивость или ложность которых совсем не очевидна, фактчекинг сам способен превратиться в инструмент политической борьбы и манипуляций общественным мнением.

Например, стоило президенту США Дональду Трампу написать в Twitter о том, что рассылка избирательных бюллетеней по почте приведет к фальсификациям на выборах, соцсеть тут же разместила под его сообщениями ссылки на публикации, в которых утверждается обратное. И это при том, что в прессе не раз появлялись сообщения о том, что эти бюллетени находят в мусорных баках и отследить их перемещения довольно сложно. Однако фактчекеров из Twitter эти данные почему-то не заинтересовали. Прореспубликанские СМИ, кроме того, обратили внимание на то, что фактчекингом высказываний руководства Демократической партии Twitter не занимается.

Другой пример избирательного фактчекинга — многочисленные сообщения о том, что предвыборный штаб Дональда Трампа во время президентской кампании 2016 года якобы находился в сговоре с российскими спецслужбами и властями. Хотя расследование спецпрокурора Роберта Мюллера не нашло доказательств подобных обвинений, сообщения об этих связях продолжают появляться в СМИ. Они почему-то не считаются теорией заговора и не удаляются из Сети и результатов поиска.

Поэтому неудивительно, что даже в США, согласно опросу Gallup, СМИ доверяют только 40% граждан. На самом деле, если присмотреться к этому опросу, ситуация намного хуже. Общий показатель 40% получается благодаря высокому уровню доверия к СМИ среди сторонников Демпартии (73%), в то время как среди независимых избирателей (не поддерживающих постоянно ту или иную партию) этот показатель составляет 36%, а среди республиканцев — всего 10%. То есть СМИ не доверяют 90% сторонников одной из двух крупнейших партий страны.

Смогут ли компании, занимающиеся борьбой с фальшивыми новостями, вернуть доверие к информационному пространству? По данным Logically, когда компания отправляет результаты своей проверки заказчикам, те, в свою очередь, делятся этими результатами примерно со 100 людьми, многие из которых видели исходную недостоверную информацию. Поэтому компания убеждена, что восстановить доверие к информации благодаря фактчекингу вполне возможно. Но что сделать, чтобы сама «проверка фактов» не превратилась в инструмент политической борьбы? По словам Дмитрия Казьмина, чтобы вызывать доверие, фактчекинговым сервисам нужно соблюдать правила качественной, объективной журналистики. «Верить на слово нам никто не должен, смотрите по делам», — советует он. И тут искусственному интеллекту снова не обойтись без помощи единственного существа на планете, понимающего разницу между правдой и ложью, — человека.

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Банка больше нет Банка больше нет

Сбербанк сменил имя, разошелся с «Яндексом» и не смог сойтись с Ozon

Forbes
Ожидания и реальность: топ-7 фэйлов в стиле, которые случаются у девушек Ожидания и реальность: топ-7 фэйлов в стиле, которые случаются у девушек

Тренер по стилю Роман Медны объясняет, как не ошибиться, следуя советам по стилю

Cosmopolitan
Вячеслав Дубынин: «В нас конкурируют две программы — безопасности и любопытства» Вячеслав Дубынин: «В нас конкурируют две программы — безопасности и любопытства»

О разрушении модели мира, неопределенности и извлечении пользы из тревожности

РБК
Одна вокруг света. Возвращение в Бангког и переправа машин через океан Одна вокруг света. Возвращение в Бангког и переправа машин через океан

95-я серия о кругосветном путешествии москвички Ирины Сидоренко

Forbes
Максим Федоров: искусственный интеллект в десяти вопросах и ответах Максим Федоров: искусственный интеллект в десяти вопросах и ответах

Профессор Сколтеха — об искусственном интеллекте и реальности сюжетов фантастики

РБК
Девушка из «Завтрака у Тиффани»: как Маргарет Литтман вдохновила Трумена Капоте и собрала миллионы долларов на борьбу с ВИЧ Девушка из «Завтрака у Тиффани»: как Маргарет Литтман вдохновила Трумена Капоте и собрала миллионы долларов на борьбу с ВИЧ

Какой была Маргарет Литтман — прообраз героини Хепберн в «Завтраке у Тиффани»

Forbes
Город без нагромождений Город без нагромождений

Новое оборудование для сотовых сетей не портит городских пейзажей

РБК
Что такое профайлинг и как он помог найти ангарского маньяка Что такое профайлинг и как он помог найти ангарского маньяка

Глава из книги Саши Сулим «Безлюдное место: Как ловят маньяков в России»

СНОБ
На ошибках учатся На ошибках учатся

Леонид Жуков — об ответственности людей и машин за принятие критических решений

РБК
Ученые зарегистрировали передачу вируса Чапаре от человека к человеку Ученые зарегистрировали передачу вируса Чапаре от человека к человеку

Вирус Чапаре может передаваться от человека к человеку в медицинских учреждениях

N+1
После выборов После выборов

Южная Корея, Сеул, район Куро, 18 декабря 1987 года

Дилетант
Много топоров, бритва, щипчики для волос: быт британцев бронзового века Много топоров, бритва, щипчики для волос: быт британцев бронзового века

Обзор археологических находок из Хаверингского клада

N+1
Конец эпохи Аресибо Конец эпохи Аресибо

Cамый известный в мире радиотелескоп разрушился

Наука и жизнь
«Я все контролирую»: зачем нам это нужно? «Я все контролирую»: зачем нам это нужно?

Пытаясь держать все под контролем, мы чувствуем истощение и усталость

Psychologies
Джон Леннон Джон Леннон

Правила жизни музыканта Джона Леннона

Esquire
8 ложных убеждений, которые мешают вашему психическому здоровью 8 ложных убеждений, которые мешают вашему психическому здоровью

Думая об этом, можно навредить самому себе

Psychologies
Из развалюхи в особняк: дома знаменитостей до начала карьеры и после Из развалюхи в особняк: дома знаменитостей до начала карьеры и после

Дома, в которых звезды жили до славы, и те, в которых они живут сейчас

Cosmopolitan
Та самая Та самая

Тренер по стилю Роман Медный предлагает три способа сделать образ актуальным

Cosmopolitan
12 приложений для развития soft skills 12 приложений для развития soft skills

Прокачайте soft skills с помощью этих приложений, и успех не заставит себя ждать

СНОБ
30 способов перезапустить свое тело 30 способов перезапустить свое тело

Полное руководство по тому, как выжать максимум из человеческого организма

kiozk originals
8 фактов про советский «Луноход», которые вызывают приступ гордости 8 фактов про советский «Луноход», которые вызывают приступ гордости

Советское значит отличное!

Maxim
Никулин, Этуш и еще 8 актеров, вернувшихся с Великой Отечественной войны Никулин, Этуш и еще 8 актеров, вернувшихся с Великой Отечественной войны

Советские актеры, прошедшие Великую Отечественную войну

РБК
Алкогений: Петр Мамонов Алкогений: Петр Мамонов

Хмурым утром у ларька с пивом очередь расступалась, завидя Мамонова в пиджаке

Maxim
Прорицатель или симулянт: 6 сугубо научных фактов о Нострадамусе, которых вы могли не знать Прорицатель или симулянт: 6 сугубо научных фактов о Нострадамусе, которых вы могли не знать

Кем же был Нострадамус — образованным шарлатаном или все-таки истинным пророком?

Популярная механика
Не только балет и хоккей: Netflix рассказал о том, как Россия стала лучшей в танцах с собаками Не только балет и хоккей: Netflix рассказал о том, как Россия стала лучшей в танцах с собаками

Танцы с собаками – очень красивый вид состязаний

Forbes
Мята, фисташка и немного Tiffany Мята, фисташка и немного Tiffany

Современная интерпретация модного сегодня стиля 60‑х годов

SALON-Interior
«Если мы не победим, этой стране конец»: главное из новых мемуаров Барака Обамы «Если мы не победим, этой стране конец»: главное из новых мемуаров Барака Обамы

Барак Обама про Путина, республиканцев, Байдена и будущее

Forbes
Все дороги ведут в стрим Все дороги ведут в стрим

Разбираемся, что лучше смотреть на стриминговых сервисах, доступных в России

Playboy
9 художников, которым проблемы со здоровьем не помешали добиться успеха 9 художников, которым проблемы со здоровьем не помешали добиться успеха

Художники, которых жуткие заболевания не остановили на творческом пути

GQ
Если бюджет ограничен: на какую одежду стоит тратить деньги, а на какую нет Если бюджет ограничен: на какую одежду стоит тратить деньги, а на какую нет

Как составить модную смету и понять, можешь ли ты позволить себе шопинг мечты

Cosmopolitan
Открыть в приложении