Мы считаем, что интернет создан ради нас, но на деле его пользователи — боты

РБКHi-Tech

Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News

Автор: Максим Момот

Мы считаем, что интернет создан ради нас, но на самом деле основные его пользователи — уже давно боты. Так, согласно исследованию компании Imperva, занимающейся вопросами кибербезопасности, еще в 2016 году число посещений сайтов программами, созданными для различных целей, превысило количество их просмотров людьми. В чем похожи и те и другие, так это в своей неразборчивости к распространяемой информации.

Люди то и дело перепощивают в соцсетях сообщения, которые считают правдой, потому что они их пугают или, наоборот, радуют. Примерно то же самое, но в целях пропаганды, делают боты — например для выведения недостоверных публикаций в топ новостей. Положить этому конец обещают разработчики платформ, способных в полуавтоматическом режиме отслеживать лживый и оскорбительный контент. Впрочем, деятельность этих платформ сама по себе поднимает моральную проблему — где разница между правдой и пропагандой?

В поисках истины

Трудно поверить, но одни из главных потенциальных клиентов платформ автоматического фактчекинга — рекламщики. «Исследования показывают, что 80% пользователей избегают покупок у брендов, присутствующих рядом с радикальным или опасным контентом», — отметил в комментарии РБК основатель и CEO нидерландского стартапа Adverif.ai Ор Леви. Компания разработала алгоритм FakeRank, позволяющий выявлять фальшивые новости. А это, в свою очередь, дает брендам возможность не размещать свою рекламу рядом с такими сообщениями в соцсетях.

Пример фальшивой новости, рядом с которой серьезному рекламодателю вряд ли захочется увидеть свои объявления, — сообщение о том, что покончившего с собой в американской тюрьме (согласно официальной версии) финансиста Джеффри Эпштейна видели живым после его смерти. FakeRank поставит такой новости высокий индекс недостоверности и не допустит размещения рядом с ней рекламных сообщений, утверждают в компании.

По словам Ора Леви, наиболее эффективный способ определения фальшивых новостей — это имитация процесса человеческих умозаключений. «Невозможно вручную проверять каждый фрагмент контента соцсетей, — говорит он. — Однако некоторые задачи, которые выполняют журналисты и люди, профессионально занимающиеся проверкой фактов, могут быть автоматизированы, что поможет увеличить масштабы этой работы».

Если ложные сообщения, которые намеренно распространяют боты, легко отловить обычным поиском (ведь тексты дословно повторяют друг друга), то фейковые новости, которые разносят люди, могут циркулировать в отличных друг от друга вариациях. Поэтому алгоритм FakeRank использует обработку естественного языка. Вердикт о ложности информации он выносит, сравнивая тексты в соцсетях и форумах с утверждениями из достоверных источников, например ведущих СМИ. Adverif.ai продает доступ к FakeRank рекламодателям, рекламным сетям и СМИ.

По схожей модели работает и лондонская компания Factmata. Как рассказал в комментарии РБК ее основатель и CEO Друв Галати, в основе технологии, которую они используют, лежит классификация текстов по различным категориям риска — оскорбления, угрозы, расистские заявления и так далее. Обнаружив в какой-либо публикации фрагменты, содержащие опасный контент, алгоритм отслеживает их перепосты и цитирование другими пользователями. Чтобы улучшить работу алгоритмов, компания сотрудничает с журналистами, исследователями и общественными организациями.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Сесть и подумать Сесть и подумать

Зачем менеджеру заниматься рефлексией

Forbes
Обратный отсчет Обратный отсчет

Выглядеть молодо по силам каждой!

Лиза
Давид Ян: «В мире появится движение Robot lives matter» Давид Ян: «В мире появится движение Robot lives matter»

Давид Ян уверен, что нейросети нужен эмоциональный интеллект

РБК
Последний месяц мы постоянно слышим о Моргенштерне. В чем его феномен Последний месяц мы постоянно слышим о Моргенштерне. В чем его феномен

Углубились в биографию Моргенштерна и разобрались, на чем держится его успех

РБК
Разумные сомнения. Как критическое мышление помогает распознавать дезинформацию и противостоять манипуляциям Разумные сомнения. Как критическое мышление помогает распознавать дезинформацию и противостоять манипуляциям

Как не попадаться на обман и манипуляции собственного мозга и других людей

РБК
50 самых быстрорастущих компаний России 50 самых быстрорастущих компаний России

РБК представляет седьмой ежегодный рейтинг самых быстрорастущих компаний России

РБК
Максим Федоров: искусственный интеллект в десяти вопросах и ответах Максим Федоров: искусственный интеллект в десяти вопросах и ответах

Профессор Сколтеха — об искусственном интеллекте и реальности сюжетов фантастики

РБК
Справедливость для IT-миллиардера: что ждет Кремниевую долину после победы Байдена Справедливость для IT-миллиардера: что ждет Кремниевую долину после победы Байдена

Джо Байден планирует повысить налоги для обеспеченных американцев

Forbes
Во все легкие Во все легкие

Жители хорватского полуострова Истрия нашли путь к счастью

Вокруг света
Благими намерениями Благими намерениями

Как выразить поддержку и сочувствие — и не сделать еще хуже?

GQ
Бизнес без нервных срывов Бизнес без нервных срывов

Антон Кушнер: как войти в 2021 год с крепким ментальным здоровьем

РБК
Не только архитектор Не только архитектор

Чем увлекались русские архитекторы прошлых веков, помимо возведения зданий?

Культура.РФ
11 канонов проектов Райана Мерфи 11 канонов проектов Райана Мерфи

Герои-аутсайдеры, множество блесток и стильных нарядов и музыкальные номера

GQ
Дебютный роман Салли Руни «Разговоры с друзьями» впервые выходит на русском языке. Публикуем его фрагмент Дебютный роман Салли Руни «Разговоры с друзьями» впервые выходит на русском языке. Публикуем его фрагмент

Отрывок из романа Салли Руни, в котором выражены чувства поколения Z

Esquire
34 фирмы вместо одной: чем закончилось разделение нефтяного бизнеса Рокфеллера после 30 лет монополии 34 фирмы вместо одной: чем закончилось разделение нефтяного бизнеса Рокфеллера после 30 лет монополии

«Дочки» компании Рокфеллера лидируют на рынке нефти до сих пор

VC.RU
Искала одного, выбрала другого: чему меня научили свидания Искала одного, выбрала другого: чему меня научили свидания

Читательница поделилась опытом первых свиданий с людьми, встреченными онлайн

Psychologies
Здоровья и счастья Здоровья и счастья

Сильверио Мариан — итальянец, который живёт и работает в России и для России

SALON-Interior
Михаил Гончаров, «Теремок»: «Сейчас спасают не бизнес, а государственный бюджет и бюджетников» Михаил Гончаров, «Теремок»: «Сейчас спасают не бизнес, а государственный бюджет и бюджетников»

Михаил Гончаров рассказал, почему больше не критикует решения чиновников

Inc.
Привет от Собакевича Привет от Собакевича

Что общего между пудингом, хаггисом и няней

Огонёк
Много топоров, бритва, щипчики для волос: быт британцев бронзового века Много топоров, бритва, щипчики для волос: быт британцев бронзового века

Обзор археологических находок из Хаверингского клада

N+1
Мыльная опера королевского ранга: рассказываем о четвертом сезоне Мыльная опера королевского ранга: рассказываем о четвертом сезоне

Четвертый сезон «Короны» — 1980, Маргарет Тэтчер и принцесса Уэльская Диана

Esquire
«Карантинные разводы»: как не пополнить печальную статистику? «Карантинные разводы»: как не пополнить печальную статистику?

Как не разрушить отношения, находясь с мужем дома 24/7 – рассказывает психолог

Cosmopolitan
Снос Дома Советов: как главный недострой Калининграда был проблемой властей 30 лет и стал символом развала СССР Снос Дома Советов: как главный недострой Калининграда был проблемой властей 30 лет и стал символом развала СССР

Власти Калининграда окончательно решили снести главный недострой — Дом Советов

TJ
Как сложились судьбы главных манекенщиц СССР: нищета, суицид и одиночество Как сложились судьбы главных манекенщиц СССР: нищета, суицид и одиночество

Как сложилась судьба первых моделей СССР — от Збарской до Мироновой

Cosmopolitan
Алиса Хазанова: «Сегодня опасно даже просто выражать свое мнение» Алиса Хазанова: «Сегодня опасно даже просто выражать свое мнение»

Актриса Алиса Хазанова о кибербуллинге и токсичности соцсетей

GQ
«Он воскрес из мертвых». В США вернули к жизни мужчину, сердце которого остановилось на 45 минут «Он воскрес из мертвых». В США вернули к жизни мужчину, сердце которого остановилось на 45 минут

Почему врачи отказались констатировать смерть этого человека

National Geographic
Вас предали? Начните снова доверять себе Вас предали? Начните снова доверять себе

Будучи обманутыми близкими, многие отгораживаются от всех и особенно от себя

Psychologies
Тебя обманули: 7 признаков некачественного окрашивания – объясняет колорист Тебя обманули: 7 признаков некачественного окрашивания – объясняет колорист

Как определить, что колорист сделал свою работу некачественно: 7 главных ошибок

Cosmopolitan
Обонятельное прошлое Обонятельное прошлое

Запахи древней Европы как часть культурного наследия

Огонёк
Дружба с ведущими кутюрье и французские фасоны в СССР: что Майя Плисецкая сделала для моды Дружба с ведущими кутюрье и французские фасоны в СССР: что Майя Плисецкая сделала для моды

Рассказываем, что связывает Майю Плисецкую с мировой модой

Esquire
Открыть в приложении