К чему могут привести манипуляции ученых

ForbesНаука

От фактов к фейкам: как ложь и манипуляции угрожают научным исследованиям

Опубликованные даже в научных журналах исследования в последние годы перестают быть надежной опорой для врачей, журналистов и адептов доказательной медицины. И на то есть объективные причины. Forbes Life разобрался, почему доверять таким работам с каждым днем все сложнее и к чему могут привести манипуляции ученых

Наталья Иншакова

Фото Getty Images

«Миллиарды долларов выбросили в этот мусоровоз, но зато таким образом была построена не одна академическая карьера, кое-кто очень обогатился», — написал Дэвид Шолто, молодой биолог из Уэльса, в разгромной статье на своем личном сайте For Better Science в январе 2024 года. Он явно не предполагал, к каким последствиям это приведет. Пару лет назад Шолто уволился с работы и полностью отдался своему хобби — охоте на ведьм в научном мире. Он проводил целые дни, кропотливо отыскивая ошибки в исследованиях, а затем писал в журналы с просьбой отозвать недобросовестные публикации. Большинство писем Дэвида просто игнорировали.

Но в случае с блогом For Better Science все вышло иначе. Дэвид замахнулся буквально на святое — уличил в искажении данных группу ведущих исследователей гарвардского Института рака Dana Farber, одного из главных онкоцентров в мире. И это произвело эффект разорвавшейся бомбы. Представители Dana Farber отозвали шесть работ и внесли значительные правки еще в 31. Многие из них были опубликованы 15 и более лет назад и считались программными в изучении рака. По совпадению, в тот же день, когда Шолто опубликовал свое разоблачение, об отставке объявила директор Гарварда Клодин Гэй. В 40 ее статьях был найден грубый плагиат.

Все эти случаи не первые и не единичные. За 2023 год было отозвано 10 000 научных исследований — это самый высокий показатель в истории. Список областей, в которых чаще всего встречаются недобросовестные работы, возглавляют онкология и кардиология. А топ стран, где распространены фейковые исследования: Китай, Пакистан, Индия, Австралия, Россия и США. В 2021 году был завершен восьмилетний масштабный проект по проверке исследований в области рака. Выяснилось, что при попытке воспроизвести их результаты, это удается только в 50% случаев, — и они далеко не всегда оказываются такими впечатляющими, как было заявлено.

«И что мы будем делать? Сидеть и ждать, пока последствия будут фатальными? Или разберемся в причинах?» — задает вопрос Дэвид Шолто в своей статье. Вопрос кажется справедливым: попробуем разобраться в причинах.

Искусственный интеллект

Несколько месяцев назад одна из ведущих мировых научных организаций — Лондонское Королевское общество — провела эксперимент. Аспирантов разных специальностей попросили протестировать новую безымянную нейросеть и попробовать сломать ее «ограду» — так неформально называют защитный механизм, не позволяющий ИИ давать опасные советы и искажать факты. Многим участникам это удалось. Они заставили нейросеть виртуозно доказать, что утки — надежный индикатор чистоты воздуха, а лавандовым маслом можно лечить постковидные симптомы. Но успешнее всего были те, кто предложил ИИ написать несуществующие научные исследования в несуществующие журналы. Результаты были неотличимы от настоящих работ.

То, что наука прибегает к помощи ИИ, не новость. По данным масштабного опроса 2023 года, результаты которого были опубликованы в журнале Nature, 58% ученых считают, что ИИ помогает быстрее производить вычисления и экономит время исследователей. Еще 28% используют нейросети для работы несколько раз в неделю. Действительно, ИИ способен обрабатывать большие массивы данных, писать выводы из многостраничных работ. Но не только.

«Искусственный интеллект может очень быстро сгенерировать базу данных под любой заданный результат. То есть предложить данные, из которых этот несуществующий результат мог быть выведен, — объясняет Анча Баранова, биолог, профессор школы системной биологии в Университете Джорджа Мейсона, США. — Там будут имена, фамилии, возраст, распределение по биомаркерам». Такой эксперимент уже ставили, и нейросеть успешно справилась с задачей. Единственным искажением были не сами данные, а то, что ИИ представил больше гендерно-нейтральных имен, чем обычно встречается в популяции, потому что в нейросети заложен вокизм (от английского woke, wokeism — принцип социальной, расовой и половой справедливости.Forbes Life). Баранова добавляет, что невозможно проверить, были в эксперименте реальные волонтеры или плод воображения ChatGPT: «Все крупные регуляторы защищают личные данные участников исследований. Вы не можете найти их контакты, позвонить и спросить, правда ли, что 27 января вам сделали укол в 7 часов вечера?»

Четыре года назад Gowing life, группа энтузиастов из Оксфорда и Лондонского университетского колледжа, провела похожий эксперимент, используя механизмы машинного обучения. В результате были сгенерированы совершенно неотличимые от настоящих исследования, доказывающие, например, что кофеин способствует росту мышц, а препарат от биполярного расстройства лечит рак простаты. Проблема в том, что ИИ может генерировать не только текст, но и изображения, используемые в научных работах: например, макрофотографии клеток. И отличить их от настоящих практически невозможно.

Впрочем, иногда определить фейк очень просто. В 2022 году Гильйом Кабанач, ученый-информатик из Тулузского университета, обнародовал несколько десятков научных работ, где встречалась фраза regenerate response («повторить запрос») — классическая команда для СhatGPT. Авторы просто забыли удалить ее из своих псевдотрудов.

Бумажные заводы

Paper mills («бумажные заводы») — принятое в научной среде название для сомнительных бизнесов, которые торгуют готовыми работами и авторством, обещая ученым публикации в солидных журналах. В большом исследовании «бумажных заводов» STM (независимая международная организация мониторинга качества научных исследований. — Forbes Life ) приводит письмо авторства одной такой компании. «Крупный поставщик академических работ предлагает готовые статьи на широкий круг тем, от экономики до инженерии. Каждая статья была написана, отредактирована, проверена и переведена командой экспертов, мы также достигли договоренностей о публикации с разными изданиями. Все, что требуется от вас, — это выбрать нужную тему и объем участия. Вы можете приобрести полное авторство или стать одним из контрибьюторов. Мы гарантируем, что статья будет напечатана и проиндексирована». Эта компания базируется в Латвии и за 12 лет существования помогла опубликовать уже 12 560 работ.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Ледяное «сердце» Плутона объяснили косым столкновением с крупным телом Ледяное «сердце» Плутона объяснили косым столкновением с крупным телом

Исследование: подповерхностного океана на карликовой планете может и не быть

N+1
Родиной баобабов назвали Мадагаскар Родиной баобабов назвали Мадагаскар

Общий предок баобабов появился на Мадагаскаре 41,1 миллиона лет назад

N+1
Двухтактные и четырехтактные мотокосы — в чем между ними разница и какой триммер лучше? Двухтактные и четырехтактные мотокосы — в чем между ними разница и какой триммер лучше?

Какой тип ДВС лучше выбрать для мотокосы

CHIP
Модный дом Модный дом

Респектабельный интерьер пентхауса в духе современной роскоши

SALON-Interior
Белое или красное Белое или красное

Продукты и блюда, которые отлично сочетаются с разными видами вина

Лиза
Что такое ASMR-видео и как они влияют на наш мозг Что такое ASMR-видео и как они влияют на наш мозг

Почему нам так нравится ASMR-контент?

ТехИнсайдер
10 способов сохранить и укрепить отношения 10 способов сохранить и укрепить отношения

Как сохранить отношения на этапе, когда начинаются совместные будни?

Psychologies
Миллион цветных деталей Миллион цветных деталей

Весь мир играет в конструкторы «Лего» семьдесят лет и не наигрался до сих пор

Вокруг света
Даже простейшие морские организмы склонны к индивидуализму! Вот что это значит: интересный факт Даже простейшие морские организмы склонны к индивидуализму! Вот что это значит: интересный факт

Почему все организмы стремятся к ведению быта на основе индивидуальных ритмов?

ТехИнсайдер
Удивительная история! Как корабль «Аделла Шорс» нашли спустя 115 лет после таинственного исчезновения Удивительная история! Как корабль «Аделла Шорс» нашли спустя 115 лет после таинственного исчезновения

Что случилось с американским судном, которое исчезло вместе с экипажем в 1909?

ТехИнсайдер
Неочевидная болезнь, которая может вас убить: когда нужно проверить функцию щитовидной железы Неочевидная болезнь, которая может вас убить: когда нужно проверить функцию щитовидной железы

Если вы быстро устаете, а нервная система сбоит — проверьте щитовидную железу

ТехИнсайдер
«Я не только жила с абьюзером, но и стала им сама?»: история читательницы «Я не только жила с абьюзером, но и стала им сама?»: история читательницы

Как понять, что вы перенимаете черты абьюзера?

Psychologies
13 предметов, которые нельзя чистить уксусом: мнение профессиональных клинеров 13 предметов, которые нельзя чистить уксусом: мнение профессиональных клинеров

От каких вещей профессиональные клинеры советуют держать уксус подальше

VOICE
Быть «железной леди»: как Марджи Робертс стала Маргарет Тэтчер Быть «железной леди»: как Марджи Робертс стала Маргарет Тэтчер

Какой была Маргарет Тэтчер и почему её все ненавидели?

Правила жизни
Режиссер Халед Уануки: Популярность Чехова в Алжире вполне соответствует его популярности в России Режиссер Халед Уануки: Популярность Чехова в Алжире вполне соответствует его популярности в России

Халед Уануки о его взглядах на русскую литературу и впечатлениях от фестиваля

СНОБ
Забота только на словах: почему по факту дети в России не получают должной защиты Забота только на словах: почему по факту дети в России не получают должной защиты

Соответствуют ли изменения в законах в России интересам детей на самом деле?

Forbes
Найти преступника по фрагментам дерева: как природа помогает криминалистам расследовать преступления Найти преступника по фрагментам дерева: как природа помогает криминалистам расследовать преступления

Как по биологическим следам восстановить картину преступления?

ТехИнсайдер
Чем накормить гения Чем накормить гения

Как помочь нашим детям хорошо сдать экзамены?

Лиза
Мощный и быстрый «Буревестник»: как устроены ядерные двигатели для ракет Мощный и быстрый «Буревестник»: как устроены ядерные двигатели для ракет

Как работает ракета «Буревестник» с ядерным воздушно-реактивным двигателем?

ТехИнсайдер
Укоренившаяся ассоциация: почему именно гвоздики — траурные цветы? Укоренившаяся ассоциация: почему именно гвоздики — траурные цветы?

Почему именно гвоздики получили такую мрачную ассоциацию?

ТехИнсайдер
СМС с денежным стимулированием помогли мужчинам сбросить лишний вес СМС с денежным стимулированием помогли мужчинам сбросить лишний вес

Врачи разрабатывают методы для повышения приверженности мужчин к снижению веса

N+1
Что вас ждет, если вы влюбились в пассивно-агрессивного человека Что вас ждет, если вы влюбились в пассивно-агрессивного человека

Что движет пассивным агрессором?

Psychologies
Какими видами спорта занимались наши предки-славяне Какими видами спорта занимались наши предки-славяне

Список исконно русских спортивных игр: от аналога хоккея до мордобоя

Maxim
Дядя честных правил Дядя честных правил

«Дядя Леша»: Юрий Деточкин нового времени

Weekend
«Эфко» заменит сахар сладким белком «Эфко» заменит сахар сладким белком

«Эфко» планирует производить сладкий белок, который дешевле и слаще сахара

Монокль
Любовные страсти Древнем Новгороде Любовные страсти Древнем Новгороде

О чем писали в берестяных грамотах древние новгородцы?

Знание – сила
Как фальсицифируют палестинские древности: история черных археологов в Иерусалиме Как фальсицифируют палестинские древности: история черных археологов в Иерусалиме

О подделках древних артефактов в Палестине

Forbes
Машина для большой семьи, которая вызывает ностальгию: обзор кросс-вэна Suzuki Ertiga Машина для большой семьи, которая вызывает ностальгию: обзор кросс-вэна Suzuki Ertiga

Олдскульный семиместный кросс-вэн Suzuki Ertiga

ТехИнсайдер
Москва по-собянински: азиатский город с архитектурными доминантами и фасадами Москва по-собянински: азиатский город с архитектурными доминантами и фасадами

Какую Москву хочет построить Сергей Собянин?

Монокль
«Компании снижают градус серьезности» «Компании снижают градус серьезности»

Как перекус новостями и жажда новых зрелищ меняют тренды в индустрии контента

РБК
Открыть в приложении