К чему могут привести манипуляции ученых

ForbesНаука

От фактов к фейкам: как ложь и манипуляции угрожают научным исследованиям

Опубликованные даже в научных журналах исследования в последние годы перестают быть надежной опорой для врачей, журналистов и адептов доказательной медицины. И на то есть объективные причины. Forbes Life разобрался, почему доверять таким работам с каждым днем все сложнее и к чему могут привести манипуляции ученых

Наталья Иншакова

Фото Getty Images

«Миллиарды долларов выбросили в этот мусоровоз, но зато таким образом была построена не одна академическая карьера, кое-кто очень обогатился», — написал Дэвид Шолто, молодой биолог из Уэльса, в разгромной статье на своем личном сайте For Better Science в январе 2024 года. Он явно не предполагал, к каким последствиям это приведет. Пару лет назад Шолто уволился с работы и полностью отдался своему хобби — охоте на ведьм в научном мире. Он проводил целые дни, кропотливо отыскивая ошибки в исследованиях, а затем писал в журналы с просьбой отозвать недобросовестные публикации. Большинство писем Дэвида просто игнорировали.

Но в случае с блогом For Better Science все вышло иначе. Дэвид замахнулся буквально на святое — уличил в искажении данных группу ведущих исследователей гарвардского Института рака Dana Farber, одного из главных онкоцентров в мире. И это произвело эффект разорвавшейся бомбы. Представители Dana Farber отозвали шесть работ и внесли значительные правки еще в 31. Многие из них были опубликованы 15 и более лет назад и считались программными в изучении рака. По совпадению, в тот же день, когда Шолто опубликовал свое разоблачение, об отставке объявила директор Гарварда Клодин Гэй. В 40 ее статьях был найден грубый плагиат.

Все эти случаи не первые и не единичные. За 2023 год было отозвано 10 000 научных исследований — это самый высокий показатель в истории. Список областей, в которых чаще всего встречаются недобросовестные работы, возглавляют онкология и кардиология. А топ стран, где распространены фейковые исследования: Китай, Пакистан, Индия, Австралия, Россия и США. В 2021 году был завершен восьмилетний масштабный проект по проверке исследований в области рака. Выяснилось, что при попытке воспроизвести их результаты, это удается только в 50% случаев, — и они далеко не всегда оказываются такими впечатляющими, как было заявлено.

«И что мы будем делать? Сидеть и ждать, пока последствия будут фатальными? Или разберемся в причинах?» — задает вопрос Дэвид Шолто в своей статье. Вопрос кажется справедливым: попробуем разобраться в причинах.

Искусственный интеллект

Несколько месяцев назад одна из ведущих мировых научных организаций — Лондонское Королевское общество — провела эксперимент. Аспирантов разных специальностей попросили протестировать новую безымянную нейросеть и попробовать сломать ее «ограду» — так неформально называют защитный механизм, не позволяющий ИИ давать опасные советы и искажать факты. Многим участникам это удалось. Они заставили нейросеть виртуозно доказать, что утки — надежный индикатор чистоты воздуха, а лавандовым маслом можно лечить постковидные симптомы. Но успешнее всего были те, кто предложил ИИ написать несуществующие научные исследования в несуществующие журналы. Результаты были неотличимы от настоящих работ.

То, что наука прибегает к помощи ИИ, не новость. По данным масштабного опроса 2023 года, результаты которого были опубликованы в журнале Nature, 58% ученых считают, что ИИ помогает быстрее производить вычисления и экономит время исследователей. Еще 28% используют нейросети для работы несколько раз в неделю. Действительно, ИИ способен обрабатывать большие массивы данных, писать выводы из многостраничных работ. Но не только.

«Искусственный интеллект может очень быстро сгенерировать базу данных под любой заданный результат. То есть предложить данные, из которых этот несуществующий результат мог быть выведен, — объясняет Анча Баранова, биолог, профессор школы системной биологии в Университете Джорджа Мейсона, США. — Там будут имена, фамилии, возраст, распределение по биомаркерам». Такой эксперимент уже ставили, и нейросеть успешно справилась с задачей. Единственным искажением были не сами данные, а то, что ИИ представил больше гендерно-нейтральных имен, чем обычно встречается в популяции, потому что в нейросети заложен вокизм (от английского woke, wokeism — принцип социальной, расовой и половой справедливости.Forbes Life). Баранова добавляет, что невозможно проверить, были в эксперименте реальные волонтеры или плод воображения ChatGPT: «Все крупные регуляторы защищают личные данные участников исследований. Вы не можете найти их контакты, позвонить и спросить, правда ли, что 27 января вам сделали укол в 7 часов вечера?»

Четыре года назад Gowing life, группа энтузиастов из Оксфорда и Лондонского университетского колледжа, провела похожий эксперимент, используя механизмы машинного обучения. В результате были сгенерированы совершенно неотличимые от настоящих исследования, доказывающие, например, что кофеин способствует росту мышц, а препарат от биполярного расстройства лечит рак простаты. Проблема в том, что ИИ может генерировать не только текст, но и изображения, используемые в научных работах: например, макрофотографии клеток. И отличить их от настоящих практически невозможно.

Впрочем, иногда определить фейк очень просто. В 2022 году Гильйом Кабанач, ученый-информатик из Тулузского университета, обнародовал несколько десятков научных работ, где встречалась фраза regenerate response («повторить запрос») — классическая команда для СhatGPT. Авторы просто забыли удалить ее из своих псевдотрудов.

Бумажные заводы

Paper mills («бумажные заводы») — принятое в научной среде название для сомнительных бизнесов, которые торгуют готовыми работами и авторством, обещая ученым публикации в солидных журналах. В большом исследовании «бумажных заводов» STM (независимая международная организация мониторинга качества научных исследований. — Forbes Life ) приводит письмо авторства одной такой компании. «Крупный поставщик академических работ предлагает готовые статьи на широкий круг тем, от экономики до инженерии. Каждая статья была написана, отредактирована, проверена и переведена командой экспертов, мы также достигли договоренностей о публикации с разными изданиями. Все, что требуется от вас, — это выбрать нужную тему и объем участия. Вы можете приобрести полное авторство или стать одним из контрибьюторов. Мы гарантируем, что статья будет напечатана и проиндексирована». Эта компания базируется в Латвии и за 12 лет существования помогла опубликовать уже 12 560 работ.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Астрономы отыскали девять редких двойных цефеид Астрономы отыскали девять редких двойных цефеид

Астрономы подтвердили открытие девяти двойных систем, где обе звезды — цефеиды

N+1
Лавочка древностей: секреты мастерства торговца антиквариатом и советы начинающим Лавочка древностей: секреты мастерства торговца антиквариатом и советы начинающим

«Каким антикваром быть не стоит»: ценные советы от Дрю Притчарда

Forbes
Как страсть и любовь помогают в борьбе за выживание Как страсть и любовь помогают в борьбе за выживание

Ученые раскрыли загадку супружеской верности мышей

СНОБ
Символ эпохи: как Одри Хепберн меняла Голливуд и боролась с несправедливостью Символ эпохи: как Одри Хепберн меняла Голливуд и боролась с несправедливостью

Как Одри Хепберн пыталась изменить мир к лучшему?

Forbes
Мадс Миккельсен. Великий и ужасный Мадс Миккельсен. Великий и ужасный

Он никогда не мечтал сниматься в кино и вообще становиться  актером

Караван историй
10 способов сохранить и укрепить отношения 10 способов сохранить и укрепить отношения

Как сохранить отношения на этапе, когда начинаются совместные будни?

Psychologies
Каменные плитки из затопленного памятника эпох мезолита и неолита оказались функциональными орудиями Каменные плитки из затопленного памятника эпох мезолита и неолита оказались функциональными орудиями

Ученые исследовали 11 каменных плиток, обнаруженных на затопленном памятнике

N+1
Дворец и храм Дворец и храм

Грандиозные проекты Ирода Великого на сто лет вперед определили облик Иерусалима

Знание – сила
Ментальное здоровье домашних животных: как справиться с расстройством пищевого поведения Ментальное здоровье домашних животных: как справиться с расстройством пищевого поведения

Как бороться с извращенным аппетитом у питомцев?

Psychologies
И снова Хон! И снова Хон!

«Нужды путешественника»: смесь французского с рисовой водкой

Weekend
Могут ли мамы с ВИЧ кормить грудью? Ответ западных специалистов поразит вас! Могут ли мамы с ВИЧ кормить грудью? Ответ западных специалистов поразит вас!

Возможно ли грудное вскармливание при приеме антиретровирусной терапии?

ТехИнсайдер
Даниил Медведев — Forbes: «Ошибки — это часть спорта» Даниил Медведев — Forbes: «Ошибки — это часть спорта»

Даниил Медведев о его любви к футболу, Евро-2024, а также о киберспорте

Forbes
«Ваша участь будет ужасная!» «Ваша участь будет ужасная!»

Кого из декабристов и как решил наказать Николай I?

Дилетант
Поразительная польза чая матча: ученые утверждают, что полоскание рта этим напитком защищает от заболеваний десен Поразительная польза чая матча: ученые утверждают, что полоскание рта этим напитком защищает от заболеваний десен

Какой эффект можно получить от полоскания рта чаем матча?

ТехИнсайдер
9 альтернатив Jeep Wrangler 9 альтернатив Jeep Wrangler

Jeep Wrangler давно превратился в легенду. Есть ли альтернативы?

4x4 Club
Александр Домогаров: «Если бы я проиграл, не поднялся бы. И я дрался, дрался как в последний раз!» Александр Домогаров: «Если бы я проиграл, не поднялся бы. И я дрался, дрался как в последний раз!»

Александр Домогаров об отношениях с сыном, актерском мастерстве и идеях

Караван историй
«Настоящая ошибка — это молчание»: как раскрыть семейную тайну «Настоящая ошибка — это молчание»: как раскрыть семейную тайну

Как и когда открыть семейный секрет? Кому? Всегда ли и всем это знание полезно?

Psychologies
Можно ли есть черные бананы? Вы поразитесь ответу западных экспертов! Интересные факты Можно ли есть черные бананы? Вы поразитесь ответу западных экспертов! Интересные факты

Cтоит ли употреблять почерневшие бананы или безопаснее выбросить их в ведро

ТехИнсайдер
«Мудрость леса. В поисках материнского древа и таинственной связи всего живого» «Мудрость леса. В поисках материнского древа и таинственной связи всего живого»

Зачем пихтам и березам сотрудничать друг с другом

N+1
Почему концепции критической интернет-инфраструктуры нет места в будущем Почему концепции критической интернет-инфраструктуры нет места в будущем

Куда сместился ландшафт рисков, чего может стоить перерезанный кабель?

Forbes
Без вины виноватые: почему учителя становятся объектами травли со стороны подростков Без вины виноватые: почему учителя становятся объектами травли со стороны подростков

С чем связана агрессия у подростков и как правильнее на нее реагировать учителю?

Psychologies
Лайфхак на лето! Вот как фрукты помогают избегать обезвоживания: простой совет Лайфхак на лето! Вот как фрукты помогают избегать обезвоживания: простой совет

Как фрукты и овощи могут удовлетворить потребность в жидкости

ТехИнсайдер
На наконечниках стрел эпохи неолита нашли остатки человеческого белка На наконечниках стрел эпохи неолита нашли остатки человеческого белка

Ученые исследовали каменные наконечники стрел возрастом около 8-9 тысяч лет

N+1
Как улучшить память: 10 проверенных методик Как улучшить память: 10 проверенных методик

Как повысить уровень интеллекта и сохранить молодость мозга?

ТехИнсайдер
Улыбка без боли: как избавиться от заедов — рекомендации врача Улыбка без боли: как избавиться от заедов — рекомендации врача

Почему появляются заеды и как от них избавиться?

Psychologies
Найди свою позу. Как научиться спать на спине и чем это так полезно Найди свою позу. Как научиться спать на спине и чем это так полезно

Умение спать на спине зачастую улучшает качество сна. Как научиться спать так?

Лиза
Не ставь туда фото котика: о чем рассказывает людям твое фото профиля в соцсетях Не ставь туда фото котика: о чем рассказывает людям твое фото профиля в соцсетях

Какой портрет человека можно создать по его аватарке?

VOICE
Как выявить и побороть кредитную зависимость: основные признаки и способы излечения Как выявить и побороть кредитную зависимость: основные признаки и способы излечения

Как самому себя вытащить из кредитной зависимости и больше в нее не попасть?

Psychologies
Как продлить жизнь стиральной машине: 12 простых советов мастеров по ремонту Как продлить жизнь стиральной машине: 12 простых советов мастеров по ремонту

Эти советы по уходу за стиральной машиной стоит знать

VOICE
Ты лучший: можно ли завести роман с близким другом? Ты лучший: можно ли завести роман с близким другом?

Стоит ли вступать в отношения с близким другом? Расцениваем все риски

VOICE
Открыть в приложении