Инструменты ИИ бросают вызов научным инструментам поиска истины

МонокльHi-Tech

Может ли ChatGPT обмануть ученых

Инструменты искусственного интеллекта бросают вызов научным инструментам поиска истины

Виталий Лейбин

Искусственный интеллект радикально меняет жизнь ученых. Omar Marques/sopa; Andreas Arnold/DPA

Использование инструментов искусственного интеллекта (ИИ) в науке стало предметом бурной полемики в академической прессе. За последний месяц в Nature были опубликованы статья «Как ChatGPT и другие инструменты искусственного интеллекта могут исказить систему научных публикаций» и собственный экспертный опрос «ИИ и наука: что думают 1600 исследователей».

Наряду с дежурным технооптимизмом в этих публикациях поставлены проблемы, ряд которых уже привели к организационным решениям в сфере научных публикаций. Самые авторитетные научные журналы ввели ограничения против использования инструментов искусственного интеллекта при подготовке статей: Science вообще перестал принимать статьи, написанные с помощью ИИ, а Nature требует от авторов заявлять об его использовании при написании текстов.

«На мой взгляд, основная опасность не в том, что широкое использование инструментов искусственного интеллекта увеличит число статей, представляющих собой наспех приготовленные поделки низкого качества. В конце концов, это неважно: одним графоманом больше, одним меньше… Будет гораздо хуже, если при рецензировании статей и заявок на гранты будут использоваться большие языковые модели. Вот в этом случае будет искоренена всякая оригинальность в науке, будет наказываться любое отклонение от мейнстрима, — считает академик РАН, декан факультета фундаментальной физико-химической инженерии МГУ Алексей Хохлов. — Эта опасность подробно обсуждается в одной из статей в Nature, но предлагаемые меры борьбы с ней как-то не впечатляют. В целом складывается ощущение, что научное сообщество пока еще только нащупывает оптимальные ответы на те вызовы, которые возникают при широком использовании инструментов ИИ в научных исследованиях».

Польза нейросетей

Не следует смешивать две темы, касающиеся использования нейросетей в науке. Первое — это использование инструментов искусственного интеллекта, созданных и обученных специально для решения какой-то научной проблемы. Здесь есть впечатляющие успехи и бурный рост числа публикаций. В части из них сравниваются разные компьютерные модели для решения задач — разной хитрости алгоритмы, разные модели компьютерного обучения и собственно нейронные сети. (Такие машины учатся на больших данных, результаты обучения записывают в форме связей между виртуальными «нейронами» — узлами сети и работают как «черный ящик» — как именно они решают задачи, неизвестно.) Тренд тут очевиден: благодаря прогрессу в вычислительных мощностях и оцифровке данных нейросетевые модели ИИ все чаще выигрывают и у формульных алгоритмов (решающих задачи согласно теории), у статистических методов, а также у других алгоритмов компьютерного обучения.

Самым впечатляющим примером успеха искусственного интеллекта в науке остается результат, достигнутый в 2020 году нейросетевой моделью AlphaFold (потомок DeepMind), которая с потрясающей точностью решает одну из главных проблем молекулярной биологии — предсказывает 3D-структуру белков на основе кодирующих их генов. Программа выложена с открытым кодом, ею уже активно пользуются ученые. Это вещь очень практичная: зная структуру белка, вы можете понимать функции генов и направленно проектировать лекарства, которые имеют мишенью данный белок. Кроме того, с помощью ИИ уже открыто несколько перспективных лекарственных формул, предсказаны неизвестные ранее пути химического синтеза и многое другое.

Но в последнее время обсуждение инструментов искусственного интеллекта все чаще связано с выпуском в общий доступ ChatGPT и других больших генеративных языковых моделей (которые учатся на множестве текстов и сами их генерируют). Чат-бот ChatGPT и другие языковые модели респонденты-ученые в исследовании Nature называли чаще всего, когда их просили указать наиболее полезный пример инструментов ИИ в науке (AlphaFold идет на втором месте).

Стадия громкого успеха и роста ожиданий, связанных с разговорными и картиночными чатами, уже прошла, и даже стало проявляться некоторое разочарование их возможностями. Но при этом большие языковые модели прочно вошли в нашу жизнь, иногда несильно ее меняя (многие используют их просто как более удобный поисковик и для составления черновиков для рефератов), иногда значительно (программисты говорят о большой экономии времени при написании фрагментов кода).

Ученые из опроса Nature (были разосланы анкеты 40 тыс. исследователей, опубликовавших свои работы в последние четыре месяца прошлого года) используют чаты для поиска идей, написания кода, а некоторые пробуют их возможности для дизайна новых белковых структур, улучшения прогнозов погоды и постановки медицинских диагнозов.

Как минимум сейчас уже очевидно, что ChatGPT помогает писать научные статьи на более внятном английском тем, для кого этот язык не родной. «Использование инструментов искусственного интеллекта может сделать сферу науки более справедливой», — говорит Тацуя Амано, эколог японского происхождения из Университета Квинсленда (Брисбен, Австралия). Он опросил более 900 коллег-экологов и показал, что начинающие ученые с неродным английским тратят в два раза больше времени собственно на текст статьи, чем носители языка, что несправедливо. На этом основании он пытался оспорить решение редакции Science о запрете использования инструментов искусственного интеллекта при написании статьей, предложив вместо этого заявлять о его использовании и прикладывать вариант рукописи без машинной редактуры.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как правильно выбрать пиво к блюду. Советы шеф-повара Beer Pairing Как правильно выбрать пиво к блюду. Советы шеф-повара Beer Pairing

Когда пиво должно служить лишь фоном для блюда?

РБК
Законы взаимного притяжения: 4 вопроса юнгианскому аналитику о выборе партнера Законы взаимного притяжения: 4 вопроса юнгианскому аналитику о выборе партнера

Почему некоторые люди притягивают настолько сильно, что становятся партнерами?

Psychologies
Нужны ли мигранты российскому «оливье» Нужны ли мигранты российскому «оливье»

Первым запросом после теракта было ужесточение контроля за миграционным потоком

Монокль
Синдром именинника: почему перед днем рождения нам бывает грустно Синдром именинника: почему перед днем рождения нам бывает грустно

Почему перед днем рождения хочется ото всех закрыться в комнате

ТехИнсайдер
Рецепт донны Тани Рецепт донны Тани

Майя Кучерская о бразильской балерине Татьяне Лесковой

Seasons of life
Великая реквизиция Великая реквизиция

Как автомобильные марки не ушли, а остались в Первую мировую

Автопилот
Конфликт с начальством Конфликт с начальством

Как себя правильно вести и не испортить репутацию

Лиза
Экономика в двух измерениях Экономика в двух измерениях

После открытия графена обнаружены более десяти веществ со схожей структурой

Наука
Он на свете всех Милей Он на свете всех Милей

На президентских выборах в Аргентине победил Хавьер Милей

Монокль
Без долгов и нервотрепки. Как правильно закрыть ИП в 2023 году – пошаговая инструкция Без долгов и нервотрепки. Как правильно закрыть ИП в 2023 году – пошаговая инструкция

Решила прикрыть свой малый бизнес? Приготовься потрудиться

Лиза
Нет радости от жизни, ничего не хочу: что такое ангедония и почему она есть у многих Нет радости от жизни, ничего не хочу: что такое ангедония и почему она есть у многих

Нет сил вставать с кровати, не хочешь путешествовать, встречаться с друзьями

VOICE
Юбилей Тегеранской конференции: как смогли договориться победители Юбилей Тегеранской конференции: как смогли договориться победители

Со времени проведения Тегеранской конференции прошло 80 лет

Наука
Дом Cердца Дом Cердца

Как старое здание в колониальном стиле превратить в пространство для творчества

Seasons of life
Российская память о Первой мировой войне: от раскола к консенсусу? Российская память о Первой мировой войне: от раскола к консенсусу?

Долгие десятилетия память о Первой мировой войне была на задворках истории

Знание – сила
Кино Кино

Маршал советской комедии: путь Леонида Гайдая к эталону юмористического фильма

Правила жизни
Лана Дель Рей, Blur, Дельфин: лучшие музыкальные альбомы 2023 года Лана Дель Рей, Blur, Дельфин: лучшие музыкальные альбомы 2023 года

2023 год стал важной вехой в истории современной музыки

Forbes
Синдром высокого мака: почему ненавидят тех, кому «больше всех надо»? Синдром высокого мака: почему ненавидят тех, кому «больше всех надо»?

Почему тот, кто выбивается из среднего уровня, раздражает всех вокруг?

Psychologies
Фильм начинается Фильм начинается

Небольшая студия с интерьером в стиле «Криминального чтива»

Идеи Вашего Дома
Символ ушедшей эпохи Символ ушедшей эпохи

Проект орбитального корабля «Буран» погубил не только слом в истории страны

Монокль
Зачем нужен дворник-беспилотник Зачем нужен дворник-беспилотник

Алексей Сивидов — о роботах, призванных победить дефицит рабочих рук в сфере ЖКХ

РБК
«Немой учитель» «Немой учитель»

Тысячелетняя история книги: от глиняных табличек до электронных ридеров

Зеркало Мира
Дрожжи-снежинки. Искусственно созданные многоклеточные организмы Дрожжи-снежинки. Искусственно созданные многоклеточные организмы

Один из важнейших этапов развития жизни – появление многоклеточных организмов

Наука и Техника
10 фильмов о фигурном катании: от драмы Крыжовникова до сериала про копию Тутберидзе 10 фильмов о фигурном катании: от драмы Крыжовникова до сериала про копию Тутберидзе

Фильмы о фигурном катании с неожиданными сюжетами

Forbes
«Современные фильмы страшно захламлены без всякого смысла» «Современные фильмы страшно захламлены без всякого смысла»

Елена Жукова о том, где и как живут герои в российском кино

Weekend
«Черные лебеди»–2024 «Черные лебеди»–2024

Основные опасения за будущее респондентов связаны с вооруженными конфликтами

Деньги
(Не)сладкая история (Не)сладкая история

5 простых советов, которые помогут снизить риск диабета

Лиза
Адаптивный интеллект: как нас спасает умение переучиваться Адаптивный интеллект: как нас спасает умение переучиваться

Зачем и как адаптироваться к постоянным изменениям

Psychologies
Что такое инулин, чем полезен и в каких продуктах содержится Что такое инулин, чем полезен и в каких продуктах содержится

Инулин — это разновидность пребиотика, который присутствует во многих овощах

РБК
Строить, не ломать Строить, не ломать

Очень надеемся, что облик XXI века определят не конфликты, а проекты городов

Robb Report
Инновации, рожденные из боли: как соединить медицину и дизайн Инновации, рожденные из боли: как соединить медицину и дизайн

Как личная практика подтолкнула героя на создание революционных технологий

ФедералПресс
Открыть в приложении