Инструменты ИИ бросают вызов научным инструментам поиска истины

МонокльHi-Tech

Может ли ChatGPT обмануть ученых

Инструменты искусственного интеллекта бросают вызов научным инструментам поиска истины

Виталий Лейбин

Искусственный интеллект радикально меняет жизнь ученых. Omar Marques/sopa; Andreas Arnold/DPA

Использование инструментов искусственного интеллекта (ИИ) в науке стало предметом бурной полемики в академической прессе. За последний месяц в Nature были опубликованы статья «Как ChatGPT и другие инструменты искусственного интеллекта могут исказить систему научных публикаций» и собственный экспертный опрос «ИИ и наука: что думают 1600 исследователей».

Наряду с дежурным технооптимизмом в этих публикациях поставлены проблемы, ряд которых уже привели к организационным решениям в сфере научных публикаций. Самые авторитетные научные журналы ввели ограничения против использования инструментов искусственного интеллекта при подготовке статей: Science вообще перестал принимать статьи, написанные с помощью ИИ, а Nature требует от авторов заявлять об его использовании при написании текстов.

«На мой взгляд, основная опасность не в том, что широкое использование инструментов искусственного интеллекта увеличит число статей, представляющих собой наспех приготовленные поделки низкого качества. В конце концов, это неважно: одним графоманом больше, одним меньше… Будет гораздо хуже, если при рецензировании статей и заявок на гранты будут использоваться большие языковые модели. Вот в этом случае будет искоренена всякая оригинальность в науке, будет наказываться любое отклонение от мейнстрима, — считает академик РАН, декан факультета фундаментальной физико-химической инженерии МГУ Алексей Хохлов. — Эта опасность подробно обсуждается в одной из статей в Nature, но предлагаемые меры борьбы с ней как-то не впечатляют. В целом складывается ощущение, что научное сообщество пока еще только нащупывает оптимальные ответы на те вызовы, которые возникают при широком использовании инструментов ИИ в научных исследованиях».

Польза нейросетей

Не следует смешивать две темы, касающиеся использования нейросетей в науке. Первое — это использование инструментов искусственного интеллекта, созданных и обученных специально для решения какой-то научной проблемы. Здесь есть впечатляющие успехи и бурный рост числа публикаций. В части из них сравниваются разные компьютерные модели для решения задач — разной хитрости алгоритмы, разные модели компьютерного обучения и собственно нейронные сети. (Такие машины учатся на больших данных, результаты обучения записывают в форме связей между виртуальными «нейронами» — узлами сети и работают как «черный ящик» — как именно они решают задачи, неизвестно.) Тренд тут очевиден: благодаря прогрессу в вычислительных мощностях и оцифровке данных нейросетевые модели ИИ все чаще выигрывают и у формульных алгоритмов (решающих задачи согласно теории), у статистических методов, а также у других алгоритмов компьютерного обучения.

Самым впечатляющим примером успеха искусственного интеллекта в науке остается результат, достигнутый в 2020 году нейросетевой моделью AlphaFold (потомок DeepMind), которая с потрясающей точностью решает одну из главных проблем молекулярной биологии — предсказывает 3D-структуру белков на основе кодирующих их генов. Программа выложена с открытым кодом, ею уже активно пользуются ученые. Это вещь очень практичная: зная структуру белка, вы можете понимать функции генов и направленно проектировать лекарства, которые имеют мишенью данный белок. Кроме того, с помощью ИИ уже открыто несколько перспективных лекарственных формул, предсказаны неизвестные ранее пути химического синтеза и многое другое.

Но в последнее время обсуждение инструментов искусственного интеллекта все чаще связано с выпуском в общий доступ ChatGPT и других больших генеративных языковых моделей (которые учатся на множестве текстов и сами их генерируют). Чат-бот ChatGPT и другие языковые модели респонденты-ученые в исследовании Nature называли чаще всего, когда их просили указать наиболее полезный пример инструментов ИИ в науке (AlphaFold идет на втором месте).

Стадия громкого успеха и роста ожиданий, связанных с разговорными и картиночными чатами, уже прошла, и даже стало проявляться некоторое разочарование их возможностями. Но при этом большие языковые модели прочно вошли в нашу жизнь, иногда несильно ее меняя (многие используют их просто как более удобный поисковик и для составления черновиков для рефератов), иногда значительно (программисты говорят о большой экономии времени при написании фрагментов кода).

Ученые из опроса Nature (были разосланы анкеты 40 тыс. исследователей, опубликовавших свои работы в последние четыре месяца прошлого года) используют чаты для поиска идей, написания кода, а некоторые пробуют их возможности для дизайна новых белковых структур, улучшения прогнозов погоды и постановки медицинских диагнозов.

Как минимум сейчас уже очевидно, что ChatGPT помогает писать научные статьи на более внятном английском тем, для кого этот язык не родной. «Использование инструментов искусственного интеллекта может сделать сферу науки более справедливой», — говорит Тацуя Амано, эколог японского происхождения из Университета Квинсленда (Брисбен, Австралия). Он опросил более 900 коллег-экологов и показал, что начинающие ученые с неродным английским тратят в два раза больше времени собственно на текст статьи, чем носители языка, что несправедливо. На этом основании он пытался оспорить решение редакции Science о запрете использования инструментов искусственного интеллекта при написании статьей, предложив вместо этого заявлять о его использовании и прикладывать вариант рукописи без машинной редактуры.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Стать тачкой номер один в России Стать тачкой номер один в России

Как в провинциальном городке за десять лет вызрело экономическое чудо

Монокль
Как праздновали Новый год в царской России и в Советском Союзе? Как праздновали Новый год в царской России и в Советском Союзе?

История праздника, который мы любим больше всего

Караван историй
«Байденомика» против «трампономики» «Байденомика» против «трампономики»

Чья экономическая политика выгоднее для США

Деньги
Смех – подарок культуры Смех – подарок культуры

Арсений Дежуров напоминает: человека от животного отличает способность смеяться

Правила жизни
Почему дети не любят писать и как это исправить? Отвечает учитель Почему дети не любят писать и как это исправить? Отвечает учитель

Как научить ребенка писать сочинение

СНОБ
Зооразвод. Как не попасть в ловушку из-за любви к животным? Зооразвод. Как не попасть в ловушку из-за любви к животным?

4 уловки зоомошенников, которые угрожают не только кошельку владельца

Лиза
Когда модель превзойдет алгоритмы Когда модель превзойдет алгоритмы

О том, как модели искусственного интеллекта «выходят за флажки»

Монокль
Образование в России: «Хороший специалист всегда найдет себе применение» Образование в России: «Хороший специалист всегда найдет себе применение»

Какая сейчас идет нагрузка на школьников и как молодым людям найти призвание

ФедералПресс
Инновации как способ выживания Инновации как способ выживания

На макроуровне никакой активизации НИОКР в средних компаниях не замечено

Монокль
Когда гигиеническая помада не помогла: что делать, если сильно трескаются губы Когда гигиеническая помада не помогла: что делать, если сильно трескаются губы

Почему трескаются губы?

ТехИнсайдер
В битвах вокруг ИИ победят корпорации В битвах вокруг ИИ победят корпорации

Государствам нужно ускориться в регулировании искусственного интеллекта

Монокль
Татьяна Столяр — о коллекционировании, терапии и умении говорить «нет» Татьяна Столяр — о коллекционировании, терапии и умении говорить «нет»

Коллекционер Татьяна Столяр — о ее взаимоотношения с современным искусством

РБК
Почему выгодно быть «жертвой»: 5 преимуществ, о которых вы не знали Почему выгодно быть «жертвой»: 5 преимуществ, о которых вы не знали

Как люди становятся «жертвами» и почему часто не хотят отказываться от этой роли

Psychologies
Адаптивный интеллект: как нас спасает умение переучиваться Адаптивный интеллект: как нас спасает умение переучиваться

Зачем и как адаптироваться к постоянным изменениям

Psychologies
Дом-2 Дом-2

Как российское кино и сериалы прописались на даче

Weekend
Александр Попов. Русский волшебник беспроводной связи Александр Попов. Русский волшебник беспроводной связи

Как русский ученый-физик Александр Степанович Попов изобрел радио

Зеркало Мира
Сколько стоит адаптироваться к климату Сколько стоит адаптироваться к климату

Изменения погодных условий как один из драйверов инвестиций в перспективе

Агроинвестор
5 черт поколения Y, которые могут его погубить 5 черт поколения Y, которые могут его погубить

Карьерный маркетолог выделила черты поколения Y, которые могут ему навредить

Psychologies
Дела сердечные: 8 причин срочно записаться к кардиологу Дела сердечные: 8 причин срочно записаться к кардиологу

8 наиболее частых причин для обращения к врачу при проблемах с сердцем

ТехИнсайдер
Как в российском обществе складывалась историческая память об Отечественной войне 1812 года Как в российском обществе складывалась историческая память об Отечественной войне 1812 года

Как давно прошедшие события Отечественной войны 1812 года были увековечены и кем

Знание – сила
Магия магния Магия магния

Орехи, шоколад и еще 8 продуктов, содержащих магний в большом количестве

Лиза
Большой переполох Большой переполох

На что обратить внимание при выборе клининговой компании?

Лиза
Зачем подводить итоги года и как сделать это грамотно Зачем подводить итоги года и как сделать это грамотно

Как итоги старого года помогут сделать будущий год еще продуктивнее

Maxim
Корица Корица

Почему вам стоит добавить корицу в свой рацион?

Здоровье
Что делать, если не работает один наушник: практические рекомендации Что делать, если не работает один наушник: практические рекомендации

Почему может не работать один наушник и как устранить неисправность

CHIP
Король гангстеров: 10 главных фильмов в карьере Мартина Скорсезе Король гангстеров: 10 главных фильмов в карьере Мартина Скорсезе

Великий режиссер Мартин Скорсезе всегда старался снимать разное кино

Правила жизни
Как уберечь психику ребенка при разводе: 4 совета Как уберечь психику ребенка при разводе: 4 совета

Как свести негативные последствия от развода для ребенка

Psychologies
Что скрывают панические атаки Что скрывают панические атаки

Вас замучили панические атаки, ипохондрия и другие страхи?

Psychologies
В постели с врагом: как после войн женщин преследовали за отношения с противниками В постели с врагом: как после войн женщин преследовали за отношения с противниками

Как шовинизм и мизогиния притворялись жаждой справедливости

Forbes
«Отель «Ройал»: новое исследование харассмента от режиссера фильма о деле Вайнштейна «Отель «Ройал»: новое исследование харассмента от режиссера фильма о деле Вайнштейна

Как «Отель «Ройал» исследует тему харассмента в дальнем регионе Австралии

Forbes
Открыть в приложении