Инструменты ИИ бросают вызов научным инструментам поиска истины

МонокльHi-Tech

Может ли ChatGPT обмануть ученых

Инструменты искусственного интеллекта бросают вызов научным инструментам поиска истины

Виталий Лейбин

Искусственный интеллект радикально меняет жизнь ученых. Omar Marques/sopa; Andreas Arnold/DPA

Использование инструментов искусственного интеллекта (ИИ) в науке стало предметом бурной полемики в академической прессе. За последний месяц в Nature были опубликованы статья «Как ChatGPT и другие инструменты искусственного интеллекта могут исказить систему научных публикаций» и собственный экспертный опрос «ИИ и наука: что думают 1600 исследователей».

Наряду с дежурным технооптимизмом в этих публикациях поставлены проблемы, ряд которых уже привели к организационным решениям в сфере научных публикаций. Самые авторитетные научные журналы ввели ограничения против использования инструментов искусственного интеллекта при подготовке статей: Science вообще перестал принимать статьи, написанные с помощью ИИ, а Nature требует от авторов заявлять об его использовании при написании текстов.

«На мой взгляд, основная опасность не в том, что широкое использование инструментов искусственного интеллекта увеличит число статей, представляющих собой наспех приготовленные поделки низкого качества. В конце концов, это неважно: одним графоманом больше, одним меньше… Будет гораздо хуже, если при рецензировании статей и заявок на гранты будут использоваться большие языковые модели. Вот в этом случае будет искоренена всякая оригинальность в науке, будет наказываться любое отклонение от мейнстрима, — считает академик РАН, декан факультета фундаментальной физико-химической инженерии МГУ Алексей Хохлов. — Эта опасность подробно обсуждается в одной из статей в Nature, но предлагаемые меры борьбы с ней как-то не впечатляют. В целом складывается ощущение, что научное сообщество пока еще только нащупывает оптимальные ответы на те вызовы, которые возникают при широком использовании инструментов ИИ в научных исследованиях».

Польза нейросетей

Не следует смешивать две темы, касающиеся использования нейросетей в науке. Первое — это использование инструментов искусственного интеллекта, созданных и обученных специально для решения какой-то научной проблемы. Здесь есть впечатляющие успехи и бурный рост числа публикаций. В части из них сравниваются разные компьютерные модели для решения задач — разной хитрости алгоритмы, разные модели компьютерного обучения и собственно нейронные сети. (Такие машины учатся на больших данных, результаты обучения записывают в форме связей между виртуальными «нейронами» — узлами сети и работают как «черный ящик» — как именно они решают задачи, неизвестно.) Тренд тут очевиден: благодаря прогрессу в вычислительных мощностях и оцифровке данных нейросетевые модели ИИ все чаще выигрывают и у формульных алгоритмов (решающих задачи согласно теории), у статистических методов, а также у других алгоритмов компьютерного обучения.

Самым впечатляющим примером успеха искусственного интеллекта в науке остается результат, достигнутый в 2020 году нейросетевой моделью AlphaFold (потомок DeepMind), которая с потрясающей точностью решает одну из главных проблем молекулярной биологии — предсказывает 3D-структуру белков на основе кодирующих их генов. Программа выложена с открытым кодом, ею уже активно пользуются ученые. Это вещь очень практичная: зная структуру белка, вы можете понимать функции генов и направленно проектировать лекарства, которые имеют мишенью данный белок. Кроме того, с помощью ИИ уже открыто несколько перспективных лекарственных формул, предсказаны неизвестные ранее пути химического синтеза и многое другое.

Но в последнее время обсуждение инструментов искусственного интеллекта все чаще связано с выпуском в общий доступ ChatGPT и других больших генеративных языковых моделей (которые учатся на множестве текстов и сами их генерируют). Чат-бот ChatGPT и другие языковые модели респонденты-ученые в исследовании Nature называли чаще всего, когда их просили указать наиболее полезный пример инструментов ИИ в науке (AlphaFold идет на втором месте).

Стадия громкого успеха и роста ожиданий, связанных с разговорными и картиночными чатами, уже прошла, и даже стало проявляться некоторое разочарование их возможностями. Но при этом большие языковые модели прочно вошли в нашу жизнь, иногда несильно ее меняя (многие используют их просто как более удобный поисковик и для составления черновиков для рефератов), иногда значительно (программисты говорят о большой экономии времени при написании фрагментов кода).

Ученые из опроса Nature (были разосланы анкеты 40 тыс. исследователей, опубликовавших свои работы в последние четыре месяца прошлого года) используют чаты для поиска идей, написания кода, а некоторые пробуют их возможности для дизайна новых белковых структур, улучшения прогнозов погоды и постановки медицинских диагнозов.

Как минимум сейчас уже очевидно, что ChatGPT помогает писать научные статьи на более внятном английском тем, для кого этот язык не родной. «Использование инструментов искусственного интеллекта может сделать сферу науки более справедливой», — говорит Тацуя Амано, эколог японского происхождения из Университета Квинсленда (Брисбен, Австралия). Он опросил более 900 коллег-экологов и показал, что начинающие ученые с неродным английским тратят в два раза больше времени собственно на текст статьи, чем носители языка, что несправедливо. На этом основании он пытался оспорить решение редакции Science о запрете использования инструментов искусственного интеллекта при написании статьей, предложив вместо этого заявлять о его использовании и прикладывать вариант рукописи без машинной редактуры.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как NXIVM заставил голливудских звезд и влиятельную элиту Америки стать частью жестокого Как NXIVM заставил голливудских звезд и влиятельную элиту Америки стать частью жестокого

Как была устроена преступная организация NXIVM

Esquire
Доходность не ржавеет Доходность не ржавеет

Как правильно инвестировать в коллекционные монеты

Деньги
Ветроэнергетика: освоение новых территорий Ветроэнергетика: освоение новых территорий

Что произошло с ветроэнергетикой за последнее десятилетие?

Наука и жизнь
«В станкостроении науки не существует» «В станкостроении науки не существует»

Прикладной науке, в советском понимании, в современно мире места быть не может

Монокль
Пить русское вино: выносимая легкость и яркость вкуса Пить русское вино: выносимая легкость и яркость вкуса

Российское виноделие идет в рост, но до появления развитой индустрии пока далеко

Монокль
Все на подъеме Все на подъеме

Самые выгодные инвестиции 2023 года

Деньги
Сахар, ты где? Сахар, ты где?

Как производители маскируют сахар в своих продуктах

Лиза
Ренат Давлетьяров: «В режиссуре главное — знать, когда остановиться» Ренат Давлетьяров: «В режиссуре главное — знать, когда остановиться»

Режиссер и продюсер «Человека ниоткуда» — о том, как шла работа над фильмом

Монокль
«Я работаю волшебником». Один день из жизни Деда Мороза «Я работаю волшебником». Один день из жизни Деда Мороза

Заглянем в гости к главному Деду Морозу столицы

Лиза
Директор «Нужна помощь» Елизавета Васина — Forbes: «Люди не стали жертвовать меньше» Директор «Нужна помощь» Елизавета Васина — Forbes: «Люди не стали жертвовать меньше»

Как развивать благотворительность на фоне снижения пожертвований и доверия

Forbes
Вместо селедки под шубой и бутербродов с икрой: что едят на Новый год в разных странах Вместо селедки под шубой и бутербродов с икрой: что едят на Новый год в разных странах

Чем питаются на Новый год иностранцы?

ТехИнсайдер
Джоли Алиен Джоли Алиен

Художница Джоли Алиен — как найти авторский стиль, чего ждать от моды

Grazia
10 неожиданных вопросов к Адель Вейгель 10 неожиданных вопросов к Адель Вейгель

Модель и блогер Адель Вейгель рассказала, как люди причиняли ей боль

VOICE
Малопонятный государственный муж Малопонятный государственный муж

Портреты изображают Победоносцева человеком сухим и строгим, без тени улыбки

Дилетант
Пока все дома Пока все дома

Что стоит за страстью к порядку?

Лиза
От «Слова пацана» до «Юмориста»: как российские фильмы и сериалы пересобирают эстетику 1980-х От «Слова пацана» до «Юмориста»: как российские фильмы и сериалы пересобирают эстетику 1980-х

Как эпоху 1980-х видят и переосмысливают современные кинематографисты

Правила жизни
Идти навстречу светилу! Идти навстречу светилу!

История института солнечно-земной физики уходит корнями в докосмическую эру

Наука и жизнь
Big Data под угрозой: почему бизнес больше не стремится узнать все о своих клиентах Big Data под угрозой: почему бизнес больше не стремится узнать все о своих клиентах

Почему гонка за клиентскими данными у крупного бизнеса замедлилась

Forbes
Суздальская вертикаль власти Суздальская вертикаль власти

Раскопки вокруг города, который Юрий Долгорукий объявил столицей до Москвы

Наука
Острые ощущения Острые ощущения

Они любят риск, покоряют вершины, но не могут остановиться. Что виной тому?

Здоровье
Эксперты Кембриджа назвали слово 2023 года: что оно значит и как влияет на нашу жизнь Эксперты Кембриджа назвали слово 2023 года: что оно значит и как влияет на нашу жизнь

Как искусственный интеллект проникает в наш словарный запас

Psychologies
Cупермедведь Cупермедведь

Как Джон Полсон заработал миллиарды на неплатежах по ипотеке

Деньги
Осторожно, мода! Осторожно, мода!

Овердрессинг под запретом. Как научиться одеваться стильно и уместно

Лиза
Быстрее, выше, сильнее: как связаны спорт и либидо Быстрее, выше, сильнее: как связаны спорт и либидо

Можно ли повысить либидо, занимаясь спортом?

Правила жизни
Как скачать видео с VK: 3 простых и проверенных способа в 2023 году Как скачать видео с VK: 3 простых и проверенных способа в 2023 году

Скачать видео с «Вконтакте» можно. В этой статье мы расскажем, как именно

CHIP
Солнечный закат в цветке Солнечный закат в цветке

Может ли цветок передать всё великолепие африканского заката?

Наука и жизнь
«Вставь это немедленно»: почему сцены секса в литературе так плохи «Вставь это немедленно»: почему сцены секса в литературе так плохи

Почему писателям так трудно даются удачные постельные сцены?

Psychologies
Утренняя напасть: как избавиться от отеков лица Утренняя напасть: как избавиться от отеков лица

Почему возникают утренник отеки лица и как предотвратить их появление?

ТехИнсайдер
Как распознать токсичные отношения: 8 явных признаков Как распознать токсичные отношения: 8 явных признаков

Признаки, которые выдают токсичного партнера

Psychologies
Круто ты пропал: что стало с участниками «Фабрики звезд» разных сезонов Круто ты пропал: что стало с участниками «Фабрики звезд» разных сезонов

Кто из «фабрикантов» стал звездой, а чья карьера пошла по другому сценарию

Правила жизни
Открыть в приложении