Чем опасно доверять написание кода нейросетям?

N+1Hi-Tech

Минус вайб

Чем опасно доверять написание кода нейросетям?

Марат Хамадеев

Большие языковые модели (Large language models, LLMs) прославились благодаря осмысленным текстам, почти неотличимым от человеческих. Но умение обрабатывать последовательности символов пригодилось не только для задач, связанных с естественными языками: везде, где данные представимы в виде букв и цифр — от игры в шахматы до работы с генетической информацией, — LLM могут быть полезны. Одной из первых областей за пределами генерации текстов, где они хорошо себя показали, стал кодинг: в конце концов, формальные языки — тоже языки.

Программировать могут даже языковые модели, не заточенные под эту задачу. Для этого достаточно кода, который опубликован в интернете и попал в датасеты (об этом я написал отдельный материал «И целого интернета мало»). Регулярно появляются и специализированные модели, например GPT-4.1, представленная OpenAI в апреле 2025 года. Теперь LLM для программирования используют даже те, кто ничего не понимает в разработке. Но способны ли модели генерировать надежный код, который можно без опаски применять в реальных проектах?

И кодить за меня будете?

Общий прогресс LLM отражается и на их способности программировать. Если ранние модели часто совершали синтаксические ошибки, не могли решить алгоритмически сложные задачи и зачастую просто забывали начало кода, то современные LLM создают небольшие проекты всего за несколько итераций. Особенно сгенерированный код полезен, когда нужно быстро сделать прототип или решить простые, но объемные задачи.

91b16b1d222228932b059c76fcfe2eed.png
Сравнение популярных моделей в способности работать с графами для решения задач по программированию на бенчмарке GraphEval36K. Радиальная координата на диаграмме обозначает долю решенных задач, разными цветами обозначены типы графов. Qiming Wu et al. / arXiv, 2024

При поддержке ИИ писать код стали люди, которые не знают языков программирования. С легкой руки Андрея Карпатого, соучредителя OpenAI, такой подход получил название «вайб-кодинг». Смысл заключается в том, чтобы расслабиться, формулировать запросы «как чувствуешь» и слепо доверять ИИ — ведь если код не работает, всегда можно попросить LLM его исправить.

Похоже, новый подход к разработке набирает популярность, хотя сложно сказать, сколько программистов вайб-кодят и какую долю в общем объеме составляет сгенерированный код. Некоторые оценки можно сделать на основе заявлений сервисов, предоставляющих ИИ-инструменты. Например, в феврале 2024 года GitHub сообщил, что их платной функцией Copilot пользуется 1,3 миллиона пользователей. Позже компания поделилась результатами опроса, согласно которому 97 процентов программистов хотя бы раз просили ИИ написать за них код.

Преимущество вайб-кодинга еще и в том, что LLM знают много языков. Журналист издания Ars Technica Бендж Эдвардс рассказал, как Claude 3.5 Sonnet написала для него программу на QBasic для распаковки двухсот zip-файлов по папкам с индивидуальными названиями. Вручную эта работа заняла бы у Эдвардса несколько часов, поскольку ничего другого на старом компьютере под управлением MS-DOS не работало.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как не попасть на «развод» в автосалоне. 6 уловок продавцов Как не попасть на «развод» в автосалоне. 6 уловок продавцов

Названы 6 самых хитрых приемов дилеров при продаже машин

РБК
«Подписали — и попали». 3 главные автомобильные аферы последних лет «Подписали — и попали». 3 главные автомобильные аферы последних лет

Когда на кону миллионы и авто, фантазия у аферистов работает без ограничений

РБК
От Тегерана до Потсдама: большая дипломатия в конце Второй мировой войны От Тегерана до Потсдама: большая дипломатия в конце Второй мировой войны

Как Сталин, Рузвельт и Черчилль преодолевали взаимное недоверие

Монокль
Искусство помогать Искусство помогать

Интервью с Марией Ермощенковой, заведующей отделением онкомаммологии

Лиза
Кино по правилам и без Кино по правилам и без

Фильмы, создатели которых не побоялись нарушить заданные стандарты

Правила жизни
Отец и сын. Великая Отечественная в жизни Константина и Алексея Симоновых Отец и сын. Великая Отечественная в жизни Константина и Алексея Симоновых

Какой след оставила война в жизни Константина и Алексея Симоновых?

Знание – сила
Схватить, покрутить и нести на анализы: что делать, если укусил клещ Схватить, покрутить и нести на анализы: что делать, если укусил клещ

Как защищаться от клещей, и что делать, если паразит все-таки укусил

Forbes
Им наверху виднее Им наверху виднее

10 причин установить на свой автомобиль спутниковый охранный комплекс

Автопилот
Кошка с собой Кошка с собой

Что стоит предусмотреть перед совместным отпуском с домашней кошкой

Новый очаг
«Следующие 500 лет: Как подготовить человека к жизни на других планетах» «Следующие 500 лет: Как подготовить человека к жизни на других планетах»

Зачем превращать одни клетки в другие

N+1
Магдала Магдала

Место паломничества археологов: Магдала – город, упоминаемый в Евангелии

Знание – сила
Владимир Жириновский Владимир Жириновский

Правила жизни политика Владимира Жириновского

Правила жизни
Необитаемый остров Необитаемый остров

Шесть снимков Ксении Хаунд о заброшенных безлюдных местах

Men Today
«Королева небес»: Что известно о самолете за $400 миллионов, который Катар подарил Трампу «Королева небес»: Что известно о самолете за $400 миллионов, который Катар подарил Трампу

Как Америке катарцы подарили самолет.

Maxim
Капуцины острова Хикарон обзавелись традицией похищать и носить на себе детенышей ревунов Капуцины острова Хикарон обзавелись традицией похищать и носить на себе детенышей ревунов

У капуцинов появилась традиция похищать и носить детенышей ревунов

N+1
От свалок до цифровизации От свалок до цифровизации

Особенности управления мусорными отходами в РФ и в мире

Ведомости
Столкновение умов: как не проиграть конкуренцию в борьбе за лидерство в области ИИ Столкновение умов: как не проиграть конкуренцию в борьбе за лидерство в области ИИ

Как на самом деле развивается ИИ в России?

Forbes
Янковские Янковские

Олег Янковский — любимец экрана, для которого главным в жизни была семья

Караван историй
ПИФы навели на цель ПИФы навели на цель

В борьбе за инвесторов компании запускают нишевые и экзотические фонды

Монокль
Вторжение номадов: как в мире начался бум экотуризма и к чему он может привести Вторжение номадов: как в мире начался бум экотуризма и к чему он может привести

Почему борцов за сохранение природы настораживает мода на экотуризм?

Forbes
Ирина Безрукова: «Во мне до сих пор живет девушка, которая верит в то, что не может же быть только «безнадега точка ру» Ирина Безрукова: «Во мне до сих пор живет девушка, которая верит в то, что не может же быть только «безнадега точка ру»

Где этот островок надежды, радости, любви, где свет в конце того самого тоннеля?

Коллекция. Караван историй
Большая Пысса хулигана Большая Пысса хулигана

История взлета и падения самой скандальной программы нулевых

Правила жизни
Рост на цифрах Рост на цифрах

Какие факторы способствуют увеличению рынка ЦФА

Ведомости
Геологи считают, что скрытый источник чистой энергии может питать Землю 170 000 лет Геологи считают, что скрытый источник чистой энергии может питать Землю 170 000 лет

Ископаемого водорода хватит, чтобы обеспечить Землю энергией на 170 тысяч лет

ТехИнсайдер
Cтенка на стенку Cтенка на стенку

Чем стрит-арт отличается от вандализма?

Правила жизни
Химия любви: введение Химия любви: введение

Несколько формул и теорий любви, которые предлагают современные ученые

Men Today
Просто добавь воды Просто добавь воды

Химики предложили новый способ стабилизации наночастиц оксида железа

Наука и жизнь
Цветок для смелых Цветок для смелых

Проект суперъяхты Lily разработали для верфи Oceanco в дизайн-бюро Vripack

Y Magazine
Новые археологические памятники открыты на Кольском полуострове Новые археологические памятники открыты на Кольском полуострове

Уникальные находки древнескандинавской культуры гресбакен

Знание – сила
Катамараны Bering Катамараны Bering

Зачем Bering Yachts строит экспедиционные катамараны из алюминиевого сплава

Y Magazine
Открыть в приложении