Чем опасно доверять написание кода нейросетям?

N+1Hi-Tech

Минус вайб

Чем опасно доверять написание кода нейросетям?

Марат Хамадеев

Большие языковые модели (Large language models, LLMs) прославились благодаря осмысленным текстам, почти неотличимым от человеческих. Но умение обрабатывать последовательности символов пригодилось не только для задач, связанных с естественными языками: везде, где данные представимы в виде букв и цифр — от игры в шахматы до работы с генетической информацией, — LLM могут быть полезны. Одной из первых областей за пределами генерации текстов, где они хорошо себя показали, стал кодинг: в конце концов, формальные языки — тоже языки.

Программировать могут даже языковые модели, не заточенные под эту задачу. Для этого достаточно кода, который опубликован в интернете и попал в датасеты (об этом я написал отдельный материал «И целого интернета мало»). Регулярно появляются и специализированные модели, например GPT-4.1, представленная OpenAI в апреле 2025 года. Теперь LLM для программирования используют даже те, кто ничего не понимает в разработке. Но способны ли модели генерировать надежный код, который можно без опаски применять в реальных проектах?

И кодить за меня будете?

Общий прогресс LLM отражается и на их способности программировать. Если ранние модели часто совершали синтаксические ошибки, не могли решить алгоритмически сложные задачи и зачастую просто забывали начало кода, то современные LLM создают небольшие проекты всего за несколько итераций. Особенно сгенерированный код полезен, когда нужно быстро сделать прототип или решить простые, но объемные задачи.

91b16b1d222228932b059c76fcfe2eed.png
Сравнение популярных моделей в способности работать с графами для решения задач по программированию на бенчмарке GraphEval36K. Радиальная координата на диаграмме обозначает долю решенных задач, разными цветами обозначены типы графов. Qiming Wu et al. / arXiv, 2024

При поддержке ИИ писать код стали люди, которые не знают языков программирования. С легкой руки Андрея Карпатого, соучредителя OpenAI, такой подход получил название «вайб-кодинг». Смысл заключается в том, чтобы расслабиться, формулировать запросы «как чувствуешь» и слепо доверять ИИ — ведь если код не работает, всегда можно попросить LLM его исправить.

Похоже, новый подход к разработке набирает популярность, хотя сложно сказать, сколько программистов вайб-кодят и какую долю в общем объеме составляет сгенерированный код. Некоторые оценки можно сделать на основе заявлений сервисов, предоставляющих ИИ-инструменты. Например, в феврале 2024 года GitHub сообщил, что их платной функцией Copilot пользуется 1,3 миллиона пользователей. Позже компания поделилась результатами опроса, согласно которому 97 процентов программистов хотя бы раз просили ИИ написать за них код.

Преимущество вайб-кодинга еще и в том, что LLM знают много языков. Журналист издания Ars Technica Бендж Эдвардс рассказал, как Claude 3.5 Sonnet написала для него программу на QBasic для распаковки двухсот zip-файлов по папкам с индивидуальными названиями. Вручную эта работа заняла бы у Эдвардса несколько часов, поскольку ничего другого на старом компьютере под управлением MS-DOS не работало.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Правда ли, что завтрак — самый важный прием пищи Правда ли, что завтрак — самый важный прием пищи

Одни не представляют начало дня без завтрака, другие даже не могут выпить чай

Популярная механика
Откуда берутся деньги Откуда берутся деньги

Как доллар превратился в глобальное оружие

Деньги
Павел Воронин: «В ближайшие три года ИИ-решения начнут приносить реальную экономию бизнесу» Павел Воронин: «В ближайшие три года ИИ-решения начнут приносить реальную экономию бизнесу»

Гендиректор МТС Web Services Павел Воронин — об автоматизации и нейросетях

РБК
Батя может Батя может

«Этернавт»: аргентинский сериал про снежный апокалипсис в Буэнос-Айресе

Weekend
Опальная молекула: почему высокий уровень холестерина считают угрозой для здоровья Опальная молекула: почему высокий уровень холестерина считают угрозой для здоровья

Холестерин: какую роль он играет в организме и почему вокруг него одни скандалы?

Forbes
В состоянии равновесия В состоянии равновесия

Анна Снаткина о мужском и женском и об энергиях в пространстве

OK!
Магдала Магдала

Место паломничества археологов: Магдала – город, упоминаемый в Евангелии

Знание – сила
Цирцея и Фея Моргана: как героини древних мифов вдохновляют современных писательниц Цирцея и Фея Моргана: как героини древних мифов вдохновляют современных писательниц

Шесть современных произведений, которые переосмысляют легендарные сюжеты

Forbes
«Он заслужил «Золотой мяч»: как Ламин Ямаль начал зарабатывать десятки миллионов «Он заслужил «Золотой мяч»: как Ламин Ямаль начал зарабатывать десятки миллионов

О карьере юной звезды Ламина Ямаля

Forbes
Ландышевое дерево Ландышевое дерево

Ландышевое дерева, или халезия, — украшение майского сада

Наука и жизнь
Дивный Воронеж Дивный Воронеж

Город-открытие, который ты пропускаешь по пути на море

Лиза
Тайна самых древних галактик остается неразрешимой Тайна самых древних галактик остается неразрешимой

Джеймс Уэбб он столкнулся с тайной, которую не удается разрешить до сих пор

ТехИнсайдер
Палеонтологи восстановили перья археоптерикса, и объяснили как он летал Палеонтологи восстановили перья археоптерикса, и объяснили как он летал

Как ученые по оставшимся костям могут реконструировать облик археоптерикса?

ТехИнсайдер
Когда в автомобиле пригодится плед: 10 неочевидных ситуаций Когда в автомобиле пригодится плед: 10 неочевидных ситуаций

Советы по использованию пледа в автопоездке

ТехИнсайдер
Я работаю мамой Я работаю мамой

Валентина Красникова, мама 17 детей, о семье и хобби

Лиза
Элементарно, Ватсон: как создавался советский фильм «Приключения Шерлока Холмса и доктора Ватсона» Элементарно, Ватсон: как создавался советский фильм «Приключения Шерлока Холмса и доктора Ватсона»

Как создавался цикл фильмов о знаменитом британском сыщике от Масленникова

Правила жизни
«Уехать однажды» — фильм открытия Канн и нарочито банальный французский мюзикл. Но все не так просто «Уехать однажды» — фильм открытия Канн и нарочито банальный французский мюзикл. Но все не так просто

Как максимально заурядный фильм открытия вдруг оказался магическим зрелищем

Правила жизни
Доктор ниндзя Доктор ниндзя

Жимба Данзанов уверен, что дожить до 120 лет реально уже сегодня

Afternoon Seasons of life
Автопророки Автопророки

На Шанхайском автосалоне производители попробовали заглянуть в будущее

ТехИнсайдер
Раскрыт секретный рецепт римского бетона, который пережил тысячелетия Раскрыт секретный рецепт римского бетона, который пережил тысячелетия

Чем состав и технология производства римского бетона отличались от современного

Inc.
LG Electronics: Поэтическое путешествие LG Electronics: Поэтическое путешествие

Президент компании LG в России и СНГ — о жизни в стихах

РБК
Незнакомые символы Незнакомые символы

Зачем клубам – даже очень популярным – нужен редизайн эмблемы

Ведомости
Как в лучших фильмах: 5 шпионских гаджетов времен холодной войны Как в лучших фильмах: 5 шпионских гаджетов времен холодной войны

Устройства времен холодной войны, которые делали работу шпионов эффективнее

ТехИнсайдер
Коротко и ясно Коротко и ясно

Идеи для коротких, но ярких путешествий по России

Добрые советы
От дебюта Тарковского до номинанта «Оскара»: классика о Великой Отечественной От дебюта Тарковского до номинанта «Оскара»: классика о Великой Отечественной

Подборка пяти великих фильмов о Великой Отечественной

Ведомости
Верить нельзя сомневаться Верить нельзя сомневаться

О самых частых заблуждениях о миоме матки рассказывает врач акушер-гинеколог

Лиза
Юрий Яковлев: «Уверен, что артисты — это больные люди!» Юрий Яковлев: «Уверен, что артисты — это больные люди!»

Вот иду по улице, а на меня смотрят, как на сумасшедшего

Коллекция. Караван историй
Что случилось с семьей Гитлера и где живут потомки фашиста? Интересные факты Что случилось с семьей Гитлера и где живут потомки фашиста? Интересные факты

Почему родственники Гитлера решили навсегда прервать зловещую фамилию?

ТехИнсайдер
Природное и культурное наследие: 5 самых впечатляющих объектов из списка ЮНЕСКО в России Природное и культурное наследие: 5 самых впечатляющих объектов из списка ЮНЕСКО в России

Впечатляющие объекты, входящие в список Всемирного наследия ЮНЕСКО

ТехИнсайдер
Тянет в Италию Тянет в Италию

Италия — точка притяжения художников, моряков и мечтателей

Y Magazine
Открыть в приложении