Чем опасно доверять написание кода нейросетям?

N+1Hi-Tech

Минус вайб

Чем опасно доверять написание кода нейросетям?

Марат Хамадеев

Большие языковые модели (Large language models, LLMs) прославились благодаря осмысленным текстам, почти неотличимым от человеческих. Но умение обрабатывать последовательности символов пригодилось не только для задач, связанных с естественными языками: везде, где данные представимы в виде букв и цифр — от игры в шахматы до работы с генетической информацией, — LLM могут быть полезны. Одной из первых областей за пределами генерации текстов, где они хорошо себя показали, стал кодинг: в конце концов, формальные языки — тоже языки.

Программировать могут даже языковые модели, не заточенные под эту задачу. Для этого достаточно кода, который опубликован в интернете и попал в датасеты (об этом я написал отдельный материал «И целого интернета мало»). Регулярно появляются и специализированные модели, например GPT-4.1, представленная OpenAI в апреле 2025 года. Теперь LLM для программирования используют даже те, кто ничего не понимает в разработке. Но способны ли модели генерировать надежный код, который можно без опаски применять в реальных проектах?

И кодить за меня будете?

Общий прогресс LLM отражается и на их способности программировать. Если ранние модели часто совершали синтаксические ошибки, не могли решить алгоритмически сложные задачи и зачастую просто забывали начало кода, то современные LLM создают небольшие проекты всего за несколько итераций. Особенно сгенерированный код полезен, когда нужно быстро сделать прототип или решить простые, но объемные задачи.

91b16b1d222228932b059c76fcfe2eed.png
Сравнение популярных моделей в способности работать с графами для решения задач по программированию на бенчмарке GraphEval36K. Радиальная координата на диаграмме обозначает долю решенных задач, разными цветами обозначены типы графов. Qiming Wu et al. / arXiv, 2024

При поддержке ИИ писать код стали люди, которые не знают языков программирования. С легкой руки Андрея Карпатого, соучредителя OpenAI, такой подход получил название «вайб-кодинг». Смысл заключается в том, чтобы расслабиться, формулировать запросы «как чувствуешь» и слепо доверять ИИ — ведь если код не работает, всегда можно попросить LLM его исправить.

Похоже, новый подход к разработке набирает популярность, хотя сложно сказать, сколько программистов вайб-кодят и какую долю в общем объеме составляет сгенерированный код. Некоторые оценки можно сделать на основе заявлений сервисов, предоставляющих ИИ-инструменты. Например, в феврале 2024 года GitHub сообщил, что их платной функцией Copilot пользуется 1,3 миллиона пользователей. Позже компания поделилась результатами опроса, согласно которому 97 процентов программистов хотя бы раз просили ИИ написать за них код.

Преимущество вайб-кодинга еще и в том, что LLM знают много языков. Журналист издания Ars Technica Бендж Эдвардс рассказал, как Claude 3.5 Sonnet написала для него программу на QBasic для распаковки двухсот zip-файлов по папкам с индивидуальными названиями. Вручную эта работа заняла бы у Эдвардса несколько часов, поскольку ничего другого на старом компьютере под управлением MS-DOS не работало.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Вагон наличных Вагон наличных

Физик из России заработал $90 млн на азиатских заемщиках

Forbes
Исторические сведения о сказочных берендеях Исторические сведения о сказочных берендеях

Легендами о лесном царстве берендеев вдохновлялись и Жуковский, и Островский

Знание – сила
Океан в деталях Океан в деталях

Пентхаус в Дубае в стиле европейского минимализма с атмосферой курортного отдыха

SALON-Interior
Как экологические ограничения отражаются на развитии нефтехимии Как экологические ограничения отражаются на развитии нефтехимии

Можно ли нарастить производство полимеров и не навредить экологии?

РБК
Сага мужества и стойкости Сага мужества и стойкости

Четыре года схваток сплотили союзников сильнее, чем дипломатические трактаты

Монокль
Что имеем – сохраним Что имеем – сохраним

Жаркие дни – весомый повод задуматься, правильно ли ты хранишь свою косметику

Лиза
Турецкий словарь Турецкий словарь

Гид по турецкому этикету — словарь для диалога с деловыми партнёрами

RR Люкс.Личности.Бизнес.
Однажды на террасе Однажды на террасе

Как оборудовать на дачном участке удобное и красивое место отдыха

КАНТРИ Русская азбука
Краткая жизнь немецкого Vogue: почему не удалось построить империю глянца в Германии Краткая жизнь немецкого Vogue: почему не удалось построить империю глянца в Германии

Почему немецкая версия Vogue стала самым дорогостоящим провалом Конде Наст?

Forbes
Аллергия на весну Аллергия на весну

Медицина пересматривает представления о механизмах развития аллергии

Ведомости
Сложный стартап и звездный статус: почему Селены Гомес пока нет в списке миллиардеров Сложный стартап и звездный статус: почему Селены Гомес пока нет в списке миллиардеров

Бизнес-портфель Селены Гомес, главные активы и точки роста

Forbes
Геологи считают, что скрытый источник чистой энергии может питать Землю 170 000 лет Геологи считают, что скрытый источник чистой энергии может питать Землю 170 000 лет

Ископаемого водорода хватит, чтобы обеспечить Землю энергией на 170 тысяч лет

ТехИнсайдер
Как в лучших фильмах: 5 шпионских гаджетов времен холодной войны Как в лучших фильмах: 5 шпионских гаджетов времен холодной войны

Устройства времен холодной войны, которые делали работу шпионов эффективнее

ТехИнсайдер
10 самых засмотренных до дыр мультфильмов разных поколений 10 самых засмотренных до дыр мультфильмов разных поколений

Самые засмотренные мультфильмы за все время, разбитые по десятилетиям

Maxim
Нейробиологи показали, как мозг хранит и редактирует наши воспоминания Нейробиологи показали, как мозг хранит и редактирует наши воспоминания

Механизмы, которые хранят и обновляют воспоминания в мозге

ТехИнсайдер
Маурицио Каттелан Маурицио Каттелан

Правила жизни художника Маурицио Каттелана

Правила жизни
28, Пётр и ослик 28, Пётр и ослик

Рассказ Григория Служителя — про путешествие в прошлое на троллейбусе

Afternoon Seasons of life
Атлантические крепости Третьего рейха Атлантические крепости Третьего рейха

Атлантический вал: порты-крепости и их роль в обороне Третьего рейха

Наука и техника
Яковлевы Яковлевы

Юрий Яковлев оставил после себя не только роли, но и актёрскую династию

Караван историй
Число семьи Число семьи

Как узнать, насколько гармоничны отношениями между твоими близким

Лиза
Красиво «замедлиться» Красиво «замедлиться»

Аскетичный и медитативный интерьер для отдыха с архитектурными решениями

SALON-Interior
Подводный флот Ирана Подводный флот Ирана

Главная сила ВМС Ирана — подводные лодки

Наука и техника
Время вторых: сколько зарабатывают победители национальных кубков в Европе Время вторых: сколько зарабатывают победители национальных кубков в Европе

Что (кроме почета) получают победители национальных кубков в топ-5 лигах Европы

Forbes
Всем оставаться на местах Всем оставаться на местах

Что делать, если выпадают волосы: пошаговая инструкция

Лиза
Билайн: Дорога в облака Билайн: Дорога в облака

Как «Билайн» развивает новую IT-платформу и модернизирует инфраструктуру

РБК
Что такое робот? Что такое робот?

Роботы вокруг нас: объясняем, как они работают и зачем нужны

Наука и техника
Дрифт без правил Дрифт без правил

«Жига. На полной скорости»: каким получился фильм о дрифтинге в России?

Автопилот
6 самых безумных предметов, которые когда-либо крали 6 самых безумных предметов, которые когда-либо крали

Некоторые из самых странных вещей, которые когда-либо были украдены

ТехИнсайдер
Зоолог впервые заснял самого крупного грызуна Австралии и Океании Зоолог впервые заснял самого крупного грызуна Австралии и Океании

Зоолог впервые запечатлел на фото и видео низинную мохнатую крысу

N+1
Представь, что... Представь, что...

Почему стоит довериться роботу и спланировать путешествие с помощью Chat GPT

Новый очаг
Открыть в приложении