Чем опасно доверять написание кода нейросетям?

N+1Hi-Tech

Минус вайб

Чем опасно доверять написание кода нейросетям?

Марат Хамадеев

Большие языковые модели (Large language models, LLMs) прославились благодаря осмысленным текстам, почти неотличимым от человеческих. Но умение обрабатывать последовательности символов пригодилось не только для задач, связанных с естественными языками: везде, где данные представимы в виде букв и цифр — от игры в шахматы до работы с генетической информацией, — LLM могут быть полезны. Одной из первых областей за пределами генерации текстов, где они хорошо себя показали, стал кодинг: в конце концов, формальные языки — тоже языки.

Программировать могут даже языковые модели, не заточенные под эту задачу. Для этого достаточно кода, который опубликован в интернете и попал в датасеты (об этом я написал отдельный материал «И целого интернета мало»). Регулярно появляются и специализированные модели, например GPT-4.1, представленная OpenAI в апреле 2025 года. Теперь LLM для программирования используют даже те, кто ничего не понимает в разработке. Но способны ли модели генерировать надежный код, который можно без опаски применять в реальных проектах?

И кодить за меня будете?

Общий прогресс LLM отражается и на их способности программировать. Если ранние модели часто совершали синтаксические ошибки, не могли решить алгоритмически сложные задачи и зачастую просто забывали начало кода, то современные LLM создают небольшие проекты всего за несколько итераций. Особенно сгенерированный код полезен, когда нужно быстро сделать прототип или решить простые, но объемные задачи.

91b16b1d222228932b059c76fcfe2eed.png
Сравнение популярных моделей в способности работать с графами для решения задач по программированию на бенчмарке GraphEval36K. Радиальная координата на диаграмме обозначает долю решенных задач, разными цветами обозначены типы графов. Qiming Wu et al. / arXiv, 2024

При поддержке ИИ писать код стали люди, которые не знают языков программирования. С легкой руки Андрея Карпатого, соучредителя OpenAI, такой подход получил название «вайб-кодинг». Смысл заключается в том, чтобы расслабиться, формулировать запросы «как чувствуешь» и слепо доверять ИИ — ведь если код не работает, всегда можно попросить LLM его исправить.

Похоже, новый подход к разработке набирает популярность, хотя сложно сказать, сколько программистов вайб-кодят и какую долю в общем объеме составляет сгенерированный код. Некоторые оценки можно сделать на основе заявлений сервисов, предоставляющих ИИ-инструменты. Например, в феврале 2024 года GitHub сообщил, что их платной функцией Copilot пользуется 1,3 миллиона пользователей. Позже компания поделилась результатами опроса, согласно которому 97 процентов программистов хотя бы раз просили ИИ написать за них код.

Преимущество вайб-кодинга еще и в том, что LLM знают много языков. Журналист издания Ars Technica Бендж Эдвардс рассказал, как Claude 3.5 Sonnet написала для него программу на QBasic для распаковки двухсот zip-файлов по папкам с индивидуальными названиями. Вручную эта работа заняла бы у Эдвардса несколько часов, поскольку ничего другого на старом компьютере под управлением MS-DOS не работало.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Украсть ребенка Украсть ребенка

Психолог рассказывает об одном из самых необычных случаев в ее практике

СНОБ
Переходим на летнее время Переходим на летнее время

7 актуальных задач, которые легче решить под ярким солнцем

Лиза
Волна у нас дома Волна у нас дома

Что такое сёрфинг на искусственной волне

Новый очаг
Пресноводные русалки Пресноводные русалки

Когда-то давно, 200 тысяч лет назад, в Евразии появился необыкновенный зверь

Знание – сила
«Кухня Древнего мира» «Кухня Древнего мира»

О сырах, которые в Древнем Риме считались скромной пищей

N+1
На российских авиалиниях растет доля пассажиров без багажа На российских авиалиниях растет доля пассажиров без багажа

Все больше пассажиров российских авиакомпаний выбирают перелеты без багажа

Inc.
«Река горит!» Как необычный пожар изменил отношение Америки к экологии «Река горит!» Как необычный пожар изменил отношение Америки к экологии

Река Куяхога: пожар, переключивший сознание целой нации

ТехИнсайдер
Владимир Жириновский Владимир Жириновский

Правила жизни политика Владимира Жириновского

Правила жизни
Что нам зной… Что нам зной…

Как перестроить организм на летний режим

Добрые советы
Мягкая сила: как бывшие спецназовцы развивают региональную сеть фитнес-студий Мягкая сила: как бывшие спецназовцы развивают региональную сеть фитнес-студий

Как армейские друзья создали сеть студий «мягкого» фитнеса

Forbes
Галина Киндинова: «Жизненная сила била из них ключом» Галина Киндинова: «Жизненная сила била из них ключом»

Мы были окружены почти родительскими заботой и вниманием

Коллекция. Караван историй
Баффетт-шоу Баффетт-шоу

Как выжить в условиях тарифных войн

Деньги
Трофейный ресурс Трофейный ресурс

Что получил СССР в качестве компенсации от Германии по итогам войны

Эксперт
ИИскусство: кому принадлежат авторские права на творчество нейросетей ИИскусство: кому принадлежат авторские права на творчество нейросетей

О деликатной природе авторского права в мире победившего ИИ

Forbes
Художницы с рюкзаками Художницы с рюкзаками

Как в поездках рождаются иллюстрации к детским книгам

Новый очаг
Настоящая леди Настоящая леди

Правила поведения в общественных местах: что ты знаешь о приличиях

Лиза
Молодежь рвется наверх Молодежь рвется наверх

Молодежь выбирает стабильную карьеру вместо быстрых, но временных заработков

Ведомости
Острая тема: какие виды инъекций существуют в современной косметологии и что нужно знать об уколах красоты Острая тема: какие виды инъекций существуют в современной косметологии и что нужно знать об уколах красоты

Как сориентироваться в многообразии уколов красоты?

Правила жизни
Бактерии совершают самоубийство, чтобы спасти свою колонию от вирусов Бактерии совершают самоубийство, чтобы спасти свою колонию от вирусов

Кишечная палочка использует ранее неизвестную противовирусную систему

ТехИнсайдер
Художник и знаток Художник и знаток

Как художники Возрождения помогали ученым, а порой и опережали их в изысканиях

Вокруг света
«Нам пора сформулировать закон сохранения цивилизации» «Нам пора сформулировать закон сохранения цивилизации»

Можно ли подружиться с умной машиной? Не может ли она вытеснить человека?

Знание – сила
Краткая жизнь немецкого Vogue: почему не удалось построить империю глянца в Германии Краткая жизнь немецкого Vogue: почему не удалось построить империю глянца в Германии

Почему немецкая версия Vogue стала самым дорогостоящим провалом Конде Наст?

Forbes
Астрономы заметили в космосе таинственную идеальную сферу Астрономы заметили в космосе таинственную идеальную сферу

Объект Телиос: совершенная сфера неизвестного происхождения

ТехИнсайдер
Нейросети в поисках персонала: как компании используют искусственный интеллект в рекрутинге уже сейчас Нейросети в поисках персонала: как компании используют искусственный интеллект в рекрутинге уже сейчас

Как рекрутеры используют нейросети — кейсы из России

ТехИнсайдер
Геологи считают, что скрытый источник чистой энергии может питать Землю 170 000 лет Геологи считают, что скрытый источник чистой энергии может питать Землю 170 000 лет

Ископаемого водорода хватит, чтобы обеспечить Землю энергией на 170 тысяч лет

ТехИнсайдер
«Жена айтишника»: с чем сталкиваются женщины, которые эмигрируют из-за работы мужа «Жена айтишника»: с чем сталкиваются женщины, которые эмигрируют из-за работы мужа

Как повышение близкого человека может стать источником проблем

Forbes
Древние и красивые: 5 важных археологических памятников Древние и красивые: 5 важных археологических памятников

Самые впечатляющие и ценнейшие археологические памятники

ТехИнсайдер
Батя может Батя может

«Этернавт»: аргентинский сериал про снежный апокалипсис в Буэнос-Айресе

Weekend
«Мои фильмы всегда выпускались с надеждой, что они провалятся» «Мои фильмы всегда выпускались с надеждой, что они провалятся»

Андрей Тарковский об отношениях с родиной, зрителями и творчеством

Weekend
Зоолог впервые заснял самого крупного грызуна Австралии и Океании Зоолог впервые заснял самого крупного грызуна Австралии и Океании

Зоолог впервые запечатлел на фото и видео низинную мохнатую крысу

N+1
Открыть в приложении