Claude Mythos Preview оказалась слишком хороша в поиске уязвимостей
Anthropic отказалась от публичного релиза своей самой мощной большой языковой модели
Anthropic решила не выпускать в открытый доступ Claude Mythos Preview — свою самую мощную на сегодняшний день большую языковую модель. Компания объясняет это тем, что модель продемонстрировала действительно выдающиеся способности в обнаружении и использовании уязвимостей в программном обеспечении, которые рано или поздно будут использованы не во благо, а наоборот. Подробности о новой модели опубликованы в ее системной карточке.
Современное программное обеспечение — от операционных систем и браузеров до банковских систем и программного обеспечения энергетической инфраструктуры — неизбежно содержит ошибки. Часть из них — серьезные уязвимости, позволяющие злоумышленникам перехватывать контроль над системами, похищать данные и нарушать работу сервисов. До недавнего времени обнаружение и использование таких уязвимостей требовало знаний, которыми обладали лишь немногие специалисты. Однако с развитием современных больших языковых моделей порог входа в эту область снижается: модели научились читать и анализировать код и находить в нем слабые места.
Claude Mythos Preview — новая модель общего назначения компании Anthropic, известной разработкой серии больших языковых моделей Claude. По словам разработчиков, Mythos обладает сильными навыками в программировании и рассуждении. Она не обучалась специально для задач кибербезопасности, но ее общие способности к анализу кода оказались настолько высоки, что она смогла найти в существующем софте уязвимости, которые порой оставались неизвестны десятилетиями.