Андрей Незнамов: «Искусственный интеллект — это следующая ступень огромного технологического блага»
Искусственный интеллект проникает в разные сферы жизни человека и охватывает все больше процессов. Но вместе с его распространением острее становятся вопросы безопасности и справедливых правил применения. О том, почему в мире нет единой модели регулирования, когда ИИ-технологии действительно помогают человеку и где искать ответы на ключевые этические вопросы, рассказывает председатель Российской комиссии по этике в сфере ИИ, управляющий директор Центра человекоцентричного ИИ Сбербанка Андрей Незнамов.
Этика ИИ: страны в поисках баланса
РБК: По мере развития технологий все чаще звучит термин «этика ИИ». Что под ним понимают?
А. Н.: Изначально понятие «робоэтика» популяризировал в своих рассказах писатель-фантаст Айзек Азимов. Это такой набор этических норм, которым должны подчиняться «разумные» роботы. И это долго оставалось на уровне фантастики.
Термин «этика ИИ» как набор правил создания и применения этих технологий начал активно использоваться в 2010-е годы. Тогда вводить внутренние стандарты этичного применения искусственного интеллекта начали технологические гиганты — сначала Microsoft, а за ней и другие компании. Такие корпоративные кодексы отчасти заменили отсутствующее государственное регулирование. Позже, в 2021 году, была принята международная Рекомендация ЮНЕСКО по этике ИИ. Она закрепила базовые принципы: что допустимо, а что нет при разработке и применении таких технологий.
Сейчас в узком смысле этика описывает поведение самой модели: как она должна действовать или чего делать не должна. В более широком понимании это комплекс добровольных норм для разработчиков и пользователей — своего рода инструмент саморегулирования.
РБК: Но в мире пока не сложилась единая система этики ИИ?
А. Н.: Да, не сложилась. Главная причина в том, что никто не знает, как регулировать искусственный интеллект. Это непростая область, вокруг которой много домыслов — особенно в части подходов к регулированию. Сложно регулировать настолько быстро развивающуюся технологию. Пока примешь закон — технологии уже ушли вперед. Поэтому нет единого механизма, который бы все приняли.
РБК: Как страны устанавливают правила применения ИИ?
А. Н.: Существуют разные подходы. Например, в Европе действует жесткий регламент AI Act. Но в ноябре 2025 года законодатели подготовили к нему пакет поправок, смягчающих отдельные положения. Главная причина реформ — признание внутри ЕС того факта, что действующее регулирование сдерживает внедрение инноваций.
В США правила применения ИИ развиваются иначе. С одной стороны, вводится много мер поддержки и рекомендаций на уровне этических документов. С другой — по мере того как рынок становится достаточно большим, появляются точечные ограничения, например для полиции или отдельных государственных услуг в отдельных штатах.
Самобытная модель регулирования складывается в Китае. В стране действуют правила, как предоставлять пользователям доступ к большим моделям. Это система с акцентом на контроль инфраструктуры и порядка использования алгоритмов.
Есть государства, которые сознательно отказываются от детального регулирования либо акцентируют законодательство на мерах поддержки. Такой пример — Япония, Израиль, Индия и другие страны, где технологическим компаниям дают максимальную свободу. Это связано со стремлением догнать США и Китай в развитии больших языковых моделей.
Да, сейчас некоторые государства постепенно пытаются принимать какието первые законы об искусственном интеллекте. По нашим оценкам, таких стран уже несколько десятков и еще примерно столько же готовят законопроекты. Вопросы везде примерно одинаковые, а подходы разные. Страны выбирают между регулированием, которое может затормозить инновации, и свободой действий для разработчиков.
Регулирование ИИ: российская модель
РБК: Какие правила применения нейросетевых технологий действуют в России?
А. Н.: В нашей стране сложилась гибридная система регулирования ИИ. У нас довольно рано сформировались основные принципы — сначала через Национальную стратегию развития, потом через Концепцию регулирования технологий ИИ и робототехники. Это документы государственного уровня, которые задали базовые правила.
Кроме документов государственного уровня есть нормативные акты в отдельных сферах. Например, в здравоохранении принят набор документов, которые регламентируют использование ИИ в медицинских сервисах.
Здесь важно понимать, что технология сама по себе — это набор программного кода, которая на практике проявляется в виде конкретного продукта. А он автоматически попадает под нормы уже существующих законов.
Задача регулятора в этом случае — понять, достаточно ли действующих норм для новой технологии. Если нет, правила точечно корректируют, чтобы ИИ можно было использовать безопасно.
РБК: В России также принят Кодекс этики в сфере ИИ. Что это за документ и в чем его практический эффект?
А. Н.: Кодекс этики действует с 26 октября 2021 года и представляет собой систему рекомендаций и правил, которые нужны для принятия этически обоснованных решений в сфере ИИ-технологий. Документ разработали крупнейшие технологические компании из Альянса в сфере ИИ (Сбербанк, «Яндекс», «Газпром нефть», ВК, МТС и др.) при поддержке государства.
На сегодняшний день у кодекса более 1100 организаций-подписантов, включая ведущие предприятия IT-сектора и около 60 органов исполнительной власти. Каждый, кто подписывает документ, обязуется следовать его положениям.
РБК: Кто следит, чтобы правила, установленные кодексом, не нарушались?
А. Н.: Для практической реализации кодекса создан институт уполномоченных по этике в сфере ИИ. Каждая организация-подписант назначает уполномоченного по этике в сфере ИИ внутри своей организации. Уполномоченные могут номинироваться в Комиссию по реализации Кодекса этики в сфере ИИ, которая является выборным органом (срок полномочий — два года), принимать участие в голосовании, входить в составы рабочих групп, а также делиться кейсами по внедрению, разработке и применению ИИ, обсуждать вопросы, связанные с этикой в сфере ИИ внутри сообщества.
Комиссия по реализации кодекса занимается мониторингом соблюдения принципов, разработкой документов в продолжение кодекса и организацией общественного диалога.
В состав комиссии входят эксперты и руководители отраслевых рабочих групп, каждая из которых специализируется на отдельных тематических направлениях.
Достоверность, ответственность и этические границы
РБК: В обсуждениях на тему этики алгоритмов в центре внимания часто оказываются вопросы доверия и достоверности. Насколько оправданно требование того, чтобы система при взаимодействии с пользователем давала понять, что с ним общается искусственный интеллект?
А. Н.: Этот вопрос вызывает дискуссии среди специалистов — он оказался одним из самых сложных при создании Кодекса этики. Есть мнения, что ИИ-система при каждом включении должна идентифицировать себя. Но представьте навигатор или голосового ассистента, который постоянно повторяет: «Напоминаю, я не человек». Такая самоидентификация не всегда оправданна.
То же самое и с продуктом, созданным нейросетями. Изображения и видео иногда настолько реалистичны, что могут вводить в заблуждение. Поэтому существует точка зрения, что любой сгенерированный материал нужно помечать.
Но, во-первых, это необязательно должно быть сквозным требованием. Возникают дополнительные вопросы — отсутствие четкой границы между обработкой изображения или видео и полноценным дипфейком. Фильтр, который заметно меняет внешность, — это уже синтетический образ или нет? Нужен ли ярлык в случае профессионального грима, который делает актера похожим на другого человека? Четко разграничить все возможные случаи не получится.
Во-вторых, даже если ввести требование маркировки такого контента, главную проблему это не решит: мошенники, которые могут использовать технологию для обмана людей, все равно не станут соблюдать это правило. Поэтому вводить требования к маркировке можно только очень аккуратно и точечно, иначе эффекта не будет либо он будет обратен изначальной цели.
РБК: Этично ли использовать образы реальных личностей, воссозданные нейросетями, — например, цифровые копии голосов или внешности, в том числе умерших людей?
А. Н.: Чтобы ответить на этот вопрос, обратимся к «Белой книге по этике искусственного интеллекта». Это сборник из 42 вопросов и ответов по самым острым этическим вопросам технологии, выпущенный в 2024 году. Для создания книги привлекались специалисты из разных областей. Если вопрос касался правосудия — подключали судей, если медицины — врачей, если образования — педагогов.
В «Белой книге» есть несколько базовых ориентиров.
- Первое — нельзя создавать цифровую имитацию, если против этого сам человек или его родственники.
- Второе — если имитация выглядит гиперреалистично, нужно явно указывать, что это цифровая модель.
- Третье — важно избегать дискредитации образа человека.
РБК: Критики ИИ говорят, что он принимает решения по принципам, которые непонятны человеку. Может ли технология стать более прозрачной?
А. Н.: Нейросети принимают решение, исходя из миллиарда параметров. Попробуйте, например, выбрать отель с учетом стольких критериев — это невозможно для человека. А ИИ может сделать это. Поэтому он «необъясним» в том смысле, что объем вычислений непостижим для человека. Но это не значит, что модель представляет собой «черный ящик» в полном смысле слова. Разработчики модели отлично знают, как она устроена, какие данные использует, какие ограничения в нее заложены.
Для пользователя в первую очередь важна возможность оспаривания результата, если он с чем-то не согласен. Однако важно помнить, что конечное решение остается за человеком, а ИИ всего лишь инструмент.
РБК: Кто отвечает за последствия решений ИИ-систем, например в беспилотном транспорте?
А. Н.: Это зависит от конкретной ситуации, как и в случае с обычными автомобилями. Иногда нарушитель известен сразу. А иногда бывает, к примеру, что светофор показывает всем зеленый свет и две машины выезжают на перекресток по правилам. Тогда при аварии непросто быстро понять, кто виноват. Нюансов так много, что Верховный суд даже выпускает отдельные постановления, где разбирает разные комбинации обстоятельств.
С искусственным интеллектом действует тот же принцип: ответственность определяется с учетом конкретных условий. В одних случаях она будет на владельце системы, в других — на разработчике, в-третьих — на водителе или пассажире.
И так далее.
В «Белой книге» эксперты предложили такой взгляд: с точки зрения этики в искусственном интеллекте не может закладываться право этической оценки рисков причинения вреда и выбора вариантов действий для минимизации последствий.
Задача алгоритма — стараться не допустить аварии как таковой в любых условиях (при плохой видимости, дождливой погоде и прочих факторах). Разработчикам следует программировать строгое соблюдение ПДД, включая возможность нарушения его в случаях крайней необходимости для избежания столкновения.
Интеллектуальные технологии во благо
РБК: В каких сферах особенно важно внедрять искусственный интеллект?
А. Н.: Я считаю, что ИИ следует использовать везде, где он может высвободить человеку больше времени и дать больше свободы. Например, искренне считаю, что технологии можно начать применять в образовании. Учитель — сложная профессия, потому что он должен и учить, и воспитывать. При этом педагог перегружен формальностями — разного рода отчетами и документами. Я бы хотел, чтобы учитель уделял максимальное внимание обучению детей, а технологии взяли бы на себя рутину вроде заполнения отчетов.
Схожая ситуация и в медицине. Иногда врач тратит больше времени на заполнение форм, чем на общение с пациентом. А ведь эффективнее было бы внедрить систему, которая сама оформляет документы со слов пациента, и не тратить на это время врача.
РБК: Еще одна социально важная сфера — государственное управление. Какую пользу ИИ может принести в ней и есть ли риски?
А. Н.: На мой взгляд, для государства ИИ — это благо. Административные процессы жестко регламентированы, и функции госслужащих порой сводятся к оформлению огромного числа документов. Эти операции можно автоматизировать без потери качества, а в ряде случаев — даже с его ростом.
Показательный пример — камеры фиксации нарушений. Раньше на дороге стоял инспектор, который решал, кого остановить, кого — нет. Когда появились автоматические камеры, правила стали едиными для всех. ГИБДД говорит, что смертность на дорогах снизилась. Да, система может ошибаться, но это единичные истории.
В обсуждениях темы искусственного интеллекта в госуправлении часто звучат опасения, что систему можно обмануть или что автоматизация приведет к ошибкам. Но на практике возможности технологии несопоставимо шире потенциальных экстремальных кейсов.
Хотя в публичной дискуссии часто больше внимания получают неудачные примеры, в то время как ежедневная польза остается невидимой просто потому, что все работает штатно.
Например, в 2025 году в Албании министром назначили искусственный интеллект по имени Диелла. Нейросеть будет отвечать за госзакупки и поиск кадров. Это первая в мире модель, назначенная на должность ИИ-министра.
РБК: Что вас вдохновляет оставаться оптимистом в сфере ИИ?
А. Н.: Оптимизм мне дает сама возможность жить в мире, где технологии уже принесли столько пользы для человека, включая для моей жизни и жизни моих детей.
Например, несколько веков назад любая болезнь могла стать смертельной. Все изменилось с открытием новых лекарств и методов лечения. Когда появилась атомная энергия, говорили, что она может уничтожить все человечество. А фактически новые технологии качественно улучшили жизнь людей.
Да, я смотрю на искусственный интеллект как на очередную технологическую веху в развитии человечества. Как показывает история, у каждой инновации всегда находятся противники и всегда есть риски.
Но в конечном итоге только от человека зависит, как применять эту технологию, обратить ее на пользу или во вред. Поэтому для меня ИИ — это следующая ступень огромного технологического блага, которая позволяет нам всем сегодня жить лучше.
Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl