Духовно-нравственный интеллект
Испытательные лаборатории проверят духовность и нравственность ИИ. Но критерии соответствия для проверки моделей разработают Минцифры, ФСБ и ФСТЭК
Российские IT-компании с одобрения Минцифры смогут передать в независимую испытательную лабораторию проверку соответствия больших моделей искусственного интеллекта (ИИ) закону и традиционным духовно-нравственным ценностям. Об этом «Ведомостям» рассказали источники в одной из компаний – участников обсуждений, профильной IT-ассоциации и подтвердил собеседник в Минцифры. Соответствующие обсуждения проходили в конце июля – начале августа на площадке АНО «Цифровая экономика» в рамках готовящихся подзаконных актов к принятому закону об ИИ.
Минцифры РФ разработало базовые правила регулирования ИИ. Принятый 26 июля закон об ИИ вводит два специальных статуса для больших фундаментальных моделей: статус суверенной и статус национальной модели. Для получения любого из них модель должна подтвердить соответствие российскому законодательству и традиционным духовно-нравственным ценностям. Но закон носит рамочный характер, основные правила функционирования ИИ в России предстоит установить подзаконными актами.
Определить порядок подтверждения соответствия ИИ-моделей традиционным духовно-нравственным ценностям собирается правительство, рассказывал 7 июля в ходе первого чтения тогда еще обсуждаемого законопроекта в Госдуме статс-секретарь – заместитель министра цифрового развития Иван Лебедев. Участвовать в подготовке документов будут Минцифры, ФСБ и ФСТЭК, отвечающие в том числе за информационную и технологическую безопасность, говорил он. По его словам, первый проект архитектуры соответствующих норм уже подготовлен. Порядок оценки будет содержать критерии, позволяющие определить, соответствует ли модель духовно-нравственным ценностям и задачам технологического развития страны, говорил чиновник.
Прописывать духовно-нравственные ценности в отдельном акте не планируется, рассказал «Ведомостям» источник, участвующий в обсуждении подзаконного акта. Тем более что их перечень уже содержится в указе президента № 809. Вместо этого совместно с бизнесом будут разработаны специальные бенчмарки, с помощью которых российские большие фундаментальные модели будут тестировать на предмет соответствия закону и ценностям, сказал он. По словам собеседника, правкомиссия по цифровизации может создать испытательную лабораторию с подачи Минцифры.
Процедуру проверки соответствия ИИ духовно-нравственным ценностям могут прописать в акте правительства, продолжает источник, участвующий в обсуждении подзаконного акта. В испытательную лабораторию ИИ-разработчик должен будет подать заявление, приложить документы с описанием архитектуры, сведениями о разработчике, механизмах фильтрации и т. д. Далее лаборатория приступает к экспертизе – проверяет с помощью бенчмарков ответы модели, тестирует возможности обхода внутренних ограничений с помощью промпт-инъекций (метод взлома и манипуляции ИИ, когда вредоносная инструкция внедряется во входные данные. – «Ведомости»). После тестирования лаборатория направляет в правкомиссию заключение о соответствии или несоответствии ответов модели традиционным ценностям. Положительное заключение служит одним из этапов присвоения модели статуса национальной или суверенной, чтобы в дальнейшем получить право на меры господдержки – например, в госзакупках или при реализации особо значимых IT-проектов, подчеркнул он.