Как в России и мире пытаются регулировать ИИ

РБКHi-Tech

Между выгодой и риском

Как в России и мире пытаются регулировать ИИ

Автор: Марат Селезнев

В 2023 году США, ЕС и Китай сделали первые важные шаги в сторону регулирования искусственного интеллекта. Государства пытаются найти баланс между выгодой, которую может принести технология, и заложенными в ней рисками. Рассказываем о регулировании нейросетей в России и других странах мира, о том, почему ИИ-разработчики могут быть против технологической гонки, и о перспективах международного сотрудничества в этой области.

Почему ИИ нужно регулировать

Бурное развитие инструментов искусственного интеллекта часто связывают с многочисленными рисками: от кажущихся фантастическими, вроде восстания машин и уничтожения человечества, до вполне приземленных, касающихся прикладных аспектов внедрения технологии.

Ко второй категории рисков можно отнести большой пласт этических проблем. Например, «проблему вагонетки»: кого искусственный разум, управляющий беспилотным автомобилем, оставит в живых в экстренной ситуации — пассажиров или пешеходов?

Другая проблема — дискриминация со стороны ИИ. Алгоритмы могут наследовать предвзятость обучающих их людей. Нередко при распознавании изображений нейросеть становится расистом и сексистом, определяя женщин в категорию «домохозяйка», а представителей этнических меньшинств — в категорию «преступник».

Наконец, есть много вопросов к безопасности хранения персональных данных. Нейросети, генерирующие картинки, обучают на огромных массивах исходных изображений с описаниями. Совместное исследование Принстона, Беркли, Швейцарской высшей технической школы, Google и DeepMind показало, что утечки данных из таких нейросетей вполне возможны, поскольку иногда они выдают оригинальные изображения, например фото людей, почти без изменений.

«Главные риски — злоупотребление данными людей при создании и использовании ИИ, изменение рынка труда при внедрении ИИ во многие профессии и «галлюцинирование» алгоритмов, при котором ИИ придумывает несуществующие тексты, факты и документы, на которые ссылается, — говорит директор АНО «Инфокультура» Иван Бегтин. — Также важны риски военного применения ИИ и использования его для создания современных цифровых диктатур, со слежкой за гражданами с помощью ИИ-инструментов».

Где и как собираются регулировать ИИ

Правительства разных стран по-разному оценивают риски, которые несет ИИ. Исходя из собственного видения они и пытаются создать системы регулирования.

США

В конце октября 2023 года президент США Джо Байден подписал указ о мерах безопасности, связанных с развитием ИИ. Объемный документ создает базу под формирование новых правительственных учреждений, которые будут специально заниматься вопросами ИИ, и новых федеральных стандартов в области искусственного интеллекта. Кроме того, указ обязывает разработчиков предоставлять правительству результаты тестирования крупных моделей ИИ, прежде чем публиковать их.

Среди ключевых рисков, которые беспокоят власти США, — крупные генеративные модели, содержащие десятки миллиардов параметров. Вполне вероятно, что новые правила могут быть применены к следующей версии GPT от OpenAI. Кроме того, правительство считает, что продвинутые модели ИИ, способные создавать дипфейки, усугубляют проблему дезинформации. Также в США серьезно относятся к дискриминации со стороны ИИ и к проблемам с защитой конфиденциальной информации. Наконец, ИИ рассматривается как угроза национальной безопасности. В частности, алгоритмы могут быть использованы для ускорения разработки новых видов химического оружия.

Эксперты, опрошенные Scientific American, называют указ Байдена «несколькими первыми шагами в разных направлениях». По их мнению, пока это не полноценное регулирование, а скорее попытка властей понять, что происходит в сфере ИИ. В правительстве слишком мало людей, которые имеют научные степени в области ИИ, поэтому может возникнуть сильный разрыв между ожиданиями политиков и техническим осуществлением регулирования, указывают скептики. Тем не менее, указ важен, поскольку заполняет вакуум, подчеркивают эксперты.

ЕС

Летом 2023 года Европарламент проголосовал за принятие закона об искусственном интеллекте (Artificial intelligence act). Его главные цели — регулирование развития систем ИИ и защита людей от них. Ожидается, что он вступит в силу не ранее 2025 года.

Закон разделяет системы ИИ на группы в зависимости от риска, который они несут европейским гражданам и потребителям. Так, к группе неприемлемого риска относятся:

  • системы, созданные для воздействия на подсознание людей;
  • системы социального рейтинга, разделяющие людей по их поведению, социально-экономическому положению и другим личным характеристикам;
  • системы распознавания людей в реальном времени.

В Европе все это планируют запретить. Единственное исключение — использование систем распознавания правоохранителями после разрешения суда.

В группу с высоким риском попадает ИИ, используемый для управления критически важной инфраструктурой, для охраны границ, применяемый в образовательных учреждениях, правоохранительных органах и в работе с персоналом. Эти решения нужно будет регистрировать в специальной базе ЕС, а власти будут оценивать их как до внедрения, так и в процессе эксплуатации.

По оценке АНО «Цифровая экономика», органы ЕС пытаются создать законодательство, регламентирующее этичные принципы разработки и внедрения ИИ. В Евросоюзе искусственный интеллект должен пользоваться доверием граждан и отвечать принципам прозрачности.

КНР

В августе 2023 года правительство Китая опубликовало 24 правила для регулирования искусственного интеллекта. Например, ИИ должен соответствовать социалистическим ценностям. Кроме того, алгоритмы нельзя использовать для подрыва государственной власти и свержения Коммунистической партии, они не должны наносить ущерб имиджу Китая и способствовать сепаратизму.

Новые правила затрагивают и генеративные модели. Фото и видео, которые создаются с их помощью, необходимо помечать, чтобы не вводить в заблуждение людей. При этом создатели моделей должны будут проверить их безопасность до вывода на рынок. Также китайский бизнес должен создать четкие механизмы рассмотрения жалоб от пользователей и клиентов.

Регулировать ИИ в Китае будут сразу семь ведомств, в частности, Государственная канцелярия интернет-информации (Cyberspace Administration of China, CAC), Министерство образования, Министерство науки и технологий и Национальная комиссия по развитию и реформам (National Development and Reform Commission).

Примечательно, что финальную редакцию правил смягчили. Изначально они предполагали штрафы размером до 100 тыс. юаней (около $14 тыс.) для нарушителей. Впоследствии от этого решили отказаться, чтобы не наносить серьезный финансовый ущерб ИИ-стартапам.

РФ

В России на данный момент нет единого документа, который бы полноценно регулировал сферу ИИ. Но есть несколько отдельных норм и рекомендаций.

Закон №408-ФЗ о регулировании рекомендательных технологий, вступивший в силу 1 октября 2023 года, обязывает владельцев сайтов и приложений раскрывать, какие данные используются для работы рекомендательных систем, откуда их взяли, а также уведомлять пользователей о работе таких систем. Роскомнадзор может заблокировать ресурс до устранения нарушений.

Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года декларирует приоритет благополучия и безопасности человека, защиту его прав и свобод, подконтрольность ИИ человеку, описывает цели и задачи регулирования ИИ, а также процедуру формирования экспериментальных правовых режимов, так называемых регуляторных песочниц.

До 2025 года в Москве действует регуляторная песочница для ИИ. Ею, в частности, пользуется «Яндекс» для тестирования беспилотных автомобилей.

Наконец, есть Кодекс этики в сфере ИИ. Он содержит призывы к ответственности при создании и использовании искусственного интеллекта. Главным приоритетом развития ИИ называется защита интересов и прав людей и отдельного человека. Кодекс подписали 247 компаний и организаций, среди которых «Сбер», «Яндекс», VK, МТС, «Ростелеком», «Росатом» и др. Кодекс носит рекомендательный характер.

Директор по аналитике АНО «Цифровая экономика» Карен Казарян отмечает, что не всегда попытки ввести избыточное регулирование, как, скажем в ЕС, являются показателем прогресса, потому что зачастую это тормозит собственные цифровые индустрии. «В России, на мой взгляд, прекрасный, осторожный подход, стимулирование саморегулирования и экспериментальных правовых режимов для внедрения ИИ в различных отраслях», — уверен эксперт.

Иван Бегтин из АНО «Инфокультура», наоборот, считает вопрос регулирования ИИ в России недостаточно проработанным: «Европейский союз, США и развитые страны — члены G7 и ОЭСР  — сильнее всего продвинулись в деле регулирования ИИ. Регулирование несколько отличается, но во всех случаях в его основе лежит безопасность использования—в значении safety, а не security. В России регулирование не только недостаточно, но и в целом далеко от ожидания граждан, обеспокоенных применением ИИ, в первую очередь крупными корпорациями».

Ограничение прогресса: за и против

Представители бизнеса и научного сообщества по-разному смотрят на проблему регулирования ИИ.

В марте 2023 года больше тысячи предпринимателей, инженеров и исследователей подписали открытое письмо с требованием срочно приостановить обучение ИИ-систем, более производительных, чем GPT-4. Требование поддержали Илон Маск (гендиректор SpaceX), Стив Возняк (соучредитель Apple Computer), сооснователи Skype, Pinterest и Ripple, а также разработчики ИИ-решений Stability AI, Scale AI, Character.ai и профессора многочисленных университетов. В письме сказано, что продвинутые модели с искусственным интеллектом, сопоставимым с человеческим, могут представлять серьезную угрозу. При этом подписанты не призывают полностью затормозить развитие технологии, а лишь на время остановиться и выйти из опасной гонки за более мощными моделями.

Несколько месяцев спустя Центр безопасности ИИ (Center for AI Safety) выпустил заявление с приглашением к дискуссии. «Риск вымирания из-за ИИ должен рассматриваться так же, как и другие масштабные риски, например, пандемии или ядерная война», — гласит документ. Под этим заявлением подписались представители Google, Microsoft, OpenAI, Stability AI, а также исследователи в области ИИ.

Впрочем, бизнес не всегда готов принимать во внимание риски, связанные с технологией. Представители европейского делового сообщества — Siemens, Airbus, Renault, Heineken, Henkel, Danone, Ubisoft и др. — выступили против слишком жесткого, по их мнению, регулирования ИИ в Евросоюзе. Главы и основатели компаний полагают, что регулирование подорвет конкурентоспособность Европы, а инновационные компании просто убегут в страны с более благоприятным правовым режимом.

Иван Бегтин соглашается: регулирование может сильно сказаться на прогрессе в области ИИ. «Но многие исследования человечества были приостановлены по разным причинам. Самый понятный пример — эксперименты на людях. Приостановил ли запрет экспериментов на людях прогресс? Хотим ли мы прогресса в этой области? Аналогично и в случае с ИИ. Не все измеряется прогрессом», — комментирует эксперт.

Возможен ли международный регулятор ИИ

Все страны, которые пытаются заниматься регулированием ИИ, призывают к тесному международному сотрудничеству ради ответственного развития технологии. Во избежание катастрофических последствий Китай также хочет добиться международного консенсуса и в отношении военного применения ИИ.

Развитие искусственного интеллекта находит отражение и в деятельности крупных международных организаций. Например, ООН запустила инициативу «ИИ для всеобщего блага» (AI for Good). Она направлена на использование ИИ для достижения целей устойчивого развития. ОЭСР приняла руководящие принципы управления системами ИИ. Основная цель принципов — стремление к доверенному ИИ, который является справедливым, прозрачным, объяснимым, надежным, безопасным и подотчетным. НАТО разработало собственную стратегию развития ИИ, призванную создать основу для ответственной разработки и использования ИИ в целях обороны и безопасности союзников.

Тем не менее, эксперты, опрошенные РБК, сомневаются, что можно создать международную организацию, которая бы занималась регулированием и надзором в сфере ИИ. Унифицированный подход к регулированию искусственного интеллекта — это утопия, считает Карен Казарян. «Технологическое регулирование эффективно, только когда оно принимается с учетом мнения всех заинтересованных сторон», — говорит он.

Различные организации будут создаваться в первую очередь для стандартизации, полагает Иван Бегтин. Но в мире и сейчас нет наднациональных образований, из которых суверенные государства не могут выйти или которые не могут проигнорировать, заключает он.

Фото: Kevin Frayer / Getty Images, Kevin Frayer / Getty Images, Morris MacMatzen / Getty Images

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Алгоритм GPT-3 от компании OpenAI умеет писать почти неотличимые от созданных человеком тексты. Что это значит для будущего человечества? Алгоритм GPT-3 от компании OpenAI умеет писать почти неотличимые от созданных человеком тексты. Что это значит для будущего человечества?

Искусственный интеллект все глубже проникает в нашу жизнь

Inc.
«Большая дубинка» дяди Сэма «Большая дубинка» дяди Сэма

Современные авианосцы – это крупные корабли в составе военно-морского флота

Наука и техника
Александр Крайнов: «Нейросеть не заменит людей в общении, размышлении и умении договариваться» Александр Крайнов: «Нейросеть не заменит людей в общении, размышлении и умении договариваться»

Как нейросети повлияют на профессии и когда они станут привычным инструментом

РБК
Директор «Нужна помощь» Елизавета Васина — Forbes: «Люди не стали жертвовать меньше» Директор «Нужна помощь» Елизавета Васина — Forbes: «Люди не стали жертвовать меньше»

Как развивать благотворительность на фоне снижения пожертвований и доверия

Forbes
7 способов поднять себе настроение утром, которые используют психологи 7 способов поднять себе настроение утром, которые используют психологи

Как задать позитивный настрой с самого утра и не впасть в депрессию

Psychologies
Банкам недокладывают денег? Банкам недокладывают денег?

Банковский сектор перешел в состояние дефицита ликвидности

Монокль
Защита и опора Защита и опора

Инженерный гений природы развернулся во всю свою мощь

Наука и жизнь
Сравнительные жизнеописания Академий наук Сравнительные жизнеописания Академий наук

Обстоятельства возникновения академий наук в Англии, Франции и России

Знание – сила
«Худшая компания в нашей истории» «Худшая компания в нашей истории»

Скандальная история ArcelorMittal в Казахстане подходит к концу

Монокль
Археологи нашли древнейшие в Северной Африке следы человеческих ног Археологи нашли древнейшие в Северной Африке следы человеческих ног

Древнейшие отпечатки ног людей, которые когда-либо находили в Северной Африке

N+1
Открытки на память Открытки на память

Новогодние ассоциации от команды Seasons

Seasons of life
Добродетельные матроны Добродетельные матроны

У Цезаря и Антония было немало женщин помимо Клеопатры

Дилетант
Точка и шар. Что может быть общего между ними? Точка и шар. Что может быть общего между ними?

Что, если взглянуть на квантовые точки с новой точки зрения?

Наука и жизнь
10 фильмов о фигурном катании: от драмы Крыжовникова до сериала про копию Тутберидзе 10 фильмов о фигурном катании: от драмы Крыжовникова до сериала про копию Тутберидзе

Фильмы о фигурном катании с неожиданными сюжетами

Forbes
Много шума — и ничего Много шума — и ничего

Антирейтинг — топ-7 наиболее значимых технологических провалов нашего времени

РБК
Плохие гены, огромные деньги: шесть мифов о приемном родительстве Плохие гены, огромные деньги: шесть мифов о приемном родительстве

Зачем рассказывать ребенку правду о кровных родителях, сколько получают опекуны?

Forbes
Врач, который всегда был не согласен с коллегами Врач, который всегда был не согласен с коллегами

Макс фон Петтенкофер — основатель первого в Европе Института гигиены в Мюнхене

Знание – сила
Доставить радость Доставить радость

Твой подарок точно понравится, если учесть психотип человека!

Лиза
Банковская «цифра» для экспортера Банковская «цифра» для экспортера

Что сегодня позволяет получать господдержка российского экспорта

РБК
Сбитый гонщик Сбитый гонщик

«Феррари»: разочаровывающий долгострой Майкла Манна

Weekend
Самцы древнейших комаров оказались кровососами Самцы древнейших комаров оказались кровососами

Самцы древнейших комаров питались кровью, как и самки

N+1
Проверка для интеллигентов! В чем разница между мемуарами и автобиографией? Проверка для интеллигентов! В чем разница между мемуарами и автобиографией?

Что такое мемуары и чем они отличаются от автобиографии?

ТехИнсайдер
Чат-бот, смерть и роботы: что такое цифровое бессмертие и кто его обещает уже сейчас Чат-бот, смерть и роботы: что такое цифровое бессмертие и кто его обещает уже сейчас

Возможно ли цифровое бессмертие на самом деле?

Forbes
Когда модель превзойдет алгоритмы Когда модель превзойдет алгоритмы

О том, как модели искусственного интеллекта «выходят за флажки»

Монокль
«В станкостроении науки не существует» «В станкостроении науки не существует»

Прикладной науке, в советском понимании, в современно мире места быть не может

Монокль
Москва до Юрия Долгорукого. Кто здесь жил прежде? Москва до Юрия Долгорукого. Кто здесь жил прежде?

Попробуем разобраться в том, кто жил на месте Москвы до XII века

Зеркало Мира
Яркая история Яркая история

Интерьер с элементами ретро, который подарил предметам из 1960-х вторую жизнь

Идеи Вашего Дома
Передел Европы. Часть II. Хирургия без наркоза Передел Европы. Часть II. Хирургия без наркоза

Тирольская трагедия и ошибка Вудро Вильсона

Знание – сила
Великая реквизиция Великая реквизиция

Как автомобильные марки не ушли, а остались в Первую мировую

Автопилот
«Кукурузная кампания» Никиты Хрущева: как первый секретарь ЦК КПСС пытался накормить всю страну «Кукурузная кампания» Никиты Хрущева: как первый секретарь ЦК КПСС пытался накормить всю страну

Почему именно кукуруза стала предметом кампании Никиты Хрущева

ТехИнсайдер
Открыть в приложении