О том, как модели искусственного интеллекта «выходят за флажки»

МонокльHi-Tech

Когда модель превзойдет алгоритмы

О том, как модели искусственного интеллекта «выходят за флажки» написанных для них инструкций, «Моноклю» рассказал генеральный директор корпорации СОРМ Сергей Большаков

Наталья Быкова

Фото: из личного архива Сергея Большакова

Сергей, что представляют собой самые прогрессивные на сегодня модели искусственного интеллекта, из чего они состоят?

— Начнем с того, что любая модель искусственного интеллекта — это алгоритмы, способные самообучаться. Все они, даже самые прогрессивные на сегодня, представляют собой пока еще очень примитивный аналог человеческого мозга, их работа завязана на определенные математические инструкции, которые выполняет техника. В процессе эксплуатации алгоритмы могут корректироваться или дополняться новыми инструкциями, что происходит не само по себе, а с участием людей — разработчиков, аналитиков данных, — которые профессионально занимаются выявлением несовершенств в моделях искусственного интеллекта. На каждом этапе пересмотра модели выбираются те математические методы, которые дают наименьшие погрешности. Обычно точность алгоритмов для решения конкретных задач составляет более 50 процентов, эффективными считаются те из них, точность которых составляет более 95 процентов. Если удается создать алгоритм с 99-процентной точностью, разумеется, его сразу же интегрируют в модель. Это непрерывная работа, и чем больше умных людей в нее вовлечено, тем лучше будут результаты.

— Опасения и страхи общества, в том числе профессионального сообщества из сферы IT, связаны с гипотетическим выходом ИИ из-под контроля. На каком этапе разработчики, аналитики данных теряют возможность контролировать свою модель искусственного интеллекта?

— Скорее всего, это может произойти на любом этапе. Вот, например, поиск «Яндекса» построен на алгоритмах искусственного интеллекта. В них заложены некие метрики, на основе которых выстраивается система ранжирования в поисковых запросах. Были известны случаи, когда на претензии в необоснованном занижении ссылок профильные специалисты компании отвечали, что сами не понимают, почему это так сработало. То есть это сейчас уже реально, что сами разработчики могут не знать, почему система искусственного интеллекта приняла определенное решение, когда по написанной для нее математической инструкции она должна была действовать иначе.

Конечно, это может быть и ошибка исходного алгоритма, которую нужно исправлять, а может, модель уже сама начала думать как человек — порой интуитивно и субъективно. Хотя, на мой взгляд, до этого еще далеко, пройдет еще несколько десятков лет, прежде чем алгоритмы будут усложнены настолько, что смогут имитировать работу человеческого мозга, то есть принимать решения, опираясь на свой предыдущий опыт и построенную на его основе проекцию на будущее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Экскурсии как новая философия выходного дня Экскурсии как новая философия выходного дня

Экскурсии — стиль жизни многих горожан

Монокль
Приходят с холодами Приходят с холодами

9 болезней, которые зимой неожиданно обостряются

Лиза
Одиссея мировой экономики Одиссея мировой экономики

Почему «зеленая» иллюзия может обернуться глобальным кризисом

Эксперт
От Первой Логистической войны до «цепочек» XXI века От Первой Логистической войны до «цепочек» XXI века

Роль путей сообщения в истории страны требует существенной дооценки

Знание – сила
Мария Куликова: «Моя жизнь перевернулась в одно мгновение» Мария Куликова: «Моя жизнь перевернулась в одно мгновение»

Пожалуйста, дайте мне какую-нибудь дрянь сыграть!

Коллекция. Караван историй
Из любви к искусству Из любви к искусству

Как коллекционировать искусство

SALON-Interior
Как в российском обществе складывалась историческая память об Отечественной войне 1812 года Как в российском обществе складывалась историческая память об Отечественной войне 1812 года

Как давно прошедшие события Отечественной войны 1812 года были увековечены и кем

Знание – сила
Жизнь как путь: дороги Николая Гарина-Михайловского Жизнь как путь: дороги Николая Гарина-Михайловского

Николай Гарин-Михайловский: романтик, влюбленный в железные дороги

Знание – сила
«Уходи, Тейлор Свифт»: что нас бесило в музыке в 2023 году «Уходи, Тейлор Свифт»: что нас бесило в музыке в 2023 году

Музыка, которую с удовольствием можно оставить бы в 2023 году

Правила жизни
Движение вокруг недвижимости Движение вокруг недвижимости

Как искусственный интеллект захватывает один из ключевых рынков

РБК
Чайная дорога России Чайная дорога России

Где проходил когда-то Великий чайный путь и шли караваны лошадей и верблюдов

Знание – сила
Кино Кино

Маршал советской комедии: путь Леонида Гайдая к эталону юмористического фильма

Правила жизни
7 неочевидных признаков того, что вас не уважают 7 неочевидных признаков того, что вас не уважают

Признаки того, что ваши слова не имеют никакого веса для других людей

Maxim
Новогодняя столица Новогодняя столица

Суздаль отмечает тысячелетний юбилей в статусе столицы Нового года

Лиза
Кто стал прототипами главных героев «Слова пацана» Кто стал прототипами главных героев «Слова пацана»

Какими были настоящие «пацаны» из казанских ОПГ?

Maxim
«Сфера» развлечений «Сфера» развлечений

Летом 2023 года над Лас-Вегасом засветилась Луна и превратилась в огромный глаз

ТехИнсайдер
Как кибернетические протезы делают общество лучше и справедливее Как кибернетические протезы делают общество лучше и справедливее

Как технологии делают жизнь людей проще и комфортнее

ФедералПресс
Дима Лорен: «Не надо меня копировать!» Дима Лорен: «Не надо меня копировать!»

Автор мегахитов — о сонграйтерах, главной проблеме авторов песен и успехе

ЖАРА Magazine
7 опасных привычек водителя, от которых надо избавляться, пока не поздно 7 опасных привычек водителя, от которых надо избавляться, пока не поздно

Перечисляем неочевидные моменты, которых стоит категорически избегать за рулем

Maxim
«Джеймс Уэбб» получил изображение сверхновой: она похожа на новогодний шар «Джеймс Уэбб» получил изображение сверхновой: она похожа на новогодний шар

Звезда Cas A взорвалась на расстоянии 11 000 световых лет от Земли

ТехИнсайдер
На полных оборотах На полных оборотах

Как разогнать метаболизм, чтобы быстрее похудеть

Лиза
Информационная война Информационная война

В Древнем Риме борьба пропагандистов была не менее напряженной, чем сейчас

Дилетант
Сравнительные жизнеописания Академий наук Сравнительные жизнеописания Академий наук

Обстоятельства возникновения академий наук в Англии, Франции и России

Знание – сила
Пореволюционная судьба чеховских типажей в повести «Степь» Пореволюционная судьба чеховских типажей в повести «Степь»

Срез русской жизни и движение судеб в повести-путешествии «Степь» А. П. Чехова

Знание – сила
Увеличения площади листьев не помогло лесам Индии стать продуктивнее Увеличения площади листьев не помогло лесам Индии стать продуктивнее

Потепление снижает эффективность фотосинтеза и увеличивает затраты на дыхание

N+1
Личные границы: когда оборона не нужна Личные границы: когда оборона не нужна

Стоит ли охранять личные границы от близких людей?

Psychologies
«В станкостроении науки не существует» «В станкостроении науки не существует»

Прикладной науке, в советском понимании, в современно мире места быть не может

Монокль
Почему мужчина пропал после удачного свидания: 4 причины гостинга Почему мужчина пропал после удачного свидания: 4 причины гостинга

О том, почему ваши с партнером ожидания могут не совпадать, размышляет психолог

Psychologies
Когда проснется искусственный интеллект Когда проснется искусственный интеллект

Приведет ли создание «разумной» машины к радикальному изменению миропорядка

Монокль
Как правильно сочетать пиво с едой Как правильно сочетать пиво с едой

Открываем новые вкусовые горизонты в сочетаниях алкоголя с едой

Maxim
Открыть в приложении