О том, как модели искусственного интеллекта «выходят за флажки»

МонокльHi-Tech

Когда модель превзойдет алгоритмы

О том, как модели искусственного интеллекта «выходят за флажки» написанных для них инструкций, «Моноклю» рассказал генеральный директор корпорации СОРМ Сергей Большаков

Наталья Быкова

Фото: из личного архива Сергея Большакова

Сергей, что представляют собой самые прогрессивные на сегодня модели искусственного интеллекта, из чего они состоят?

— Начнем с того, что любая модель искусственного интеллекта — это алгоритмы, способные самообучаться. Все они, даже самые прогрессивные на сегодня, представляют собой пока еще очень примитивный аналог человеческого мозга, их работа завязана на определенные математические инструкции, которые выполняет техника. В процессе эксплуатации алгоритмы могут корректироваться или дополняться новыми инструкциями, что происходит не само по себе, а с участием людей — разработчиков, аналитиков данных, — которые профессионально занимаются выявлением несовершенств в моделях искусственного интеллекта. На каждом этапе пересмотра модели выбираются те математические методы, которые дают наименьшие погрешности. Обычно точность алгоритмов для решения конкретных задач составляет более 50 процентов, эффективными считаются те из них, точность которых составляет более 95 процентов. Если удается создать алгоритм с 99-процентной точностью, разумеется, его сразу же интегрируют в модель. Это непрерывная работа, и чем больше умных людей в нее вовлечено, тем лучше будут результаты.

— Опасения и страхи общества, в том числе профессионального сообщества из сферы IT, связаны с гипотетическим выходом ИИ из-под контроля. На каком этапе разработчики, аналитики данных теряют возможность контролировать свою модель искусственного интеллекта?

— Скорее всего, это может произойти на любом этапе. Вот, например, поиск «Яндекса» построен на алгоритмах искусственного интеллекта. В них заложены некие метрики, на основе которых выстраивается система ранжирования в поисковых запросах. Были известны случаи, когда на претензии в необоснованном занижении ссылок профильные специалисты компании отвечали, что сами не понимают, почему это так сработало. То есть это сейчас уже реально, что сами разработчики могут не знать, почему система искусственного интеллекта приняла определенное решение, когда по написанной для нее математической инструкции она должна была действовать иначе.

Конечно, это может быть и ошибка исходного алгоритма, которую нужно исправлять, а может, модель уже сама начала думать как человек — порой интуитивно и субъективно. Хотя, на мой взгляд, до этого еще далеко, пройдет еще несколько десятков лет, прежде чем алгоритмы будут усложнены настолько, что смогут имитировать работу человеческого мозга, то есть принимать решения, опираясь на свой предыдущий опыт и построенную на его основе проекцию на будущее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Кровать, которая не даст больному залежаться Кровать, которая не даст больному залежаться

«Папийон» налаживает серийное производство инновационных медицинских кроватей

Монокль
Иван Антонович Ефремов и его вклад в мировую науку Иван Антонович Ефремов и его вклад в мировую науку

Иван Ефремов оставался признанным классиком жанра и при жизни, и после смерти

Наука и техника
«Мы вступаем в совершенно новую эпоху, движимую искусственным интеллектом» «Мы вступаем в совершенно новую эпоху, движимую искусственным интеллектом»

Какие надежды визионеры возлагают на науку в будущем

РБК
Лингвисты в утробе матери. Как дети начинают осваивать язык еще до рождения Лингвисты в утробе матери. Как дети начинают осваивать язык еще до рождения

Можно ли считать маленьких детей прирожденными лингвистами?

СНОБ
Это все Трамп Это все Трамп

Это можно было бы назвать «похищением Европы»

Монокль
Условно-досрочная пенсия Условно-досрочная пенсия

Как сформировать долгосрочные сбережения и разморозить пенсионные в 2024 году

Деньги
Яркая история Яркая история

Интерьер с элементами ретро, который подарил предметам из 1960-х вторую жизнь

Идеи Вашего Дома
Введение в компьютерную вирусологию Введение в компьютерную вирусологию

Изобретение Фредерика Коэна поставило под угрозу главное достижение цивилизации

Наука
Владимир Васильев: «Гонка технологических «вооружений» уже началась» Владимир Васильев: «Гонка технологических «вооружений» уже началась»

Владимир Васильев – о влиянии больших языковых моделей на будущее человека

РБК
Он у меня не подарок Он у меня не подарок

Если мужчина преподносит поющую корову, вместо того чтобы изучить твой вишлист

VOICE
Свет в твоем окне Свет в твоем окне

Украшаем волшебными огнями весь дом

Лиза
«В станкостроении науки не существует» «В станкостроении науки не существует»

Прикладной науке, в советском понимании, в современно мире места быть не может

Монокль
Наталья Оксентюк: «В каждом из нас живет внутренний родитель, взрослый и ребёнок. И важно, чтобы они были в гармонии» Наталья Оксентюк: «В каждом из нас живет внутренний родитель, взрослый и ребёнок. И важно, чтобы они были в гармонии»

Кто такие внутренний родитель, взрослый и ребенок?

Здоровье
Маски шоу Маски шоу

XX век прошел под знаком карикатуры – она была мощным идеологическим оружием

Правила жизни
Агенты Дмитрия Самозванца убивают сына Бориса Годунова Агенты Дмитрия Самозванца убивают сына Бориса Годунова

Момент, когда низвергнутый царь, сумевший дать отпор убийцам, лишается сил

Дилетант
Токсичная родня Токсичная родня

Как распознать токсичных родственников и что с ними делать

Лиза
Вместо селедки под шубой и бутербродов с икрой: что едят на Новый год в разных странах Вместо селедки под шубой и бутербродов с икрой: что едят на Новый год в разных странах

Чем питаются на Новый год иностранцы?

ТехИнсайдер
Разум толпы Разум толпы

Усредненный прогноз группы может быть более точным, чем суждения специалистов

ТехИнсайдер
Минимум танинов и никакой выдержки. Как выбрать вино для глинтвейна Минимум танинов и никакой выдержки. Как выбрать вино для глинтвейна

Из какого вина лучшего всего варить глинтвейн

СНОБ
Он на свете всех Милей Он на свете всех Милей

На президентских выборах в Аргентине победил Хавьер Милей

Монокль
Фильм начинается Фильм начинается

Небольшая студия с интерьером в стиле «Криминального чтива»

Идеи Вашего Дома
Магия кино Магия кино

Актриса Юлия Снигирь — о мистике и булгаковщине, спорах в творческой семье

VOICE
От Первой Логистической войны до «цепочек» XXI века От Первой Логистической войны до «цепочек» XXI века

Роль путей сообщения в истории страны требует существенной дооценки

Знание – сила
Это что такое? Это что такое?

5 причин, почему мужчины дарят не те подарки

Лиза
Цезарь и Антоний Цезарь и Антоний

Великий полководец и политик Гай Юлий Цезарь погрузил Рим в гражданскую войну

Дилетант
Рост есть. Рост будет! Рост есть. Рост будет!

Российская промышленность росла и инвестировала в этом году сумасшедшими темпами

Монокль
Зачем нужен дворник-беспилотник Зачем нужен дворник-беспилотник

Алексей Сивидов — о роботах, призванных победить дефицит рабочих рук в сфере ЖКХ

РБК
«Секс с учеными: Половое размножение и другие загадки биологии» «Секс с учеными: Половое размножение и другие загадки биологии»

Как дрожжи научились не скрещиваться с близкими родственниками

N+1
За гранью возможного За гранью возможного

Какие скрытые резервы хранит в себе человеческий организм

Зеркало Мира
«Плохая девочка», Пугачева под фонк и новый пик Лолиты: как ремейки захватили чарты «Плохая девочка», Пугачева под фонк и новый пик Лолиты: как ремейки захватили чарты

Почему все вдруг пошли делать и слушать ремейки старых песен

Правила жизни
Открыть в приложении