О том, как модели искусственного интеллекта «выходят за флажки»

МонокльHi-Tech

Когда модель превзойдет алгоритмы

О том, как модели искусственного интеллекта «выходят за флажки» написанных для них инструкций, «Моноклю» рассказал генеральный директор корпорации СОРМ Сергей Большаков

Наталья Быкова

Фото: из личного архива Сергея Большакова

Сергей, что представляют собой самые прогрессивные на сегодня модели искусственного интеллекта, из чего они состоят?

— Начнем с того, что любая модель искусственного интеллекта — это алгоритмы, способные самообучаться. Все они, даже самые прогрессивные на сегодня, представляют собой пока еще очень примитивный аналог человеческого мозга, их работа завязана на определенные математические инструкции, которые выполняет техника. В процессе эксплуатации алгоритмы могут корректироваться или дополняться новыми инструкциями, что происходит не само по себе, а с участием людей — разработчиков, аналитиков данных, — которые профессионально занимаются выявлением несовершенств в моделях искусственного интеллекта. На каждом этапе пересмотра модели выбираются те математические методы, которые дают наименьшие погрешности. Обычно точность алгоритмов для решения конкретных задач составляет более 50 процентов, эффективными считаются те из них, точность которых составляет более 95 процентов. Если удается создать алгоритм с 99-процентной точностью, разумеется, его сразу же интегрируют в модель. Это непрерывная работа, и чем больше умных людей в нее вовлечено, тем лучше будут результаты.

— Опасения и страхи общества, в том числе профессионального сообщества из сферы IT, связаны с гипотетическим выходом ИИ из-под контроля. На каком этапе разработчики, аналитики данных теряют возможность контролировать свою модель искусственного интеллекта?

— Скорее всего, это может произойти на любом этапе. Вот, например, поиск «Яндекса» построен на алгоритмах искусственного интеллекта. В них заложены некие метрики, на основе которых выстраивается система ранжирования в поисковых запросах. Были известны случаи, когда на претензии в необоснованном занижении ссылок профильные специалисты компании отвечали, что сами не понимают, почему это так сработало. То есть это сейчас уже реально, что сами разработчики могут не знать, почему система искусственного интеллекта приняла определенное решение, когда по написанной для нее математической инструкции она должна была действовать иначе.

Конечно, это может быть и ошибка исходного алгоритма, которую нужно исправлять, а может, модель уже сама начала думать как человек — порой интуитивно и субъективно. Хотя, на мой взгляд, до этого еще далеко, пройдет еще несколько десятков лет, прежде чем алгоритмы будут усложнены настолько, что смогут имитировать работу человеческого мозга, то есть принимать решения, опираясь на свой предыдущий опыт и построенную на его основе проекцию на будущее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Атомный десант на юг Атомный десант на юг

Росатом строит АЭС в Казахстане и наращивает мощность в Узбекистане

Монокль
Свет в твоем окне Свет в твоем окне

Украшаем волшебными огнями весь дом

Лиза
Внедрение ИИ в России: «Мы движемся к точке невозврата» Внедрение ИИ в России: «Мы движемся к точке невозврата»

ИТ-эксперт о необходимых законах об ИИ и угрозах бесконтрольной цифровизации

ФедералПресс
Между выгодой и риском Между выгодой и риском

Как в России и мире пытаются регулировать ИИ

РБК
Братские портреты Братские портреты

Братские портреты навсегда остались бы неизвестными, если бы не парное сочетание

Дилетант
Ночь в музее, «комната Афродиты» и «зона похоти»: самые роскошные новогодние корпоративы в истории Ночь в музее, «комната Афродиты» и «зона похоти»: самые роскошные новогодние корпоративы в истории

Самые необычные новогодние вечеринки — как зарубежные, так и российские

Правила жизни
Дорого внимание Дорого внимание

Ольга Карпуть разбирается, действительно ли юмор продает

Правила жизни
Счастливая история! Японец не разговаривал с женой 20 лет, но они продолжали жить вместе Счастливая история! Японец не разговаривал с женой 20 лет, но они продолжали жить вместе

Почему этот японец не разговаривал со своей женой два десятка лет?

ТехИнсайдер
План Б по-американски План Б по-американски

Как Брэд Питт стал последней голливудской звездой

Weekend
Маски шоу Маски шоу

XX век прошел под знаком карикатуры – она была мощным идеологическим оружием

Правила жизни
Строить, не ломать Строить, не ломать

Очень надеемся, что облик XXI века определят не конфликты, а проекты городов

Robb Report
Гиганты растительного мира Гиганты растительного мира

Эти деревья видели динозавров и смогли пережить ледниковый период

Зеркало Мира
Здравствуй, дерево! Здравствуй, дерево!

6 удивительных фактов из истории елки и игрушек

Лиза
Аккуратнее с духовностью! История, как румынский гуру домогался до своих учеников в Париже Аккуратнее с духовностью! История, как румынский гуру домогался до своих учеников в Париже

Этот пожилой гуру йоги занимался сексуальной эксплуатацией своих учеников

ТехИнсайдер
Фазовый переход. Как изменился подход к воспитанию детей за последние 30 лет Фазовый переход. Как изменился подход к воспитанию детей за последние 30 лет

Чем дети перестройки отличаются от современных

СНОБ
У мышей может быть способность к самопознанию У мышей может быть способность к самопознанию

Мыши смогли пройти зеркальный тест

ТехИнсайдер
Татьяна Столяр — о коллекционировании, терапии и умении говорить «нет» Татьяна Столяр — о коллекционировании, терапии и умении говорить «нет»

Коллекционер Татьяна Столяр — о ее взаимоотношения с современным искусством

РБК
Мужчина, это биохак! Мужчина, это биохак!

Как современные мужчины и женщины поддерживают молодость, красоту и здоровье

Men Today
Смелый акцент Смелый акцент

Минималистичный интерьер, сочетающий современный дизайн и авторские решения

SALON-Interior
Раз и готово Раз и готово

Как за один сеанс стереть морщины, созвездия капилляров и постройнеть

Собака.ru
9 вещей, которых мужчины боятся в женщинах 9 вещей, которых мужчины боятся в женщинах

Какие вещи в отношениях с женщинами пугают мужчин?

Psychologies
Точки роста Точки роста

В 2023 году особенно бурно росли фьючерсы на продовольствие

Монокль
Предприниматели среди нас Предприниматели среди нас

Кто каждый день делает нашу жизнь ярче и проще? И как им это удается?

Men Today
Дрожжи-снежинки. Искусственно созданные многоклеточные организмы Дрожжи-снежинки. Искусственно созданные многоклеточные организмы

Один из важнейших этапов развития жизни – появление многоклеточных организмов

Наука и техника
Как общаться с манипулятором: 5 готовых сценариев разговора Как общаться с манипулятором: 5 готовых сценариев разговора

Как сориентироваться и поступить, столкнувшись с манипулятором

Psychologies
the makers the makers

Победители конкурса «Мейкеры» 2023 года

Seasons of life
Екатерина Борисова: «BIM — это больше чем проектирование» Екатерина Борисова: «BIM — это больше чем проектирование»

Как BIM-проектирование помогает избежать ошибок в документации и сократить сроки

РБК
Как уменьшить нагрузку на глаза при работе на компьютере: 7 важных правил Как уменьшить нагрузку на глаза при работе на компьютере: 7 важных правил

Несколько правил, чтобы больше не сталкиваться с компьютерным синдромом

ТехИнсайдер
Большой корабль без большого плавания Большой корабль без большого плавания

«Урал» для «Коралла» или «Коралл» для «Урала»

Наука и техника
Полное собрание в одном доме Полное собрание в одном доме

Как Андрей Тарковский выяснял отношения с домом — и выяснил

Weekend
Открыть в приложении