Одна из самых интересных битв вокруг ИИ развернется не в области техники

Правила жизниHi-Tech

Парадоксальная угроза

Записала Екатерина Андреева

К появлению искусственного разума культура готова давно – в том смысле, что никакого ИИ еще нет, а бояться войны с роботами люди уже научились. Вероятно, одна из самых интересных битв вокруг ИИ развернется не в области техники, а в области пропаганды и юриспруденции – законодательные запреты против разрешений, технооптимистические манифесты против алармистских открытых писем, регуляторы против интересов IT-индустрии. «Правила жизни» предлагают краткий обзор попыток предотвратить появление «Скайнета» (пока главным образом законодательных).

Отношения человека с техникой можно назвать парадоксальными: с одной стороны, человечество любит контроль и непрерывно создает ограничения, законы и инструкции, надзорные органы и прочие способы обуздать мироздание. И одновременно человек непрерывно пытается все эти ограничения обойти. «Правила созданы, чтобы их нарушать».

Изобретя, например, интернет, человечество долго сохраняло его более-менее свободным. Но со временем его начали ограничивать, ставить в рамки, все более жесткие и строгие. Ввели цензуру, запретили чувствительный контент, начали собирать данные о пользователях. И одновременно параллельно с интернетом возник даркнет. Там, наоборот, можно все: смотри, продавай и покупай что угодно, никаких границ и правил.

Алан Тьюринг в статье 1950 года «Вычислительные машины и разум» предлагает машине тоже попробовать обмануть homo sapiens. Он изобретает простой тест: программа пять минут общается с человеком, которому нужно догадаться, что его собеседник – компьютер. Если искусственному разуму удастся обмануть живого собеседника в 30% случаев, тест считается пройденным. Значит, машина научилась мыслить и скоро станет умнее всех людей на земле. Ученый предсказывал, что уж к 2000 году компьютер точно научится проходить «тест Тьюринга». К счастью (или к сожалению?), этого так и не произошло.

Парадоксальное желание человека перехитрить самого себя проявилось и в разработках искусственного интеллекта. После того как люди разобрались с ChatGPT и научились использовать его для работы, восторженные отзывы сменились беспокойством. Главы технологических компаний и исследователи все чаще стали озвучивать опасения, что нейросети – это угроза, а не помощник человека. Причем речь идет не только о том, что ИИ лишит миллионы человек работы и сделает их невостребованными на рынке труда. Ученые утверждают, что развитие «искусственного разума» угрожает самому существованию жизни на земле.

С таким заявлением выступил и глава компании OpenAI – разработчика ChatGPT Сэм Альтман. На слушаниях конгресса США, посвященных развитию ИИ, он призвал американские власти начать регулировать разработки искусственного интеллекта на государственном уровне. «По мере развития технологии ИИ мы понимаем, что люди обеспокоены тем, как она может изменить наш образ жизни. Мы тоже встревожены», – заявил Альтман. По его словам, у GPT и других нейросетей много преимуществ, но без должного контроля они могут серьезно навредить человечеству.

Год назад тема контроля ИИ почти не привлекала внимания властей. Сегодня правительства по всему миру обсуждают необходимость госрегулирования и даже запрета некоторых нейросетей. Как будто госструктуры вдруг осознали, что сфера растет, а они так и не поместили ее в четкие рамки и не начали системно наказывать за их обход.

Потенциал алгоритма языкового обучения LLM, на котором построен ChatGPT, кажется безграничным. Он меняет подход ко всем сферам – от создания контента и работы с текстом до образования и поиска информации. Именно отсутствие ограничений вызывает беспокойство у исследователей, ведь с прикладных задач ИИ может переключиться на более глобальные. Сооснователь Института исследования машинного интеллекта Элиезер Юдковский считает, что со временем нейросети могут выйти за пределы интернета, захватить все процессы на Земле и избавиться от людей.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Охота на алгоритм Охота на алгоритм

Способна ли машина заменить человека в самых важных ему областях деятельности

Правила жизни
Она раскрыла убийства: лучшие современные сериалы о женщинах-детективах Она раскрыла убийства: лучшие современные сериалы о женщинах-детективах

Исследуем образ героини, которая ищет преступников в современных сериалах

Forbes
Vicootes Vicootes

Рагим Джафаров сочетает интеллектуальность с сюжетностью

Правила жизни
Станут ли ближе Дальний Восток и Арктика Станут ли ближе Дальний Восток и Арктика

Дальний Восток и российская Арктика — особые макрорегионы

ФедералПресс
Шоу Трумена Шоу Трумена

Ксения Соколова — о любви и тайнах в детективе с самой собой в главной роли

RR Люкс.Личности.Бизнес.
Андрей Соколов: «О женщинах надо... молчать. Вот самая правильная позиция» Андрей Соколов: «О женщинах надо... молчать. Вот самая правильная позиция»

«От любви глупеют. Наступает эйфория! Но это опасно»

Караван историй
Джим лежа Джим лежа

Героические истории со съемок первых фильмов великих режиссеров

Правила жизни
От лифта на орбиту до встречи с марсианами От лифта на орбиту до встречи с марсианами

Какие инновации и тренды будут определять развитие космической отрасли

РБК
Без паники! Откуда берутся неврозы и как с ними справиться Без паники! Откуда берутся неврозы и как с ними справиться

Исследований невроза много, но ответы на главные вопросы не найдены до сих пор

Лиза
Кто круче Рогова Кто круче Рогова

Самый медийный стилист страны и один из пионеров мейковер-шоу Александр Рогов

Собака.ru
Радиоактивность, которая лечит Радиоактивность, которая лечит

Ядерная медицина — одно из наиболее динамично развивающихся направлений науки

Наука
Расстройство от письма Расстройство от письма

Что такое дисграфия у детей и как помочь твоему ученику?

Лиза
Сезон открытий Сезон открытий

Программа минимум в Астраханской области: Волга, вобла и арбузы

Лиза
Карманные деньги: почему полезно давать детям и как это правильно делать Карманные деньги: почему полезно давать детям и как это правильно делать

Карманные деньги не замена заботы, а способ научить детей финансовой грамотности

РБК
Любовь, обиды, травмы и панк-рок: семь фильмов об отношениях матери и дочери Любовь, обиды, травмы и панк-рок: семь фильмов об отношениях матери и дочери

Фильмы, в которых отношения между матерью и дочерью принимают самую разную форму

Forbes
В воздухе, в воде и под землей: экспансия дронов как наступившая реальность В воздухе, в воде и под землей: экспансия дронов как наступившая реальность

«Как я стал «дроноводом»? Сказалось давнее увлечение всем «железным»

ФедералПресс
Татьяна Правдина: «Когда Зяма смотрел свои фильмы, всегда говорил: «Это — не то!» Татьяна Правдина: «Когда Зяма смотрел свои фильмы, всегда говорил: «Это — не то!»

Актеру Зиновию Гердту было 44 года, а переводчице Татьяне Правдиной — 32

Коллекция. Караван историй
«Мы строим новую экономику»: Игнат Петухов о развитии Оренбуржья «Мы строим новую экономику»: Игнат Петухов о развитии Оренбуржья

Оренбургская область из «аутсайдеров» вырывается в «динамично развивающиеся»

ФедералПресс
Чтим кодекс Чтим кодекс

Алименты для пап и еще ряд изменений в законах с сентября 2023 года

Лиза
О цифровом рубле, кадровом голоде и «умном городе»: «Не обращаем внимания на санкции» О цифровом рубле, кадровом голоде и «умном городе»: «Не обращаем внимания на санкции»

Какие еще цифровые новшества скоро могут стать повседневностью

ФедералПресс
Бабочка на шее. Как предупредить заболевания щитовидной железы Бабочка на шее. Как предупредить заболевания щитовидной железы

Сбои в работе щитовидки могут стать причиной самых разных бед

Лиза
Как гаджеты влияют на социум и развитие детей: через поколение будет другое общество Как гаджеты влияют на социум и развитие детей: через поколение будет другое общество

Как гаджеты влияют на социум и отношения в семье?

ФедералПресс
Театр божественных действий Театр божественных действий

«Голда»: история первых дней войны Судного дня

Weekend
10 неожиданных вопросов к Тане Ткачук из группы «Моя Мишель» 10 неожиданных вопросов к Тане Ткачук из группы «Моя Мишель»

Таня Ткачук вспомнила детство, поделилась мудростью и закончила несколько фраз

VOICE
В офис в тапочках В офис в тапочках

7 лучших профессий для удаленной работы

Лиза
Особенности туристической подготовки внедорожников Особенности туристической подготовки внедорожников

Что такое комплексная экспедиционная подготовка? Как правильно её провести?

4x4 Club
От Вологды до Мурманска: как женщины управляют региональными ателье по всей стране От Вологды до Мурманска: как женщины управляют региональными ателье по всей стране

Предпринимательницы из разных городов, которые вопреки всему развивают ателье

Forbes
5 психологических советов, которые помогут пережить боль от разрыва 5 психологических советов, которые помогут пережить боль от разрыва

Как справиться с грустью и перестать обесценивать себя после расставания

Psychologies
«Задавать вопросы — творческий труд». Отрывок из книги «Метод Сократа» «Задавать вопросы — творческий труд». Отрывок из книги «Метод Сократа»

Как задавать вопросы по методу Сократа

СНОБ
Как добиться стройности без насилия над собой: 7 шагов Как добиться стройности без насилия над собой: 7 шагов

Что такое естественное похудение и как оно помогает получить желаемую фигуру?

Psychologies
Открыть в приложении