Одна из самых интересных битв вокруг ИИ развернется не в области техники

Правила жизниHi-Tech

Парадоксальная угроза

Записала Екатерина Андреева

К появлению искусственного разума культура готова давно – в том смысле, что никакого ИИ еще нет, а бояться войны с роботами люди уже научились. Вероятно, одна из самых интересных битв вокруг ИИ развернется не в области техники, а в области пропаганды и юриспруденции – законодательные запреты против разрешений, технооптимистические манифесты против алармистских открытых писем, регуляторы против интересов IT-индустрии. «Правила жизни» предлагают краткий обзор попыток предотвратить появление «Скайнета» (пока главным образом законодательных).

Отношения человека с техникой можно назвать парадоксальными: с одной стороны, человечество любит контроль и непрерывно создает ограничения, законы и инструкции, надзорные органы и прочие способы обуздать мироздание. И одновременно человек непрерывно пытается все эти ограничения обойти. «Правила созданы, чтобы их нарушать».

Изобретя, например, интернет, человечество долго сохраняло его более-менее свободным. Но со временем его начали ограничивать, ставить в рамки, все более жесткие и строгие. Ввели цензуру, запретили чувствительный контент, начали собирать данные о пользователях. И одновременно параллельно с интернетом возник даркнет. Там, наоборот, можно все: смотри, продавай и покупай что угодно, никаких границ и правил.

Алан Тьюринг в статье 1950 года «Вычислительные машины и разум» предлагает машине тоже попробовать обмануть homo sapiens. Он изобретает простой тест: программа пять минут общается с человеком, которому нужно догадаться, что его собеседник – компьютер. Если искусственному разуму удастся обмануть живого собеседника в 30% случаев, тест считается пройденным. Значит, машина научилась мыслить и скоро станет умнее всех людей на земле. Ученый предсказывал, что уж к 2000 году компьютер точно научится проходить «тест Тьюринга». К счастью (или к сожалению?), этого так и не произошло.

Парадоксальное желание человека перехитрить самого себя проявилось и в разработках искусственного интеллекта. После того как люди разобрались с ChatGPT и научились использовать его для работы, восторженные отзывы сменились беспокойством. Главы технологических компаний и исследователи все чаще стали озвучивать опасения, что нейросети – это угроза, а не помощник человека. Причем речь идет не только о том, что ИИ лишит миллионы человек работы и сделает их невостребованными на рынке труда. Ученые утверждают, что развитие «искусственного разума» угрожает самому существованию жизни на земле.

С таким заявлением выступил и глава компании OpenAI – разработчика ChatGPT Сэм Альтман. На слушаниях конгресса США, посвященных развитию ИИ, он призвал американские власти начать регулировать разработки искусственного интеллекта на государственном уровне. «По мере развития технологии ИИ мы понимаем, что люди обеспокоены тем, как она может изменить наш образ жизни. Мы тоже встревожены», – заявил Альтман. По его словам, у GPT и других нейросетей много преимуществ, но без должного контроля они могут серьезно навредить человечеству.

Год назад тема контроля ИИ почти не привлекала внимания властей. Сегодня правительства по всему миру обсуждают необходимость госрегулирования и даже запрета некоторых нейросетей. Как будто госструктуры вдруг осознали, что сфера растет, а они так и не поместили ее в четкие рамки и не начали системно наказывать за их обход.

Потенциал алгоритма языкового обучения LLM, на котором построен ChatGPT, кажется безграничным. Он меняет подход ко всем сферам – от создания контента и работы с текстом до образования и поиска информации. Именно отсутствие ограничений вызывает беспокойство у исследователей, ведь с прикладных задач ИИ может переключиться на более глобальные. Сооснователь Института исследования машинного интеллекта Элиезер Юдковский считает, что со временем нейросети могут выйти за пределы интернета, захватить все процессы на Земле и избавиться от людей.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Терминатор Т-800 Терминатор Т-800

Правила жизни Терминатора Т-800

Правила жизни
Спасти мир от самого себя Спасти мир от самого себя

Непростая история одного из создателей атомной бомбы

Наука
Разгадка загадок Разгадка загадок

Исследование тонкостей отношений с искусственным интеллектом

Правила жизни
Политическое крещение Политическое крещение

Что побудило закоренелого язычника и развратника перейти в христианскую веру?

Дилетант
Со скоростью звука Со скоростью звука

Как новая форма знакомого контента может вызвать взрывной рост аудитории

Правила жизни
От лифта на орбиту до встречи с марсианами От лифта на орбиту до встречи с марсианами

Какие инновации и тренды будут определять развитие космической отрасли

РБК
Познать Любовь Познать Любовь

Актриса Любовь Аксенова — о манипуляциях и влюбленности в персонажей

VOICE
Наследие Мономаха Наследие Мономаха

Смоленский Свято-успенский кафедральный собор – один из самых почитаемых храмов

Отдых в России
Киборги Киборги

Что если сращивание человека с техникой давно произошло, просто мы не заметили?

Правила жизни
Байки из мавзолея Байки из мавзолея

«Вселенная Стивена Кинга»: все, что мы и так знаем о мастере ужасов,— и не более

Weekend
Цугцванг: как выбраться из тупика. Советы психологов Цугцванг: как выбраться из тупика. Советы психологов

Цугцванг в жизни: что делать, когда задуманное не совпадает с реальностью

РБК
Человек растерянный Человек растерянный

Как Феллини и Мастроянни придумали нового героя послевоенной Европы

Weekend
Работа над ошибками Работа над ошибками

Какую работу над ошибками нужно провести, чтобы сохранить молодость кожи

Добрые советы
Жизнь других Жизнь других

Существуют места, словно созданные для съемок фильмов про иные миры

Men Today
Беспилотные машины и умные дороги: какие риски несет в себе транспорт будущего Беспилотные машины и умные дороги: какие риски несет в себе транспорт будущего

Что нужно регламентировать в законах о беспилотных машинах

Forbes
Инвестиции в ИИ: как заработать на инновациях Инвестиции в ИИ: как заработать на инновациях

В акции каких игроков на рынке ИИ лучше всего вложиться?

ФедералПресс
«Боль продолжается бесконечно»: как несчастная первая любовь влияет на дальнейшие отношения «Боль продолжается бесконечно»: как несчастная первая любовь влияет на дальнейшие отношения

Почему мы боимся впустить в жизнь нового человека?

Psychologies
Время Пегаса. Осеннее небо Время Пегаса. Осеннее небо

Этой осенью продолжаем разговор о созвездиях семейства Персея

Наука и жизнь
«Мы строим новую экономику»: Игнат Петухов о развитии Оренбуржья «Мы строим новую экономику»: Игнат Петухов о развитии Оренбуржья

Оренбургская область из «аутсайдеров» вырывается в «динамично развивающиеся»

ФедералПресс
Как разобраться в современном арт-рынке — краткая памятка Как разобраться в современном арт-рынке — краткая памятка

Памятка, которая поможет начинающему коллекционеру современного искусства

Правила жизни
Закрытие сезона Закрытие сезона

Какие ошибки часто совершают дачники в конце сезона и как их исправить

Лиза
Для упругих ягодиц Для упругих ягодиц

10 упражнений, которые помогут тебе обрести соблазнительные формы

Лиза
Сел и уснул: 10 лайфхаков, как хорошенько выспаться в самолете Сел и уснул: 10 лайфхаков, как хорошенько выспаться в самолете

Как «отключиться» от внешних раздражителей и погрузиться в сон на время полета

ТехИнсайдер
С видом на город С видом на город

Интерьер, оформленный в современной эстетике

Идеи Вашего Дома
Они ушли на взлете: 12 лет назад под Ярославлем разбился самолет с хоккейной командой «Локомотив» Они ушли на взлете: 12 лет назад под Ярославлем разбился самолет с хоккейной командой «Локомотив»

История «небесной команда»: что с ней произошло?

ТехИнсайдер
Ирина Хакамада: Как достигать своих целей Ирина Хакамада: Как достигать своих целей

Отрывок из книги «Чиллософия: опыты выхода из безвыходности»

СНОБ
Итак, она была… брюнеткой Итак, она была… брюнеткой

Как отличаются героини эпохальных романов и актрисы, играющие их в экранизациях

Знание – сила
Что произойдет с вашим телом, если отказаться от молока: поразительно! Что произойдет с вашим телом, если отказаться от молока: поразительно!

Исключение молока из рациона может иметь интересные последствия для организма

ТехИнсайдер
Как понять, что мужчина не видит в вас любимую женщину: 5 тревожных сигналов Как понять, что мужчина не видит в вас любимую женщину: 5 тревожных сигналов

Как понять, что в ваших отношениях что-то идет не так?

Psychologies
Бережный уход Бережный уход

Как построить маршрут к новому, идеальному месту работы?

Добрые советы
Открыть в приложении