Одна из самых интересных битв вокруг ИИ развернется не в области техники

Правила жизниHi-Tech

Парадоксальная угроза

Записала Екатерина Андреева

К появлению искусственного разума культура готова давно – в том смысле, что никакого ИИ еще нет, а бояться войны с роботами люди уже научились. Вероятно, одна из самых интересных битв вокруг ИИ развернется не в области техники, а в области пропаганды и юриспруденции – законодательные запреты против разрешений, технооптимистические манифесты против алармистских открытых писем, регуляторы против интересов IT-индустрии. «Правила жизни» предлагают краткий обзор попыток предотвратить появление «Скайнета» (пока главным образом законодательных).

Отношения человека с техникой можно назвать парадоксальными: с одной стороны, человечество любит контроль и непрерывно создает ограничения, законы и инструкции, надзорные органы и прочие способы обуздать мироздание. И одновременно человек непрерывно пытается все эти ограничения обойти. «Правила созданы, чтобы их нарушать».

Изобретя, например, интернет, человечество долго сохраняло его более-менее свободным. Но со временем его начали ограничивать, ставить в рамки, все более жесткие и строгие. Ввели цензуру, запретили чувствительный контент, начали собирать данные о пользователях. И одновременно параллельно с интернетом возник даркнет. Там, наоборот, можно все: смотри, продавай и покупай что угодно, никаких границ и правил.

Алан Тьюринг в статье 1950 года «Вычислительные машины и разум» предлагает машине тоже попробовать обмануть homo sapiens. Он изобретает простой тест: программа пять минут общается с человеком, которому нужно догадаться, что его собеседник – компьютер. Если искусственному разуму удастся обмануть живого собеседника в 30% случаев, тест считается пройденным. Значит, машина научилась мыслить и скоро станет умнее всех людей на земле. Ученый предсказывал, что уж к 2000 году компьютер точно научится проходить «тест Тьюринга». К счастью (или к сожалению?), этого так и не произошло.

Парадоксальное желание человека перехитрить самого себя проявилось и в разработках искусственного интеллекта. После того как люди разобрались с ChatGPT и научились использовать его для работы, восторженные отзывы сменились беспокойством. Главы технологических компаний и исследователи все чаще стали озвучивать опасения, что нейросети – это угроза, а не помощник человека. Причем речь идет не только о том, что ИИ лишит миллионы человек работы и сделает их невостребованными на рынке труда. Ученые утверждают, что развитие «искусственного разума» угрожает самому существованию жизни на земле.

С таким заявлением выступил и глава компании OpenAI – разработчика ChatGPT Сэм Альтман. На слушаниях конгресса США, посвященных развитию ИИ, он призвал американские власти начать регулировать разработки искусственного интеллекта на государственном уровне. «По мере развития технологии ИИ мы понимаем, что люди обеспокоены тем, как она может изменить наш образ жизни. Мы тоже встревожены», – заявил Альтман. По его словам, у GPT и других нейросетей много преимуществ, но без должного контроля они могут серьезно навредить человечеству.

Год назад тема контроля ИИ почти не привлекала внимания властей. Сегодня правительства по всему миру обсуждают необходимость госрегулирования и даже запрета некоторых нейросетей. Как будто госструктуры вдруг осознали, что сфера растет, а они так и не поместили ее в четкие рамки и не начали системно наказывать за их обход.

Потенциал алгоритма языкового обучения LLM, на котором построен ChatGPT, кажется безграничным. Он меняет подход ко всем сферам – от создания контента и работы с текстом до образования и поиска информации. Именно отсутствие ограничений вызывает беспокойство у исследователей, ведь с прикладных задач ИИ может переключиться на более глобальные. Сооснователь Института исследования машинного интеллекта Элиезер Юдковский считает, что со временем нейросети могут выйти за пределы интернета, захватить все процессы на Земле и избавиться от людей.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«В мире еще есть что-то, способное заинтересовать» «В мире еще есть что-то, способное заинтересовать»

Отец Андрей Щенников рассказал о том, как живет церковь в эпоху потребления

Правила жизни
Лесам выдают паспорта Лесам выдают паспорта

Неисчерпаемость лесных ресурсов России может быстро подойди к концу

Наука
Vicootes Vicootes

Рагим Джафаров сочетает интеллектуальность с сюжетностью

Правила жизни
Наследие Мономаха Наследие Мономаха

Смоленский Свято-успенский кафедральный собор – один из самых почитаемых храмов

Отдых в России
Кевин Смит Кевин Смит

Правила жизни режиссера Кевина Смита

Правила жизни
5 одинаковых привычек разных миллиардеров 5 одинаковых привычек разных миллиардеров

Что объединяет финансовых гениев со всего мира

Maxim
Колода джокеров и сорок сценариев будущего Колода джокеров и сорок сценариев будущего

Прогнозист Александр Чулок — о том, по какому пути может пойти развитие общества

РБК
АПК зовут в Африку АПК зовут в Африку

В чем потенциал сотрудничества со странами Африканского континента

Агроинвестор
«С женщинами мне как-то проще» «С женщинами мне как-то проще»

Дарья Савельева о своих ролях в двух ярких дебютах 2023 года

Weekend
Они ушли на взлете: 12 лет назад под Ярославлем разбился самолет с хоккейной командой «Локомотив» Они ушли на взлете: 12 лет назад под Ярославлем разбился самолет с хоккейной командой «Локомотив»

История «небесной команда»: что с ней произошло?

ТехИнсайдер
Были и небылицы Были и небылицы

История — это то, чего не происходило, описанное тем, кто никогда там не был

Дилетант
Чемпионы по суду: истории российских спортсменов, побеждавших в CAS Чемпионы по суду: истории российских спортсменов, побеждавших в CAS

Истории, когда российские атлеты выигрывали суд в CAS

Forbes
Уроки на удаленке Уроки на удаленке

Полезные приложения и лучшие интернет-ресурсы для домашнего образования

Лиза
Любовь, обиды, травмы и панк-рок: семь фильмов об отношениях матери и дочери Любовь, обиды, травмы и панк-рок: семь фильмов об отношениях матери и дочери

Фильмы, в которых отношения между матерью и дочерью принимают самую разную форму

Forbes
«Депп против Херд»: как соцсети стали главным судьей в деле двух голливудских актеров «Депп против Херд»: как соцсети стали главным судьей в деле двух голливудских актеров

Почему публичное разбирательство двух звезд превратилось в культурный феномен

Forbes
Место единения Место единения

Заказчики пригласили дизайнеров для оформления их семейного дома в Подмосковье

SALON-Interior
Почему не стоит покупать дешевые кабели и адаптеры для зарядки Почему не стоит покупать дешевые кабели и адаптеры для зарядки

Какие подводные камни вас ждут при выборе кабеля и адаптера для зарядки телефона

CHIP
Слово, которое гуляет не само по себе Слово, которое гуляет не само по себе

Кирилл Кто: языки улицы

Weekend
Дерьмово выглядишь Дерьмово выглядишь

Как и зачем животные и растения притворяются экскрементами

N+1
«Рок-н-ролл мертв. А я еще нет...» «Рок-н-ролл мертв. А я еще нет...»

С 1981 года ленинградский рок-клуб стал «местом силы» отечественного рок-н-ролла

Men Today
Эверест как профессия Эверест как профессия

Высоко над нашими головами скрывается самая труднодоступная страна на планете

Вокруг света
Дачи Российской империи. Откуда в России появилась дачная культура? Дачи Российской империи. Откуда в России появилась дачная культура?

Для русского человека дача имеет много смыслов. Так кто же это придумал?

Караван историй
Артроз Артроз

Артрозом страдают множество людей. Всё чаще коленки «скрипят» и у 20–30-летних

Здоровье
Сергей Юрский: «Думаю, что мне надо было еще смелее заниматься своим делом и не идти в общем строю» Сергей Юрский: «Думаю, что мне надо было еще смелее заниматься своим делом и не идти в общем строю»

На самом деле совершенно невозможно перечислить все сделанное Сергеем Юрским

Коллекция. Караван историй
Ударили автопробегом Ударили автопробегом

Автотуризм в России становится массовым

Деньги
Беспилотники и ИИ-врачи: цифровое будущее России Беспилотники и ИИ-врачи: цифровое будущее России

Россия занимает одно из ведущих мест в мире по развитию цифровых сервисов

ФедералПресс
Раскопки в пустыне и тайное общество в Египте: история путешественницы Фрейи Старк Раскопки в пустыне и тайное общество в Египте: история путешественницы Фрейи Старк

История женщины, которая твердо решила повидать мир

Forbes
Сезон засухи: почему кожа становится обезвоженной и как вернуть ей здоровье Сезон засухи: почему кожа становится обезвоженной и как вернуть ей здоровье

Что делать, если коже не хватает влаги

Forbes
Подделкам сгоняют рыбий жир Подделкам сгоняют рыбий жир

Чем опасен нелегальный рынок БАДов и как его побороть

Деньги
Философы освещения. Кто придумал лампу накаливания Философы освещения. Кто придумал лампу накаливания

История Александра Лодыгина, изобретателя лампы накаливания

СНОБ
Открыть в приложении