Одна из самых интересных битв вокруг ИИ развернется не в области техники

Правила жизниHi-Tech

Парадоксальная угроза

Записала Екатерина Андреева

К появлению искусственного разума культура готова давно – в том смысле, что никакого ИИ еще нет, а бояться войны с роботами люди уже научились. Вероятно, одна из самых интересных битв вокруг ИИ развернется не в области техники, а в области пропаганды и юриспруденции – законодательные запреты против разрешений, технооптимистические манифесты против алармистских открытых писем, регуляторы против интересов IT-индустрии. «Правила жизни» предлагают краткий обзор попыток предотвратить появление «Скайнета» (пока главным образом законодательных).

Отношения человека с техникой можно назвать парадоксальными: с одной стороны, человечество любит контроль и непрерывно создает ограничения, законы и инструкции, надзорные органы и прочие способы обуздать мироздание. И одновременно человек непрерывно пытается все эти ограничения обойти. «Правила созданы, чтобы их нарушать».

Изобретя, например, интернет, человечество долго сохраняло его более-менее свободным. Но со временем его начали ограничивать, ставить в рамки, все более жесткие и строгие. Ввели цензуру, запретили чувствительный контент, начали собирать данные о пользователях. И одновременно параллельно с интернетом возник даркнет. Там, наоборот, можно все: смотри, продавай и покупай что угодно, никаких границ и правил.

Алан Тьюринг в статье 1950 года «Вычислительные машины и разум» предлагает машине тоже попробовать обмануть homo sapiens. Он изобретает простой тест: программа пять минут общается с человеком, которому нужно догадаться, что его собеседник – компьютер. Если искусственному разуму удастся обмануть живого собеседника в 30% случаев, тест считается пройденным. Значит, машина научилась мыслить и скоро станет умнее всех людей на земле. Ученый предсказывал, что уж к 2000 году компьютер точно научится проходить «тест Тьюринга». К счастью (или к сожалению?), этого так и не произошло.

Парадоксальное желание человека перехитрить самого себя проявилось и в разработках искусственного интеллекта. После того как люди разобрались с ChatGPT и научились использовать его для работы, восторженные отзывы сменились беспокойством. Главы технологических компаний и исследователи все чаще стали озвучивать опасения, что нейросети – это угроза, а не помощник человека. Причем речь идет не только о том, что ИИ лишит миллионы человек работы и сделает их невостребованными на рынке труда. Ученые утверждают, что развитие «искусственного разума» угрожает самому существованию жизни на земле.

С таким заявлением выступил и глава компании OpenAI – разработчика ChatGPT Сэм Альтман. На слушаниях конгресса США, посвященных развитию ИИ, он призвал американские власти начать регулировать разработки искусственного интеллекта на государственном уровне. «По мере развития технологии ИИ мы понимаем, что люди обеспокоены тем, как она может изменить наш образ жизни. Мы тоже встревожены», – заявил Альтман. По его словам, у GPT и других нейросетей много преимуществ, но без должного контроля они могут серьезно навредить человечеству.

Год назад тема контроля ИИ почти не привлекала внимания властей. Сегодня правительства по всему миру обсуждают необходимость госрегулирования и даже запрета некоторых нейросетей. Как будто госструктуры вдруг осознали, что сфера растет, а они так и не поместили ее в четкие рамки и не начали системно наказывать за их обход.

Потенциал алгоритма языкового обучения LLM, на котором построен ChatGPT, кажется безграничным. Он меняет подход ко всем сферам – от создания контента и работы с текстом до образования и поиска информации. Именно отсутствие ограничений вызывает беспокойство у исследователей, ведь с прикладных задач ИИ может переключиться на более глобальные. Сооснователь Института исследования машинного интеллекта Элиезер Юдковский считает, что со временем нейросети могут выйти за пределы интернета, захватить все процессы на Земле и избавиться от людей.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Все есть копия» «Все есть копия»

Как китайцы начинают работать над новым дизайном этого мира

Правила жизни
Какие отрасли развивать в Крыму: не очевидные, но значимые направления Какие отрасли развивать в Крыму: не очевидные, но значимые направления

Полуостров Крым обладает мощным экономическим потенциалом

ФедералПресс
Vicootes Vicootes

Рагим Джафаров сочетает интеллектуальность с сюжетностью

Правила жизни
Чтим кодекс Чтим кодекс

Алименты для пап и еще ряд изменений в законах с сентября 2023 года

Лиза
Марк Эйдельштейн: «Предпочитаю не загадывать на будущее» Марк Эйдельштейн: «Предпочитаю не загадывать на будущее»

Актер (и краш) Марк Эйдельштейн привез из Канн творческую свободу

VOICE
Платье с лобстером и шокирующий розовый: что нужно знать об Эльзе Скиапарелли Платье с лобстером и шокирующий розовый: что нужно знать об Эльзе Скиапарелли

Эльза Скиапарелли — модельер, которой мир обязан приходом сюрреализма в моду

Правила жизни
Рынку ГКО — 30 лет Рынку ГКО — 30 лет

Как внутренний долг менял российскую финансовую систему

Деньги
«Трудно современному писателю, особенно русскому, быть покойным» «Трудно современному писателю, особенно русскому, быть покойным»

Иван Тургенев о том, как оставаться актуальным русским писателем даже вне России

Weekend
Как обидеть мужчину: запрещенные приемы Как обидеть мужчину: запрещенные приемы

Как растоптать уверенность мужчины в себе?

Лиза
Рестораны Рестораны

Главные герои московской гастрономической сцены

Robb Report
Дизайнерский бутик Дизайнерский бутик

Владимир Пирожков, наверное, самый известный российский промышленный дизайнер

ТехИнсайдер
Секрет фирмы Секрет фирмы

Раздаем полезные советы по менеджменту (бесплатно)

Лиза
Фитнес дома и в зале. 5 самых удобных сервисов для тренировок Фитнес дома и в зале. 5 самых удобных сервисов для тренировок

Приложения для спорта, которые помогут поддерживать форму

Лиза
Знакомые все лица: зачем городу нужны системы автоматического распознавания лиц Знакомые все лица: зачем городу нужны системы автоматического распознавания лиц

Что такое мегаполис будущего?

ТехИнсайдер
Как связаны принцессы Диснея и самооценка детей: интересное исследование! Как связаны принцессы Диснея и самооценка детей: интересное исследование!

Как дети выбирают любимых принцесс и что это о них говорит?

ТехИнсайдер
Возможно ли построить ВСМ Москва — Петербург за 3 года во время санкций Возможно ли построить ВСМ Москва — Петербург за 3 года во время санкций

О строительстве высокоскоростной ж/д магистрали между Москвой и Петербургом

ФедералПресс
Пульт управления Пульт управления

Дефицит «качественной рабочей силы» зафиксирован в 55% российских компаний

FP. BusinessReview
Вся правда о ломбардах Вся правда о ломбардах

7 честных фактов для тех, кому срочно нужны деньги

Лиза
Часы Часы

В списке трендов — зелёные циферблаты, титан и спецэффекты

Robb Report
Играющие резиденты: зачем теннисистам личный бухгалтер Играющие резиденты: зачем теннисистам личный бухгалтер

Почему теннисисты могут отказаться от турнира из-за налогов?

Forbes
Просто бизнес Просто бизнес

Как продвигать национальные бренды и почему параллельный импорт — рискованно

FP. BusinessReview
Как понять, что мужчина не видит в вас любимую женщину: 5 тревожных сигналов Как понять, что мужчина не видит в вас любимую женщину: 5 тревожных сигналов

Как понять, что в ваших отношениях что-то идет не так?

Psychologies
«Наше кино является нашим лицом» «Наше кино является нашим лицом»

Режиссер Егор Кончаловский о советском кино, американской мечте и русских Рэмбо

FP. BusinessReview
Ольга Бычкова: «В ближайшие десятилетия должна произойти пересборка всего научного мира» Ольга Бычкова: «В ближайшие десятилетия должна произойти пересборка всего научного мира»

Как технологии меняют человека и природу вокруг него

РБК
Почему болит живот Почему болит живот

Причины болей в животе, о которых вы даже не догадывались

Добрые советы
Это мы не проходили Это мы не проходили

Высшее образование становится бессмысленным, но учиться приходится всю жизнь

Men Today
Врастание машин Врастание машин

«Конец индивидуума»: чем нам на самом деле грозит искусственный интеллект

Weekend
Как отличить здоровые границы от эмоциональных стен — проверьте себя Как отличить здоровые границы от эмоциональных стен — проверьте себя

Почему эмоциональные стены, в отличие от границ, нам вредят?

Psychologies
Как Ксения Сосункевич выращивает клубнику в Карелии, несмотря на климат и кризисы Как Ксения Сосункевич выращивает клубнику в Карелии, несмотря на климат и кризисы

Как живут и строят карьеру женщины в российских регионах

Forbes
Марвин Марвин

Правила жизни параноидального андроида Марвина

Правила жизни
Открыть в приложении