Одна из самых интересных битв вокруг ИИ развернется не в области техники

Правила жизниHi-Tech

Парадоксальная угроза

Записала Екатерина Андреева

К появлению искусственного разума культура готова давно – в том смысле, что никакого ИИ еще нет, а бояться войны с роботами люди уже научились. Вероятно, одна из самых интересных битв вокруг ИИ развернется не в области техники, а в области пропаганды и юриспруденции – законодательные запреты против разрешений, технооптимистические манифесты против алармистских открытых писем, регуляторы против интересов IT-индустрии. «Правила жизни» предлагают краткий обзор попыток предотвратить появление «Скайнета» (пока главным образом законодательных).

Отношения человека с техникой можно назвать парадоксальными: с одной стороны, человечество любит контроль и непрерывно создает ограничения, законы и инструкции, надзорные органы и прочие способы обуздать мироздание. И одновременно человек непрерывно пытается все эти ограничения обойти. «Правила созданы, чтобы их нарушать».

Изобретя, например, интернет, человечество долго сохраняло его более-менее свободным. Но со временем его начали ограничивать, ставить в рамки, все более жесткие и строгие. Ввели цензуру, запретили чувствительный контент, начали собирать данные о пользователях. И одновременно параллельно с интернетом возник даркнет. Там, наоборот, можно все: смотри, продавай и покупай что угодно, никаких границ и правил.

Алан Тьюринг в статье 1950 года «Вычислительные машины и разум» предлагает машине тоже попробовать обмануть homo sapiens. Он изобретает простой тест: программа пять минут общается с человеком, которому нужно догадаться, что его собеседник – компьютер. Если искусственному разуму удастся обмануть живого собеседника в 30% случаев, тест считается пройденным. Значит, машина научилась мыслить и скоро станет умнее всех людей на земле. Ученый предсказывал, что уж к 2000 году компьютер точно научится проходить «тест Тьюринга». К счастью (или к сожалению?), этого так и не произошло.

Парадоксальное желание человека перехитрить самого себя проявилось и в разработках искусственного интеллекта. После того как люди разобрались с ChatGPT и научились использовать его для работы, восторженные отзывы сменились беспокойством. Главы технологических компаний и исследователи все чаще стали озвучивать опасения, что нейросети – это угроза, а не помощник человека. Причем речь идет не только о том, что ИИ лишит миллионы человек работы и сделает их невостребованными на рынке труда. Ученые утверждают, что развитие «искусственного разума» угрожает самому существованию жизни на земле.

С таким заявлением выступил и глава компании OpenAI – разработчика ChatGPT Сэм Альтман. На слушаниях конгресса США, посвященных развитию ИИ, он призвал американские власти начать регулировать разработки искусственного интеллекта на государственном уровне. «По мере развития технологии ИИ мы понимаем, что люди обеспокоены тем, как она может изменить наш образ жизни. Мы тоже встревожены», – заявил Альтман. По его словам, у GPT и других нейросетей много преимуществ, но без должного контроля они могут серьезно навредить человечеству.

Год назад тема контроля ИИ почти не привлекала внимания властей. Сегодня правительства по всему миру обсуждают необходимость госрегулирования и даже запрета некоторых нейросетей. Как будто госструктуры вдруг осознали, что сфера растет, а они так и не поместили ее в четкие рамки и не начали системно наказывать за их обход.

Потенциал алгоритма языкового обучения LLM, на котором построен ChatGPT, кажется безграничным. Он меняет подход ко всем сферам – от создания контента и работы с текстом до образования и поиска информации. Именно отсутствие ограничений вызывает беспокойство у исследователей, ведь с прикладных задач ИИ может переключиться на более глобальные. Сооснователь Института исследования машинного интеллекта Элиезер Юдковский считает, что со временем нейросети могут выйти за пределы интернета, захватить все процессы на Земле и избавиться от людей.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Терминатор Т-800 Терминатор Т-800

Правила жизни Терминатора Т-800

Правила жизни
Алкуин и Каролингское возрождение Алкуин и Каролингское возрождение

Как спасти из мрачной бездны неведения культуру Западной Римской империи?

Знание – сила
Разгадка загадок Разгадка загадок

Исследование тонкостей отношений с искусственным интеллектом

Правила жизни
Революция в астрономии XX века Революция в астрономии XX века

Виктор Амбарцумян — основоположник теории астрофизики в СССР

Знание – сила
15 витаминов и добавок, о которых не зря все говорят 15 витаминов и добавок, о которых не зря все говорят

Азбука красоты от А (аминокислоты) до Я (янтарная кислота)

VOICE
Почему мы сталкиваемся с одними и теми же проблемами в отношениях: 3 причины Почему мы сталкиваемся с одними и теми же проблемами в отношениях: 3 причины

Почему у некоторых в отношениях постоянно повторяются нездоровые сценарии?

Psychologies
Запад на Востоке Запад на Востоке

Филолог Арсений Дежуров написал о диалоге между двумя великими цивилизациями

Правила жизни
Как разобраться в современном арт-рынке — краткая памятка Как разобраться в современном арт-рынке — краткая памятка

Памятка, которая поможет начинающему коллекционеру современного искусства

Правила жизни
Загадки «Семи самураев»: что вы могли не знать о самом известном фильме Акиры Куросавы Загадки «Семи самураев»: что вы могли не знать о самом известном фильме Акиры Куросавы

Вспоминаем фильм мастера Куросавы «Семь самураев» и раскрываем его секреты

Правила жизни
8 правил, которые помогут сохранить счастливые отношения навсегда 8 правил, которые помогут сохранить счастливые отношения навсегда

Несложные правила, которые поддержат ваши отношения

VOICE
Музей на свалке Музей на свалке

Экспозицию этого музея сравнивают с машиной времени

Отдых в России
7 экспериментов на детях, которые изменили систему воспитания 7 экспериментов на детях, которые изменили систему воспитания

Эксперименты, которые пролили свет на то, как работает детская психика

Psychologies
Марс — крестьянам, роботов — рабочим! Марс — крестьянам, роботов — рабочим!

«Кибердеревня»: березапанковская Россия будущего

Weekend
Татьяна Правдина: «Когда Зяма смотрел свои фильмы, всегда говорил: «Это — не то!» Татьяна Правдина: «Когда Зяма смотрел свои фильмы, всегда говорил: «Это — не то!»

Актеру Зиновию Гердту было 44 года, а переводчице Татьяне Правдиной — 32

Коллекция. Караван историй
Играющие резиденты: зачем теннисистам личный бухгалтер Играющие резиденты: зачем теннисистам личный бухгалтер

Почему теннисисты могут отказаться от турнира из-за налогов?

Forbes
Наскальные мультфильмы Наскальные мультфильмы

Рисункам из пещеры Шове больше 30 тысяч лет

Вокруг света
Недвижимость Недвижимость

Построено в России: интерьеры от лучших дизайнеров и прекрасные виды

Robb Report
Раскачавшиеся материалы Раскачавшиеся материалы

«Неудержимые-4»: легендарная франшиза в самом соку

Weekend
Народу опиум нипочем Народу опиум нипочем

«Стволы и розы»: ностальгия по 1990-м по-болливудски

Weekend
Какие отрасли развивать в Крыму: не очевидные, но значимые направления Какие отрасли развивать в Крыму: не очевидные, но значимые направления

Полуостров Крым обладает мощным экономическим потенциалом

ФедералПресс
Кто круче Рогова Кто круче Рогова

Самый медийный стилист страны и один из пионеров мейковер-шоу Александр Рогов

Собака.ru
Философ у отверстого гроба Философ у отверстого гроба

Жизнь и смерть французского философа Николя де Кондорсе

Знание – сила
IQ идет в рост IQ идет в рост

Статья для желающих обзавестись десятком-другим дополнительных «умственных сил»

Лиза
Запретить нельзя печатать. Как появился самиздат Запретить нельзя печатать. Как появился самиздат

Самиздат: неподцензурное производство литературы

СНОБ
Весы Роберваля Весы Роберваля

В рычажных весах точки опоры и подвеса чаш образуют равнобедренный треугольник

Наука и жизнь
Золото в жилах стынет Золото в жилах стынет

Как добывают самое северное в мире золото

ТехИнсайдер
Ольга Медынич: «Вампиры на самом деле обитают среди нас» Ольга Медынич: «Вампиры на самом деле обитают среди нас»

«Когда соглашалась на эту роль, даже не думала, с чем столкнусь»

Караван историй
Цифровые улики: как соцсети помогают находить активы и выигрывать суды Цифровые улики: как соцсети помогают находить активы и выигрывать суды

Как социальные сети могут использовать против владельца страницы

Forbes
Самые необычные политические партии мира Самые необычные политические партии мира

Самые странные политические партии в мире и их программы

Maxim
Место единения Место единения

Заказчики пригласили дизайнеров для оформления их семейного дома в Подмосковье

SALON-Interior
Открыть в приложении