Почему лидеры мнений призывают поставить развитие нейросетей на паузу?

ForbesРепортаж

«Человека заменит не ИИ, а другой человек»: как используют ChatGPT и кто этого боится

Кристина Крецу, Инна Титова

Иллюстрация Getty Images

За несколько месяцев с момента, когда ChatGPT ворвался в медийную повестку и обрел массовую популярность, некоторые компании уже начали его активно использовать. У других компаний возникла потребность сформулировать для сотрудников четкие руководства — что можно и чего нельзя делать с помощью чат-бота. Одновременно с этим лидеры мнений, среди которых Илон Маск и Стив Возняк, призывают поставить на паузу или даже вообще запретить разработки в области ИИ. Чего они боятся и могут ли правила и ограничения уберечь человечество от этой угрозы — в нашем материале.

Кто и как уже начал применять генеративный ИИ в работе

Пока школьники и студенты тестируют возможности генеративного искусственного интеллекта в области выполнения домашних заданий и дипломных работ, некоторые компании уже начали пытаться применять их для решения своих задач.

Компания Microsoft, инвестор разработчика популярного ChatGPT, стала одной из первых, встроив чат-бота в свой поисковик Bing. Правда, не обошлось без странностей. После того, как пользователи начали замечать, как ИИ сообщает, что у ее есть чувства, раскрывать планы захватить мир, а также отзываться на кодовое имя Sydney (предыдущая версия чат-бота Bing, которую закрыли после того, как она начала угрожать пользователям и в целом вести себя деструктивно), этой языковой модели просто запретили отвечать на запросы, связанные с чувствами, а также реагировать на имя Sydney — при его упоминании она заканчивает диалог.

Функцию чат-бота с искусственным интеллектом встроили в свои сервисы такие компании как Snap — пользователям Snapchat он помогает с планами на выходные и поисками рецептов разных блюд, сервис доставки Instacart — там чат-бот может помочь выбрать нужные продукты взамен отсутствующих или подсказать, что нужно для определенного блюда, Salesforce добавил чат-бота в популярный мессенджер Slack, а в приложении для изучения иностранных языков Speak ИИ имитирует реального собеседника. Популярный сервис для изучения иностранных языков Duolingo также анонсировал новую функцию Duolingo Max на основе языковой модели GPT-4. Другие же компании, тоже заметив появление нового инструмента на рынке, предпочли проявить осторожность. Крупные международные банки, такие как JPMorgan Chase, Bank of America, Goldman Sachs и Deutsche Bank запретили своим сотрудникам пользоваться ChatGPT. Ограничение на использование чат-бота ввела для своих работников и компания Amazon, который отдельно призвал их не делиться с ботом конфиденциальной корпоративной информацией. В то же время, продавцы, выставляющие свои товары на маркетплейсе активно используют для составления описания своих товаров.

Такие модели, как ChatGPT от OpenAI и LaMDA от Google, могут выполнять множество языковых задач: перевод, генерация разных типов текста, поиск информации. Эти же модели можно преобразовать к другие генеративные инструменты. Например, Copilot от Microsoft обучается на репозиториях GitHub и умеет писать код. А DALL-E от OpenAI генерирует реалистичные изображения.

Как пишет издание Moneycontrol, ссылаясь на исследование платформы для поиска работы Resumebuilder, в половине из тех американских компаний, которые начали применять ChatGPT, уже заменили им своих сотрудников. По данным консалтинговой компании Gartner половина из опрошенных ими руководителей HR-отделов компаний прямо сейчас работают над составлением корпоративных правил по использованию чат-ботов на основе генеративного ИИ. Как пишет Bloomberg, сервисом ChatGPT начали пользоваться «ранние последователи» из числа программистов, консультантов и других профессионалов, которые пишут с его помощью коды, электронные письма и отчеты, часто не ставя об этом в известность руководство.

Массовая безработица и другие угрозы человечеству

Тем временем, об опасностях новых языковых моделей начали беспокоиться не только банки и сотрудники отделов кадров, но и техно-визионеры. В конце марта более 1000 человек, включая Илона Маска, Юваля Ноя Харари и Стива Возняка, призвали остановить обучение систем искусственного интеллекта более мощных, чем GPT-4. Пауза, по их мнению, нужна, чтобы создать, внедрить и апробировать общие протоколы безопасности. Иначе, предостерегают они, ИИ заменит людей. На момент публикации открытое письмо подписали почти 13 000 человек.

В письме среди прочего говорится: «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффекты будут положительными, а связанные с ними риски — управляемыми».

Один из рисков, связанных с широким внедрением сервисов на основе ИИ, о котором говорят довольно давно — всплеск безработицы. В 2020 году экономист из Массачусетского технологического института Дарон Аджемоглу посчитал, что каждый дополнительный робот на производстве заменяет в среднем около 3,3 рабочих мест в США. В опубликованном в марте 2023 года исследовании банка Goldman Sachs говорится, что если генеративный ИИ реализует свои потенциальные возможности, то он сможет автоматизировать 300 млн рабочих мест с полной занятостью во всем мире. Для этого исследователи изучили рабочие места в США и Европе и выяснили, что на этих территориях ИИ может заменить ⅔ рабочих мест, после чего экстраполировали данные на весь мир. Также по оценке Goldman Sachs, если ИИ окажет существенную помощь в работе, то мировой ВВП увеличится на 7%.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

10 физических упражнений, которые сделают тебя богом в постели 10 физических упражнений, которые сделают тебя богом в постели

Становая тяга, приседания и другие упражнения, которые улучшат интимную жизнь

Maxim
Одна вокруг света: инопланетное озеро Архентино и зубы дракона в Патагонии Одна вокруг света: инопланетное озеро Архентино и зубы дракона в Патагонии

214-я серия о кругосветном путешествии москвички Ирины Сидоренко: Патагония

Forbes
Максимально быстрый интернет на даче: как этого добиться Максимально быстрый интернет на даче: как этого добиться

Как сделать так, чтобы интернет на даче был максимально быстрым

CHIP
5 самых захватывающих фэнтези-детективов 5 самых захватывающих фэнтези-детективов

Существуют ли увлекательные истории на стыке фэнтези и детективов?

Maxim
Важен не только актёр, но и зритель: как подготовить презентацию стартапа перед инвесторами Важен не только актёр, но и зритель: как подготовить презентацию стартапа перед инвесторами

Уникальный подход презентации стартапа от бизнес-консультанта

VC.RU
Пересадка кишечной микробиоты оказалась эффективнее антибиотиков при лечении колита Пересадка кишечной микробиоты оказалась эффективнее антибиотиков при лечении колита

Пересадка кишечной микробиоты помогла при рецидивах клостридиальной инфекции

N+1
Пиявки семидесятой широты Пиявки семидесятой широты

Что заставляет арктических червей темнеть

Наука
Страшное сияние совершенного разума: почему мы боимся искусственного интеллекта и как преодолеть страх? Страшное сияние совершенного разума: почему мы боимся искусственного интеллекта и как преодолеть страх?

Откуда взялся страх перед искусственным интеллектом и насколько он опасен?

Правила жизни
Режиссер Савва Савельев — о свободе, памяти и Марлен Дитрих Режиссер Савва Савельев — о свободе, памяти и Марлен Дитрих

В мае на Кипре состоится премьера спектакля Саввы Савельева «Я — Марлен»

РБК
Несчастный брак: есть ли выход, кроме развода? 3 пути Несчастный брак: есть ли выход, кроме развода? 3 пути

Можно ли сохранить себя и стать счастливыми, оставаясь в несчастливом браке?

Psychologies
5 малоизвестных книг братьев Стругацких, которые стоит прочитать 5 малоизвестных книг братьев Стругацких, которые стоит прочитать

Советуем произведения братьев Стругацких, которые заслуживают внимания

Правила жизни
Смена формата: почему День Победы всегда зависел от текущей политической повестки Смена формата: почему День Победы всегда зависел от текущей политической повестки

Как на протяжении десятилетий менялся формат празднования Дня Победы

Forbes
Насколько опасна радиация для человека и как защитить себя, если вы выступили в контакт с радиоактивным веществом Насколько опасна радиация для человека и как защитить себя, если вы выступили в контакт с радиоактивным веществом

Что делать, если вы подверглись воздействию радиоактивных веществ?

ТехИнсайдер
«Продолжают завоевывать пространство»: как женщины меняют образ жизни и облик городов «Продолжают завоевывать пространство»: как женщины меняют образ жизни и облик городов

Почему без демократии невозможно сделать город удобным

Forbes
У принца Гарри диагностировали СДВГ. Что это за заболевание и как оно проявляется у взрослых? У принца Гарри диагностировали СДВГ. Что это за заболевание и как оно проявляется у взрослых?

В чем выражается СДВГ у взрослых людей? Как его выявить?

Psychologies
Land Cruiser сдался первым. Первый тест-драйв Tank 500 Land Cruiser сдался первым. Первый тест-драйв Tank 500

Китайцы впервые сделали топовый премиальный рамный внедорожник

РБК
Ока, храмы и калачи: что делать в Муроме — гайд по городу Ока, храмы и калачи: что делать в Муроме — гайд по городу

Советуем присмотреться к менее известным точкам на карте, например, Мурому

Psychologies
Норвежцы превратили яичную скорлупу в прототип костного трансплантата Норвежцы превратили яичную скорлупу в прототип костного трансплантата

Ученые разработали прототип костного трансплантата из аморфного фосфата кальция

N+1
Адаптация к потеплению: что не так с современной климатической повесткой Адаптация к потеплению: что не так с современной климатической повесткой

Предотвращение глобального потепления: «сначала маску на себя, потом на ребенка»

Forbes
Отношения на расстоянии: почему мы в них оказываемся и можно ли сделать их счастливыми Отношения на расстоянии: почему мы в них оказываемся и можно ли сделать их счастливыми

Как справляться с отношениями на расстоянии?

Psychologies
На австралийский берег выбрался голубой дракон — кто он? На австралийский берег выбрался голубой дракон — кто он?

Голубой дракон — необычное существо, живущее в океане

ТехИнсайдер
Привычка расставаться: 9 признаков избегающего типа привязанности Привычка расставаться: 9 признаков избегающего типа привязанности

Вы обладаете избегающим типом привязанности? Прочитайте про него

Psychologies
Тайный сын Гитлера? Как воевавший против нацистов француз пытался доказать, что он сын диктатора Тайный сын Гитлера? Как воевавший против нацистов француз пытался доказать, что он сын диктатора

Моральные убеждения некоторых людей не отменяют их желания узнать свои корни

ТехИнсайдер
Ярослав Святославский. Изменить судьбу, не изменяя себе Ярослав Святославский. Изменить судьбу, не изменяя себе

История-мотивация, которая учит не сдаваться даже в самые темные времена

Maxim
Незаменимый предмет в косметичке: 8 потрясающих лайфхаков с пилочкой для ногтей Незаменимый предмет в косметичке: 8 потрясающих лайфхаков с пилочкой для ногтей

Список гениальных лайфхаков, как пилочка для ногтей может пригодиться вам в быту

ТехИнсайдер
Рембрандт на вынос Рембрандт на вынос

«Портрет Якоба де Гейна III» — холст, которому принадлежит рекорд по похищениям

Дилетант
Мир уязвимых людей: сможет ли человечество договориться, чтобы выжить Мир уязвимых людей: сможет ли человечество договориться, чтобы выжить

Отрывок из книги Лидии Юкнавич «Потрясение»

Forbes
Евгений Плющенко: чемпионство с винтами в спине Евгений Плющенко: чемпионство с винтами в спине

История о риске всем ради спортивного успеха

Maxim
Весенняя подзарядка Весенняя подзарядка

Как уберечь ребенка от стресса и перегрузок в учебе?

Лиза
6 лучших книг про авангард 6 лучших книг про авангард

Что читать на тему авангарда?

Правила жизни
Открыть в приложении