Почему лидеры мнений призывают поставить развитие нейросетей на паузу?

ForbesРепортаж

«Человека заменит не ИИ, а другой человек»: как используют ChatGPT и кто этого боится

Кристина Крецу, Инна Титова

Иллюстрация Getty Images

За несколько месяцев с момента, когда ChatGPT ворвался в медийную повестку и обрел массовую популярность, некоторые компании уже начали его активно использовать. У других компаний возникла потребность сформулировать для сотрудников четкие руководства — что можно и чего нельзя делать с помощью чат-бота. Одновременно с этим лидеры мнений, среди которых Илон Маск и Стив Возняк, призывают поставить на паузу или даже вообще запретить разработки в области ИИ. Чего они боятся и могут ли правила и ограничения уберечь человечество от этой угрозы — в нашем материале.

Кто и как уже начал применять генеративный ИИ в работе

Пока школьники и студенты тестируют возможности генеративного искусственного интеллекта в области выполнения домашних заданий и дипломных работ, некоторые компании уже начали пытаться применять их для решения своих задач.

Компания Microsoft, инвестор разработчика популярного ChatGPT, стала одной из первых, встроив чат-бота в свой поисковик Bing. Правда, не обошлось без странностей. После того, как пользователи начали замечать, как ИИ сообщает, что у ее есть чувства, раскрывать планы захватить мир, а также отзываться на кодовое имя Sydney (предыдущая версия чат-бота Bing, которую закрыли после того, как она начала угрожать пользователям и в целом вести себя деструктивно), этой языковой модели просто запретили отвечать на запросы, связанные с чувствами, а также реагировать на имя Sydney — при его упоминании она заканчивает диалог.

Функцию чат-бота с искусственным интеллектом встроили в свои сервисы такие компании как Snap — пользователям Snapchat он помогает с планами на выходные и поисками рецептов разных блюд, сервис доставки Instacart — там чат-бот может помочь выбрать нужные продукты взамен отсутствующих или подсказать, что нужно для определенного блюда, Salesforce добавил чат-бота в популярный мессенджер Slack, а в приложении для изучения иностранных языков Speak ИИ имитирует реального собеседника. Популярный сервис для изучения иностранных языков Duolingo также анонсировал новую функцию Duolingo Max на основе языковой модели GPT-4. Другие же компании, тоже заметив появление нового инструмента на рынке, предпочли проявить осторожность. Крупные международные банки, такие как JPMorgan Chase, Bank of America, Goldman Sachs и Deutsche Bank запретили своим сотрудникам пользоваться ChatGPT. Ограничение на использование чат-бота ввела для своих работников и компания Amazon, который отдельно призвал их не делиться с ботом конфиденциальной корпоративной информацией. В то же время, продавцы, выставляющие свои товары на маркетплейсе активно используют для составления описания своих товаров.

Такие модели, как ChatGPT от OpenAI и LaMDA от Google, могут выполнять множество языковых задач: перевод, генерация разных типов текста, поиск информации. Эти же модели можно преобразовать к другие генеративные инструменты. Например, Copilot от Microsoft обучается на репозиториях GitHub и умеет писать код. А DALL-E от OpenAI генерирует реалистичные изображения.

Как пишет издание Moneycontrol, ссылаясь на исследование платформы для поиска работы Resumebuilder, в половине из тех американских компаний, которые начали применять ChatGPT, уже заменили им своих сотрудников. По данным консалтинговой компании Gartner половина из опрошенных ими руководителей HR-отделов компаний прямо сейчас работают над составлением корпоративных правил по использованию чат-ботов на основе генеративного ИИ. Как пишет Bloomberg, сервисом ChatGPT начали пользоваться «ранние последователи» из числа программистов, консультантов и других профессионалов, которые пишут с его помощью коды, электронные письма и отчеты, часто не ставя об этом в известность руководство.

Массовая безработица и другие угрозы человечеству

Тем временем, об опасностях новых языковых моделей начали беспокоиться не только банки и сотрудники отделов кадров, но и техно-визионеры. В конце марта более 1000 человек, включая Илона Маска, Юваля Ноя Харари и Стива Возняка, призвали остановить обучение систем искусственного интеллекта более мощных, чем GPT-4. Пауза, по их мнению, нужна, чтобы создать, внедрить и апробировать общие протоколы безопасности. Иначе, предостерегают они, ИИ заменит людей. На момент публикации открытое письмо подписали почти 13 000 человек.

В письме среди прочего говорится: «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффекты будут положительными, а связанные с ними риски — управляемыми».

Один из рисков, связанных с широким внедрением сервисов на основе ИИ, о котором говорят довольно давно — всплеск безработицы. В 2020 году экономист из Массачусетского технологического института Дарон Аджемоглу посчитал, что каждый дополнительный робот на производстве заменяет в среднем около 3,3 рабочих мест в США. В опубликованном в марте 2023 года исследовании банка Goldman Sachs говорится, что если генеративный ИИ реализует свои потенциальные возможности, то он сможет автоматизировать 300 млн рабочих мест с полной занятостью во всем мире. Для этого исследователи изучили рабочие места в США и Европе и выяснили, что на этих территориях ИИ может заменить ⅔ рабочих мест, после чего экстраполировали данные на весь мир. Также по оценке Goldman Sachs, если ИИ окажет существенную помощь в работе, то мировой ВВП увеличится на 7%.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Диета Усама Хамдий на неделю и на месяц Диета Усама Хамдий на неделю и на месяц

Диета для больных сахарным диабетом

Cosmopolitan
В Японии обнаружили древнюю ритуальную маску периода Яёй. Вот для чего ее использовали В Японии обнаружили древнюю ритуальную маску периода Яёй. Вот для чего ее использовали

Маска восходит к временам, когда японское общество примыкало сельскому хозяйству

ТехИнсайдер
Максимально быстрый интернет на даче: как этого добиться Максимально быстрый интернет на даче: как этого добиться

Как сделать так, чтобы интернет на даче был максимально быстрым

CHIP
На тканях эпохи викингов обнаружили кармин и кермес На тканях эпохи викингов обнаружили кармин и кермес

Викинги использовали очень редкие пигменты для Северной Европы того времени

N+1
Роборука с камерами в пальцах научилась распознавать предметы наощупь Роборука с камерами в пальцах научилась распознавать предметы наощупь

Манипулятор научили определять предметы на ощупь

N+1
«Экстренно переехал в другую страну, а языка не знаю»: что делать, объясняет психолог «Экстренно переехал в другую страну, а языка не знаю»: что делать, объясняет психолог

Как пережить смену локации с минимальными потерями и влиться в новую культуру

Psychologies
Как отправить папку по электронной почте: несколько удобных способов Как отправить папку по электронной почте: несколько удобных способов

Как отправить по почте целую папку с файлами? Для этого есть несколько способов

CHIP
Сергей Лазарев: «Надо любить себя больше» Сергей Лазарев: «Надо любить себя больше»

Сергей Лазарев – о недостатках, неудачах, демонах, и о том, чем заедает стресс

VOICE
7 приемов биохакеров: как продлить жизнь с помощью правильных привычек 7 приемов биохакеров: как продлить жизнь с помощью правильных привычек

Что из себя представляет биохакинг?

Правила жизни
Человек труба. Как Юрий Левитан стал главным «голосом» Советского Союза Человек труба. Как Юрий Левитан стал главным «голосом» Советского Союза

О знаменитом советском дикторе, «голосе войны» Юрии Борисовиче Левитане

СНОБ
«Не вор, а шоплифтер»: почему люди крадут вещи в магазинах и не стыдятся этого «Не вор, а шоплифтер»: почему люди крадут вещи в магазинах и не стыдятся этого

У шоплифтеров, как правило, есть своя философия. В чем она заключается?

Psychologies
Отметить свадьбу так, чтобы удивить всех Отметить свадьбу так, чтобы удивить всех

Последние годы всё больше молодожёнов выбирают нетрадиционные свадьбы

Здоровье
Дом барса Дом барса

На высоте более 2000 метров располагается национальный парк «Сайлюгемский»

Вокруг света
Право на риск: с чем сталкиваются стартапы в российских судах Право на риск: с чем сталкиваются стартапы в российских судах

Риск является одним из признаков предпринимательской деятельности

Forbes
Как защитить пожилых родственников от мошенников Как защитить пожилых родственников от мошенников

Как защитить наших бабушек и дедушек от классических разводов псевдоследователей

CHIP
«Потребителю нужно больше, чем просто товар или услуга». Марина Геворкян и Анна Погосян — о вдохновении и преодолении в бизнесе «Потребителю нужно больше, чем просто товар или услуга». Марина Геворкян и Анна Погосян — о вдохновении и преодолении в бизнесе

Теперь в центре внимания не «герой нашего времени», а героиня

СНОБ
Универсальный бизнес-язык: зачем заниматься ESG в новых реалиях Универсальный бизнес-язык: зачем заниматься ESG в новых реалиях

Почему российский бизнес пересматривает свои позиции по ESG-повестке

Inc.
Выйти из тени Выйти из тени

Когда любимое хобби приносит деньги: как избежать проблем с законом

Лиза
Рома Декабрев: «Гнездо синицы». Часть одной игры Рома Декабрев: «Гнездо синицы». Часть одной игры

Отрывок из романа-иллюзии «Гнездо синицы»

СНОБ
Как живут обладатели дополнительных пальцев: все, что вы не знали о полидактилии Как живут обладатели дополнительных пальцев: все, что вы не знали о полидактилии

Люди с полидактилией — кто это и в чем заключаются особенности их заболевания?

ТехИнсайдер
Охота за политическими Охота за политическими

Все общества, которые создавались в Николаевскую эпоху, касались политики

Дилетант
Если верна теория, которой уже два века, после 2073 года некоторые люди доживут до 140 лет Если верна теория, которой уже два века, после 2073 года некоторые люди доживут до 140 лет

Сколько лет люди будут жить в будущем?

ТехИнсайдер
Детские воспоминания: чему они могут научить? Детские воспоминания: чему они могут научить?

Как воспоминания детства могут пригодиться во взрослой жизни?

Psychologies
Домашняя магия: ритуалы, которые сделают тебя счастливее Домашняя магия: ритуалы, которые сделают тебя счастливее

Но что делать, если счастье в твоей жизни недостижимо?

VOICE
Человек с железными легкими: как живет Пол Александер, который уже более 68 лет не покидает железную капсулу Человек с железными легкими: как живет Пол Александер, который уже более 68 лет не покидает железную капсулу

Врачи пророчили ему скорую смерть, но, вопреки всему, он жив!

ТехИнсайдер
Прожил с женой 40 лет и ушел к 20-летней: личные драмы Станислава Любшина Прожил с женой 40 лет и ушел к 20-летней: личные драмы Станислава Любшина

Как складывалась личная жизнь Станислава Любшина и как он нашел свое счастье

VOICE
Витамин D: почему он так важен и как не пропустить его дефицит — советы нутрициолога Витамин D: почему он так важен и как не пропустить его дефицит — советы нутрициолога

Все, что вам необходимо знать о витамине D

Psychologies
Очаровательные крохи с красивым голосом: 4 занимательных факта о пеночках Очаровательные крохи с красивым голосом: 4 занимательных факта о пеночках

Эти небольшие птички из обширного рода радуют нас своими песнями на природе

Вокруг света
Советы от 100-летнего доктора, чтобы оставаться счастливым. Стоит узнать! Советы от 100-летнего доктора, чтобы оставаться счастливым. Стоит узнать!

Что нужно для счастливой и здоровой жизни?

ТехИнсайдер
В ПДД и билеты для водителей внесли важные изменения. Что нужно знать В ПДД и билеты для водителей внесли важные изменения. Что нужно знать

В ПДД заработали изменения, о которых пока знают не все водители4

РБК
Открыть в приложении