Почему лидеры мнений призывают поставить развитие нейросетей на паузу?

ForbesРепортаж

«Человека заменит не ИИ, а другой человек»: как используют ChatGPT и кто этого боится

Кристина Крецу, Инна Титова

Иллюстрация Getty Images

За несколько месяцев с момента, когда ChatGPT ворвался в медийную повестку и обрел массовую популярность, некоторые компании уже начали его активно использовать. У других компаний возникла потребность сформулировать для сотрудников четкие руководства — что можно и чего нельзя делать с помощью чат-бота. Одновременно с этим лидеры мнений, среди которых Илон Маск и Стив Возняк, призывают поставить на паузу или даже вообще запретить разработки в области ИИ. Чего они боятся и могут ли правила и ограничения уберечь человечество от этой угрозы — в нашем материале.

Кто и как уже начал применять генеративный ИИ в работе

Пока школьники и студенты тестируют возможности генеративного искусственного интеллекта в области выполнения домашних заданий и дипломных работ, некоторые компании уже начали пытаться применять их для решения своих задач.

Компания Microsoft, инвестор разработчика популярного ChatGPT, стала одной из первых, встроив чат-бота в свой поисковик Bing. Правда, не обошлось без странностей. После того, как пользователи начали замечать, как ИИ сообщает, что у ее есть чувства, раскрывать планы захватить мир, а также отзываться на кодовое имя Sydney (предыдущая версия чат-бота Bing, которую закрыли после того, как она начала угрожать пользователям и в целом вести себя деструктивно), этой языковой модели просто запретили отвечать на запросы, связанные с чувствами, а также реагировать на имя Sydney — при его упоминании она заканчивает диалог.

Функцию чат-бота с искусственным интеллектом встроили в свои сервисы такие компании как Snap — пользователям Snapchat он помогает с планами на выходные и поисками рецептов разных блюд, сервис доставки Instacart — там чат-бот может помочь выбрать нужные продукты взамен отсутствующих или подсказать, что нужно для определенного блюда, Salesforce добавил чат-бота в популярный мессенджер Slack, а в приложении для изучения иностранных языков Speak ИИ имитирует реального собеседника. Популярный сервис для изучения иностранных языков Duolingo также анонсировал новую функцию Duolingo Max на основе языковой модели GPT-4. Другие же компании, тоже заметив появление нового инструмента на рынке, предпочли проявить осторожность. Крупные международные банки, такие как JPMorgan Chase, Bank of America, Goldman Sachs и Deutsche Bank запретили своим сотрудникам пользоваться ChatGPT. Ограничение на использование чат-бота ввела для своих работников и компания Amazon, который отдельно призвал их не делиться с ботом конфиденциальной корпоративной информацией. В то же время, продавцы, выставляющие свои товары на маркетплейсе активно используют для составления описания своих товаров.

Такие модели, как ChatGPT от OpenAI и LaMDA от Google, могут выполнять множество языковых задач: перевод, генерация разных типов текста, поиск информации. Эти же модели можно преобразовать к другие генеративные инструменты. Например, Copilot от Microsoft обучается на репозиториях GitHub и умеет писать код. А DALL-E от OpenAI генерирует реалистичные изображения.

Как пишет издание Moneycontrol, ссылаясь на исследование платформы для поиска работы Resumebuilder, в половине из тех американских компаний, которые начали применять ChatGPT, уже заменили им своих сотрудников. По данным консалтинговой компании Gartner половина из опрошенных ими руководителей HR-отделов компаний прямо сейчас работают над составлением корпоративных правил по использованию чат-ботов на основе генеративного ИИ. Как пишет Bloomberg, сервисом ChatGPT начали пользоваться «ранние последователи» из числа программистов, консультантов и других профессионалов, которые пишут с его помощью коды, электронные письма и отчеты, часто не ставя об этом в известность руководство.

Массовая безработица и другие угрозы человечеству

Тем временем, об опасностях новых языковых моделей начали беспокоиться не только банки и сотрудники отделов кадров, но и техно-визионеры. В конце марта более 1000 человек, включая Илона Маска, Юваля Ноя Харари и Стива Возняка, призвали остановить обучение систем искусственного интеллекта более мощных, чем GPT-4. Пауза, по их мнению, нужна, чтобы создать, внедрить и апробировать общие протоколы безопасности. Иначе, предостерегают они, ИИ заменит людей. На момент публикации открытое письмо подписали почти 13 000 человек.

В письме среди прочего говорится: «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффекты будут положительными, а связанные с ними риски — управляемыми».

Один из рисков, связанных с широким внедрением сервисов на основе ИИ, о котором говорят довольно давно — всплеск безработицы. В 2020 году экономист из Массачусетского технологического института Дарон Аджемоглу посчитал, что каждый дополнительный робот на производстве заменяет в среднем около 3,3 рабочих мест в США. В опубликованном в марте 2023 года исследовании банка Goldman Sachs говорится, что если генеративный ИИ реализует свои потенциальные возможности, то он сможет автоматизировать 300 млн рабочих мест с полной занятостью во всем мире. Для этого исследователи изучили рабочие места в США и Европе и выяснили, что на этих территориях ИИ может заменить ⅔ рабочих мест, после чего экстраполировали данные на весь мир. Также по оценке Goldman Sachs, если ИИ окажет существенную помощь в работе, то мировой ВВП увеличится на 7%.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Все про полис ОМС Все про полис ОМС

Что тебе положено по ОМС и как не упустить свою выгоду?

Лиза
Пластиковая филантропия: как финансист хочет привлечь в благотворительность миллиарды Пластиковая филантропия: как финансист хочет привлечь в благотворительность миллиарды

Политику мы проиграли, я не хочу, чтобы мы проиграли еще и народ

Forbes
Максимально быстрый интернет на даче: как этого добиться Максимально быстрый интернет на даче: как этого добиться

Как сделать так, чтобы интернет на даче был максимально быстрым

CHIP
«Арменкино» представляет: как работали и что снимали национальные киностудии в СССР «Арменкино» представляет: как работали и что снимали национальные киностудии в СССР

Как возникли киностудии СССР, как менялись и что с ними случилось в итоге

Forbes
Удачное начало Удачное начало

Как преобразить загородный дом после зимы?

Лиза
Неотразимые и жалкие: немного о сортах бабников Неотразимые и жалкие: немного о сортах бабников

Эти мужчины вызывают безудержный восторг или отвращение

VOICE
Семейные музы Семейные музы

Должна ли женщина вдохновлять мужчину?

VOICE
Вы будете удивлены: топ-10 слов, которым нет (или Вы будете удивлены: топ-10 слов, которым нет (или

Просторечия, которые портят нашу жизнь

ТехИнсайдер
«Это всего лишь одно из жизненных испытаний»: как справиться с тревогой перед экзаменами «Это всего лишь одно из жизненных испытаний»: как справиться с тревогой перед экзаменами

Что такое тестовая тревожность и как справиться с ней перед экзаменами?

ТехИнсайдер
Ставка на аутентичность: как развивается ресторанная индустрия в Казахстане Ставка на аутентичность: как развивается ресторанная индустрия в Казахстане

О том, как развиваются рестораны в Казахстане и о локальной кухне

Forbes
Агентки империи: как принцессы помогли народу хунну построить огромное государство в степях Азии Агентки империи: как принцессы помогли народу хунну построить огромное государство в степях Азии

Генетика раскрыла тайну народа, который почти не оставил следов в истории

Вокруг света
В чем проблема бодипозитива, или почему “много” жира — плохо В чем проблема бодипозитива, или почему “много” жира — плохо

Бодипозитив может стать еще одной крайностью отношений с внешностью

ТехИнсайдер
Циклическое переключение сценариев смерти вдвое продлило жизнь дрожжей Циклическое переключение сценариев смерти вдвое продлило жизнь дрожжей

Ученые смогли отрегулировать пути клеточного старений дрожжей

N+1
Смотримся в черное зеркало: как нейросети уже используются в моде и что будет дальше Смотримся в черное зеркало: как нейросети уже используются в моде и что будет дальше

Заменят ли нейросети дизайнеров, стилистов и фотографов?

Правила жизни
Что нужно знать о гримере Нике Дадмене, создавшем мастера Йоду, Мумию и гиппогрифов из «Гарри Поттера» Что нужно знать о гримере Нике Дадмене, создавшем мастера Йоду, Мумию и гиппогрифов из «Гарри Поттера»

История одного из лучших гримеров кинематографа Ника Дадмена

Правила жизни
Хотите перестать прокрастинировать? Нейробиолог из Стэнфорда советует принять холодный душ. Вот почему Хотите перестать прокрастинировать? Нейробиолог из Стэнфорда советует принять холодный душ. Вот почему

Зачем мы прокрастинируем, если это нелогично?

Inc.
ChatGPT пока знает бухгалтерский учет в два раза хуже, чем студенты ChatGPT пока знает бухгалтерский учет в два раза хуже, чем студенты

Как ChatGPT справится с экзаменами на бухгалтера?

ТехИнсайдер
До «Назад в будущее» и болезни Паркинсона: как выглядел Майкл Джей Фокс в лучшие годы До «Назад в будущее» и болезни Паркинсона: как выглядел Майкл Джей Фокс в лучшие годы

Какая роль принесла Майклу Джею Фоксу популярность?

VOICE
Дарья Беглова: «Хочется, чтобы в Переделкино оставался медлительный ритм» Дарья Беглова: «Хочется, чтобы в Переделкино оставался медлительный ритм»

Дом творчества Переделкино не только место силы, но и территория забвения

Psychologies
Частое кормление привело к перееданию у грудных детей Частое кормление привело к перееданию у грудных детей

Частое кормление грудного ребенка приводит к лишним килокалориям

N+1
Можно ли похудеть от газировки: малоизвестные побочные эффекты воды с пузырьками Можно ли похудеть от газировки: малоизвестные побочные эффекты воды с пузырьками

Все знают, что сладкие газированные напитки — зло. Что насчет простой газировки?

VOICE
Россиянка Виктория Насырова проведет 21 год в тюрьме США. Вас поразит ее преступление! Россиянка Виктория Насырова проведет 21 год в тюрьме США. Вас поразит ее преступление!

Покушение, международный розыск и ядовитые вещества

ТехИнсайдер
Александр Долгих. Роботы нас похоронят Александр Долгих. Роботы нас похоронят

Понимают ли машины с автопилотом последствия своих действий?

4x4 Club
Взгляд на космос: как Макензи Листруп стала главой крупнейшей космической лаборатории Взгляд на космос: как Макензи Листруп стала главой крупнейшей космической лаборатории

6 апреля новым директором Центра космических полетов стала Макензи Листруп

Forbes
Сделать красиво Сделать красиво

Марина Ермошкина знает, как сделать так, чтобы о тебе заговорила страна

OK!
Почти за те же деньги. Jeep Wrangler & УАЗ «Хантер» Почти за те же деньги. Jeep Wrangler & УАЗ «Хантер»

Американская классика vs не менее классическая отечественная продукция

4x4 Club
Расчлененка смысла Расчлененка смысла

«Алиса в Стране чудес» как утопия абсурда

Weekend
«От Ба»: как построить бизнес, помогая пенсионерам из деревни «От Ба»: как построить бизнес, помогая пенсионерам из деревни

Как работает проект по поддержке творческих пенсионеров «От Ба» Дарьи Ледневой

Forbes
Первое свидание: кто платит в ресторане — мнения мужчин и женщин Первое свидание: кто платит в ресторане — мнения мужчин и женщин

Момент, когда приносят счет в ресторане, несет в себе множество смыслов

Psychologies
Европейский след: как Минцифры обяжет Apple устанавливать на iPhone чужие приложения Европейский след: как Минцифры обяжет Apple устанавливать на iPhone чужие приложения

Apple разрешат устанавливать приложения из сторонних маркетплейсов

Forbes
Открыть в приложении