Почему лидеры мнений призывают поставить развитие нейросетей на паузу?

ForbesРепортаж

«Человека заменит не ИИ, а другой человек»: как используют ChatGPT и кто этого боится

Кристина Крецу, Инна Титова

Иллюстрация Getty Images

За несколько месяцев с момента, когда ChatGPT ворвался в медийную повестку и обрел массовую популярность, некоторые компании уже начали его активно использовать. У других компаний возникла потребность сформулировать для сотрудников четкие руководства — что можно и чего нельзя делать с помощью чат-бота. Одновременно с этим лидеры мнений, среди которых Илон Маск и Стив Возняк, призывают поставить на паузу или даже вообще запретить разработки в области ИИ. Чего они боятся и могут ли правила и ограничения уберечь человечество от этой угрозы — в нашем материале.

Кто и как уже начал применять генеративный ИИ в работе

Пока школьники и студенты тестируют возможности генеративного искусственного интеллекта в области выполнения домашних заданий и дипломных работ, некоторые компании уже начали пытаться применять их для решения своих задач.

Компания Microsoft, инвестор разработчика популярного ChatGPT, стала одной из первых, встроив чат-бота в свой поисковик Bing. Правда, не обошлось без странностей. После того, как пользователи начали замечать, как ИИ сообщает, что у ее есть чувства, раскрывать планы захватить мир, а также отзываться на кодовое имя Sydney (предыдущая версия чат-бота Bing, которую закрыли после того, как она начала угрожать пользователям и в целом вести себя деструктивно), этой языковой модели просто запретили отвечать на запросы, связанные с чувствами, а также реагировать на имя Sydney — при его упоминании она заканчивает диалог.

Функцию чат-бота с искусственным интеллектом встроили в свои сервисы такие компании как Snap — пользователям Snapchat он помогает с планами на выходные и поисками рецептов разных блюд, сервис доставки Instacart — там чат-бот может помочь выбрать нужные продукты взамен отсутствующих или подсказать, что нужно для определенного блюда, Salesforce добавил чат-бота в популярный мессенджер Slack, а в приложении для изучения иностранных языков Speak ИИ имитирует реального собеседника. Популярный сервис для изучения иностранных языков Duolingo также анонсировал новую функцию Duolingo Max на основе языковой модели GPT-4. Другие же компании, тоже заметив появление нового инструмента на рынке, предпочли проявить осторожность. Крупные международные банки, такие как JPMorgan Chase, Bank of America, Goldman Sachs и Deutsche Bank запретили своим сотрудникам пользоваться ChatGPT. Ограничение на использование чат-бота ввела для своих работников и компания Amazon, который отдельно призвал их не делиться с ботом конфиденциальной корпоративной информацией. В то же время, продавцы, выставляющие свои товары на маркетплейсе активно используют для составления описания своих товаров.

Такие модели, как ChatGPT от OpenAI и LaMDA от Google, могут выполнять множество языковых задач: перевод, генерация разных типов текста, поиск информации. Эти же модели можно преобразовать к другие генеративные инструменты. Например, Copilot от Microsoft обучается на репозиториях GitHub и умеет писать код. А DALL-E от OpenAI генерирует реалистичные изображения.

Как пишет издание Moneycontrol, ссылаясь на исследование платформы для поиска работы Resumebuilder, в половине из тех американских компаний, которые начали применять ChatGPT, уже заменили им своих сотрудников. По данным консалтинговой компании Gartner половина из опрошенных ими руководителей HR-отделов компаний прямо сейчас работают над составлением корпоративных правил по использованию чат-ботов на основе генеративного ИИ. Как пишет Bloomberg, сервисом ChatGPT начали пользоваться «ранние последователи» из числа программистов, консультантов и других профессионалов, которые пишут с его помощью коды, электронные письма и отчеты, часто не ставя об этом в известность руководство.

Массовая безработица и другие угрозы человечеству

Тем временем, об опасностях новых языковых моделей начали беспокоиться не только банки и сотрудники отделов кадров, но и техно-визионеры. В конце марта более 1000 человек, включая Илона Маска, Юваля Ноя Харари и Стива Возняка, призвали остановить обучение систем искусственного интеллекта более мощных, чем GPT-4. Пауза, по их мнению, нужна, чтобы создать, внедрить и апробировать общие протоколы безопасности. Иначе, предостерегают они, ИИ заменит людей. На момент публикации открытое письмо подписали почти 13 000 человек.

В письме среди прочего говорится: «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффекты будут положительными, а связанные с ними риски — управляемыми».

Один из рисков, связанных с широким внедрением сервисов на основе ИИ, о котором говорят довольно давно — всплеск безработицы. В 2020 году экономист из Массачусетского технологического института Дарон Аджемоглу посчитал, что каждый дополнительный робот на производстве заменяет в среднем около 3,3 рабочих мест в США. В опубликованном в марте 2023 года исследовании банка Goldman Sachs говорится, что если генеративный ИИ реализует свои потенциальные возможности, то он сможет автоматизировать 300 млн рабочих мест с полной занятостью во всем мире. Для этого исследователи изучили рабочие места в США и Европе и выяснили, что на этих территориях ИИ может заменить ⅔ рабочих мест, после чего экстраполировали данные на весь мир. Также по оценке Goldman Sachs, если ИИ окажет существенную помощь в работе, то мировой ВВП увеличится на 7%.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Все мы уникальны и важны»: как осознать безусловную ценность — мнение психолога «Все мы уникальны и важны»: как осознать безусловную ценность — мнение психолога

Почему мы сомневаемся в собственной ценности и что с этим делать

Psychologies
Физический труд и духовный отдых: 4 российских обители, которые принимают паломников Физический труд и духовный отдых: 4 российских обители, которые принимают паломников

Рассказываем, в каких монастырях можно с пользой провести несколько дней

Вокруг света
Максимально быстрый интернет на даче: как этого добиться Максимально быстрый интернет на даче: как этого добиться

Как сделать так, чтобы интернет на даче был максимально быстрым

CHIP
Шесть причин посмотреть мини-сериал «Михаил Горшенёв. Легенда о Короле и Шуте» Шесть причин посмотреть мини-сериал «Михаил Горшенёв. Легенда о Короле и Шуте»

Документальное кино, которое поможет понять, кто такой Михаил Горшенев

Maxim
Столица закатов: гид по Нижнему Новгороду Столица закатов: гид по Нижнему Новгороду

Гид по лучшим пешим маршрутам, барам, ресторанам Нижнего Новгорода

Forbes
Всему не свое время Всему не свое время

Как Владимир Казаков реанимировал обэриутский абсурд в эпоху застоя

Weekend
15 лучших сериалов с черным юмором 15 лучших сериалов с черным юмором

В этих сериалах есть все, что мы любим: циничные шутки и кощунственные сюжеты

Maxim
Глаза-перископы и рот с 8 зубами: знакомьтесь, монстр Талли, для которого нет места в классификации животных Глаза-перископы и рот с 8 зубами: знакомьтесь, монстр Талли, для которого нет места в классификации животных

Точку в изучении монстров Талли ставить пока рано

Вокруг света
«Я почувствовала, что теперь это мой ребенок»: как стать хорошей мачехой «Я почувствовала, что теперь это мой ребенок»: как стать хорошей мачехой

Отрывок из книги «Моя Лола. Записки мать-и-мачехи»

Psychologies
Как распознать токсичного начальника: 5 признаков — и как его обезвредить Как распознать токсичного начальника: 5 признаков — и как его обезвредить

Как понять, что вы работаете с токсичным начальником?

Psychologies
«Я могу проспать 14 часов и все равно чувствовать усталость»: что такое гиперсомния — рассказ от первого лица «Я могу проспать 14 часов и все равно чувствовать усталость»: что такое гиперсомния — рассказ от первого лица

Каково жить, когда почти все время хочется спать?

Psychologies
«Носы у нас обеих крупные, но непохожие»: Мариэтта Цигаль-Полищук о роли Раневской «Носы у нас обеих крупные, но непохожие»: Мариэтта Цигаль-Полищук о роли Раневской

Актриса Мариэтта Цигаль-Полищук — о творческом пути и влиянии матери на карьеру

Forbes
«Искусство этого века»: как Пегги Гуггенхайм придумала музей живых сущностей «Искусство этого века»: как Пегги Гуггенхайм придумала музей живых сущностей

Отрывок из книги «Музей вне себя. Путешествие из Лувра в Лас-Вегас»

Forbes
Голос Нагиева Голос Нагиева

Дмитрий Нагиев — о том, что волнует каждого мужчину

Men Today
5 знаковых коллабораций композиторов и художников 5 знаковых коллабораций композиторов и художников

Выдающиеся примеры союза искусств за последние полстолетия

Правила жизни
Сапиосексуалы: влюбленные в интеллект Сапиосексуалы: влюбленные в интеллект

Может ли ум быть афродизиаком?

Psychologies
Миллионы за марафоны: кто такая Елена Блиновская - чем известна и в чем провинилась Миллионы за марафоны: кто такая Елена Блиновская - чем известна и в чем провинилась

Главные факты о "королеве марафонов" и самой известной инфоцыганке рунета

VOICE
Горячие точки. Эти места считаются самыми жаркими в мире Горячие точки. Эти места считаются самыми жаркими в мире

Жарче, чем в этих пяти местах, не бывает нигде!

ТехИнсайдер
Кто написал «Роман с кокаином» Кто написал «Роман с кокаином»

Чем интересна повесть «Роман с кокаином» и кто на самом деле ее написал

СНОБ
Насколько вы созависимый? Чек-лист от нейропсихолога Насколько вы созависимый? Чек-лист от нейропсихолога

Почему отношения становятся созависимыми?

Psychologies
Тайна острова Фланнан: что случилось с тремя смотрителями маяка 123 года назад? Тайна острова Фланнан: что случилось с тремя смотрителями маяка 123 года назад?

Трое мужчин вышли темной ночью в 1900 году, и их больше никогда не видели

ТехИнсайдер
«Я дочь четырех родителей»: откровенная история читательницы и комментарий психолога «Я дочь четырех родителей»: откровенная история читательницы и комментарий психолога

История, в которой родителям, их новым партнерам и детям удалось стать семьей

Psychologies
Исследование нигилизма: новый роман Мисимы о недоверии к современности Исследование нигилизма: новый роман Мисимы о недоверии к современности

Отрывок из романа «Дом Кёко» японского писателя Юкио Мисимы

Forbes
Одна вокруг света: спящие вулканы и звонкая вода Одна вокруг света: спящие вулканы и звонкая вода

212-я серия о кругосветном путешествии москвички Ирины Сидоренко и ее собаки

Forbes
В нашем доме поселился «замечательный» сосед В нашем доме поселился «замечательный» сосед

Истории людей, которым мешают жить соседи

Лиза
Снотворное понизило содержание тау-белка и бета-амилоида в ликворе здоровых людей Снотворное понизило содержание тау-белка и бета-амилоида в ликворе здоровых людей

Прием снотворного может снижать уровень ключевых белков болезни Альцгеймера

N+1
«Коммунизм умер»: как советская игра «Тетрис» стала всемирным хитом «Коммунизм умер»: как советская игра «Тетрис» стала всемирным хитом

«Тетрис» — отличное зрительское кино, к которому не нужно относиться серьезно

Forbes
По правилам инстинкта: 7 стойких бойцов из мира животных По правилам инстинкта: 7 стойких бойцов из мира животных

Агрессия — обычное явление в животном царстве. И она не возникает просто так

Вокруг света
Федор Емельяненко: брат за брата Федор Емельяненко: брат за брата

История-боль про одного из главных бойцов России

Maxim
Как появилась мода на сейфы — имитации книг Как появилась мода на сейфы — имитации книг

Отрывок из книги «Книга как иллюзия» — о том, почему люди стали ценить книги

СНОБ
Открыть в приложении