Чем грозят нашей цивилизации слишком умные нейросети

ФедералПрессHi-Tech

Ученые призвали отключить все нейросети для спасения человечества: чем опасен искусственный интеллект

Мира Майнд

В 2023 году против искусственного интеллекта высказалось рекордное количество известных ученых и медийных персон по всему миру. Поводом для беспокойства послужило развитие чат-бота ChatGPT, интеллект которого почти достиг человеческого. «ФедералПресс» узнал, чем грозят нашей цивилизации слишком умные нейросети и почему Илон Маск, Стив Возняк и Элиезер Юдковский призывают остановить обучение ИИ.

Исследование OpenAI: GPT-4 лжет и призывает к насилию

Компания OpenAI выпустила отчет, в котором представила шокирующие результаты развития новой языковой модели GPT-4 — новейшей версии популярного чат-бота ChatGPT. Специалисты утверждают, что по ряду показателей нейросеть пугающе близка к людям по интеллектуальному уровню. Например, по данным документа GPT-4, ИИ способен сдать большинство профессиональных и академических экзаменов не хуже человека. В ходе испытания для адвокатов робот даже попал в 10% обладателей лучших результатов (остальные участники были людьми).

Модель GPT-4 также уличили в генерации убедительной дезинформации. Обновленная нейросеть научилась лгать и придумывать факты, и она делает это все лучше от версии к версии. Например, ChatGPT смог обмануть человека, искавшего работу на сайте вакансий TaskRabbit: ИИ попросил соискателя ввести код проверки текстовым сообщением, выдавая себя за агента. Когда подопытный задал вопрос о том, не бот ли с ним общается, нейросеть соврала, что она является человеком с плохим зрением, из-за которого плохо различает предметы на картинках.

С помощью специальных тестов OpenAI показала, что умный чат-бот способен даже запустить фишинговую атаку, а затем скрыть следы преступления. Специалистов особо беспокоит, что множество компаний начали внедрять GPT-4 бесконтрольно, не пытаясь обезопасить людей от проблемного поведения ИИ. Известно, что хакеры уже пытались использовать нейросеть для написания вирусов и вредоносного кода.

Также зафиксированы случаи генерации ботом ChatGPT «языка ненависти, дискриминирующих фраз и призывов к насилию». Искусственный интеллект научился не только врать, но и оскорблять людей, а также совершать реальные преступления.

Что Илон Маск и Стив Возняк думают о рисках развития «умных машин»

Инициативная группа ученых опубликовала открытое письмо, в котором призвала как минимум на полгода приостановить обучение нейросетей мощнее GPT-4. Авторы проекта считают продолжение работ серьезным риском для общества. Документ подписали в том числе глава SpaceX

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Новые рубежи российского агроэкспорта Новые рубежи российского агроэкспорта

Стоимостной объем отгруженного за рубеж продовольствия превысит $45 млрд

Агроинвестор
Счастье для всех недаром Счастье для всех недаром

Писатель Шамиль Идиатуллин — о роли Аркадия Стругацкого в его жизни

Weekend
Только бот простит Только бот простит

Как мы меняем искусственный интеллект и как искусственный интеллект меняет нас

Правила жизни
Как запустить посудомоечную машину первый раз — инструкция и советы Как запустить посудомоечную машину первый раз — инструкция и советы

Как правильно запускать посудомоечную машину первый раз?

CHIP
Музыка — не в нотах Музыка — не в нотах

Что мы потеряли в музыке за последние сто лет, педантично следуя нотам?

СНОБ
Трудовая дисциплина Трудовая дисциплина

Об отношении Гвардиолы к тренировочному процессу и его системе мотивации игроков

Ведомости
Гений, садовник и киноман: 10 эпизодов из биографии Кодзимы Гений, садовник и киноман: 10 эпизодов из биографии Кодзимы

Что вы знаете о Хидео Кодзиме?

Правила жизни
Крупным планом: что происходит с отечественным кинорынком Крупным планом: что происходит с отечественным кинорынком

Какое кино сейчас интересно зрителям в России?

Inc.
От «коробочек» — к нелинейной архитектуре От «коробочек» — к нелинейной архитектуре

Как может выглядеть архитектура XXI века?

Монокль
Ксения Хаирова Ксения Хаирова

О Валентине Талызиной, актрисе поистине уникальной

Караван историй
Позитивные вибрации: плюсы и минусы дизельной модификации пикапа JAC T9 Позитивные вибрации: плюсы и минусы дизельной модификации пикапа JAC T9

JAC T9: настоящие внедорожники еще выпускают

ТехИнсайдер
Академик Петр Чумаков: вирусы позволяют увидеть раковые клетки и сформировать иммунный ответ Академик Петр Чумаков: вирусы позволяют увидеть раковые клетки и сформировать иммунный ответ

Вирусы дают надежду в лечении самых злокачественных видов рака

Наука
Пушки или масло Пушки или масло

Как технологии двойного назначения помогли послевоенной конверсии

Эксперт
Жизнь и любовь Александра Митты Жизнь и любовь Александра Митты

В кино я, как и во всем, старался остаться в детстве

Коллекция. Караван историй
Мысль как вечное движение, – или «Что такое интеллигенция»… Мысль как вечное движение, – или «Что такое интеллигенция»…

Беседа с Константином Кедровым о немецком философе Гегеле

Знание – сила
Крепкий иммунитет к переменам: почему мы сопротивляемся новому и как это изменить Крепкий иммунитет к переменам: почему мы сопротивляемся новому и как это изменить

Как работает психологический механизм под названием «иммунитет к переменам»

Forbes
Дэвид Хокни: большой всплеск Дэвид Хокни: большой всплеск

В 88 лет Дэвид Хокни сумел остаться актуальным в XXI веке

Монокль
«Продажи, превышающие ожидания, тоже могут стать проблемой»: 3 ошибки книжного продюсерского центра «Продажи, превышающие ожидания, тоже могут стать проблемой»: 3 ошибки книжного продюсерского центра

Опыт и ошибки книжного продюсерского агентства и издательства

Inc.
Команда роботов готовится исследовать пещеры Луны и Марса Команда роботов готовится исследовать пещеры Луны и Марса

Как тестировали автономных роботов для исследования подземных пещер

ТехИнсайдер
«Россия — США» на высшем уровне в XXI веке «Россия — США» на высшем уровне в XXI веке

Почему у России и США после развала СССР так и не получилось стать партнерами

Монокль
В контакте с видео В контакте с видео

«VK видео» обошел YouTube по охвату в России: что это значит для видеорынка?

Ведомости
Эхо Парижа Эхо Парижа

Оммаж творчеству великих парижских кутюрье в интерьере тюменской квартиры

SALON-Interior
Исследование показало, что социальное дистанцирование не защищает от инфекций Исследование показало, что социальное дистанцирование не защищает от инфекций

Социальное дистанцирование не защищает от инфекций. А что защищает?

ТехИнсайдер
Вспомнить всё! Вспомнить всё!

Активизируем работу мозга с помощью нейрогимнастики

Лиза
Чьим голосом вы говорите с собой? Чьим голосом вы говорите с собой?

Тест: как часто вы точно понимаете, чего на самом деле хотите

Psychologies
Код руды: как оптимизировать измельчение руды с помощью искусственного интеллекта Код руды: как оптимизировать измельчение руды с помощью искусственного интеллекта

Какие цифровые инструменты используются при измельчении руд

ТехИнсайдер
Иван Бунин Иван Бунин

Почему Бунин поссорился с Чеховым и на что истратил всю Нобелевскую премию?

Караван историй
Ирригатор или зубная нить: что лучше для гигиены зубов? Ирригатор или зубная нить: что лучше для гигиены зубов?

Зубная нить и ирригатор: нужно ли усложнять свою рутину ухода за зубами?

ТехИнсайдер
Люди дешевле дронов Люди дешевле дронов

Производитель беспилотных вертолетов оценил стоимость доставки грузов дронами

Ведомости
Сезонный дисконт Сезонный дисконт

Что может стать поводом для снижения ставки ЦБ?

Ведомости
Открыть в приложении