Можно ли сегодня защитить себя от компьютерных ошибок?

ТехИнсайдерHi-Tech

Компьютеры всегда совершали ошибки, ИИ делает ситуацию критически опасной, но закон на стороне машин

Владимир Губайловский

Почтовое отделение UK Post Office

Более 20 лет назад консориум Fujitsu поставил главному почтовому ведовству Великобритании UK Post Office систему автоматизации рабочих мест почтовых работников по всей стране. Только через много лет стало известно, что система постоянно ошибалась, и многие почтовые работники были оштрафованы, заключены в тюрьму, а несколько человек покончили с собой. Почему это происходило так долго? И можно ли сегодня защитить себя от компьютерных ошибок?

Эта трагическая история связана с «презумпцией безошибочности компьютеров». Но компьютеры могут ошибаться, а в системах ИИ некоторый процент ошибок заложен изначально. И пока непонятно как защитить человека от «железного» обвинителя.

Более 20 лет назад японский технологический консориум Fujitsu создал ИТ-систему бухгалтерского учета для Почты Великобритании (UK Post Office). Система получила название Horizon. Рабочие места этой системы были установлены по всей стране. Часто это были небольшие почтовые отделения, которые собирали и доставляли письма и посылки. 20 лет назад это был крупнейший гражданский ИТ-проект в Европе.

Система Horizon была далеко небезупречной. Она делала ошибки. Но руководители Почты Великобритании верили ей, а не людям.

Многих работников почтовых отделений обвинили в краже или фальсификации отчетности. От них требовали возместить убытки и угрожали судом. В период с 2000 по 2014 год более 700 человек были привлечены к ответственности, и в среднем 30 человек каждый год в период с 2000 по 2014 заключали под стражу. Люди теряли недвижимость, накопления, репутацию. Некоторые из безвинно пострадавших покончили жизнь самоубийством.

Многие подробности этой трагедии до сих пор неизвестны. Но самым вопиющим стало заявление Fujitsu, что компания знала об ошибках в системе примерно в то время, когда поставила Horizon Почте Великобритании в 1999 году.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Слышали, что вампиры появились в Румынии? Вот как могло возникнуть это предубеждение Слышали, что вампиры появились в Румынии? Вот как могло возникнуть это предубеждение

Мифы о вампирах могут иметь реальную медицинскую основу

ТехИнсайдер
«Что происходит потом»: каким получился первый ромком, где Мег Райан стала режиссером «Что происходит потом»: каким получился первый ромком, где Мег Райан стала режиссером

«Что происходит потом» — романтическая комедия о двух бывших возлюбленных

Forbes
Чем больше контента вы смотрите, тем хуже для психического здоровья Чем больше контента вы смотрите, тем хуже для психического здоровья

Чем больше времени вы проводите в сети, тем хуже становится психическое здоровье

ТехИнсайдер
Хореограф Денис Тагинцев: Танец дарит радость и заряд эйфории Хореограф Денис Тагинцев: Танец дарит радость и заряд эйфории

Интервью с Денисом Тагинцевым: как успешно совмещать задачи продюсера и артиста

СНОБ
Два месяца под землей без света и общения с людьми: эксперимент Мишеля Сифра Два месяца под землей без света и общения с людьми: эксперимент Мишеля Сифра

Как проходил эксперимент Мишеля Сифра и к каким он пришел выводам

ТехИнсайдер
Никита Благово Никита Благово

Директор музея истории школы Карла Мая был принят в экс-гимназию в 1945-м

Собака.ru
ТОП-7 лучших хэтчбеков: характеристики и фото ТОП-7 лучших хэтчбеков: характеристики и фото

Lada Granta, JAC JS3, Livan X3 Pro и Москвич 6 попали в список лучших хэтчбеков

РБК
Нас больше не сломаешь! Нас больше не сломаешь!

Остеопороз: проверь, находишься ли ты в группе риска

Лиза
Археологи изготовили каменные топоры и порубили ими деревья Археологи изготовили каменные топоры и порубили ими деревья

Эксперименты помогут разобраться с функциями древних артефактов

N+1
Не добивайте жертву: 5 запретных фраз Не добивайте жертву: 5 запретных фраз

Никогда не произносите эти фразы людям, которые столкнулись с насилием

Psychologies
Внимание к деталям Внимание к деталям

Архитекторы Елена Куртина и Жанна Тульнова создали интерьер в стиле неоклассики

SALON-Interior
10 лучших триллеров последних лет, которые стоит посмотреть 10 лучших триллеров последних лет, которые стоит посмотреть

Триллеры с харизматичными героями, которым хочется сопереживать

Правила жизни
Чем женский сценарий секса отличается от мужского Чем женский сценарий секса отличается от мужского

Девушки устроены сложнее, но порой мужчины даже не представляют насколько

Maxim
Живой подход: как биотехнологии меняют современную косметологию Живой подход: как биотехнологии меняют современную косметологию

Как инновации меняют правила игры в современной косметологии?

Forbes
Интересный факт! Ученые не стали скрывать вещество, которое сохранит чувство любви Интересный факт! Ученые не стали скрывать вещество, которое сохранит чувство любви

Что происходит в мозгу, когда мы видим кого-то, кого любим?

ТехИнсайдер
«Время максимального научного драйва». Океанолог Александр Осадчиев — о работе в Арктике «Время максимального научного драйва». Океанолог Александр Осадчиев — о работе в Арктике

Океанолог Александр Осадчиев — об устройстве научно-исследовательского судна

СНОБ
Как не спать всю ночь, если очень надо, а кофе уже не лезет Как не спать всю ночь, если очень надо, а кофе уже не лезет

Можно ли договориться с организмом и выпросить у него всего одну бессонную ночь

ТехИнсайдер
Комиссия Аграната Комиссия Аграната

В ноябре 1973 года пришло время понять, как нападение оказалось столь внезапным

Дилетант
Как расстаться с тем, кого больше не любишь: 13 шагов Как расстаться с тем, кого больше не любишь: 13 шагов

О чем стоит спросить себя и что сказать другому, если чувства угасли

Psychologies
Почему ваша собака все грызет и нужно ли ей это запрещать: мнение кинологов Почему ваша собака все грызет и нужно ли ей это запрещать: мнение кинологов

Скука и гигиена: для чего собаки грызут вещи?

Psychologies
Модный аксессуар: для чего мужчины высшего общества носили широкие воротники Модный аксессуар: для чего мужчины высшего общества носили широкие воротники

Почему европейцы носили широкие воротники на ежедневной основе?

ТехИнсайдер
Ошибочные машинные переводы забивают интернет словесным мусором Ошибочные машинные переводы забивают интернет словесным мусором

Как машинные переводы влияют на Интернет и пользователей?

ТехИнсайдер
Металлический привкус во рту: что вызывает это странное ощущение Металлический привкус во рту: что вызывает это странное ощущение

Чувствуете на языке вкус металла? Вот почему он может возникать

ТехИнсайдер
Как тепло циркулирует в подледном океане Европы Как тепло циркулирует в подледном океане Европы

Ученые построили модель разогрева океана спутника Юпитера Европы

ТехИнсайдер
Кристально чисто: 7 водоемов с самой прозрачной водой в мире Кристально чисто: 7 водоемов с самой прозрачной водой в мире

Даже на глубине в несколько десятков метров можно четко увидеть донья этих озер

ТехИнсайдер
«Мастер и Маргарита»: русская классика с иностранными консультантами «Мастер и Маргарита»: русская классика с иностранными консультантами

Новая экранизация «Мастера и Маргариты»: едва ли Булгаков, но захватывающе

Правила жизни
10 фильмов, которые должен посмотреть каждый, кто увлекается психологией 10 фильмов, которые должен посмотреть каждый, кто увлекается психологией

10 кинокартин, которые важны для любителей психологии

Psychologies
Переосмысление ИИ: ученые выявили экономические ограничения автоматизации рабочих мест Переосмысление ИИ: ученые выявили экономические ограничения автоматизации рабочих мест

Неужели ИИ отнимет наши рабочие места? Обоснована ли эта тревога?

ТехИнсайдер
Стреляет в ухе Стреляет в ухе

Что делать, если болит ухо, и как помочь в домашних условиях

Лиза
Хоккеисты-хулиганы, удар богомола и пас кролика Джордану: лучшие мультфильмы о спорте Хоккеисты-хулиганы, удар богомола и пас кролика Джордану: лучшие мультфильмы о спорте

Forbes Sport представляет самые яркие анимационные фильмы о спорте

Forbes
Открыть в приложении