Можно ли сегодня защитить себя от компьютерных ошибок?

ТехИнсайдерHi-Tech

Компьютеры всегда совершали ошибки, ИИ делает ситуацию критически опасной, но закон на стороне машин

Владимир Губайловский

Почтовое отделение UK Post Office

Более 20 лет назад консориум Fujitsu поставил главному почтовому ведовству Великобритании UK Post Office систему автоматизации рабочих мест почтовых работников по всей стране. Только через много лет стало известно, что система постоянно ошибалась, и многие почтовые работники были оштрафованы, заключены в тюрьму, а несколько человек покончили с собой. Почему это происходило так долго? И можно ли сегодня защитить себя от компьютерных ошибок?

Эта трагическая история связана с «презумпцией безошибочности компьютеров». Но компьютеры могут ошибаться, а в системах ИИ некоторый процент ошибок заложен изначально. И пока непонятно как защитить человека от «железного» обвинителя.

Более 20 лет назад японский технологический консориум Fujitsu создал ИТ-систему бухгалтерского учета для Почты Великобритании (UK Post Office). Система получила название Horizon. Рабочие места этой системы были установлены по всей стране. Часто это были небольшие почтовые отделения, которые собирали и доставляли письма и посылки. 20 лет назад это был крупнейший гражданский ИТ-проект в Европе.

Система Horizon была далеко небезупречной. Она делала ошибки. Но руководители Почты Великобритании верили ей, а не людям.

Многих работников почтовых отделений обвинили в краже или фальсификации отчетности. От них требовали возместить убытки и угрожали судом. В период с 2000 по 2014 год более 700 человек были привлечены к ответственности, и в среднем 30 человек каждый год в период с 2000 по 2014 заключали под стражу. Люди теряли недвижимость, накопления, репутацию. Некоторые из безвинно пострадавших покончили жизнь самоубийством.

Многие подробности этой трагедии до сих пор неизвестны. Но самым вопиющим стало заявление Fujitsu, что компания знала об ошибках в системе примерно в то время, когда поставила Horizon Почте Великобритании в 1999 году.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

8 советов стоматологов, как быстро и просто улучшить состояние зубов 8 советов стоматологов, как быстро и просто улучшить состояние зубов

Как поддерживать красоту и здоровье зубов

ТехИнсайдер
Успеть за 15 минут: какие места на кухне достаточно убрать, чтобы она выглядела чистой Успеть за 15 минут: какие места на кухне достаточно убрать, чтобы она выглядела чистой

Гости прибудут с минуты на минуту? Вот как быстро убрать кухню!

VOICE
Облачные хранилища бесплатно: где и сколько можно получить Облачные хранилища бесплатно: где и сколько можно получить

Самые популярные облачные хранилища: у каких условия самые лучшие?

CHIP
Психология предубеждения: как почитатели Моцарта и Гете создали Холокост? Психология предубеждения: как почитатели Моцарта и Гете создали Холокост?

Как в Германии произошел поворот от культурного процветания к Холокосту?

Psychologies
Цирцея и Фея Моргана: как героини древних мифов вдохновляют современных писательниц Цирцея и Фея Моргана: как героини древних мифов вдохновляют современных писательниц

Шесть современных произведений, которые переосмысляют легендарные сюжеты

Forbes
В каком возрасте В каком возрасте

Существует ли идеальный возраст для вступления в брак?

ТехИнсайдер
Как накопить деньги: таблицы, округление баланса, схема 50-20-30 и еще 7 проверенных советов Как накопить деньги: таблицы, округление баланса, схема 50-20-30 и еще 7 проверенных советов

Как правильно экономить и при этом практически ни в чем себе не отказывать

ТехИнсайдер
Давай похрустим! Давай похрустим!

Польза квашеной капусты и кому ее есть нельзя

Лиза
Играя мускулами Играя мускулами

Эти скоростные американские машины видели, пожалуй, все

Зеркало Мира
Руки золотые Руки золотые

10 самых интересных и модных видов рукоделия

Лиза
Как почистить скороварку и мультиварку без лишних хлопот: полезные советы Как почистить скороварку и мультиварку без лишних хлопот: полезные советы

Методы очистки загрязнений, которые не навредят ни мультиварке, ни скороварке

ТехИнсайдер
Унитазная магия и гипноз водой: мы знаем, почему ваша кошка ломится за вами в ванную Унитазная магия и гипноз водой: мы знаем, почему ваша кошка ломится за вами в ванную

Если кошки боятся воды, то зачем просятся в ванную?

ТехИнсайдер
Любовь по правилам: как эволюционировал жанр романтических комедий Любовь по правилам: как эволюционировал жанр романтических комедий

Ключевые этапы эволюции жанра американских ромкомов

Forbes
Мотои Миура: «Я исключение из правил, редкий экземпляр» Мотои Миура: «Я исключение из правил, редкий экземпляр»

Японский режиссер Мотои Миура — о частном театре и японском театре в целом

Монокль
В Китае успешно клонировали макака-резуса В Китае успешно клонировали макака-резуса

Ученые из Китая усовершенствовали технологию переноса ядер соматических клеток

N+1
Ночной кошмар Australian Open: почему матчи завершаются под утро и что с этим делать Ночной кошмар Australian Open: почему матчи завершаются под утро и что с этим делать

Почему внезапно время в теннисе стало проблемой?

Forbes
Пластика скорби: как сформировалась культура плакальщиц. Отрывок из книги Пластика скорби: как сформировалась культура плакальщиц. Отрывок из книги

Отрывок из сборника исследований об эмоциональной культуре «Сквозь слезы»

СНОБ
Есть ли личная жизнь после рождения ребенка: история от первого лица Есть ли личная жизнь после рождения ребенка: история от первого лица

Как пережить первые месяцы после рождения ребенка, когда привычный мир рушится

Psychologies
Голливудские портреты, военная хроника и оптические иллюзии: что нужно знать о фотографе Сесиле Битоне Голливудские портреты, военная хроника и оптические иллюзии: что нужно знать о фотографе Сесиле Битоне

Кто такой Сесил Битон и как он стал легендой фотомира?

Правила жизни
Новые рубежи российского агроэкспорта Новые рубежи российского агроэкспорта

Стоимостной объем отгруженного за рубеж продовольствия превысит $45 млрд

Агроинвестор
Какие места в самолете самые безопасные: мнение экспертов Какие места в самолете самые безопасные: мнение экспертов

Какие места в самолете лучше выбирать?

VOICE
Не добивайте жертву: 5 запретных фраз Не добивайте жертву: 5 запретных фраз

Никогда не произносите эти фразы людям, которые столкнулись с насилием

Psychologies
Что такое ретравматизация и как перестать ходить по кругу боли Что такое ретравматизация и как перестать ходить по кругу боли

Как выйти из цикла повторения травмы? Чем себе помочь?

Psychologies
Внутренний покой: как сохранять равновесие дома, на работе и в дороге Внутренний покой: как сохранять равновесие дома, на работе и в дороге

Что может сделать каждый, кто хочет улучшить свое состояние?

Psychologies
Как снизить риск деменции за 4 недели с помощью сна: советы доктора Как снизить риск деменции за 4 недели с помощью сна: советы доктора

Как решить проблемы со сном и избежать проблем со здоровьем в будущем

Psychologies
«Я не вторая Алла Пугачева»: племянница Максима Галкина рассказала о карьере певицы и семье — эксклюзив VOICE «Я не вторая Алла Пугачева»: племянница Максима Галкина рассказала о карьере певицы и семье — эксклюзив VOICE

Что Алина Галкина думает о хейте в соцсетях и своих знаменитых родственниках

VOICE
Польза горчичного масла: как его принимать и не навредить организму Польза горчичного масла: как его принимать и не навредить организму

Горчичное масло — популярный и полезный ингредиент азиатской кухни

РБК
Замещающая терапия: что вывело рынок корпоративных бондов на максимум Замещающая терапия: что вывело рынок корпоративных бондов на максимум

Частные инвесторы значительно увеличили вложения в корпоративные облигации

Forbes
«Я не черствый человек: я переживаю, обижаюсь, страдаю» «Я не черствый человек: я переживаю, обижаюсь, страдаю»

Наталья Земцова завершила прошлый год одной премьерой, а начала новый — с другой

OK!
Палеоантропологи описали новый подвид южноафриканских парантропов Палеоантропологи описали новый подвид южноафриканских парантропов

Палеоантропологи предложили пересмотреть систематику гоминин

N+1
Открыть в приложении