Можно ли сегодня защитить себя от компьютерных ошибок?

ТехИнсайдерHi-Tech

Компьютеры всегда совершали ошибки, ИИ делает ситуацию критически опасной, но закон на стороне машин

Владимир Губайловский

Почтовое отделение UK Post Office

Более 20 лет назад консориум Fujitsu поставил главному почтовому ведовству Великобритании UK Post Office систему автоматизации рабочих мест почтовых работников по всей стране. Только через много лет стало известно, что система постоянно ошибалась, и многие почтовые работники были оштрафованы, заключены в тюрьму, а несколько человек покончили с собой. Почему это происходило так долго? И можно ли сегодня защитить себя от компьютерных ошибок?

Эта трагическая история связана с «презумпцией безошибочности компьютеров». Но компьютеры могут ошибаться, а в системах ИИ некоторый процент ошибок заложен изначально. И пока непонятно как защитить человека от «железного» обвинителя.

Более 20 лет назад японский технологический консориум Fujitsu создал ИТ-систему бухгалтерского учета для Почты Великобритании (UK Post Office). Система получила название Horizon. Рабочие места этой системы были установлены по всей стране. Часто это были небольшие почтовые отделения, которые собирали и доставляли письма и посылки. 20 лет назад это был крупнейший гражданский ИТ-проект в Европе.

Система Horizon была далеко небезупречной. Она делала ошибки. Но руководители Почты Великобритании верили ей, а не людям.

Многих работников почтовых отделений обвинили в краже или фальсификации отчетности. От них требовали возместить убытки и угрожали судом. В период с 2000 по 2014 год более 700 человек были привлечены к ответственности, и в среднем 30 человек каждый год в период с 2000 по 2014 заключали под стражу. Люди теряли недвижимость, накопления, репутацию. Некоторые из безвинно пострадавших покончили жизнь самоубийством.

Многие подробности этой трагедии до сих пор неизвестны. Но самым вопиющим стало заявление Fujitsu, что компания знала об ошибках в системе примерно в то время, когда поставила Horizon Почте Великобритании в 1999 году.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Госпожа Джулия Тофана: как средневековая «королева ядов» погубила 600 человек Госпожа Джулия Тофана: как средневековая «королева ядов» погубила 600 человек

Госпожа Тофана — общее название для отравительниц XVII века

ТехИнсайдер
Не вешать нос: 8 отличных фильмов на случай, если вам хочется погрустить Не вешать нос: 8 отличных фильмов на случай, если вам хочется погрустить

Трогательные киноистории о любви, семье и поиске себя

Правила жизни
Робопчелу научили садиться по-комарьи Робопчелу научили садиться по-комарьи

Инженеры разработали шасси для миниатюрного орнитоптера RoboBee

N+1
Плюсы и минусы оппозитных двигателей Плюсы и минусы оппозитных двигателей

Что такое оппозитные двигатели и почему их до сих пор используют в Subaru?

4x4 Club
Простой способ повысить психологическую устойчивость и настроиться на позитив Простой способ повысить психологическую устойчивость и настроиться на позитив

Одно упражнение для поддержания психологической устойчивости

Inc.
В ядре Меркурия идет железный снег В ядре Меркурия идет железный снег

Магнитное поле Меркурия формирует железный снег, выпадающий из мантии на ядро

ТехИнсайдер
9 способов вывести себя из апатии 9 способов вывести себя из апатии

Риск апатии в осенне-зимний период вырастает, однако поддаваться унынию не стоит

Psychologies
«Оружие было отличным» «Оружие было отличным»

В Войне Судного дня советское оружие сражалось против американского

Дилетант
Хит-парад самых чудовищных провалов больших корпораций Хит-парад самых чудовищных провалов больших корпораций

Феноменальные фиаско крупных брендов

Maxim
Химики увидели в метеоритном веществе аминокислоты и другие строительные блоки жизни Химики увидели в метеоритном веществе аминокислоты и другие строительные блоки жизни

Ученые проанализировали состав метеорита Винчкомб и нашли в нем соединения азота

ТехИнсайдер
Польза и вред кофе для организма: исследования ученых и советы врачей Польза и вред кофе для организма: исследования ученых и советы врачей

Почему кофе полезен для здоровья и есть ли вред от его употребления

РБК
Как начать правильно питаться не с очередного понедельника, а прямо сейчас: рабочие советы Как начать правильно питаться не с очередного понедельника, а прямо сейчас: рабочие советы

Как эффективно и довольно быстро начать придерживаться правильного питания

ТехИнсайдер
Садат и Асад Садат и Асад

Война Судного дня планировалась властями Сирии и Египта как реванш

Дилетант
Коллективная травма, или «эффект бабочки» в психологии Коллективная травма, или «эффект бабочки» в психологии

Почему судьба прадеда может оказывать влияние на нашу жизнь сегодня?

Psychologies
Не верьте в легкий путь к счастью: правда об инфоцыганах и «каше в головах» Не верьте в легкий путь к счастью: правда об инфоцыганах и «каше в головах»

Спрос рождает предложение: почему инфоцыган так много?

Psychologies
12 кинофильмов, которые должен посмотреть каждый 12 кинофильмов, которые должен посмотреть каждый

Фильмы, которые должны случиться с вами хотя бы раз

Maxim
Так говорит Ким Кардашьян: почему хриплые женские голоса стали популярными Так говорит Ким Кардашьян: почему хриплые женские голоса стали популярными

Почему vocal fry (или штробас) стал трендовым

Psychologies
Россиянки рассказали, в каких случаях красота помогает им (порой неожиданно) Россиянки рассказали, в каких случаях красота помогает им (порой неожиданно)

Может ли привлекательная внешность навредить своим обладательницам?

Psychologies
Стоит задуматься! Как понять, что вы росли в неблагополучной семье: простое объяснение эксперта Стоит задуматься! Как понять, что вы росли в неблагополучной семье: простое объяснение эксперта

Взросление в неблагополучной семье может повлиять на будущие отношения с людьми

ТехИнсайдер
Бивень рассказал о миграциях жившего 14 тысяч лет назад мамонта Бивень рассказал о миграциях жившего 14 тысяч лет назад мамонта

Останки мамонта рассказали о его жизни

N+1
Каждая личинка — индивидуальность Каждая личинка — индивидуальность

Эти небольшие червячки красного цвета — объект пристального внимания биологов

Наука и жизнь
Когда можно игнорировать надпись на этикетке «только ручная стирка»: советы экспертов Когда можно игнорировать надпись на этикетке «только ручная стирка»: советы экспертов

Хочешь исключить из своей жизни ручную стирку?

VOICE
Какой чай выпить, чтобы избавиться от вздутия живота: 10 лучших вариантов Какой чай выпить, чтобы избавиться от вздутия живота: 10 лучших вариантов

Как насчет того, чтобы избавиться от неприятных ощущениях за чашечкой чая?

VOICE
Генетики обнаружили родственников в раскопанной в Шаньси средневековой гробнице Генетики обнаружили родственников в раскопанной в Шаньси средневековой гробнице

Ученые прочитали геномы 4 человек в общей гробнице XI–XIII веков нашей эры

N+1
Археологи разобрались в производстве костяных пронизок из Денисовой пещеры Археологи разобрались в производстве костяных пронизок из Денисовой пещеры

Новосибирские археологи исследовали 28 костяных пронизок Денисовой пещеры

N+1
Почему солнечные электростанции зашли горнякам, фермерам… и насекомым Почему солнечные электростанции зашли горнякам, фермерам… и насекомым

У фотоэлектрических панелей обнаружились сразу три новых преимущества

ТехИнсайдер
Плацебо наоборот Плацебо наоборот

Рассказываем, что такое эффект ноцебо и как он работает

Лиза
Дело доктора Франкенштейна Дело доктора Франкенштейна

Реально ли создать идеального человека, а не монстра?

Вокруг света
«Я так хотела на свидание, а мне всего 12»: история об одном постсоветском лете «Я так хотела на свидание, а мне всего 12»: история об одном постсоветском лете

Рассказ «Усталость 1993» — о детстве, любви и лете

Psychologies
Дольмены. Неразгаданная тайна древней цивилизации Дольмены. Неразгаданная тайна древней цивилизации

Для чего дольмены строили наши древние предки, в чем заключалась их роль?

Зеркало Мира
Открыть в приложении