Как мы рискуем извлечь неправильные уроки из ИТ-скандала Horizon

С начала 2024 года; ИТ-скандал в почтовом отделении Horizon достиг нового уровня общественного интереса в Великобритании. В ходе скандала неисправное бухгалтерское программное обеспечение было обвинено в многочисленных самоубийствах и в том, что было описано как «самая распространенная судебная ошибка в истории Великобритании», в том числе в результате ошибочного заключения в тюрьму беременной женщины.

С конца прошлого года я работал над урегулированием этого скандала с нескольких сторон. Например; В ноябре 2023 года исследование, которое я возглавлял, показало, что 75% инженеров-программистов в Великобритании столкнулись с преследованием в последний раз, когда они сообщили о правонарушениях, а также пролило новый свет на положения о затыкании рта, использованные почтовым отделением после скандала с Horizon IT среди множества других Выводы.

В этой статье я хочу изучить, как Британское компьютерное общество, которое выступает в качестве голоса разработчиков программного обеспечения в разрешении скандала, вполне может преподавать обществу неправильные уроки.

Нормативные недостатки

В январе 2024 года я возглавил расследование, представляющее общественный интерес, которое показало, что Британское компьютерное общество (BCS) бездействовало, когда один из его членов использовал свой регулируемый статус, чтобы убедить суды совершать судебные ошибки ; несмотря на то, что статус, предоставленный BCS, был единственной компьютерной квалификацией, которую лицо представило суду, и Инженерный совет Великобритании требовал от BCS поддержки поведения своих членов.

После того, как BCS попросили прокомментировать, BCS лукавил по отношению к средствам массовой информации, заявив, что примет меры после завершения затянувшихся юридических процессов, когда обнаруженные мной доказательства указывали на то, что членство ключевого лица в BCS, вероятно, уже давно истек из-за непродления. Заинтересованное лицо (Гарет Дженкинс) в настоящее время является лицом, представляющим интерес для столичной полиции в ходе расследования скандала, и запросило уголовный иммунитет, чтобы его предстоящие доказательства в ходе публичного расследования не были использованы против него.

Эта информация была получена после того, как я увидел часть показаний свидетеля почтового отделения с пометкой «конфиденциально» и была подтверждена отчетом для Post Office Ltd с пометкой «юридически конфиденциально и конфиденциально», составленным юристом Брайаном Альтманом К.С.:

В ответ на запрос Закона о свободе информации, который я недавно сделал, Post Office Limited подтвердила, что у них есть копия свидетельских показаний заинтересованного лица, что еще раз подтверждает эту информацию:

БКС — далеко не единственный регулятор, занимающийся этим вопросом. Редко упоминается в средствах массовой информации тот факт, что почтовое отделение регулируется Управлением финансового надзора (FCA), которое применяет некоторые бюрократические правила, пытаясь регулировать финансовый сектор Великобритании.

Недавнее расследование Reuters, в котором я участвовал, показало, что FCA по-разному оценивало запросы Закона о свободе информации, когда они исходили от журналистов. Сообщалось также, что FCA «отклонило жалобы информатора и якобы оставило их открытыми для шквала возмездия со стороны бывшего работодателя после того, как чиновники неправильно истолковали закон» .

Чтобы почтовое отделение могло возбудить собственное уголовное дело, они воспользовались услугами строго регулируемого юридического поля, где деятельность профессионалов регулируется такими органами, как Управление по регулированию адвокатской деятельности и Совет по стандартам адвокатуры.

Во всех этих случаях, от Британского компьютерного общества до юристов, регулирующие органы потерпели неудачу. Жертвы скандала в сфере Horizon IT впервые почувствовали вкус справедливости, когда журналист ComputerWeekly начал освещать их историю, когда Алан Бейтс возглавил кампанию по восстановлению справедливости для своих коллег.

Призывы к регулированию со стороны BCS

Без стыда; Британское компьютерное общество теперь призывает к «регулированию ИИ, чтобы избежать скандала с горизонтом в почтовом отделении», требуя от практикующих специалистов иметь лицензию – по-видимому, это оппортунистическая попытка извлечь выгоду из скандала, когда они регулировали профессиональную квалификацию, используемую, чтобы убедить суды участвовать в этой судебной ошибке. Кроме того, иронично то, что, хотя BCS отказывается возбуждать дисциплинарные меры против своих членов до завершения общественного расследования, они, похоже, совершенно довольны тем, что начинают давать рекомендации обществу.

Однако по своей сути призывы к регулированию в корне неверно понимают, как можно предотвратить такие катастрофы. Это можно увидеть по строгому регулированию, которому Почтовое отделение подчинялось в этих случаях, однако выкидыши продолжали случаться.

Доктор Рон Веструм написал в 2004 году в журнале «Качество и безопасность» Британского медицинского журнала статью под названием « Три типологии организационной культуры » . В следующей таблице показаны эти три организационные топологии, описывающие, как разные организации обрабатывают информацию:

Генеративные культуры «психологически безопасны» — они ориентированы на результат, и люди могут свободно поднимать тревогу, когда что-то идет не так, а не быть застреленными. Напротив, патологические организации — это те, в которых неудачи приводят к тому, что их находят козлами отпущения, а посланников расстреливают. Однако бюрократические организации тоже вряд ли желательны. Посланниками пренебрегают, а правила имеют приоритет над устранением причин неудач. Для бедных лидеров бюрократическое управление является самым простым: вместо того, чтобы менять культуру, они тянут за рычаг новых правил, а не решают проблемы.

Судя по моему опыту рассмотрения ИТ-скандала Horizon и других катастрофических сбоев программного обеспечения, многие из вовлеченных в него организаций или регулирующих органов были либо патологическими организациями, либо бюрократическими. Однако генеративная культура позволила бы одному из инсайдеров, выразившим обеспокоенность по поводу проблем Horizon IT ( как это сделал Дэвид МакДоннел ), быть услышанным и расследованным.

Регулирование деятельности инженеров-программистов может помочь отгородить некоторых от профессии инженера-программиста, но для решения реальных проблем ИТ-скандала Horizon нам необходимо развивать больше организаций с генеративной культурой.

Законодательство должно быть частью ответа на усиление защиты информаторов-разработчиков программного обеспечения, которые поднимают тревогу по поводу серьезных проблем (поскольку защита в Великобритании должна быть усилена), и некоторая форма регулирования может быть частью ответа на решение некоторых проблем, однако , мы не должны делать вид, что культуры, ориентированные на правила, внезапно приведут к психологической безопасности, необходимой для прекращения этих скандалов - история, в данном конкретном случае, доказала, что это не так.