Horizon IT 스캔들로부터 잘못된 교훈을 배울 위험이 있는 방법

2024년 초부터; Post Office Horizon IT 스캔들은 영국에서 새로운 수준의 대중 관심을 불러일으켰습니다. 이 스캔들에서는 결함이 있는 회계 소프트웨어가 다수의 자살과 임산부를 포함해 억울하게 투옥된 사람들과 함께 "영국 역사상 가장 널리 퍼진 정의의 유산"으로 묘사된 사건에 대해 비난을 받았습니다.

작년 말부터 저는 이 스캔들을 다각적으로 해결하기 위해 노력해 왔습니다. 예를 들어; 2023년 11월 연구에서 제가 주도한 연구에 따르면 영국의 소프트웨어 엔지니어 중 75%가 마지막으로 잘못된 행위를 신고했을 때 보복을 당했으며 Horizon IT 스캔들 이후 우체국에서 사용하는 재갈을 물리는 조항에 대해 새로운 사실을 밝혀냈습니다. 결과.

이 기사에서 나는 스캔들을 해결하는 데 소프트웨어 엔지니어의 목소리를 내는 영국 컴퓨터 협회가 어떻게 사회에 잘못된 교훈을 가르치고 있는지 탐구하고 싶습니다.

규제 실패

2024년 1월, 저는 영국 컴퓨터 협회(BCS) 회원 중 한 명이 규제 대상 지위를 이용해 법원이 오심에 개입하도록 설득했을 때 공익 조사를 주도했으며, 이를 통해 BCS(영국 컴퓨터 협회)가 조치를 취하지 못했다는 사실을 발견했습니다 . BCS가 제공한 지위에도 불구하고 개인이 법원에 제출한 유일한 컴퓨터 자격이었고 BCS는 영국 엔지니어링 위원회에서 구성원의 행위를 유지하도록 요구했습니다.

BCS에 의견 요청이 있은 후, BCS는 내가 발견한 증거에 따르면 주요 개인의 BCS 멤버십이 이미 오랫동안 유지되었을 가능성이 있음을 나타냈을 때 오랜 시간이 소요된 법적 절차가 완료된 후 조치를 취하겠다고 주장하여 언론에 솔직하지 않았습니다. 비갱신으로 인해 소멸되었습니다. 해당 개인(가레스 젠킨스)은 현재 이 스캔들에 대한 수사에서 메트로폴리탄 경찰의 관심 대상 이며 공개 조사에 대한 향후 증거가 자신에게 불리하게 사용되지 않도록 형사 면책을 요청했습니다.

이 정보는 "기밀"이라고 표시된 우체국 증인 진술의 일부를 본 후 얻은 것이며 변호사 Brian Altman KC가 "법적 특권 및 기밀"이라고 표시된 Post Office Ltd에 대한 보고서를 통해 확증되었습니다.

제가 최근에 요청한 정보공개법(Freedom of Information Act)에 따라 Post Office Limited는 해당 개인의 증인 진술 사본을 보유하고 있음을 확인하여 정보를 더욱 확증했습니다.

BCS는 이 문제와 관련된 유일한 규제 기관이 아닙니다. 언론에서는 우체국이 영국의 금융 부문을 규제하기 위해 일부 관료적 규정을 운영하는 금융행위감독청(FCA)의 규제를 받는다는 사실이 거의 언급되지 않습니다.

제가 참여한 로이터 통신의 최근 조사에 따르면 FCA는 언론인의 정보공개법 요청을 다르게 평가해 왔다는 사실이 밝혀졌습니다. 또한 FCA 는 "내부 고발자의 불만 사항을 기각하고 공무원이 법을 잘못 해석한 후 이전 고용주로부터 보복 공세를 받을 수 있도록 방치한 것으로 알려졌습니다"라고 보고되었습니다.

우체국이 자체 기소를 하기 위해 그들은 Solicitors Regulatory Authority 및 Bar Standards Board와 같은 기관에 의해 전문가들이 규제되는 고도로 규제된 법률 분야의 서비스를 활용했습니다.

영국 컴퓨터 협회에서 법조계에 이르기까지 모든 경우에 규제 기관은 실패했습니다. Horizon IT 스캔들의 희생자들이 처음으로 정의를 맛본 것은 Alan Bates가 동료들을 위한 정의를 실현하기 위한 캠페인을 주도하는 동안 ComputerWeekly의 기자가 자신들의 이야기를 취재하기 시작했을 때였습니다.

BCS의 규제 요청

부끄러움 없이; 영국 컴퓨터 협회(British Computer Society)는 이제 실무자에게 면허를 취득하도록 요구함으로써 "자체 우체국 지평선 스캔들을 피하기 위해 AI를 규제"할 것을 요구하고 있습니다. 이는 스캔들을 이용하려는 기회주의적인 시도로 보입니다. 이 정의의 오심에 참여하십시오. 더욱 아이러니한 점은 BCS가 공개 조사가 완료될 때까지 회원에 대한 징계 조치 시작을 거부하면서도 사회에 권고 사항을 제공하는 데는 완전히 만족해 보인다는 것입니다.

그러나 규제 요구는 근본적으로 그러한 재난을 예방하는 방법을 근본적으로 오해하고 있습니다. 이는 우체국이 이 사건에 적용한 규제의 무게만 봐도 알 수 있지만, 유산은 계속해서 발생했습니다.

Ron Westrum 박사는 2004년 영국 의학 저널의 품질 및 안전 간행물에 " 조직 문화의 세 가지 유형 " 이라는 제목의 논문을 썼습니다. 다음 표에서는 이러한 세 가지 조직 토폴로지를 보여 주고 다양한 조직에서 정보를 처리하는 방법을 설명합니다.

생성적 문화는 "심리적으로 안전"합니다. 결과에 초점을 맞추고 사람들은 문제가 발생할 때 총에 맞기보다는 자유롭게 경보를 울릴 수 있습니다. 이와 대조적으로 병리학적 조직은 실패로 인해 희생양이 되고 전달자가 총살당하는 조직입니다. 그러나 관료주의적 조직 역시 바람직하지 않습니다. 메신저는 무시되고 실패 원인을 해결하는 것보다 규칙이 우선시됩니다. 가난한 지도자들에게는 관료적 관리가 가장 쉽습니다. 문화를 바꾸는 대신 문제를 해결하기보다는 더 많은 규칙을 사용합니다.

Horizon IT 스캔들과 기타 치명적인 소프트웨어 실패를 관찰한 내 경험에 따르면, 관련된 조직이나 규제 기관 중 상당수는 병적인 조직이거나 관료적이었습니다. 그러나 생성적 문화를 통해 Horizon IT 문제에 대해 우려를 제기한 내부자 중 한 사람( 예: David McDonnel )이 자신의 목소리를 듣고 우려 사항을 조사할 수 있었을 것입니다.

소프트웨어 엔지니어에 대한 규제는 소프트웨어 엔지니어링 직업의 일부를 통제하는 데 도움이 될 수 있지만 Horizon IT 스캔들의 실제 문제를 해결하려면 보다 생성적인 문화 조직을 개발해야 합니다.

심각한 문제에 대해 경고하는 소프트웨어 엔지니어 내부 고발자에 대한 보호를 강화하기 위한 답변의 일부가 입법이어야 하며(영국의 경우 보호 조치가 강화되어야 함) 일부 형태의 규제가 일부 문제를 해결하기 위한 답변의 일부일 수 있습니다. , 우리는 규칙 중심의 문화가 갑자기 이러한 스캔들을 멈추는 데 필요한 심리적 안전을 제공할 것이라고 주장해서는 안 됩니다. 실제로 이 경우에는 그렇지 않다는 것이 역사를 통해 입증되었습니다.