我们如何冒着从 Horizon IT 丑闻中汲取错误教训的风险

自 2024 年初起；邮局地平线 IT 丑闻在英国引起了新的公众关注。在这起丑闻中，有缺陷的会计软件被指责造成多起自杀事件，并被描述为“英国历史上最广泛的误判”，被错误监禁的人包括一名孕妇。

自去年年底以来，我一直致力于从多个方面解决这一丑闻。例如; 2023 年 11 月，我领导的一项研究发现， 75% 的英国软件工程师在上次报告不当行为时遭到了报复，这也让人们对邮局在 Horizon IT 丑闻等众多丑闻之后使用的限制条款有了新的认识。发现。

在本文中，我想探讨英国计算机协会在解决丑闻时自称是软件工程师的代言人，但它很可能正在向社会传授错误的教训。

监管失误

2024 年 1 月，我领导了一项公共利益调查，发现英国计算机协会 (BCS) 的一名成员利用其受监管地位说服法院进行误判，但未能采取行动；尽管 BCS 提供的身份是个人向法院提交的唯一计算机资格，并且英国工程委员会要求 BCS 维护其成员的行为。

在BCS被要求发表评论后，BCS对媒体不诚实，声称他们将在漫长的法律程序完成后采取行动，而我发现的证据表明关键人物的BCS会员资格可能已经很久了因不续订而失效。涉案人员（加雷斯·詹金斯）目前是伦敦警察局对丑闻调查感兴趣的人，并已请求刑事豁免，以便他即将向公众调查提供的证据不会被用来对付他。

这些信息是在我看到邮局证人证词中标记为“机密”的部分内容后获得的，并得到了律师 Brian Altman KC 向邮局有限公司提交的标记为“法律特权和机密”的报告的证实：

根据我最近提出的《信息自由法》要求，邮局有限公司确认他们持有有关个人的证人证词副本 - 进一步证实了该信息：

BCS 并不是参与此事的唯一监管机构。媒体很少提及邮局受金融行为监管局 (FCA) 监管的事实，该监管局制定了一些官僚规则来试图监管英国的金融部门。

我参与的路透社最近的一项调查发现，FCA 对来自记者的《信息自由法》请求的评估方式有所不同。另据报道，FCA “驳回了举报人的投诉，并据称在官员错误解释法律后让他们面临前雇主的一系列报复” 。

为了让邮局自己提起诉讼，他们聘请了高度监管的法律领域的服务，其中专业人员受到律师监管局和律师标准委员会等机构的监管。

在所有这些例子中，从英国计算机协会到法律界，监管机构都失败了。 Horizon IT 丑闻的受害者第一次尝到正义的滋味是在艾伦·贝茨 (Alan Bates) 领导一场为他的同事讨回公道的运动时，《计算机周刊》的一名记者开始报道他们的故事。

呼吁 BCS 进行监管

毫无羞耻心；英国计算机协会现在呼吁人工智能“受到监管，以避免其自身的邮局地平线丑闻”，要求从业者获得许可——这似乎是一种利用丑闻的机会主义尝试，因为他们对用于说服法院的专业资格进行了监管。参与这种误判。另外具有讽刺意味的是，虽然 BCS 拒绝在公众调查完成之前对其成员采取纪律处分，但他们似乎非常满足于开始向社会提供建议。

然而，从本质上讲，对监管的呼吁从根本上误解了如何预防此类灾难。从邮局在这些案件中受到的严格监管就可以看出这一点，但流产事件仍在发生。

Ron Westrum 博士于 2004 年在英国医学杂志的质量与安全刊物上发表了一篇题为“组织文化的三种类型”的论文。下表展示了这三种组织拓扑，描述了不同组织如何处理信息：

生成文化是“心理安全的”——它们注重结果，当事情出错时，人们可以自由地发出警报，而不是被枪杀。相比之下，病态组织是那些失败导致替罪羊和使者被枪杀的组织。然而，官僚组织也不是可取的。使者被忽视，规则优先于解决失败的原因。对于糟糕的领导者来说，官僚管理是最容易的——他们没有改变文化，而是利用更多规则，而不是解决问题。

根据我观察 Horizon IT 丑闻和其他灾难性软件故障的经验来看，涉及的许多组织或监管机构要么是病态组织，要么是官僚主义。然而，生成文化会让那些对 Horizon IT 问题提出担忧的内部人士（比如 David McDonnel ）能够听到他们的声音并调查他们的担忧。

对软件工程师的监管可能有助于将一些软件工程师排除在软件工程行业之外，但为了解决地平线 IT 丑闻的真正问题——我们需要发展更具生成性的文化组织。

立法必须成为加强对向严重问题发出警报的软件工程师举报人的保护的答案的一部分（因为必须加强英国的保护），并且某种形式的监管可能是解决某些问题的答案的一部分。 ，我们不应该假装以规则为导向的文化会突然带来阻止这些丑闻所需的心理安全——历史，实际上在这个例子中，已经证明事实并非如此。