Wie wir riskieren, aus dem Horizon-IT-Skandal die falschen Lehren zu ziehen

Seit Anfang 2024; Der IT-Skandal um Post Office Horizon hat im Vereinigten Königreich ein neues Ausmaß an öffentlichem Interesse erreicht. In dem Skandal wurde fehlerhafte Buchhaltungssoftware für mehrere Selbstmorde und den „weitverbreitetsten Justizirrtum in der Geschichte des Vereinigten Königreichs“ verantwortlich gemacht, unter den zu Unrecht Inhaftierten, darunter eine schwangere Frau.

Seit Ende letzten Jahres arbeite ich daran, diesen Skandal von mehreren Fronten aus anzugehen. Zum Beispiel; Im November 2023 ergab eine von mir geleitete Untersuchung, dass 75 % der Softwareentwickler im Vereinigten Königreich mit Vergeltungsmaßnahmen konfrontiert waren, als sie das letzte Mal Fehlverhalten meldeten, und wirften unter anderem ein neues Licht auf die Knebelklauseln, die das Postamt im Zuge des Horizon-IT-Skandals verwendete Ergebnisse.

In diesem Artikel möchte ich untersuchen, wie die British Computer Society, die sich bei der Bewältigung des Skandals als Stimme der Softwareentwickler präsentiert, der Gesellschaft möglicherweise die falschen Lektionen erteilt.

Regulatorische Mängel

Im Januar 2024 leitete ich eine Untersuchung im öffentlichen Interesse, die ergab, dass die British Computer Society (BCS) nicht gehandelt hat, als eines ihrer Mitglieder ihren regulierten Status nutzte, um Gerichte davon zu überzeugen, sich an Justizirrtümern zu beteiligen ; Obwohl der vom BCS bereitgestellte Status die einzige Computerqualifikation war, die die Person dem Gericht vorlegte, und vom Engineering Council UK vom BCS verlangt wurde, das Verhalten seiner Mitglieder aufrechtzuerhalten.

Nachdem das BCS um eine Stellungnahme gebeten wurde, zeigte sich das BCS gegenüber den Medien unaufrichtig und behauptete, es werde Maßnahmen ergreifen, nachdem die langwierigen Gerichtsverfahren abgeschlossen seien, obwohl die von mir aufgedeckten Beweise darauf hindeuteten, dass die Schlüsselperson wahrscheinlich bereits seit langem im BCS Mitglied ist durch Nichtverlängerung erloschen. Die betroffene Person (Gareth Jenkins) ist derzeit eine Person, die für die Metropolitan Police bei ihren Ermittlungen zum Skandal von Interesse ist , und hat strafrechtliche Immunität beantragt, damit seine bevorstehenden Beweise für die öffentliche Untersuchung nicht gegen ihn verwendet werden.

Diese Informationen wurden erhalten, nachdem ich einen Teil einer als „vertraulich“ gekennzeichneten Zeugenaussage der Post zu Gesicht bekommen hatte, und wurden durch einen Bericht an Post Office Ltd bestätigt, der von einem Anwalt, Brian Altman KC, als „rechtlich vertraulich und vertraulich“ gekennzeichnet war:

Im Anschluss an eine Anfrage nach dem Freedom of Information Act, die ich kürzlich gestellt habe, bestätigte Post Office Limited, dass sie im Besitz einer Kopie einer Zeugenaussage der betroffenen Person waren – was die Informationen weiter untermauert:

Die BCS ist bei weitem nicht die einzige Regulierungsbehörde, die in diese Angelegenheit verwickelt ist. In den Medien wird selten erwähnt, dass das Postamt von der Financial Conduct Authority (FCA) reguliert wird, die mit einigen bürokratischen Regeln versucht, den britischen Finanzsektor zu regulieren.

Eine kürzlich von Reuters durchgeführte Untersuchung , an der ich mitgewirkt habe, ergab, dass die FCA Anfragen nach dem Freedom of Information Act unterschiedlich beurteilte, wenn sie von Journalisten kamen. Es wurde auch berichtet, dass die FCA „Beschwerden eines Whistleblowers zurückwies und sie angeblich einer Flut von Vergeltungsmaßnahmen seitens ihres früheren Arbeitgebers aussetzte, nachdem Beamte das Gesetz falsch ausgelegt hatten“ .

Damit die Post ihre eigenen Strafverfolgungsmaßnahmen einleiten konnte, nahm sie die Dienste des stark regulierten Rechtsbereichs in Anspruch, in dem Berufstätige von Gremien wie der Solicitors Regulation Authority und dem Bar Standards Board reguliert werden.

In all diesen Fällen, von der British Computer Society bis zur Anwaltschaft, haben die Regulierungsbehörden versagt. Den ersten Eindruck von Gerechtigkeit bekamen die Opfer des Horizon-IT-Skandals, als ein Journalist von ComputerWeekly begann, über ihre Geschichte zu berichten, während Alan Bates eine Kampagne leitete, um Gerechtigkeit für seine Kollegen zu erreichen.

Fordert eine Regulierung durch die BCS

Ohne Scham; Die British Computer Society fordert nun, dass KI „reguliert wird, um ihren eigenen Post-Office-Horizont-Skandal zu vermeiden“, indem sie von Praktikern eine Lizenz verlangt – scheinbar ein opportunistischer Versuch, aus einem Skandal Kapital zu schlagen, da sie die Berufsqualifikationen regulierten, die verwendet werden, um Gerichte davon zu überzeugen Beteiligen Sie sich an diesem Justizirrtum. Es ist außerdem ironisch, dass sich die BCS zwar weigert, Disziplinarmaßnahmen gegen ihre Mitglieder einzuleiten, bis die öffentliche Untersuchung abgeschlossen ist, sie aber vollkommen damit zufrieden zu sein scheinen, der Gesellschaft Empfehlungen zu geben.

Allerdings wird in den Rufen nach einer Regulierung grundsätzlich falsch verstanden, wie solche Katastrophen verhindert werden. Dies lässt sich daran erkennen, dass die Post in diesen Fällen strengen Vorschriften unterworfen war, dennoch kam es weiterhin zu Fehlgeburten.

Dr. Ron Westrum schrieb 2004 in der Veröffentlichung „Quality & Safety“ des British Medical Journal einen Artikel mit dem Titel „ Die drei Typologien der Organisationskultur “ . Die folgende Tabelle zeigt diese drei Organisationstopologien und beschreibt, wie verschiedene Organisationen Informationen verarbeiten:

Generative Kulturen sind „psychologisch sicher“ – sie konzentrieren sich auf Ergebnisse und es steht den Menschen frei, Alarm zu schlagen, wenn etwas schief geht, anstatt erschossen zu werden. Im Gegensatz dazu sind pathologische Organisationen solche, bei denen Misserfolg dazu führt, dass Sündenböcke gefunden werden und Boten erschossen werden. Aber auch bürokratische Organisationen sind kaum erwünscht. Boten werden vernachlässigt und Regeln haben Vorrang vor der Beseitigung der Fehlerursachen. Für schlechte Führungskräfte ist bürokratisches Management am einfachsten – anstatt die Kultur zu verändern, ziehen sie den Hebel für mehr Regeln, anstatt sich mit den Problemen zu befassen.

Aus meiner Erfahrung mit dem Horizon-IT-Skandal und anderen katastrophalen Softwarefehlern geht hervor, dass viele der beteiligten Organisationen oder Regulierungsbehörden entweder pathologische Organisationen oder bürokratische Organisationen waren. Allerdings hätte eine generative Kultur es einem der Insider, der Bedenken hinsichtlich der Horizon-IT-Probleme geäußert hat ( wie es David McDonnel getan hat ), ermöglicht, dass seine Stimmen gehört und seine Bedenken untersucht würden.

Die Regulierung von Software-Ingenieuren kann dazu beitragen, einige von ihnen aus dem Software-Ingenieur-Beruf fernzuhalten, aber um die wirklichen Probleme des Horizon-IT-Skandals anzugehen, müssen wir Organisationen mit mehr generativer Kultur entwickeln.

Die Gesetzgebung muss Teil der Antwort sein, wenn es darum geht, den Schutz für Whistleblower von Softwareentwicklern zu stärken, die auf schwerwiegende Probleme aufmerksam machen (da der Schutz im Vereinigten Königreich verstärkt werden muss), und eine Form der Regulierung kann jedoch Teil der Antwort zur Lösung einiger Probleme sein , wir sollten nicht so tun, als würden regelorientierte Kulturen plötzlich zu der psychologischen Sicherheit führen, die nötig ist, um diese Skandale zu stoppen – die Geschichte hat in diesem Fall tatsächlich bewiesen, dass dies nicht der Fall ist.