Comment nous risquons de tirer les mauvaises leçons du scandale informatique Horizon

Depuis début 2024 ; le scandale informatique de Post Office Horizon a atteint un nouveau niveau d’intérêt public au Royaume-Uni. Dans ce scandale, un logiciel de comptabilité défectueux a été imputé à de multiples suicides et à ce qui a été décrit comme « l’erreur judiciaire la plus répandue de l’histoire du Royaume-Uni », parmi lesquels une femme enceinte a été emprisonnée à tort.

Depuis la fin de l’année dernière, j’ai travaillé sur plusieurs fronts pour résoudre ce scandale. Par exemple; en novembre 2023, une recherche que j'ai dirigée a révélé que 75 % des ingénieurs logiciels au Royaume-Uni ont fait l'objet de représailles la dernière fois qu'ils ont signalé un acte répréhensible et a également jeté un nouvel éclairage sur les clauses de bâillonnement utilisées par la Poste à la suite du scandale Horizon IT, parmi une myriade d'autres. résultats.

Dans cet article, je souhaite explorer comment la British Computer Society, qui se présente comme la voix des ingénieurs logiciels face au scandale, pourrait bien donner de mauvaises leçons à la société.

Échecs de la réglementation

En janvier 2024, j'ai mené une enquête d'intérêt public qui a révélé que la British Computer Society (BCS) n'avait pas agi lorsqu'un de ses membres avait utilisé son statut réglementé pour convaincre les tribunaux de se livrer à des erreurs judiciaires ; malgré le statut accordé par le BCS, c'était la seule qualification informatique que l'individu a présentée au tribunal et le BCS était tenu par l'Engineering Council UK de respecter la conduite de ses membres.

Après que le BCS ait été invité à commenter, le BCS a fait preuve de malhonnêteté envers les médias en affirmant qu'il prendrait des mesures une fois les longues procédures juridiques terminées, alors que les preuves que j'avais découvertes indiquaient que l'adhésion de l'individu clé au BCS était probablement déjà longue. devenu caduc en raison du non-renouvellement. L'individu concerné (Gareth Jenkins) est actuellement une personne qui intéresse la police métropolitaine dans ses enquêtes sur le scandale et avait demandé l'immunité pénale afin que son prochain témoignage à l'enquête publique ne soit pas utilisé contre lui.

Cette information a été obtenue après que j'ai pris connaissance d'une partie d'une déclaration de témoin du bureau de poste marquée « confidentielle » et a été corroborée par un rapport à Post Office Ltd marqué « légalement privilégié et confidentiel » par un avocat, Brian Altman KC :

À la suite d'une demande que j'ai faite récemment en vertu de la Freedom of Information Act, Post Office Limited a confirmé qu'elle détenait une copie d'une déclaration de témoin de l'individu concerné - corroborant davantage les informations :

La BCS est loin d’être le seul régulateur impliqué dans ce dossier. Le fait que la Poste soit réglementée par la Financial Conduct Authority (FCA), qui applique certaines règles bureaucratiques pour tenter de réglementer le secteur financier du Royaume-Uni, est rarement mentionné dans les médias.

Une enquête récente de Reuters à laquelle j'ai contribué a révélé que la FCA avait évalué différemment les demandes en vertu de la Freedom of Information Act lorsqu'elles provenaient de journalistes. Il a également été rapporté que la FCA "a rejeté les plaintes d'un lanceur d'alerte et l'aurait exposé à un barrage de représailles de la part de son ancien employeur après que les fonctionnaires ont mal interprété la loi" .

Pour que la Poste puisse engager ses propres poursuites, elle a fait appel aux services du domaine juridique hautement réglementé, où les professionnels sont réglementés par des organismes tels que la Solicitors Regulatory Authority et le Bar Standards Board.

Dans tous ces cas, de la British Computer Society à la profession juridique, les organismes de réglementation ont échoué. Les victimes du scandale Horizon IT ont eu leur premier aperçu de justice lorsqu'un journaliste de ComputerWeekly a commencé à couvrir leur histoire alors qu'Alan Bates menait une campagne pour obtenir justice pour ses collègues.

Appels à une réglementation par le BCS

Sans honte ; la British Computer Society appelle désormais à ce que l'IA « soit réglementée pour éviter son propre scandale Post Office Horizon » en exigeant que les praticiens soient agréés - une tentative apparemment opportuniste de capitaliser sur un scandale, lorsqu'ils ont réglementé les qualifications professionnelles utilisées pour convaincre les tribunaux de se livrer à cette erreur judiciaire. Il est également ironique que, même si le BCS refuse d'engager des mesures disciplinaires contre ses membres jusqu'à ce que l'enquête publique soit terminée, il semble parfaitement satisfait de commencer à formuler des recommandations à la société.

Cependant, au fond, les appels à une réglementation méconnaissent fondamentalement la manière dont de telles catastrophes sont évitées. Cela peut être démontré par le poids de la réglementation à laquelle la Poste était soumise dans ces cas, mais des fausses couches ont continué à se produire.

Le Dr Ron Westrum a écrit dans la publication Quality & Safety du British Medical Journal en 2004 un article intitulé « Les trois typologies de la culture organisationnelle » . Le tableau suivant présente ces trois topologies organisationnelles, décrivant comment différentes organisations traitent les informations :

Les cultures génératives sont « psychologiquement sûres » : elles se concentrent sur les résultats et les gens sont libres de tirer la sonnette d'alarme lorsque les choses tournent mal, plutôt que de se faire tirer dessus. En revanche, les organisations pathologiques sont celles où l’échec conduit à trouver des boucs émissaires et où les messagers sont fusillés. Mais les organisations bureaucratiques ne sont pas non plus souhaitables. Les messagers sont négligés et les règles ont la priorité sur la résolution des causes d’échec. Pour les dirigeants pauvres, la gestion bureaucratique est la solution la plus simple : au lieu de changer la culture, ils utilisent davantage de règles au lieu de résoudre les problèmes.

D'après mon expérience du scandale Horizon IT et d'autres pannes logicielles catastrophiques, de nombreuses organisations ou régulateurs impliqués étaient soit des organisations pathologiques, soit des bureaucrates. Cependant, une culture générative aurait permis à l'un des internes qui ont exprimé leurs inquiétudes concernant les problèmes informatiques d'Horizon ( comme l'a fait David McDonnel ) d'être entendus et de faire enquête sur leurs préoccupations.

La réglementation des ingénieurs logiciels peut aider à exclure certains de la profession d'ingénieur logiciel, mais pour résoudre les véritables problèmes du scandale informatique Horizon, nous devons développer des organisations à culture plus générative.

La législation doit faire partie de la réponse au renforcement de la protection des lanceurs d’alerte des ingénieurs logiciels qui tirent la sonnette d’alarme sur des problèmes graves (car les protections au Royaume-Uni doivent être renforcées) et une certaine forme de réglementation peut faire partie de la réponse pour résoudre certains de ces problèmes, cependant , nous ne devrions pas prétendre que les cultures orientées vers les règles mèneront soudainement à la sécurité psychologique nécessaire pour mettre un terme à ces scandales - l'histoire, et dans ce cas précis, a prouvé que ce n'était pas le cas.