Cómo corremos el riesgo de aprender las lecciones equivocadas del escándalo de Horizon IT

Desde principios de 2024; El escándalo informático de Post Office Horizon ha alcanzado un nuevo nivel de interés público en el Reino Unido. En el escándalo, se ha culpado a un software de contabilidad defectuoso de múltiples suicidios y de lo que se ha descrito como “el error judicial más extendido en la historia del Reino Unido”, entre los encarcelados injustamente se encuentra una mujer embarazada.

Desde finales del año pasado, he trabajado para abordar este escándalo desde múltiples frentes. Por ejemplo; En noviembre de 2023, una investigación que dirigí encontró que el 75% de los ingenieros de software en el Reino Unido enfrentaron represalias la última vez que denunciaron irregularidades y también arrojó nueva luz sobre las cláusulas de amordaza utilizadas por la Oficina de Correos a raíz del escándalo de Horizon IT, entre una miríada de otros. recomendaciones.

En este artículo, quiero explorar cómo la Sociedad Británica de Computación, que se presenta como la voz de los ingenieros de software al abordar el escándalo, bien puede estar enseñando lecciones equivocadas a la sociedad.

Fallos regulatorios

En enero de 2024, dirigí una investigación de interés público que encontró que la British Computer Society (BCS) no actuó cuando uno de sus miembros utilizó su estatus regulado para convencer a los tribunales de cometer errores judiciales ; a pesar de que el estatus proporcionado por el BCS fue la única calificación informática que el individuo presentó ante el tribunal y el Consejo de Ingeniería del Reino Unido exigió al BCS que defendiera la conducta de sus miembros.

Después de que se le pidiera comentarios a la BCS, la BCS fue falsa con los medios de comunicación al afirmar que tomarían medidas después de que se completaran los largos procesos legales cuando la evidencia que había descubierto indicaba que la membresía de la persona clave en la BCS probablemente ya había durado mucho tiempo. caducado por no renovación. El individuo en cuestión (Gareth Jenkins) es actualmente una persona de interés para la Policía Metropolitana en sus investigaciones sobre el escándalo y había solicitado inmunidad penal para que las próximas pruebas que presentara en la investigación pública no se utilizaran en su contra.

Esta información se obtuvo después de que vi parte de una declaración de un testigo de la Oficina de Correos marcada como "confidencial" y fue corroborada por un informe enviado a Post Office Ltd marcado como "legalmente privilegiado y confidencial" por un abogado, Brian Altman KC:

Tras una solicitud de la Ley de Libertad de Información que hice recientemente, Post Office Limited confirmó que tenía una copia de una declaración testimonial del individuo en cuestión, lo que corrobora aún más la información:

El BCS está lejos de ser el único regulador involucrado en este asunto. Rara vez se menciona en los medios el hecho de que la Oficina de Correos está regulada por la Autoridad de Conducta Financiera (FCA), que aplica algunas reglas burocráticas para intentar regular el sector financiero del Reino Unido.

Una investigación reciente de Reuters en la que contribuí encontró que la FCA había estado evaluando las solicitudes de la Ley de Libertad de Información de manera diferente cuando provenían de periodistas. También se ha informado que la FCA "desestimó las quejas de un denunciante y supuestamente lo dejó expuesto a un aluvión de represalias por parte de su antiguo empleador después de que los funcionarios interpretaran erróneamente la ley" .

Para que la Oficina de Correos pudiera iniciar sus propios procesos, contrató los servicios del campo legal altamente regulado, donde los profesionales están regulados por organismos como la Autoridad de Regulación de Abogados y la Junta de Normas de Abogados.

En todos estos casos, desde la Sociedad Británica de Computación hasta la profesión jurídica, los organismos reguladores fracasaron. La primera vez que las víctimas del escándalo de Horizon IT probaron la justicia fue cuando un periodista de ComputerWeekly comenzó a cubrir su historia mientras Alan Bates lideraba una campaña para obtener justicia para sus colegas.

Convoca a regulación por parte del BCS

Sin vergüenza; La Sociedad Británica de Informática pide ahora que la IA "sea regulada para evitar su propio escándalo de Post Office Horizon" exigiendo que sus profesionales tengan una licencia, aparentemente un intento oportunista de sacar provecho de un escándalo, cuando regularon las cualificaciones profesionales utilizadas para convencer a los tribunales de que participar en este error judicial. Además, es irónico que, si bien la BCS se niega a iniciar medidas disciplinarias contra sus miembros hasta que se complete la investigación pública, parece perfectamente contenta con comenzar a brindar recomendaciones a la sociedad.

Sin embargo, en el fondo, los llamados a la regulación no entienden fundamentalmente cómo se previenen tales desastres. Esto se puede ver por el peso de la regulación bajo la que estaba la Oficina de Correos en estos casos, pero los abortos espontáneos continuaron ocurriendo.

El Dr. Ron Westrum escribió en la publicación Quality & Safety del British Medical Journal en 2004 un artículo titulado “ Las tres tipologías de la cultura organizacional ” . La siguiente tabla demuestra estas tres topologías organizativas y describe cómo las diferentes organizaciones procesan la información:

Las culturas generativas son “psicológicamente seguras”: se centran en los resultados y las personas son libres de dar la alarma cuando las cosas van mal, en lugar de recibir un disparo. Por el contrario, las organizaciones patológicas son aquellas en las que el fracaso conduce a la búsqueda de chivos expiatorios y a los mensajeros a los que se les dispara. Sin embargo, las organizaciones burocráticas tampoco son deseables. Se descuida a los mensajeros y las reglas tienen prioridad sobre abordar las causas del fracaso. Para los líderes pobres, la gestión burocrática es la más fácil: en lugar de cambiar la cultura, aplican más reglas en lugar de abordar los problemas.

Según mi experiencia al observar el escándalo de Horizon IT y otras fallas catastróficas de software, muchas de las organizaciones o reguladores involucrados eran organizaciones patológicas o burocráticas. Sin embargo, una cultura generativa habría permitido que uno de los insiders que expresaron sus preocupaciones sobre los problemas de Horizon IT ( como lo hizo David McDonnel ) hiciera escuchar sus voces e investigar sus preocupaciones.

La regulación de los ingenieros de software puede ayudar a mantener a algunos fuera de la profesión de ingeniería de software, pero para abordar los problemas reales del escándalo de Horizon IT, necesitamos desarrollar organizaciones con una cultura más generativa.

La legislación debe ser parte de la respuesta para fortalecer la protección de los denunciantes de ingenieros de software que dan la alarma sobre problemas graves (como se deben fortalecer las protecciones en el Reino Unido) y alguna forma de regulación puede ser parte de la respuesta para abordar algunos de los problemas, sin embargo. , no deberíamos pretender que las culturas orientadas a las reglas conduzcan repentinamente a la seguridad psicológica necesaria para detener estos escándalos; de hecho, la historia, en este mismo caso, ha demostrado que no es así.