Como corremos o risco de aprender as lições erradas do escândalo Horizon IT

Desde o início de 2024; o escândalo Post Office Horizon IT atingiu um novo nível de interesse público no Reino Unido. No escândalo, um software de contabilidade defeituoso foi responsabilizado por vários suicídios e pelo que foi descrito como “o erro judicial mais generalizado na história do Reino Unido”, com os presos injustamente, incluindo uma mulher grávida.

Desde o final do ano passado, tenho trabalhado para abordar este escândalo em diversas frentes. Por exemplo; em novembro de 2023, uma pesquisa que liderei descobriu que 75% dos engenheiros de software no Reino Unido enfrentaram retaliação na última vez que relataram irregularidades e também lançaram uma nova luz sobre as cláusulas de amordaçamento usadas pelos Correios na sequência do escândalo Horizon IT, entre uma miríade de outros descobertas.

Neste artigo, quero explorar como a Sociedade Britânica de Computação, que se apresenta como a voz dos engenheiros de software na abordagem do escândalo, pode muito bem estar a ensinar lições erradas à sociedade.

Falhas regulatórias

Em Janeiro de 2024, liderei uma investigação de interesse público que concluiu que a British Computer Society (BCS) não agiu quando um dos seus membros utilizou o seu estatuto regulamentado para convencer os tribunais a cometer erros judiciais ; apesar do status fornecido pelo BCS, foram as únicas qualificações de informática que o indivíduo apresentou ao tribunal e o BCS foi exigido pelo Conselho de Engenharia do Reino Unido para defender a conduta de seus membros.

Após o BCS ter sido solicitado a comentar, o BCS foi falso com a mídia, alegando que tomaria medidas depois que os longos processos legais fossem concluídos, quando as evidências que descobri indicavam que a filiação do indivíduo-chave ao BCS provavelmente já existia há muito tempo. caducou por não renovação. O indivíduo em questão (Gareth Jenkins) é atualmente uma pessoa de interesse da Polícia Metropolitana nas suas investigações sobre o escândalo e solicitou imunidade criminal para que as suas próximas provas para o inquérito público não fossem utilizadas contra ele.

Esta informação foi obtida depois de ter visto parte do depoimento de uma testemunha dos Correios marcado como “confidencial” e foi corroborada por um relatório para os Correios Ltd marcado como “legalmente privilegiado e confidencial” por um advogado, Brian Altman KC:

Na sequência de um pedido da Lei de Liberdade de Informação que fiz recentemente, a Post Office Limited confirmou que possuía uma cópia do depoimento de uma testemunha do indivíduo em causa - corroborando ainda mais a informação:

O BCS está longe de ser o único regulador envolvido nesta questão. Raramente mencionado na mídia é o fato de que os Correios são regulamentados pela Autoridade de Conduta Financeira (FCA), que opera algumas regras burocráticas para tentar regular o setor financeiro do Reino Unido.

Uma investigação recente da Reuters, para a qual contribuí, descobriu que a FCA vinha avaliando os pedidos da Lei de Liberdade de Informação de forma diferente quando vinham de jornalistas. Também foi relatado que a FCA “rejeitou as reclamações de um denunciante e supostamente os deixou abertos a uma série de retaliações por parte de seu antigo empregador depois que as autoridades interpretaram erroneamente a lei” .

Para que os Correios instaurassem os seus próprios processos, contrataram os serviços do campo jurídico altamente regulamentado, onde os profissionais são regulamentados por órgãos como a Autoridade Reguladora dos Solicitadores e o Conselho de Normas da Ordem.

Em todos estes casos, desde a Sociedade Britânica de Computação até à profissão jurídica, os organismos reguladores falharam. O primeiro gostinho de justiça das vítimas do escândalo Horizon IT foi quando um jornalista da ComputerWeekly começou a cobrir sua história enquanto Alan Bates liderava uma campanha para conseguir justiça para seus colegas.

Solicita regulamentação pelo BCS

Sem vergonha; a British Computer Society está agora pedindo que a IA "seja regulamentada para evitar seu próprio escândalo Post Office Horizon", exigindo que os profissionais sejam licenciados - aparentemente uma tentativa oportunista de capitalizar um escândalo, quando regulamentaram as qualificações profissionais usadas para convencer os tribunais a envolver-se neste erro judiciário. É adicionalmente irónico que, embora o BCS se recuse a iniciar acções disciplinares contra os seus membros até que o inquérito público esteja concluído, pareça perfeitamente satisfeito em começar a fornecer recomendações à sociedade.

No entanto, na sua essência, os apelos à regulamentação não compreendem fundamentalmente a forma como tais catástrofes são evitadas. Isto pode ser visto pelo peso da regulamentação sob a qual os Correios estavam sujeitos nestes casos, mas os abortos espontâneos continuaram a ocorrer.

O Dr. Ron Westrum escreveu na publicação Quality & Safety do British Medical Journal em 2004 um artigo intitulado “ As Três Tipologias da Cultura Organizacional ” . A tabela a seguir demonstra essas três topologias organizacionais, descrevendo como diferentes organizações processam informações:

As culturas generativas são “psicologicamente seguras” – concentram-se nos resultados e as pessoas são livres para dar o alarme quando as coisas correm mal, em vez de levarem um tiro. Em contraste, as organizações patológicas são aquelas onde o fracasso leva à criação de bodes expiatórios e aos mensageiros são fuzilados. Contudo – as organizações burocráticas também dificilmente são desejáveis. Os mensageiros são negligenciados e as regras têm prioridade sobre a abordagem das causas do fracasso. Para os líderes pobres, a gestão burocrática é a mais fácil – em vez de mudarem a cultura, eles puxam a alavanca de mais regras em vez de abordarem as questões.

Pela minha experiência ao observar o escândalo Horizon IT e outras falhas catastróficas de software, muitas das organizações ou reguladores envolvidos eram organizações patológicas ou burocráticas. No entanto, uma cultura generativa teria permitido que um dos membros que levantaram preocupações sobre os problemas da Horizon IT ( como fez David McDonnel ) tivesse a sua voz ouvida e as suas preocupações investigadas.

A regulamentação dos engenheiros de software pode ajudar a afastar alguns da profissão de engenharia de software, mas para resolver os verdadeiros problemas do escândalo Horizon IT - precisamos de desenvolver organizações com cultura mais generativa.

A legislação deve ser parte da resposta no reforço da protecção dos denunciantes de engenheiros de software que dão o alarme para questões graves (uma vez que as protecções no Reino Unido devem ser reforçadas) e alguma forma de regulamentação pode ser parte da resposta para resolver algumas das questões, no entanto , não deveríamos fingir que as culturas orientadas por regras conduzirão subitamente à segurança psicológica necessária para pôr fim a estes escândalos - a história, na verdade, neste mesmo caso, provou que isso não acontece.