As interfaces cérebro-computador correm risco de ataques cibernéticos em massa?

Se uma atualização de software defeituosa pode paralisar grandes setores da sociedade, imagine o que poderia acontecer em um futuro transumanista quando as BCIs precisassem de suas próprias atualizações para a mente coletiva: perspectiva

Um caos perturbador ocorreu na manhã de 19 de julho de 2024, quando o mundo digital infectou o mundo físico devido ao que foi relatado como um erro de codificação em uma atualização do CrowdStrike que afetava usuários do Windows.

Aeroportos, bancos, serviços de saúde e grandes redes de notícias foram todos interrompidos devido a "um defeito encontrado em uma única atualização de conteúdo para hosts Windows" e "não a um incidente de segurança ou ataque cibernético", de acordo com uma declaração da empresa de segurança cibernética CrowdStrike .

Se apenas uma atualização de software pode causar tanta interrupção sem a necessidade de um ataque cibernético malicioso, imagine o que poderia acontecer em um futuro transumanista quando interfaces cérebro-computador (BCIs) como o Neuralink se tornassem predominantes e exigissem atualizações de software próprias.

Em vez de despertar habilidades aparentemente telepáticas, você descobre que seu chip cerebral está exibindo a tela azul da morte, como aquelas vistas em aeroportos do mundo todo.

À medida que o software continua apresentando falhas, seus neurônios tentam dar sentido às informações defeituosas que pulsam pela malha neural do seu BCI, e os sinais digitais começam a se assemelhar ao caos físico de passageiros lutando para se auto-organizar, numa tentativa de encontrar ordem em um mar de circuitos falhos.

A única coisa que você pode esperar, se é que você tem capacidade cerebral para ter esperança, é que a empresa que fez seu chip cerebral e as empresas que desenvolvem o software possam colocá-lo online novamente antes que você se desassocie completamente.

Talvez você tenha sorte e o problema seja identificado e resolvido relativamente rápido, mas e se isso não acontecer?

“A falta de segurança cibernética tornou-se um perigo claro e imediato para a nossa sociedade em todo o mundo”

Klaus Schwab, Polígono Cibernético, 2021

Com o tempo, o hardware falha e o software precisa de atualizações.

Se a centralização e a consolidação dentro da infraestrutura digital continuarem, e se medidas adequadas não forem tomadas para garantir que as BCIs não possam anular nossas habilidades físicas e cognitivas ou eliminar nosso livre-arbítrio, então, como espécie, podemos realmente cair na mente coletiva e no abismo.

Estamos agora migrando da Internet dos Corpos para a Internet dos Cérebros.

Um relatório recente da RAND Corporation diz que “ Uma 'internet de corpos' também pode levar, em última análise, a uma 'internet de cérebros', ou seja, cérebros humanos conectados à internet para facilitar a comunicação direta entre cérebros e permitir o acesso a redes de dados online ”.

Além disso, “os avanços nas interfaces cérebro-computador podem se traduzir no desenvolvimento de tecnologias de comunicação cérebro-a-cérebro, levando a modos inteiramente novos de comunicação interpessoal”.

Essa é a esperada mente coletiva digital.

Elon Musk diz que um dia seremos capazes de carregar e baixar memórias entre humanos e máquinas.

O que acontece quando um pensamento ou uma memória que não é sua entra na sua consciência?

O que você faria se uma memória estrangeira que não fosse sua entrasse na sua própria consciência? Você ao menos saberia disso?

“O aumento humano pode prejudicar a segurança cognitiva dos usuários finais e influenciar sua capacidade de avaliar a credibilidade das informações que recebem ao usar tecnologias de aumento humano”

RAND Corporation, março de 2024

Em 30 de janeiro de 2019, tive um sonho em que visitava um hospital psiquiátrico onde os pacientes estavam sendo tratados de doenças em seus chips cerebrais.

Sei a data porque escrevi e publiquei uma história na manhã seguinte chamada “ O Übermensch no Ninho do Cuco: Malware em Híbridos IA-humanos ”.

Naquele sonho, vi pacientes catatônicos babando, sentados, olhando para algum abismo cibernético desconhecido.

Vi homens, mulheres e crianças se jogando contra paredes acolchoadas, se debatendo em cadeiras de rodinhas e se contorcendo em pisos quadriculados — sem conseguir entender o que se passava em seus cérebros — agarrando-se a demônios uivantes que zumbiam no ar, sentindo cheiros de coisas que não estavam realmente ali e vendo coisas que os aterrorizariam até o desespero.

Na história que escrevi na manhã seguinte ao sonho, eu ponderei: “O que aconteceria se um malware fosse introduzido no corpo humano? […] Os hospitais do futuro teriam que remediar isso, mas como?”

Os pacientes não saberiam a diferença entre o que era “real” e o que era uma alucinação gerada por IA.

Quando acordei, concluí que, se e quando as BCIs se tornassem comuns, provavelmente medidas de enfrentamento já teriam sido tomadas.

Caso contrário, “nossos hospitais podem estar tratando pacientes com distúrbios crônicos de implantes, cujas doenças podem parecer cenas saídas do Inferno de Dante ou do Livro dos Mortos ”.

Meu sonho de quase seis anos atrás pode ser apenas imaginação e fantasia, mas o pensamento sobre quem é o dono do hardware, de onde os sinais estão vindo e para onde estão indo, são discussões muito reais que acontecem entre os principais cientistas, especialistas em ética e pesquisadores.

“O que você pensa, o que você sente — tudo são apenas dados — dados que em grandes padrões podem ser decodificados usando inteligência artificial”

Dra. Nita Farahany, Reunião Anual do Fórum Econômico Mundial, 2023

Falando na Reunião Anual do Fórum Econômico Mundial (FEM) de 2023 em Davos, a Dra. Nita Farahany da Duke University fez uma apresentação sobre a batalha pelo seu cérebro, onde disse:

“A inteligência artificial permitiu avanços na decodificação da atividade cerebral de maneiras que nunca antes imaginamos serem possíveis.

“O que você pensa, o que você sente — tudo são apenas dados — dados que em grandes padrões podem ser decodificados usando inteligência artificial.”

“Podemos captar estados emocionais — como se você está feliz, triste ou bravo”, ela acrescentou.

“Podemos captar e decodificar rostos que você vê em sua mente — formas simples, números, seu número PIN da sua conta bancária.”

“A instabilidade geopolítica torna provável um evento cibernético catastrófico nos próximos dois anos“

Jeremy Jurgens, Reunião Anual do Fórum Econômico Mundial, 2023

Na Reunião Anual do Fórum Econômico Mundial de 2020 , houve uma discussão chamada “Quando os humanos se tornam ciborgues”, na qual os painelistas tentaram abordar algumas das grandes questões éticas em torno da integridade corporal e de quem realmente é o dono da Interface Cérebro-Computador.

Os painelistas observaram que os oficiais militares estavam muito preocupados com questões como:

• Eu tenho meu próprio implante?
• Meu implante se torna parte de mim?
• O que acontece quando eu saio do exército?
• Quem paga pelo meu implante?
• Meu implante será removido?
• Posso manter meu implante pelo resto da vida?
• Meu implante é atualizado? Quem paga por isso?

Além de abordar quem é o dono do hardware, outro painelista ponderou para onde os dados íntimos do BCI iriam:

“Se nossos cérebros estiverem conectados, e você registrar, por exemplo, o que você possivelmente está pensando, quais áreas do seu cérebro estão sendo estimuladas […] o que você está sentindo, e assim por diante — esses dados serão armazenados em algum lugar.”

“Todos nós sabemos, mas ainda não prestamos atenção suficiente, ao cenário assustador de um ataque cibernético abrangente, que causaria uma paralisação completa do fornecimento de energia, transporte, serviços hospitalares e da nossa sociedade como um todo”

Klaus Schwab, Polígono cibernético, 2020

A partir de 2021, vimos como as doses de reforço se tornaram normalizadas.

O que são boosters senão atualizações de software para o corpo ?

Voltando ao momento da CrowdStrike e da Microsoft em 19 de julho de 2024, o que aconteceria se esse tipo de atualização de software defeituosa ocorresse na era do transumanismo?

Como um erro de codificação, um bug ruim, um algoritmo desonesto ou um malware malicioso afetariam nossas habilidades cognitivas, nossos estados mentais, nossos corpos físicos e nossas almas?

Um dia podemos ter habilidades sobre-humanas conectadas à matriz da colmeia e, no dia seguinte, seremos reduzidos a zumbis babando e alucinando com a tecnologia de outra pessoa.

É claro que isso não é provável que aconteça, e nossa tecnologia provavelmente melhorará a ponto de impedir que a própria ideia de tal caos se torne viável, e nem mesmo garantir cenários como os que apresentei.

Mas ei! Pelo menos isso poderia render uma obra de ficção científica muito interessante.