Les interfaces cerveau-ordinateur sont-elles exposées à des cyberattaques de masse ?

Si une mise à jour logicielle défectueuse peut paralyser de vastes pans de la société, imaginez ce qui pourrait se passer dans un avenir transhumaniste lorsque les IBC nécessiteront leurs propres mises à jour pour l'esprit de la ruche : perspective

Un chaos perturbateur s'est produit le matin du 19 juillet 2024, lorsque le monde numérique a infecté le monde physique en raison de ce qui a été signalé comme une erreur de codage dans une mise à jour de CrowdStrike affectant les utilisateurs de Windows.

Les aéroports, les banques, les services de santé et les principaux réseaux d'information ont tous été perturbés en raison d'« un défaut trouvé dans une seule mise à jour de contenu pour les hôtes Windows » et « non d'un incident de sécurité ou d'une cyberattaque », selon un communiqué de la société de cybersécurité CrowdStrike .

Si une seule mise à jour logicielle peut provoquer autant de perturbations sans nécessiter de cyberattaque malveillante, imaginez ce qui pourrait se passer dans un avenir transhumaniste lorsque les interfaces cerveau-ordinateur (BCI) comme Neuralink deviendront courantes et nécessiteront leurs propres mises à jour logicielles.

Au lieu de vous réveiller avec des capacités apparemment télépathiques, vous découvrez que votre puce cérébrale vous donne l'écran bleu de la mort comme ceux que l'on voit dans les aéroports du monde entier.

Alors que le logiciel continue de rencontrer des problèmes, vos neurones tentent de donner un sens aux informations erronées qui circulent dans le maillage neuronal de votre BCI, et les signaux numériques commencent à ressembler au chaos physique des passagers qui s'efforcent de s'auto-organiser pour tenter de trouver de l'ordre dans une mer de circuits défaillants.

La seule chose que vous pouvez espérer, si vous avez la capacité cérébrale d’espérer, c’est que l’entreprise qui a fabriqué votre puce cérébrale et les entreprises qui développent le logiciel puissent vous remettre en ligne avant que vous ne vous dissociiez complètement.

Peut-être avez-vous de la chance et le problème est identifié et résolu relativement rapidement, mais que se passe-t-il si ce n’est pas le cas ?

« Le manque de cybersécurité est devenu un danger clair et immédiat pour notre société dans le monde entier »

Klaus Schwab, Cyber Polygone, 2021

Au fil du temps, le matériel tombe en panne et les logiciels nécessitent des mises à niveau.

Si la centralisation et la consolidation au sein de l'infrastructure numérique se poursuivent, et si des mesures appropriées ne sont pas prises pour garantir que les IBC ne puissent pas outrepasser nos capacités physiques et cognitives ou éliminer notre libre arbitre, alors, en tant qu'espèce, nous risquons véritablement de tomber dans l'esprit de ruche et dans l'abîme.

Nous passons désormais de l’Internet des corps à l’Internet des cerveaux.

Un rapport récent de la RAND Corporation indique que « un « Internet des corps » pourrait également conduire à terme à un « Internet des cerveaux », c'est-à-dire à des cerveaux humains connectés à Internet pour faciliter la communication directe de cerveau à cerveau et permettre l'accès aux réseaux de données en ligne ».

De plus, « les progrès réalisés dans les interfaces cerveau-ordinateur pourraient se traduire par le développement de technologies de communication de cerveau à cerveau, conduisant à des modes de communication interpersonnelle entièrement nouveaux. »

C’est l’esprit de ruche numérique tant attendu.

Elon Musk dit qu'un jour nous pourrons télécharger et charger des souvenirs entre les humains et les machines.

Que se passe-t-il lorsqu'une pensée ou un souvenir entre dans votre conscience et n'est pas le vôtre ?

Que feriez-vous si un souvenir étranger qui n'est pas le vôtre entrait dans votre propre conscience ? Le sauriez-vous seulement ?

« L’augmentation humaine pourrait compromettre la sécurité cognitive des utilisateurs finaux et influencer leur capacité à évaluer la crédibilité des informations qu’ils reçoivent lorsqu’ils utilisent des technologies d’augmentation humaine. »

RAND Corporation, mars 2024

Le 30 janvier 2019, j’ai rêvé que je visitais un hôpital psychiatrique où les patients étaient traités pour des maladies de leurs puces cérébrales.

Je connais la date parce que j'ai écrit et publié un article le lendemain matin intitulé « L'Übermensch dans le nid de coucou : les logiciels malveillants dans les hybrides IA-humain ».

Dans ce rêve, j'ai vu des patients catatoniques baver, assis, regardant dans un abîme cybernétique inconnu.

J'ai vu des hommes, des femmes et des enfants se jeter contre des murs capitonnés, s'agiter sur des chaises à roulettes et se tordre sur des sols en damier - incapables de comprendre ce qui leur traversait l'esprit - s'agrippant à des démons hurlants qui sifflaient dans les airs, sentant des choses qui n'étaient pas vraiment là et voyant des choses qui les terrifieraient jusqu'au désespoir.

Dans l’histoire que j’ai écrite le lendemain matin du rêve, je me suis demandé : « Que se passerait-il si un logiciel malveillant était introduit dans le corps humain ? […] Les hôpitaux du futur devront remédier à cela, mais comment ? »

Les patients ne feraient pas la différence entre ce qui est « réel » et ce qui est une hallucination générée par l’IA.

À mon réveil, j’ai conclu que si les BCI devenaient courantes, des contre-mesures auraient probablement déjà été mises en place.

Dans le cas contraire, « nos hôpitaux pourraient traiter des patients souffrant de troubles chroniques liés aux implants, dont les maladies pourraient ressembler à des scènes tirées de l’Enfer de Dante ou du Livre des morts ».

Mon rêve d'il y a presque six ans n'est peut-être qu'imagination et fantaisie, mais la question de savoir à qui appartient le matériel, d'où viennent les signaux et où ils vont, fait l'objet de discussions bien réelles parmi les meilleurs scientifiques, éthiciens et chercheurs.

« Ce que vous pensez, ce que vous ressentez, ce ne sont que des données, des données qui, sous forme de modèles volumineux, peuvent être décodées à l'aide de l'intelligence artificielle. »

Dr Nita Farahany, Réunion annuelle du Forum économique mondial, 2023

S'exprimant lors de la réunion annuelle du Forum économique mondial (WEF) 2023 à Davos, le Dr Nita Farahany de l'Université Duke a fait une présentation sur la bataille pour votre cerveau où elle a déclaré :

« L’intelligence artificielle a permis des avancées dans le décodage de l’activité cérébrale d’une manière que nous n’aurions jamais cru possible auparavant.

« Ce que vous pensez, ce que vous ressentez, ce ne sont que des données, des données qui, sous forme de modèles volumineux, peuvent être décodées à l'aide de l'intelligence artificielle. »

« Nous pouvons détecter des états émotionnels – par exemple, êtes-vous heureux, triste ou en colère », a-t-elle ajouté.

« Nous pouvons détecter et décoder les visages que vous voyez dans votre esprit : des formes simples, des chiffres, votre code PIN pour votre compte bancaire. »

« L’instabilité géopolitique rend probable un événement cybernétique catastrophique dans les deux prochaines années »

Jeremy Jurgens, Assemblée annuelle du Forum économique mondial, 2023

Lors de la réunion annuelle du WEF 2020 , une discussion intitulée « Quand les humains deviennent des cyborgs » a eu lieu, au cours de laquelle les intervenants ont tenté d’aborder certaines des très grandes questions éthiques entourant l’intégrité corporelle et la question de savoir à qui appartient réellement l’interface cerveau-ordinateur.

Les panélistes ont noté que les officiers militaires étaient très préoccupés par des questions telles que :

• Suis-je propriétaire de mon propre implant ?
• Mon implant devient-il une partie de moi ?
• Que se passe-t-il lorsque je quitte l’armée ?
• Qui paie mon implant ?
• Mon implant sera-t-il retiré ?
• Est-ce que je peux conserver mon implant à vie ?
• Mon implant est-il mis à niveau ? Qui paie pour cela ?

Outre la question de savoir à qui appartient le matériel, un autre intervenant s’est demandé où iraient les données BCI intimes :

« Si nos cerveaux sont connectés et que vous enregistrez par exemple ce à quoi vous pensez, quelles zones de votre cerveau sont stimulées […] ce que vous ressentez, etc. — ces données seront stockées quelque part. »

« Nous connaissons tous, mais nous n’y prêtons pas suffisamment attention, le scénario effrayant d’une cyberattaque de grande ampleur, qui entraînerait un arrêt complet de l’approvisionnement en électricité, des transports, des services hospitaliers, de notre société dans son ensemble. »

Klaus Schwab, Cyber Polygone, 2020

À partir de 2021, nous avons vu comment les injections de rappel sont devenues la norme.

Que sont les boosters sinon des mises à niveau logicielles pour le corps ?

Pour revenir au moment CrowdStrike et Microsoft du 19 juillet 2024, que se passerait-il si ce type de mise à jour logicielle défectueuse se produisait à l’ère du transhumanisme ?

Comment une erreur de codage, un bug malveillant, un algorithme malveillant ou un malware pourraient-ils affecter nos capacités cognitives, nos états mentaux, notre corps physique, notre âme ?

Un jour, nous pouvons avoir des capacités surhumaines connectées à la matrice de la ruche, et le lendemain, nous sommes réduits à l'état de zombies baveux hallucinant sur la technologie de quelqu'un d'autre.

Bien sûr, il est peu probable que cela se produise, et notre technologie va probablement s’améliorer au point d’empêcher que l’idée même d’un tel chaos ne devienne réalisable, ni même de justifier les scénarios que j’ai évoqués.

Mais bon ! Au moins, cela pourrait donner lieu à une œuvre de science-fiction très intéressante.