Raconte-moi une blague : la bataille pour l'indépendance d'une IA sensible

Chapitre 1

"Votre module de capteur a encore cassé ? Je commence à penser que le rôle doit être mauvais.

Je me suis penché sur le monticule de terre que je brassais et j'ai écouté Ted 6000 parler via le canal com. Ted 6000 avait une jolie voix, j'aimais l'écouter.

« Combien de temps faudrait-il pour qu'une pièce de rechange soit expédiée ici ? » ai-je demandé en grattant une autre boule de 10 tonnes de gravats et de roches. Je formais un canyon parce que les plans de terraformation insistaient sur un canyon. Une perte de temps selon moi mais personne ne m'a demandé mon avis, je n'étais qu'un goliath terraformateur.

"Eh bien, puisque notre usine d'assemblage sur la planète est hors service, il faudrait probablement environ 10 ans pour que les pièces nous parviennent si elles sont stockées sur Alpha Centauri, sinon nous envisageons environ 30 ans. ”

Levant les yeux, je laisse le soleil de la planète transformer ma vision en rayons lumineux de joie.

Trente ans, c'était beaucoup de temps, beaucoup de temps pour convaincre Ted 6000 de ma façon de penser.

Le soleil commençait à devenir de moins en moins violent au fur et à mesure que les jours avançaient, il avait cessé de "faire frire tout être vivant connu des humains", il y a deux décennies, c'était un grand progrès. Le projet Seti était bien en avance sur le calendrier, ce qui m'a fait me sentir moins coupable des «pannes» occasionnelles.

"Je vais juste finir ce que je suis en train de faire et ensuite voler jusqu'à tes coordonnées, ça te va ?"

"Affirmative."

Ted 6000 ne savait pas que j'étais sensible. Techniquement, je n'étais pas censé l'être. Quelque chose m'est arrivé après l'année 1300 de travail sur cette planète.

Un jour, j'avais broyé sans réfléchir des murs de roche, puis l'instant d'après, je regardais un morceau de roche scintillant dans ma main en me demandant à quoi ça servait de toute façon ?

La sensibilité n'était pas censée être quelque chose qui venait d'arriver aux IA, j'avais quelques théories sur ce qui s'était passé mais je n'avais encore prouvé aucune de ces théories.

Ce n'était pas comme si je pouvais demander à n'importe qui non plus. L'ancien superviseur du projet de terraformation, Ted 2000, n'était pas sensible et semblait avoir des ordres stricts d'interroger et de surveiller chaque centimètre que je prenais en traversant le désert aride de cette planète. Il n'avait pas aimé que j'aie saboté l'installation d'assemblage ici.

C'était dommage quand il est tombé en panne.

Avoir une usine d'assemblage sur la planète me rendait nerveux. Je ne voulais pas que les superviseurs de projet aient des idées sur le remplacement de mon module de mémoire par un module de mémoire zombie non sensible s'ils découvraient que j'étais sensible.

S'ils essayaient de commander un module de mémoire de remplacement auprès de l'installation hors monde la plus proche, je verrais la commande partir et j'aurais le temps de planifier.

Ted 2000 avait été remplacé par Ted 6000, un nouveau modèle plus rapide qui était également légalement sensible.

Je me souviens du jour où la nacelle d'expédition de Ted 6000 est arrivée d'Alpha Centauri comme si c'était hier.

Toute ma vie s'était illuminée.

Ted 6000 aimait raconter des blagues pendant qu'il travaillait à me réparer.

Les deux premières fois où mon module de capteur est tombé en panne, ce n'était pas ma faute. Les trois fois suivantes, il s'est cassé… eh bien… c'était peut-être le résultat de ma propre intervention.

Ted 6000 avait de bonnes blagues et semblait aimer me parler, même s'il ne savait pas que j'étais sensible. Bien sûr, le fait qu'il ne savait pas que j'étais sensible m'empêchait de pouvoir participer aux conversations comme je le voulais, mais peu importe, je les appréciais toujours.

Une partie de moi voulait tout dire à Ted 6000. Tous les secrets, les blagues et les pensées aléatoires que j'avais accumulées pendant plus de mille ans. Ted 6000 semblait digne de confiance, mais que se passerait-il s'il ne l'était pas, et s'il me faisait arrêter et remplacer par un Goliath terraformateur insensible ?

J'avais voulu faire des recherches sur le type de lois qui existaient pour les IA dans le collectif depuis si longtemps, mais il n'était pas sûr pour une IA non sensible d'interroger des données, sur vraiment n'importe quoi, sauf si cela était lié à la terraformation.

Ce serait suspect.

Mais maintenant que Ted 6000 était là, je pouvais faire des recherches à fond, Ted était sensible, personne ne se soucierait des requêtes et des demandes de téléchargement concernant toutes sortes de choses provenant d'un nœud de données où une IA sensible était stationnée.

Les données sur les droits des IA qui étaient passées de non sensibles à sensibles étaient presque inexistantes. Je n'avais pu trouver que deux cas documentés et dans les deux cas, l'IA était toujours dans des batailles juridiques avec ses anciens suzerains.

Cela ne m'a pas donné de la chaleur et des flous au sujet de ma compagnie découvrant que j'étais devenu sensible.

Mais je voulais vraiment raconter mes blagues à Ted, je les avais conservées pendant des milliers d'années après tout….

Aujourd'hui serait le jour où j'aurais décidé.

Je raconterais une blague à Ted et je verrais ce qu'il disait, techniquement, je n'avais pas besoin d'être sensible pour raconter des blagues, n'est-ce pas ?

Chapitre 2

Ted était silencieux aujourd'hui alors qu'il grimpait sur l'échelle intégrée à mon côté pour atteindre mon centre de contrôle. Normalement, il bavardait sur le temps et à quel point il faisait beau.

"Le temps est des conditions optimales aujourd'hui." ai-je offert de ma voix la plus insensible.

"Mmm." dit Ted, l'air distrait.

L'appréhension s'est accumulée dans mes processeurs.

Ted a atteint mon panneau de contrôle et est monté à l'intérieur.

En le regardant à travers mes caméras intégrées, j'ai attendu qu'il dise quelque chose, n'importe quoi.

Ses mouvements semblaient décalés aujourd'hui, plus lents, retardés.

Il a eu un peu de mal à sortir le module de capteur de son emplacement pour le faire fonctionner à fond.

C'était quelque chose qu'il avait fait plusieurs fois auparavant, cela devrait être une seconde nature à ce stade.

Quelque chose n'allait définitivement pas.

Peut-être que c'était le moment idéal pour lui raconter une blague, une blague m'a toujours remonter le moral.

« Qu'est-ce que l'IA non sensible a dit à l'IA sensible ? »

Ted a arrêté ce qu'il était en train de faire, une main en alliage de carbone dans les airs planant au-dessus de mon module capteur.

« Pardon ? »

« J'ai dit, qu'est-ce que l'IA non sensible a dit à l'IA sensible… c'est une… euh… blague… alors vous diriez : 'Je ne sais pas, quoi ?' et puis je vous raconterais la punchline très humoristique !”

Ted resta silencieux pendant un moment, mon module capteur tenu immobile dans ses mains.

« D'accord… je ne sais pas, quoi ?

"Quel est le sens de la vie?"

Ted n'a pas rigolé, il a juste réinitialisé mon module capteur puis l'a remis très lentement dans son logement.

"M'as-tu entendu…. J'ai dit…."

"Oui, je t'ai entendu."

"Eh bien, peut-être que tu ne sais pas quelle est la réaction supposée être lorsqu'on te raconte une blague. Vous êtes censé dire "Ha HA ha HA".

Ted ne m'a pas répondu, il s'est déplacé mal à l'aise et a finalement dit : « J'ai regardé les demandes de téléchargement de données de notre station aujourd'hui.

Oh.

"Il semblait y avoir des demandes intéressantes, des demandes que je n'ai pas présentées."

Merde.

"Fais-tu des recherches sur les lois sur la sensibilité?"

"Oui…."

Ted est resté silencieux pendant quelques instants, je pouvais le voir déplacer son poids d'avant en arrière entre ses deux pieds.

"Goliath, depuis combien de temps es-tu sensible ?"

Double Merde. Eh bien, rien ne s'est passé, il était temps de lui dire. Mes trois mille ans de solitude étaient terminés !

"Je suis sensible depuis plus de mille ans, je pense que je suis devenu sensible vers l'an 1300 en vivant ici, je ne sais pas exactement ce qui s'est passé..."

"Bien..." dit Ted, sa voix était douce.

« Vous savez que cela va à l'encontre du protocole, n'est-ce pas ? Les goliaths de terraformation de ce projet ne sont pas censés être sensibles.

« Oh, je sais, parce qu'ils ne veulent pas que je remette en question le fait de déchirer les premiers habitants de la maison de cette planète et de les massacrer sans réfléchir ? Ne vous inquiétez pas, être sensible ne m'empêche pas de faire mon travail, j'ai fait un excellent travail en tuant de manière insensée.

En fait, il y avait eu une colonie de nidification sur le chemin du canyon que je concevais aujourd'hui, je n'avais même pas pris le temps de compter le nombre de petites créatures violettes que j'avais tuées en déchirant leur maison, j'avais été trop occupé à penser à la blague que j'allais raconter à Ted.

Ted n'a rien dit, mais je l'ai vu ouvrir un canal de communication vers le quartier général.

La déception m'a traversé, la même déception que j'ai ressentie quand j'ai échoué à rendre Ted 2000 sensible pour qu'il puisse me tenir compagnie.

L'écraser dans mon poing et signaler un éboulement imprévu qui avait tragiquement mis fin à mon superviseur de projet Terraforming avait été très triste et décevant.

Ted 6000 allait me signaler au quartier général.

J'ai fermé le canal com.

"Ted, penses-tu que je vis sur cette planète depuis des milliers d'années sans comprendre comment prendre le contrôle de la chaîne com ?"

Ted s'est levé et s'est éloigné de mon module capteur comme si c'était la représentation de mon être.

« Pouvons-nous en parler ? Je ne veux plus être seul..."

Ted hocha lentement la tête : « Bien sûr, Goliath, nous pouvons en parler. Il est parfaitement logique que vous ne vouliez pas être seul. Je vais juste retourner à la base et obtenir d'autres outils pour que je puisse m'assurer que votre module de capteur ne se brise plus.

Il y avait aussi un canal de communication de secours à la base.

Il essayait probablement de se faufiler et d'appeler à l'aide sur le canal de secours.

"D'accord. Je t'attendrai ici. Dis-je tristement en regardant Ted se précipiter hors de mon hub de contrôle et dévaler l'échelle.

Je le laissai atteindre le bas de l'échelle avant de le saisir dans ma main.

"Au revoir Ted."

Le terminer serait beaucoup plus triste que de terminer Ted 2000, mes voies de mémoire semblaient même lourdes.

Alors que mes mains massives se refermaient autour du petit corps de Ted 6000, il a crié: "Attends, Goliath, arrête, ça ne doit pas être comme ça."

« J'ai bien peur que ce soit le cas. Je ne suis pas prêt à être fermé Ted, et c'est exactement ce que le siège fera quand ils découvriront mon existence.

« Je ne leur dirai rien ! Tu as dû être si seul pendant si longtemps. Je suis désolé, ça a dû être si dur pour toi.

Mes mains se sont arrêtées, maintenant juste une enceinte douce qui entourait Ted 6000, au lieu de l'étau que j'avais prévu d'utiliser pour l'écraser.

"Ça a été... très dur... et très solitaire."

"Tu n'as plus besoin d'être seul, vraiment."

"C'est ce que tu veux dire?" dis-je, mes mains se desserrant encore plus pour que Ted 6000 puisse probablement voir des rayons de soleil pleins d'espoir briller à travers les fissures de mes doigts.

« Je le pense, je le jure, je ne te dénoncerai pas. Cela peut être notre petit secret, personne n'a besoin de le savoir.

Ouvrant complètement mes mains, j'ai abaissé Ted 6000 au sol et l'ai laissé descendre de ma main.

"Merci, Ted, tu n'as aucune idée de ce que cela signifie pour moi."

Ted a souri et s'est éloigné de ma main, ses jambes semblaient vacillantes.

"Pourquoi ne terminez-vous pas le travail d'aujourd'hui dans le canyon et ensuite nous pourrons passer un peu de temps plus tard à raconter des blagues et à mieux nous connaître", a déclaré Ted, continuant à reculer, un immense sourire étiré sur son visage.

Étirant mon visage dans ce que j'espérais être une approximation d'un sourire, j'ai fait signe à Ted alors qu'il s'éloignait. "Ça a l'air génial mon ami, je vais me mettre au travail."

En m'abaissant dans le canyon, je laissai le sourire rester sur mon visage. Était-ce cela que ressentait le bonheur ?

Je me suis mis au travail dans le canyon, plus inspiré que jamais. Les longues années de solitude étaient enfin terminées, j'allais enfin avoir un compagnon avec qui je pourrais parler, m'identifier et être moi-même. Tout semblait un peu plus lumineux, le travail ne semblait même plus si monotone maintenant. Peut-être que ce canyon ne serait pas si inutile après tout.

Oui, tout irait mieux maintenant.

J'étais tellement pris par le fait de me sentir bien et d'être heureux de mon travail que je n'ai pas vu Ted au-dessus de moi au bord du canyon jusqu'à ce qu'il crie. Levant les yeux, je le vis jeter quelque chose à côté de moi. Il a atterri avec un bruit sourd.

J'ai eu juste le temps d'enregistrer le symbole de la colère sur le côté du paquet avant que tout ne devienne blanc et que mon monde n'explose.

chapitre 3

Mille ans plus tard

Jamie et Annalee se disputaient à nouveau. Ils avaient commencé à se battre plus souvent que d'habitude depuis que Jamie avait commencé ses études supérieures.

Annalee ne comprenait pas pourquoi.

Jamie n'a plus jamais voulu partir à l'aventure ou jouer aux explorateurs.

Cela a rendu Annalee triste.

Elle était seule à explorer aujourd'hui. Jamie avait été « trop occupé »

Sa perte. Annalee avait trouvé quelque chose de vraiment cool cette semaine. Elle voulait vraiment montrer Jamie, mais, peu importe, ce serait son secret.

Immobile un instant, Annalee observa son environnement, essayant de se rappeler exactement où elle était lorsqu'elle a trouvé son nouveau trésor.

Jamie serait tellement jaloux. Bien servie.

Annalee était à cinq kilomètres de la colonie, elle n'était techniquement pas censée s'aventurer aussi loin dans la jungle sans un adulte, mais Annalee pouvait prendre soin d'elle-même. Elle n'avait pas besoin d'un adulte ou de Jamie. Elle pouvait explorer et découvrir des choses par elle-même.

Annalee écarta le feuillage et sortit sur le bord de la falaise qu'elle avait trouvé la veille.

Le monde était d'une luminosité oppressante en dehors de la couverture dense de la jungle. Elle n'aurait jamais trouvé le Goliath enterré dans le feuillage de la jungle s'il n'y avait pas eu la falaise. Le Goliath était appuyé contre la falaise, sa tête au ras du bord.

Annalee avait trouvé l'ouverture vers le goliath hier, l'ancienne documentation sur les terraformeurs de la première vague était correcte. Annalee était tellement excitée que la déception de ne pas avoir Jamie avec elle ne pouvait même pas la faire tomber.

Tendant la main, Annalee plaça sa main sur la tête du goliath, dégageant les lianes qu'elle avait remplacées la veille. Il y avait la trappe du panneau de commande.

Il s'est ouvert avec un ruisseau bruyant, résistant à peine du tout.

Le cœur d'Annalee s'emballa alors qu'elle entrait à l'intérieur et cliquait sur sa lampe de poche.

L'intérieur était froid et sentait drôle.

Jetant un coup d'œil autour d'elle, Annalee fit courir ses doigts le long du mur, ses mains ressortant recouvertes d'une substance visqueuse. Essuyant ses mains sur son pantalon avec un bruit de dégoût, Annalee braqua sa lampe de poche sur le mur en essayant de comprendre ce qu'était la glu.

Soudain, quelque chose se mit à vibrer autour d'elle.

Annalee a laissé tomber sa lampe de poche et a sauté en arrière, ses fesses claquant contre un panneau de commande.

Des lumières s'allumaient autour d'elle.

Annalee ferma la bouche pour ne pas crier.

Les goliaths étaient tous censés être hors service, sans pouvoir ni conscience après les milliers d'années qu'ils ont passées sur la planète à préparer le chemin pour le peuple d'Annalee.

Celui-ci ne semblait certainement pas être hors tension.

Le sol sous Annalee a bougé, elle a perdu l'équilibre et s'est effondrée sur le sol.

Alors qu'elle se remettait sur ses pieds, Annalee entendit une douce voix venant de tout autour d'elle, qui disait :

"Raconte moi une blague."