Élaborer sur le besoin de penseurs futuristes

"La haute technologie fonctionne trois fois plus vite que les entreprises normales, et le gouvernement fonctionne trois fois plus lentement que les entreprises normales. Nous avons donc un écart de neuf fois"

- Ancien PDG d'Intel, Andrew Grove

"Certains d'entre nous continuent d'avoir des carrières à l'ancienne au XXIe siècle - nous sommes médecins, professeurs, avocats et chauffeurs de camion. Pourtant, l'économie principale n'est plus dirigée par ce que nous faisons, mais par les informations qui nous sont extraites, non par notre travail dans un sens établi, mais par nos données.

-Justin EH Smith dans Internet n'est pas ce que vous pensez : une histoire, une philosophie, un avertissement (2022)

« Dans le passé, les humains devaient lutter contre l'exploitation. Au 21ème siècle, la vraie grande lutte sera contre l'insignifiance. Il est bien pire d'être insignifiant que d'être exploité. Ceux qui échouent dans la lutte contre l'insignifiance constitueront une nouvelle classe inutile.

-Yuval Noah Harari lors d'une conférence au Forum économique mondial, Davos (2020)

"S'attaquer à ces problèmes nécessitera une combinaison d'analyse lucide et d'examen philosophique approfondi de ce qui compte dans nos vies, une tâche pour nos esprits et nos cœurs "

- Kai-Lee Fu dans AI Super-Powers: China, Silicon Valley, and the New World Order (2018)

"Si nous croyons que la vie a un sens au-delà de cette course effrénée matérielle, alors l'IA pourrait bien être l'outil qui peut nous aider à découvrir ce sens plus profond."

-Kai-Lee Fu dans AI Super-Powers: China, Silicon Valley, and the New World Order (2018)

J'imagine les citations ci-dessus comme des voix intérieures se répétant en boucle continue pour lancer ce post qui est en préparation depuis un moment.

En fait, ce n'est pas un article unique, mais le premier d'une série d'articles que je prévois d'écrire sur une période plus longue. Je souhaite explorer comment la révolution de l'IA et le paradigme du Web 3.0, y compris le concept particulier de métaverse, façonneront l'expérience humaine à l'avenir.

Sans aller trop loin dans le terrier du lapin, et sans plus tarder, voici un bref aperçu des défis sur lesquels je prévois d'écrire.

Menaces de la révolution de l'IA

La conférence de Yuval Noah Harari au Forum économique mondial de Davos en 2020 est un excellent point de départ pour transmettre la macro-menace des systèmes d'IA avancés.

https://www.youtube.com/watch?v=gG6WnMb9Fho

Harari identifie trois défis qui découleront de la révolution de l'IA : une nouvelle classe inutile , le colonialisme des données et les dictatures numériques.

Une nouvelle classe inutile est liée au concept de chômage technologique que j'aborderai plus tard. En bref, « la classe inutile » est une nouvelle caste envisagée pour les employés qui prennent du retard par rapport au développement technologique alors qu'ils voient comment leurs compétences durement acquises sont remplacées par l'automatisation. '

Le colonialisme des données est lié à « l'inégalité technologique ». Par exemple, le fossé entre certains pays en développement qui sont pour la plupart «hors réseau numérique» par rapport aux superpuissances de l'IA, les États-Unis et la Chine. L'automatisation dans les pays hautement développés peut remplacer la main-d'œuvre à bas salaire dans les pays en développement. De plus, les données sont le pétrole du 21ème siècle . Quiconque détient les données peut contrôler et exploiter les personnes qui savent comment elles se comportent, agissent, pensent et ressentent. Comme le dit Harari dans son discours, « quand vous avez suffisamment de données, vous n'avez pas besoin de soldats pour envahir un pays. ”

Harari énonce les dictatures numériques dans une équation simple et sombre qui, selon lui, sera l'équation déterminante de la vie au 21e siècle :

"B x C x D = AHH"

Ce qui signifie:

“ La connaissance biologique (B) multipliée par la puissance de calcul (C) multipliée par les données (D) est égale à la capacité de pirater les humains (AHH) ”

Selon Harari, les gouvernements et les entreprises ayant accès à des informations sur nos types de personnalité, nos opinions politiques, nos croyances religieuses, nos préférences sexuelles, nos goûts et nos dégoûts, nos faiblesses et nos forces, nos peurs et nos désirs les plus profonds, sont capables de surveiller tout le monde et de prédire et de manipuler notre comportement. Essentiellement, ils ont la "capacité de pirater les humains".

Selon les mots de Harari, si nous ne faisons pas attention, nous pourrions créer le pire régime totalitaire de l'histoire avec les connaissances biologiques, la puissance de calcul et les données sur les citoyens qui manquaient aux tyrans du passé.

Prise de décision automatisée et RGPD

À plus petite échelle, nous déléguons de plus en plus les pouvoirs de décision et l'autorité aux algorithmes et aux systèmes algorithmiques de recommandation. Comme Harari le souligne également dans son discours :

" Des milliards de personnes font confiance à l'algorithme de Facebook pour nous dire ce qui est nouveau, les algorithmes de Google nous disent ce qui est vrai, Netflix nous dit quoi regarder, et les algorithmes d'Amazon et d'Ali Baba nous disent quoi acheter ."

Les systèmes algorithmiques décident même si nous sommes aptes à un emploi, si nous sommes éligibles à un prêt, comment notre argent doit être investi ou avec qui nous devons sortir en nous mettant en relation avec des partenaires potentiels sur Tinder. Pendant ce temps, nous n'avons aucune idée de la façon dont ces décisions sont prises, et même si nous l'avions, nous ne serions pas en mesure de comprendre le raisonnement de la machine.

J'ai publié ici et ici de longs articles légalistes sur la réglementation de la prise de décision automatisée par le RGPD . Plus ou moins, je conclus dans les mots d'Edward Snowden que le GDPR est un tigre de papier car il n'offre aucune protection significative aux individus contre les décisions automatisées. Le droit des personnes concernées d'obtenir une intervention humaine qui découle de l'article 22 du RGPD est une noble initiative aux effets limités. Même si la décision est nécessaire à la conclusion d'un contrat ou repose sur le consentement explicite de l'individu, il n'existe souvent aucun moyen de comprendre ou d'expliquer les processus sous-tendant la façon dont une décision spécifique a été prise, ni pour l'individu, ni pour le propriétaire de l'entreprise, ni pour le développeurs d'un système d'IA avancé.

Cela étant dit, la Commission européenne a proposé un cadre juridique pour réglementer l'IA avec une approche basée sur les risques qui vise à combler les lacunes réglementaires et à atténuer les dangers des systèmes d'IA dans un équilibre délicat avec les intérêts commerciaux des petites et moyennes entreprises. entreprises de taille moyenne (PME).

« Le tigre de papier » GDPR a également montré ses dents en 2021 avec de lourdes amendes. La Commission de protection des données du Luxembourg a infligé une amende record à Amazon de 746 millions d'euros , apparemment liée à l'utilisation par Amazon des données des clients à des fins de publicité ciblée. L'Irish Data Protection a infligé une amende de 225 millions d'euros à WhatsApp pour des politiques de confidentialité peu claires et un manque de transparence dans la manière dont il traite les données des utilisateurs. Google a été condamné à une amende de 150 millions d'euros et Facebook Ireland Limited a été condamné à une amende de 90 millions d'euros par l'autorité française des données CNIL pour ne pas avoir fourni aux utilisateurs une méthode simple pour désactiver les cookies de suivi .

Croissance technologique exponentielle et chômage technologique

La croissance technologique exponentielle a fait des merveilles pour l'humanité au cours du siècle dernier, augmentant le niveau de vie, le confort et la commodité. Et la croissance continue de façon désordonnée, dépassant peut-être même la loi de Moore .

La loi de Moore est un principe économique nommé d'après le co-fondateur d'Intel, Gordon E. Moore , qui a prédit en 1965 que le nombre de transistors dans une puce informatique doublerait environ chaque année pendant une période de dix ans. Il avait raison. En 1975, Moore a révisé sa prédiction et a suggéré que le nombre de transistors doublerait à peu près tous les deux ans. Mais il était trop pessimiste. Le nombre de transistors doublerait environ tous les 18 mois pendant 50 ans à partir de 1961. À mesure que le nombre de transistors dans une puce informatique augmente, la puissance de traitement informatique augmente également, tandis que le prix par transistor diminue.

En 2011, le physicien et futuriste Michio Kaku décrivait les effets de la loi de Moore :

"Aujourd'hui, votre téléphone portable a plus de puissance informatique que toute la NASA en 1969, lorsqu'elle a placé deux astronautes sur la lune. Les jeux vidéo, qui consomment d'énormes quantités de puissance informatique pour simuler des situations 3D, utilisent plus de puissance informatique que les ordinateurs centraux de la décennie précédente. La Sony PlayStation d'aujourd'hui, qui coûte 300 dollars, a la puissance d'un supercalculateur militaire de 1997, qui a coûté des millions de dollars.

La croissance exponentielle de la technologie ne s'est bien sûr pas limitée aux puces informatiques. Aujourd'hui, les modèles texte-image tels que Dall-E 2 d'OpenAI ou Imagen de Google peuvent générer des illustrations et des photos hyperréalistes à partir d'invites. Les modèles de langage peuvent écrire n'importe quelle forme de contenu presque impossible à distinguer de l'écriture humaine. Nous avons des magasins sans personnel comme Amazon Go , nous pouvons construire des voitures sans conducteur et acquérir des logiciels pour prendre en charge tout type de fonction commerciale.

En quelques décennies, les systèmes d'IA pourront probablement surpasser les humains dans n'importe quel domaine intellectuel. Y compris dans des tâches qui étaient auparavant considérées comme un terrain sûr telles que la recherche et la découverte, la philosophie, le contrôle judiciaire, le diagnostic et l'analyse financière. Quelle sera la sévérité des impacts sur le marché du travail ?

Deux chercheurs de l'Université d'Oxford ont prédit en 2013 que 47 % de l'emploi total aux États-Unis couraient un risque élevé d'automatisation d'ici une décennie ou deux.

Un autre rapport de l'Organisation de coopération et de développement économiques (OCDE) est venu avec une estimation basse en 2016 selon laquelle seuls 9 % des emplois étaient automatisables en moyenne dans 21 pays de l'OCDE.

Un rapport de PricewaterhouseCoopers (PwC) de 2017 a révélé qu'environ 30 % des emplois au Royaume-Uni et environ 38 % aux États-Unis présentaient un risque élevé d'automatisation au début des années 2030.

Kai Fu-Lee, expert mondial en IA, a prédit en 2018 que nous serions techniquement capables d'automatiser 40 à 50 % des emplois aux États-Unis d'ici dix à vingt ans.

Comment les gouvernements du monde entier devraient-ils réagir ? Et comment pouvons-nous conserver un sens du but lorsque les fonctions professionnelles qui nous donnaient auparavant une identité ne sont plus nécessaires ? Nous avons affaire à une toute nouvelle bête.

Technocapitalisme, Internet et Web 3.0

Le nom du jeu dans le capitalisme a toujours été que les plus riches deviennent plus riches, tandis que les plus pauvres deviennent plus pauvres. Malheureusement, le techno-capitalisme, qui est un capitalisme stimulé par les systèmes d'IA et d'autres technologies modernes, creuse encore plus l'écart entre les riches et les pauvres. Par exemple, les milliardaires américains ont gagné 2 billions de dollars pendant la pandémie de corona. Dans le même temps, des parents en Afghanistan vendent leurs reins pour nourrir leurs enfants affamés dans la crise alimentaire actuelle. De tels faits restent complètement invisibles pour nous, malgré toutes les améliorations incroyables qu'Internet a apportées à notre vie quotidienne.

L'Internet d'aujourd'hui ressemble de plus en plus à un gigantesque projet d'éclairage au gaz conçu pour nous distraire avec du contenu accrocheur et faux généré en partie ou en totalité par des algorithmes. Jonathan Haidt compare l'impact des médias sociaux avec le mythe biblique de la tour de Babel . Selon le mythe, les descendants de Noé s'apprêtaient à construire la tour de Babel "avec son sommet dans les cieux", jusqu'à ce que Dieu perturbe leurs plans en confondant leur langue afin qu'ils ne puissent plus communiquer. De même, Haidt théorise que la polarisation et les chambres d'écho sur les réseaux sociaux obscurcissent notre communication, de sorte que nous ne sommes plus en mesure de nous comprendre au niveau le plus élémentaire.

Pour éviter les modèles commerciaux agressifs de Big Tech basés sur la collecte de données, la capture de l'attention et des campagnes publicitaires ciblées, de nouveaux services Web basés sur la technologie blockchain sont déjà accessibles à tous. Ils sont centrés sur les créateurs, au lieu d'intermédiaires, et permettent aux utilisateurs de posséder, voire de générer des revenus, à partir de leurs données.

Le mouvement Web 3.0 est inspiré et fondé sur la philosophie derrière Bitcoin. Le système Bitcoin permet aux utilisateurs de stocker et d'échanger de la valeur sur Internet en dehors du contrôle des banques et des gouvernements. Selon Balaji Srinivasan dans son livre The Network State , le même système pourrait même être utilisé pour perturber la géographie en formant de nouveaux pays.

Quelle est la prochaine?

Lorsque j'étudie les travaux des futuristes et des experts en intelligence artificielle, je ne peux m'empêcher de penser que les décideurs politiques et les régulateurs se préparent à un tsunami technologique avec des imperméables et des parapluies. Les principaux décideurs publics ne doivent pas ignorer l'ampleur et l'ampleur de la rupture technologique qui se déroule actuellement au-dessus de nos têtes.

À mon avis, les idées radicalement nouvelles doivent être écoutées et les personnes qui sortent des sentiers battus et des protocoles obsolètes doivent être accueillies afin de réguler l'état actuel des choses et de relever les défis et les opportunités de l'ère post-internet.