Le rythme de développement   a atteint un crescendo naturel. Des outils tels que   ,   ,   , etc., et leurs créateurs prétendent tous pouvoir bientôt changer toutes les facettes de la société, des soins de santé et de l'éducation à la finance et au divertissement. Cette évolution rapide soulève des questions de plus en plus cruciales sur la trajectoire de l’IA : les avantages de la technologie, certes, mais aussi (   ) les risques potentiels qu’elle fait peser sur nous tous. de l’intelligence artificielle GPT-4 Gemini Claude surtout !  Dans ces circonstances, écouter, comprendre et tenir compte des points de vue des experts devient crucial. Une enquête récente intitulée «   représente l'effort le plus approfondi visant à évaluer les opinions de ces spécialistes sur le potentiel de l'IA. Menée par   et son équipe d'   , en collaboration avec des chercheurs de l'Université de Bonn et de l'Université d'Oxford, l'étude a interrogé 2 778 chercheurs, cherchant leurs prédictions sur les progrès de l'IA et ses impacts sociaux. Tous ceux contactés avaient déjà rédigé des articles évalués par des pairs dans des lieux de premier plan en matière d’IA.  »  Des milliers d'auteurs d'IA sur l'avenir de l'IA Katja Grace AI Impacts  Points clés à retenir de l'avenir de l'étude sur l'IA  En bref, l'enquête met en évidence la complexité et l'ampleur des attentes et des préoccupations des chercheurs en IA concernant l'avenir de la technologie… et ses impacts sociétaux.  Les experts prédisent que l’IA franchira des étapes importantes dès 2028 : «   ». comme le codage d’un site complet de traitement des paiements à partir de zéro et l’écriture de nouvelles chansons impossibles à distinguer des vraies par des artistes à succès tels que Taylor Swift  Une majorité significative des participants estiment également que les meilleurs systèmes d’IA atteindront probablement des capacités très remarquables au cours des deux prochaines décennies. Cela inclut la recherche de «   » (82,3 %), le fait de parler «   » (81,4 %) et un comportement fréquent «   » (69,1 %)​​. moyens inattendus pour atteindre les objectifs comme un expert humain sur la plupart des sujets d’une manière surprenante pour les humains  En outre, le consensus suggère qu'il y a 50 % de chances que l'IA «   » les humains dans   les tâches d'ici 2047,   . surpasse toutes une projection qui a avancé de 13 ans par rapport aux  prévisions faites un an plus tôt  La probabilité que toutes les occupations humaines deviennent «   » devrait désormais atteindre 10 % d’ici 2037 et 50 % d’ici 2116 (contre 2164 dans   ).  entièrement automatisables l’enquête de 2022  L'enquête révèle un scepticisme quant à l'interprétabilité des décisions en matière d'IA, puisque seulement 20 % des personnes interrogées considèrent qu'il est probable que les utilisateurs seront capables de «   » d'ici 2028​​. L’IA est (tristement célèbre)   , et cette préoccupation reflète les défis réels et permanents en matière de transparence de l’IA. Ceci est particulièrement pertinent dans les applications critiques (finance, soins de santé…) où la compréhension de la prise de décision par l’IA est cruciale pour la confiance et la responsabilité. comprendre les véritables raisons qui se cachent derrière les choix des systèmes d'IA une boîte noire  L’étude souligne également des inquiétudes «   » concernant les potentiels impacts négatifs de l’IA. La diffusion de fausses informations, la manipulation de l’opinion publique et les utilisations autoritaires de l’IA suscitent, sans surprise, de vives inquiétudes​​. Les appels à des mesures proactives pour atténuer ces dangers sont rares aujourd’hui,   .  importantes et c’est un problème  Il existe un large éventail d'opinions sur les impacts à long terme de l'intelligence artificielle de haut niveau, une partie notable des personnes interrogées attribuant des probabilités non nulles à des résultats à la fois extrêmement bons et extrêmement mauvais, y compris l'extinction humaine. C'est un scientifique qui dit «   ». Mais…   , ce qui semble être quelque chose que nous devrions surveiller. nous ne savons pas ce qui va se passer ensuite entre 38 % et 51 % des personnes interrogées donnent au moins 10 % de chances qu’une IA avancée conduise à des conséquences aussi néfastes que l’extinction humaine  Enfin, il existe un désaccord sur la question de savoir si des progrès plus rapides ou plus lents de l’IA seraient meilleurs pour l’avenir de l’humanité. Cependant, une majorité des personnes interrogées plaident en faveur d'une priorité plus grande à la recherche sur la sécurité de l'IA qu'elle ne l'est actuellement, reflétant un consensus croissant sur l'importance de s'attaquer aux risques existentiels de l'IA et d'assurer son développement et son déploiement en toute sécurité.  Que faisons-nous de ces informations ?  La voie à suivre est assez claire : les gouvernements du monde entier doivent augmenter le financement de la recherche sur la sécurité de l’IA et développer des mécanismes solides pour garantir que les systèmes d’IA s’alignent sur les valeurs et les intérêts humains actuels et futurs.  Le gouvernement britannique   , dont 30 millions de livres sterling pour la création d'un nouvel écosystème d'IA responsable. L’idée est de créer des outils et des programmes garantissant des applications responsables et fiables des capacités de l’IA. a récemment annoncé un financement de plus de 50 millions de livres sterling pour une série de projets liés à l'intelligence artificielle  Parallèlement, l’administration Biden-Harris a annoncé début 2024 la création du   (AISIC), réunissant plus de 200 parties prenantes de l’IA, dont des leaders de l’industrie, des universitaires et de la société civile. Ce consortium vise à soutenir le développement et le déploiement d'une IA sûre et fiable en élaborant des lignes directrices pour l'équipe rouge, les évaluations de capacités, la gestion des risques et d'autres mesures de sécurité critiques. Consortium américain de l’AI Safety Institute  Il s’agit d’un début, mais il s’agit là d’un début trop national.  Les gouvernements ne peuvent pas se contenter de regarder leur propre cour aujourd’hui. Nous devons également mettre en œuvre des réglementations   pour guider le développement et le déploiement éthiques des technologies d’IA, en garantissant la transparence et la responsabilité. Cela implique de favoriser les collaborations interdisciplinaires et   entre les chercheurs, les éthiciens et les décideurs politiques en IA. Je me sentirai plus en sécurité dans le monde lorsque je verrai les mesures suivantes être mises en œuvre pour renforcer et améliorer les cadres existants en matière de droits de l'homme : INTERNATIONALES INTERNATIONALES  Cadres mondiaux de sécurité de l’IA  Sommets internationaux sur la sécurité de l'IA  Fonds mondiaux de recherche sur l’éthique et la sécurité de l’IA.  Trop tôt pour tirer des conclusions  Il est peut-être un peu tôt pour tomber dans le cataclysme. Bien que l'enquête fournisse des informations précieuses, elle présente des limites, notamment des biais potentiels dus à l'autosélection des participants et le défi (   ) de prévoir avec précision les progrès technologiques. Des recherches plus approfondies devraient viser à élargir la diversité des perspectives et à explorer les implications du développement de l’IA dans des secteurs spécifiques. évident !  En fin de compte, et quelle que soit l’exactitude des prédictions faites, nous avons besoin de plus que des mots. L’IA est une source à la fois d’opportunités sans précédent et de défis importants. Grâce à un dialogue ouvert entre les chercheurs, les décideurs politiques et le public, nous   créer des règles pour nous protéger du danger de l’IA et nous orienter vers un avenir meilleur   . devons pour tous  Le monde est très grand et nous sommes très petits. Bonne chance là-bas.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

This story will praise and/or roast a product, company, service, game, or anything else people like to review on the Internet.

Winner of Noonies 2020 for the award Hacker Noon Contributor of the Year - AUTOMATION.

Plus de 2 000 chercheurs prédisent l’avenir de l’IA

About Author

COMMENTAIRES

ÉTIQUETTES

CET ARTICLE A ÉTÉ PARU DANS

Related Stories

Guide de l'architecte pour créer une architecture de référence pour un datalake IA/ML

Créer des produits cryptographiques centrés sur l'utilisateur : l'importance des retours clients

Libérer la puissance de l’IA. Une revue systématique des techniques de pointe : résumé et introduction

Vous voulez gagner un concours d’écriture HackerNoon ? Voici ce que recommandent les gagnants du concours #crypto-api

Guide de l'architecte pour créer une architecture de référence pour un datalake IA/ML

Créer des produits cryptographiques centrés sur l'utilisateur : l'importance des retours clients

Libérer la puissance de l’IA. Une revue systématique des techniques de pointe : résumé et introduction

Vous voulez gagner un concours d’écriture HackerNoon ? Voici ce que recommandent les gagnants du concours #crypto-api

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps