Quelle est la menace réelle de l'IA pour la sécurité de l'emploi ? Entretien avec le professeur d'IA Alejandro Piad Morffis

"Ce serait sacrément exaspérant s'il s'avérait que les programmeurs sont plus faciles à automatiser que les avocats." -Professeur Alejandro Piad Morffis. L'augmentation de l'adoption de modèles d'IA générative en langage large tels que ChatGPT, Microsoft Bing, Google Bard, Stable Diffusion, etc., si les avantages de ces modèles ne peuvent être réfutés, a conduit à une peur exagérée et déchirante, mais non sans fondement par des membres du public sur la possibilité que ces modèles d'IA compromettent la sécurité d'emploi de millions de travailleurs dans le monde. Comme décrit précédemment, la menace de l'IA pour les emplois humains, bien qu'exagérée et déchirante, n'est pas sans fondement. La capacité de l'IA à effectuer des tâches répétitives, à traiter de grandes quantités d'informations et à imiter la prise de décision humaine en fait un très bon outil pour améliorer la créativité, la productivité et l'efficacité. Pour répondre à la question "Est-ce que l'IA prendra nos emplois ?" J'ai demandé l'aide d'un expert du nom de , professeur d'IA à l'Université de La Havane, Cuba. Le professeur est un mentor, un enseignant, un ami et, plus important encore, une source d'inspiration pour moi. Professeur Alejandro Piad Morffis Comment j'espère aborder cela Les questions seront préfixées par la lettre "Q" tandis que les réponses seront préfixées par la lettre "A". En ce qui concerne les questions, j'espère couvrir des questions techniques et philosophiques car le professeur Morffis a également une affinité pour la philosophie. Il est également important de noter que je fournirai des liens vers certains concepts complexes à appréhender, par souci de compréhension. Commençons! Q : Tout d'abord, pourriez-vous nous parler un peu de vous, de vos qualifications professionnelles, etc. ? Je m'appelle Alejandro Piad, je me suis spécialisé en informatique à l'École de mathématiques et d'informatique de l'Université de La Havane, Cuba. J'ai fait une maîtrise en informatique également dans le même collège en 2016 et j'ai obtenu un double doctorat. en informatique à l'Université d'Alicante et un doctorat. en mathématiques à l'Université de La Havane en 2021. R : Mon doctorat était dans la découverte de connaissances à partir du langage naturel, spécifiquement axée sur l'extraction d'entités et de relations à partir de textes médicaux. Depuis mes études supérieures, j'enseigne à l'Université de La Havane, j'ai été maître de conférences en programmation, compilateurs et conception d'algorithmes, et également maître de conférences occasionnel sur l'apprentissage automatique et d'autres sujets. Depuis 2022, j'y suis professeur à temps plein, j'ai également été l'un des fondateurs de la nouvelle carrière en science des données, la première du genre à Cuba, et j'ai écrit tout le programme de programmation et de systèmes informatiques pour cette carrière, je continuer à faire des recherches en PNL, en se concentrant actuellement sur les approches neuro-symboliques de la découverte des connaissances, en mélangeant les LLM avec les systèmes symboliques. Q : Depuis combien de temps travaillez-vous avec des systèmes d'IA ? J'ai joué avec l'IA pour les jeux en tant qu'étudiant de premier cycle et j'ai réalisé quelques projets étudiants avec la vision par ordinateur et les métaheuristiques. Après avoir obtenu mon diplôme, j'ai commencé ma maîtrise en infographie, mais en tant que projet parallèle, j'ai fait des recherches en PNL, en particulier sur l'analyse des sentiments sur Twitter. R : Après avoir terminé le master, j'ai commencé à penser à faire un doctorat. et se sont lancés dans l'apprentissage automatique. On pourrait donc dire qu'il y a environ 10 ans que j'ai commencé à prendre l'IA au sérieux. Mon article le plus ancien lié à ce genre de choses date d'environ 2012. Q : C'est extrêmement impressionnant ! Vous avez travaillé avec l'IA bien avant que ça ne devienne cool. Selon vous, quelle est l'avancée technique la plus importante de l'IA qui a contribué à son adoption généralisée actuelle et aux menaces de déplacement d'emplois qui en résultent ? Eh bien, c'était toujours cool, mais pas en dehors du milieu universitaire. Je dirais, l'intersection de deux développements : la découverte d'architectures de réseaux de neurones artificiels telles que le transformateur, qui a résolu de nombreux problèmes d'évolutivité des architectures précédentes, et l'invention de matériel permettant d'exécuter ces architectures spécifiques à grande échelle de manière très efficace. R : orthogonal Q : Fascinant ! Selon votre opinion professionnelle en tant qu'éducateur et chercheur en IA, quelles industries risquent d'être remplacées par l'IA ? Je ne sais pas si une industrie sera entièrement remplacée, mais je suis sûr qu'il y aura des changements massifs. À long terme, bien sûr, personne ne peut rien dire. Mais à court et moyen terme (5-10 ans), avec ce que nous voyons avec les modèles de langage, je parie que toute personne dont le travail est basé sur le filtrage superficiel et le traitement du langage naturel aura des comptes à rendre. R : Cela inclut toutes sortes de rôles de gestion, y compris toute personne dont le travail consiste à lire des e-mails, à résumer et à créer des rapports. Tout type de secrétaire qui ne va pas au-delà de la prise de notes et de la planification des tâches. Les rédacteurs qui travaillent avec du contenu basé sur des modèles. Fondamentalement, toute tâche de création de contenu inférieure au niveau de créativité humaine réelle sera moins chère à automatiser que de payer un humain perroquet. Donc ceux-là vont disparaître. Un seul rédacteur utilisant le ChatGPT du futur proche pourra créer, en hypothèse, 3x à 10x plus de contenu avec la même qualité. stochastique Non pas parce que le modèle leur donnera la qualité finale qu'ils visent, mais parce que le modèle leur donnera 90 % de la qualité, et ensuite la vraie créativité humaine vient comme une cerise sur le gâteau et ajoute les 10 % finaux. L'éducation doit changer considérablement, aussi. On peut en parler plus longuement si tu veux. Q : C'est un très bel angle. Vous êtes pédagogue et d'après votre article intitulé " Repenser l'enseignement collégial ", vous savez évidemment à quel point l'établissement d'enseignement est réfractaire au changement. Pensez-vous que l'éducation formelle peut être dépendante de la survie dans le monde post-IA ? Oui, le milieu universitaire s'adaptera. C'est l'institution la plus ancienne de la civilisation occidentale. Il est antérieur à toutes nos religions dominantes et il a survécu à tous les changements majeurs de civilisation. Il changera considérablement, car il a changé à travers les âges. R : Q : Dans quelle mesure est-il important pour la société de tenir compte des implications éthiques de l'IA et du déplacement de l'emploi ? Toutes les technologies présentent des problèmes potentiels, et plus la technologie est avancée, plus il est urgent de les prendre en compte. L'IA est une technologie très puissante qui a le potentiel de perturber toutes nos relations économiques. R : C'est quelque chose qui se situe au niveau d'une révolution industrielle, donc cela aura des implications massives, et donc la préoccupation doit être au même niveau. Une chose qui diffère de la technologie perturbatrice précédente est que la plupart du temps, la nouvelle technologie automatise les emplois qui nécessitent le moins de compétences cognitives, c'est arrivé avec l'agriculture, la fabrication, l'exploitation minière, etc. Cependant, cette fois, nous sommes sur le point de remplacer un grand nombre d'emplois de cols blancs tout en laissant de nombreux emplois de cols bleus intacts. nous aurons donc beaucoup de gens habitués à travailler dans des bureaux qui trouveront qu'une IA peut aussi bien faire leur travail (ou peut-être un peu mieux) et beaucoup moins cher, donc ils devront soit améliorer leurs compétences de manière significative, soit ils devront se tourner vers des emplois moins qualifiés. Il y a d'autres considérations éthiques, il y a beaucoup de potentiel d'utilisation abusive des technologies d'IA pour la désinformation, les fausses nouvelles, les perturbations sociales, etc. Je ne pense pas que nous soyons préparés à ce qu'un nombre massif de chatbots humains prennent le contrôle de Twitter ; ça commence déjà à arriver. Il y a aussi des problèmes de biais, à mesure que ces systèmes deviennent de plus en plus omniprésents, les méfaits peuvent être très concentrés sur les minorités, donc tout le monde ne récoltera pas les bénéfices de l'IA au même degré, certaines minorités en subiront les inconvénients plus fortement que les autres issus des minorités. Q : Donc, en d'autres termes, nous devons faire attention car, contrairement aux formes d'automatisation passées, l'IA a également le potentiel de perturber les tâches cognitives. Ouais, surtout ces emplois. Il automatisera plus d'emplois de cols blancs que d'emplois de cols bleus, du moins à court terme. C'est quelque chose de nouveau, et la société n'a pas l'habitude d'avoir à faire face à ce genre d'interruption de travail. A : Ce sont des gens qui sont allés à l'université et plus ou moins convaincus que leur travail était sûr, ou du moins plus sûr que les chauffeurs de taxi, les livreurs de pizza, les jardiniers, vous le mentionnez. Q : Cela a du sens, frappons un peu près de chez nous. Croyez-vous qu'une augmentation de la capacité de l'IA entraînera finalement une diminution de l'emploi global pour les ingénieurs/développeurs de logiciels ? À très long terme, tous les emplois évolueront de manière imprévisible, y compris l'ingénierie et le développement de logiciels. L'intelligence artificielle et les progrès technologiques transformeront ces professions au point où elles pourraient sembler avoir disparu. R : Cependant, à court et à moyen terme, une diminution du nombre d'ingénieurs en logiciel est peu probable en raison de la demande croissante de logiciels dans diverses industries. Ce besoin croissant de professionnels qualifiés dépasse de loin le nombre actuel de personnes formées capables de créer des logiciels. La révolution de l'IA suivra un schéma similaire aux précédentes percées technologiques en informatique telles que les compilateurs, les environnements de développement intégrés, le cloud computing, les conteneurs, la complétion de code et IntelliSense. Ces innovations ont rendu la programmation plus accessible pour ceux qui n'ont pas de formation très formelle et élargi les opportunités pour les développeurs. Au cours des 20 prochaines années, nous pouvons nous attendre à une explosion de personnes entrant dans le domaine du développement de logiciels. Bien que les rôles professionnels puissent changer quelque peu avec l'évolution des tendances technologiques, il y aura probablement une croissance continue pour ceux qui souhaitent apprendre à programmer et à écrire du code. Q : C'est incroyable, bien que la sortie de modèles d'IA générative tels que le co-pilote de GitHub et la famille de modèles GPT ait suscité (pardonnez mon jeu de mots) des rumeurs sur la possibilité que les développeurs de logiciels perdent leur emploi au profit de l'IA. Que dites-vous à ce sujet ? Regardez les chiffres. Tout ce que je vois, ce sont plus d'offres d'emploi pour les développeurs de logiciels. La tendance est toujours à la hausse. R : Q : Jeff Clune, un ancien ingénieur d'OpenAI, a récemment fait une prédiction lors de la conférence AI Safety Debate, il a déclaré qu'il y avait 30 % de chances que l'IA soit capable de gérer « 50 % du travail économiquement précieux » d'ici 2030. , qu'est-ce que cela signifierait pour l'ensemble du marché du travail des développeurs ? Tout d'abord, je n'ai aucune idée de ce à quoi ressemblerait 30 % de chances d'automatiser 50 % des tâches. Est-ce une attente de 15 % de perdre votre emploi ? R : Q : Je suppose que les chiffres créent une scène déroutante. Mais le point essentiel est; Les développeurs de logiciels ont de nombreuses raisons de s'inquiéter pour la sécurité de leur emploi et bon nombre des tâches sur lesquelles ils passent actuellement beaucoup de temps sont en cours d'automatisation. Le rythme auquel cela se produit va s'accélérer. Oui, mais le fait est que la plupart des tâches sur lesquelles les développeurs passent la plupart de leur temps ont une valeur assez faible et nous serions bien mieux si elles étaient automatisées : débogage, écriture de tests, optimisations de code embêtantes. Au fur et à mesure que vous automatiserez tout cela, nous aurons plus de temps pour les parties vraiment importantes du développement logiciel, qui n'ont jamais consisté à écrire du code. R : Q : Pourriez-vous en dire plus sur ces parties ? Conception de haut niveau et d'architecture, expérience utilisateur, interaction homme-ordinateur, et cela ne concerne que le logiciel lui-même. Le génie logiciel concerne vraiment la relation entre les logiciels et les personnes, à la fois les personnes qui créent des logiciels et les personnes qui les utilisent. Les compétences logicielles ne sont donc que la moitié de l'histoire. Comprendre vos utilisateurs et vos collègues est l'autre moitié. R : Q : C'est similaire à la façon dont le travail principal des comptables consiste à communiquer des informations financières et non à créer des états financiers, fascinant ! C'est un pari juste de dire que les capacités de l'IA augmenteront dans 10 à 20 ans. Dans quelle mesure sommes-nous préparés, en tant que société et espèce, à faire face au déplacement/perte d'emploi potentiel provoqué par l'adoption potentielle de l'IA ? Comment cela affecte-t-il notre sens du but en tant qu'êtres humains ? Très difficile à dire, bien sûr, nous sommes au milieu d'une révolution industrielle aussi importante que la révolution des microprocesseurs ou la révolution Internet, personne en 1960 ne pouvait imaginer à quoi ressembleraient les années 1980. R : La société n'est jamais prête pour le changement, par définition. C'est ce qu'est un système, quelque chose qui s'efforce de maintenir son statu quo. Mais les humains sont l'espèce sociale la plus adaptable, donc je pense que nous allons nous débrouiller. Beaucoup de gens vont souffrir, et c'est quelque chose sur lequel nous devons travailler, sans aucun doute, mais rien d'apocalyptique à mon avis ne se produira. Q : Il y a eu beaucoup de discussions sur le potentiel dystopique de l'IA. Pourquoi dites-vous que rien d'apocalyptique ne se produira ? Je n'ai toujours pas vu d'arguments vraiment convaincants pour le scénario apocalyptique. Beaucoup d'arguments semblent être fondés sur un raisonnement comme "nous ne savons pas comment cela va évoluer, donc cela va probablement tous nous tuer" et c'est une erreur logique classique : vous faites essentiellement une inférence à partir d'un manque de connaissances. R : Q : C'est vrai. Mais le problème d'alignement de l'IA semble plausible. Je pense que nous allons le résoudre, au moins assez bien pour éviter les scénarios apocalyptiques. Les problèmes d'alignement les plus graves exigent que vous croyiez en une version puissante du que je ne crois pas plausible. R : thèse d'orthogonalité Q : Fascinant ! Pour en revenir à l'automatisation, comment pouvons-nous tirer parti de l'IA pour augmenter le travail humain plutôt que de le remplacer et quelles industries sont mûres pour ce type de collaboration ? Je pense que c'est naturel, car nous automatisons de plus en plus le travail cognitif subalterne (par exemple, résumer des documents ou trouver des références pertinentes), nous, les humains, allons travailler sur les parties les plus créatives de notre travail. Certains emplois ont très peu de cela au départ, et là je vois un défi parce que peut-être que ceux-ci seront complètement ou presque complètement automatisés. R : Mais la plupart des travaux de connaissance ont un côté créatif, la partie où vous faites réellement quelque chose de nouveau. Quant aux domaines qui sont mûrs pour cela, je ne peux pas parler de grand-chose d'autre, mais dans l'éducation au moins, je pense que nous sommes destinés à une révolution dont nous avons besoin depuis longtemps. Nous, les professeurs, n'avons plus besoin d'être les gardiens de l'information. Au lieu de passer la majeure partie de notre temps à noter les mêmes essais encore et encore, nous pouvons désormais nous concentrer sur la fourniture des meilleurs commentaires personnels possibles à chaque étudiant. Q : De quelles manières l'IA pourrait-elle révolutionner le système éducatif ? Peut-être plus de techniques d'enseignement adaptées de manière optimale aux élèves. Il y a quelques façons simples et d'autres moins faciles. Premièrement, il s'agit simplement d'accroître l'accès au savoir. Maintenant, presque tout ce que vous voulez apprendre, vous pouvez trouver des informations pertinentes sur Internet au moins pour commencer, mais elles sont souvent divisées autour de nombreuses sources avec des niveaux de détails disparates, des choses contradictoires, des styles linguistiques différents, etc. R : La première application relativement facile est juste ici, prenez ce tas de sources sur un sujet et donnez-moi un aperçu de haut niveau des principaux plats à emporter résumés, avec des liens pour plonger plus profondément, etc. Nous sommes assez proches de cela (à part les hallucinations qui sont un problème important). Une autre façon consiste simplement à libérer les éducateurs des tâches subalternes pour leur donner plus de temps pour se concentrer sur la création d'expériences d'apprentissage. Mais je crois que la chose la plus importante est de loin le potentiel d'apprentissage personnalisé. Vous pourriez avoir un assistant IA et lui dire "Je veux apprendre à faire une fusée" et il pourrait créer un plan très détaillé, spécialement pour vous, basé sur ce qu'il sait déjà que vous savez, il vous dirait, ici, regardez d'abord cette vidéo, maintenant suivez ce petit cours, maintenant lisez ce chapitre de ce livre, ... Et guidez-vous pendant 3 mois pour apprendre quelque chose de très précis. Q : C'est vraiment prometteur ! Vous faites un cas solide pour que les humains s'adaptent. Vous avez parlé de partialité, est-il juste de dire que l'adoption à grande échelle de l'IA affectera la minorité ? Si oui, comment peut-on lutter contre cela ? Oui, définitivement, l'apprentissage automatique est par définition formé sur la majorité, donc il blessera toujours le plus ceux dont le cas d'utilisation ne correspond pas à la majorité pour une raison quelconque. R : En particulier, chaque fois que vous formez des modèles pour prédire le comportement humain ou interagir avec les humains, cela a tendance à mieux fonctionner pour les sous-populations les mieux représentées dans les données. Que pouvez-vous faire? Commencez par sensibiliser à ces problèmes et assurez-vous de tester soigneusement vos modèles pour détecter les biais. Faites très attention à la façon dont vous collectez les données, n'allez pas dans la facilité et n'explorez pas le Web, et faites un effort pour trouver des sources de données de bonne qualité et très diversifiées. Mais plus que tout, incluez des personnes diverses avec des points de vue divers dans votre équipe. Vous ne pouvez pas résoudre un problème que vous ne pouvez pas voir. Q : Cela me fait réfléchir. Existe-t-il une possibilité que l'accès auxdits outils d'IA soit relégué aux personnes financièrement capables ? J'espère que la communauté open source mettra les outils à la disposition de tous. Nous avons déjà vu ce que l'accès à un système d'exploitation gratuit, une suite bureautique gratuite, un moteur de jeu gratuit, un éditeur de code gratuit, etc., fait pour les enfants créatifs des régions les plus pauvres du monde. R : J'espère que nous aurons des outils d'IA open source aussi bons que commerciaux, de la même manière que nous avons des outils de développement open source aussi bons que commerciaux. Q : Cela semble vraiment faisable. Quels conseils donneriez-vous à vos étudiants pour les préparer au marché du travail dans un monde post-IA ? Si vous étudiez déjà l'informatique, le conseil de base est de vous concentrer sur les fondamentaux, pas seulement sur les outils. Les outils vont changer mais les fondamentaux resteront d'actualité pour longtemps. Si vous étudiez autre chose, apprenez comment l'IA peut améliorer votre productivité et apprenez-en beaucoup sur ses limites. Utilisez-le pour améliorer votre propre travail. R : Q : Cela a du sens, les fondamentaux résisteront à l'épreuve du temps. Merci beaucoup pour votre temps Professeur Morffis. Des mots de clôture? La révolution de l'IA est là. Nous pouvons tous en faire partie, en apprenant à utiliser cette technologie pour faire du bien et améliorer la vie de chacun. R : Également publié ici