L'IA créative « ébranle » le cœur de l'humanité et nécessite une discussion plus large sur l'éthique

Au cours de la dernière décennie, l'IA a consisté à automatiser les tâches les plus banales et les plus répétitives. Les humains étaient toujours en charge du travail créatif et de la réflexion. La frontière entre les humains et les machines était claire. Les machines peuvent calculer mais les humains écrivent l'algorithme. Ou l'IA peut aider à réparer une photo prise par un humain. Ce type d'automatisation a apporté beaucoup plus d'opportunités que de défis. En tant que société, elle tenait la promesse que si nous pouvions l'utiliser correctement, cela libérerait plus de temps pour les relations, l'expression de soi et la créativité. Ces choses qui nous donnent un sens, des choses qui sont au cœur de notre humanité.

Puis récemment et plus encore au cours de la dernière année, l'IA générative s'est concrétisée. Stable Diffusion, Dalle, Midjourney et autres peuvent créer des images professionnelles basées sur une invite de texte et GPT-chat peut répondre aux questions et rédiger des essais. La machine est devenue créative ! Et cela va bousculer la frontière entre humains et machines. Cela va nous faire remettre en question le cœur de notre humanité. Comment fonctionnerons-nous dans un monde où une machine peut sans effort faire chaque dessin et écrire n'importe quel essai ? Qu'est-ce que nous apprécions et qu'est-ce qui nous donnera un sens? Et pourquoi même s'embêter à faire des efforts dans quoi que ce soit ?

Il ne s'agit pas de protéger les emplois

Pour les artistes parmi nous, il y a une tournure ironique supplémentaire. Non seulement l'IA générative pourrait menacer leurs moyens de subsistance et les amener à remettre en question le sens de leur vie, mais la machine le fait également en copiant leur travail. Tout travail d'artiste mis en ligne est mis au rebut sans l'approbation du droit d'auteur, formé et reproduit dans de nouvelles variations. Si vous copiez d'une personne, c'est du plagiat, mais si vous copiez de tout le monde, c'est potentiellement considéré utilisation équitable et est également introuvable.

Pas étonnant que la protestation généralisée ait commencé. Artists in Artstation, un site Web pour présenter l'art et les illustrations CGI, a changé sa photo de profil à 'pas d'IA', et cela a forcé Artstation à changer sa politique et maintenant, chaque élément peut être marqué comme "pas d'IA", indiquant qu'il n'est pas autorisé à l'utiliser pour l'entraînement de l'IA. C'est un changement dans la bonne direction, cela oblige les entreprises d'IA à respecter les règles de propriété. Cependant, cela n'arrêtera pas complètement l'automatisation de l'art et cela ne devrait pas être le cas.

Changer de métier à cause d'une rupture technologique est inévitable. Nous avons traversé ce cycle plusieurs fois auparavant. Les opérateurs d'ascenseur appartiennent au passé. Il n'y a plus beaucoup d'agents de voyage et il y a beaucoup d'autres exemples. Il y a même une priorité dans le travail créatif, l'invention de la photographie a considérablement réduit le nombre d'artistes réalistes, et plus tard l'appareil photo numérique a changé l'industrie de la photographie.

De plus, il n'est pas éthique d'essayer d'arrêter la technologie pour sauver des emplois. Ce sera préférer les droits de quelques-uns, ceux dont les emplois sont menacés, aux droits de beaucoup d'autres, ceux qui peuvent profiter des fruits de cette automatisation. Mais il existe des moyens de lutter contre cette menace.

Il existe des moyens de remplacer les emplois qui seront perdus à cause de l'IA générative

Dans une recherche Pew enquête menée en 2017, la plupart des experts pensaient que, tout comme certains emplois deviennent obsolètes, de nouveaux emplois sont créés. Sur la base des tendances historiques, le Forum économique mondialestimé en 2020 que l'automatisation créera douze millions d'emplois de plus qu'elle n'en supprimera.

J'ai tendance à penser davantage comme Jason Hickel que dans le système économique actuel, où le capital cherche toujours à croître, toutes les économies de coûts réalisées grâce à l'automatisation sont réinvesties dans la production et les gens continuent de produire. Mais que les gens produisent plus sans fin. De nouveaux emplois sont créés, davantage de produits et de matériaux sont consommés, mais la qualité de vie n'augmente pas. Par conséquent, Jason et d'autres progressistes pensent qu'en ralentissant la croissance, nous pouvons utiliser ces économies de coûts pour fournir à chacun un revenu de base universel et libérer du temps. Temps que les gens peuvent utiliser pour des activités créatives.

Que nous regardions à court terme, où les emplois sont transformés mais pas perdus, comme le pense le Forum économique mondial, ou à plus long terme, où nous travaillons moins et consommons moins, comme l'espère Jason Hickel, il existe une feuille de route pour lutter contre les pertes d'emplois. Mais une conversation doit s'engager sur la manière de préserver la créativité humaine à l'ère des machines créatives.

Éthique en IA générative

L'éthique dans l'IA consistait autrefois à créer systèmes impartiaux , sur le maintien droits à la vie privée tout en étant sous la surveillance constante d'un logiciel avec détection de visage et d'objet. Puis, lorsque l'apprentissage automatique génératif a commencé, l'éthique s'est étendue à empêcher la propagation de faux dans un monde avec des contrefaçons profondes, et sur droits d'auteur . Tout cela est vrai, mais il y a quelque chose de plus large en jeu. L'éthique dans l'apprentissage automatique créatif devrait également viser à maintenir l'humanité dans les humains.

Dans la science-fiction dystopique, comme l'odyssée de l'espace, la menace est toujours que la machine développe une volonté propre et se retourne violemment contre les gens. La réalité ne donne rien de tel. Qui aurait pensé que la machine nous menacerait en dessinant des images et en écrivant des essais ?

Voici quelques suggestions de politiques que nous devrions envisager si nous voulons façonner un avenir équitable, juste et significatif. Certaines politiques sont plus à court terme, d'autres sont plus difficiles à atteindre. Mais si l'ingéniosité humaine peut inventer ces machines, elle peut aussi inventer les politiques pour les gouverner. Il le faut, notre avenir en dépend.

Mettre à jour les licences créatives - pour une utilisation dans la formation à l'IA

Chaque pièce de création originale : photos, art ou code a une licence qui définit ce qu'il est possible d'en faire. Certaines créations sont gratuites, d'autres offertes moyennant des droits d'auteur. Certains peuvent être utilisés pour n'importe quel usage, y compris des usages commerciaux et d'autres sont uniquement destinés à un usage privé et à la recherche. Etc.

L'utilisation de travaux tiers pour former un modèle d'apprentissage automatique est un nouveau cas d'utilisation. Par conséquent, il doit s'agir d'une nouvelle catégorie dans l'octroi de licences. Une œuvre est soit autorisée pour la formation à l'apprentissage automatique (gratuitement ou moyennant des redevances) ou non en fonction de la licence. Sloyd (l'auteur est co-fondateur) a des artistes qui créent des modèles 3D et des pièces de modèles spécialement pour l'IA et ils sont rémunérés pour cela.

Lorsque les données d'entraînement se raréfient, les créateurs qui inventeront de nouveaux moyens d'expression auront plus de temps pour profiter des fruits de cette nouvelle avenue créative avant qu'elle ne soit imitée par une machine. Ou, ces créateurs peuvent décider de vendre leurs créations pour la formation à l'IA à une juste valeur et encaisser rapidement leurs nouvelles créations.

Les modèles déjà formés sur des œuvres publiques de masse protégées par le droit d'auteur devraient appartenir au public

Ensuite, il y a des modèles déjà formés sur de grandes quantités de créations sans consentement. « Le navire a navigué » et cela ne peut pas être annulé. Litige sur ce qu'il faut faire avec le travail passé qui a été utilisé dans la formation se poursuivra pendant des années, et l'apprentissage automatique qui existe actuellement sera utilisé des milliards de fois avant que le litige ne soit réglé.

De plus, il n'existe aucun moyen équitable de redistribuer la valeur créée à partir de ces machines aux créateurs. Si la richesse ne peut pas être redistribuée, la meilleure chose à faire est de l'offrir gratuitement au public. LAION, un ensemble de données de liens vers des images et de descriptions correspondantes utilisées pour la formation de texte à image, est déjà à but non lucratif (bien qu'il ne soit pas filtré en fonction des restrictions de droits d'auteur). Stability AI, le créateur de la diffusion stable, est une entreprise d'apprentissage automatique génératif open source. L'utilisation de leur machine est gratuite et ils gagnent de l'argent grâce aux modules complémentaires. De même, en guise de règlement pour sortir d'un litige, d'autres entreprises devront offrir leurs outils d'apprentissage automatique gratuitement ou scinder ce produit à une entreprise distincte qui l'exécute en open source.

Cela peut sembler tiré par les cheveux, mais la FTC envisage déjà de telles politiques de briser les grandes entreprises technologiques pour accroître la concurrence. Utiliser les mêmes politiques pour régir le plus grand changement technologique de notre vie n'est pas exagéré.

Valoriser l'IA qui stimule la créativité plutôt que de la diminuer

Les entreprises et les particuliers qui conçoivent et forment l'IA devraient réfléchir à des moyens de donner aux gens les moyens d'être plus créatifs. L'examen de la technologie apporte une quelques exemples où la machine renforce la créativité et ne la remplace pas : plugin Text-to-image dans Photoshop ; un plugin Stable Diffusion pour Blender et un widget texte-image pour Office.

Chez Sloyd, nous pensons à la création assistée par l'IA plutôt qu'à la création par l'IA. Nous avons commencé par nous concentrer davantage sur l'automatisation des modèles 3D pour l'environnement et les accessoires de jeu, car la plupart des artistes 3D aiment travailler sur des personnages pour leurs jeux, mais pourraient utiliser de l'aide pour automatiser le reste. Nous utilisons des créateurs de communauté rémunérés pour créer la base de données de formation et cette base de données s'élargira toujours afin qu'il y ait toujours une contribution humaine créative. Nous essayons de fournir des moyens d'avoir une manipulation directe des objets avec des entrées utilisateur afin que les utilisateurs aient un meilleur contrôle de la sortie. Dans ce cas, la suggestion est une ligne directrice éthique et non une suggestion de politique. Cependant, si nous avons une ligne directrice éthique claire, avec le temps, nous serons en mesure de proposer une politique pour la soutenir.

Prendre en compte le coût réel de la formation - y compris l'impact environnemental

Nous payons l'électricité en fonction du coût d'extraction de la matière première et de la production, le coût environnemental n'est pas pris en compte. C'est vrai pour tous les usages, pour le chauffage et l'éclairage, mais aussi pour les centres de données utilisant l'IA.

Centres de données consommer environ 2% de l'énergie totale des États-Unis et cette part devrait atteindre 8 %, en grande partie grâce à la consommation d'énergie de l'IA qui double tous les 3 mois . L'apprentissage automatique de la formation consomme beaucoup d'énergie, mais l'inférence (utiliser un modèle formé pour créer une sortie) est également un travail gourmand en ressources. À l'heure actuelle, il est difficile de trouver des données sur la quantité d'énergie consommée par l'inférence et cela fait partie du problème. Avec les appareils électroménagers, nous savons combien d'énergie est consommée, nous avons même des cotes énergétiques. Pourquoi n'avons-nous pas des cotes énergétiques similaires dans les logiciels ? (cela a été proposé par Øyvnind Sørøy, mon collègue de Sloyd).

Si nous commençons à mesurer et si nous devons payer le vrai coût de l'énergie, alors dans de nombreux cas, nous constaterons que le même objectif pourrait être atteint beaucoup plus efficacement par un type d'automatisation différent ou par une IA plus efficace. Cela fait partie d'une plus grande révolution verte, mais avec des centres de données qui devraient représenter 8 % de la consommation et qu'en plus de la consommation de logiciels domestiques et de bureau, les logiciels et l'IA en particulier ne peuvent pas être exemptés.

La discussion sur l'éthique et la politique de l'IA générative ne fait que commencer

Les options ouvertes par les machines créatives sont profondes, mais leurs implications le sont aussi. Si nous pouvons imaginer l'avenir que nous voulons, un avenir où les humains trouvent un sens grâce à la créativité, nous pouvons commencer à donner les bonnes lignes directrices à l'apprentissage automatique génératif éthique. Les idées fournies ici peuvent servir de référence pour les politiques futures, ou peut-être que de meilleures idées surgiront. Une chose est certaine, c'est que la compréhension des implications et les discussions sur les mesures que nous prendrons ne font que commencer.