Introduction aux modèles Foundation AI : types, cas d'utilisation et comment démarrer

Alors que les organisations du monde entier investissent depuis longtemps dans l'IA, le nombre de projets d'intelligence artificielle qui passent des prototypes à la production fluctue toujours autour de 53 % .

Les experts pensent que cela se produit souvent en raison du manque de compétences techniques, de ressources humaines et d'outils pour mettre à l'échelle des preuves de concepts (PoC) d'IA isolées dans d'autres cas d'utilisation. Et le coût vraisemblablement élevé de la formation de modèles d'IA distincts pour différentes tâches, bien sûr.

Les modèles de base - c'est-à-dire de grands modèles d'apprentissage automatique formés sur de vastes volumes de données non étiquetées sous la direction de consultants qualifiés en IA - peuvent être la réponse ultime aux redoutables problèmes d'évolutivité et de coût de l'IA.

Votre entreprise peut utiliser ces modèles comme point de départ pour améliorer ou automatiser diverses tâches, de la conversion de documents papier en fichiers texte modifiables à la découverte du sentiment des clients dans les avis sur les réseaux sociaux . Et à partir de là, tirez parti de votre excellence en matière d'IA, en adaptant les modèles de base aux tâches et cas d'utilisation futurs.

Que sont les modèles de base et comment pourraient-ils aider votre entreprise à exceller dans l'IA ?

À moins que vous n'ayez vécu sous un rocher, vous avez entendu parler de ChatGPT d'OpenAI . Ce modèle de langage a absorbé d'énormes volumes de texte conversationnel en utilisant l'apprentissage supervisé et, au stade de la mise au point, l'apprentissage par renforcement à partir des approches de rétroaction humaine (RLHF).

La solution d'IA générative peut analyser les données d'entrée par rapport à 175 milliards de paramètres et comprendre en profondeur le langage écrit. L'outil intelligent peut répondre aux questions, résumer et traduire du texte, produire des articles sur un sujet donné, écrire du code et bien plus encore. Tout ce dont vous avez besoin est de fournir à ChatGPT les bonnes invites .

Le produit révolutionnaire d'OpenAI n'est qu'un exemple des modèles de base qui transforment le développement d'applications d'IA tel que nous le connaissons.

Les modèles de base perturbent le développement de l'IA tel que nous le connaissons. Au lieu de former plusieurs modèles pour des cas d'utilisation distincts, vous pouvez désormais tirer parti d'une solution d'IA pré-formée pour améliorer ou automatiser entièrement les tâches dans plusieurs départements et fonctions.

Avec des modèles d'IA de base comme ChatGPT, les entreprises n'ont plus besoin de former des algorithmes à partir de zéro pour chaque tâche qu'elles souhaitent améliorer ou automatiser. Au lieu de cela, il vous suffit de sélectionner un modèle de base qui correspond le mieux à votre cas d'utilisation et d'ajuster ses performances pour un objectif spécifique que vous souhaitez atteindre.

Les modèles de base sont parfaits pour les industries où les données de formation peuvent être trop difficiles ou coûteuses à acquérir. Ces industries comprennent les soins de santé , les sciences de la vie, la biotechnologie et la fabrication, pour n'en nommer que quelques-unes.

Quels types de modèles d'IA de base existe-t-il ?

Plusieurs types de modèles d'IA de base sont couramment utilisés dans les applications métier :

• Les modèles d'apprentissage semi-supervisé sont formés sur un ensemble de données qui contient un mélange de données étiquetées et non étiquetées. Le but est d'utiliser les données étiquetées pour améliorer les performances du modèle sur les données non étiquetées. Les experts en intelligence artificielle se tournent vers l'apprentissage semi-supervisé lorsque les données de formation sont difficiles à obtenir ou coûteraient un bras et une jambe à votre entreprise. Cela, par exemple, peut se produire dans des contextes médicaux où diverses réglementations informatiques en matière de santé sont promulguées. Certains exemples courants de modèles semi-supervisés incluent des algorithmes de classification de documents texte et de contenu Web pré-entraînés.

  
  

• Les modèles d'apprentissage non supervisés sont entièrement formés sur des ensembles de données non étiquetés. Ils découvrent des modèles dans les données de formation ou les structurent par eux-mêmes. Ces modèles, entre autres, pourraient segmenter les informations en clusters en fonction des paramètres qu'ils ont découverts dans un ensemble de données de formation. Les ingénieurs ML se tournent vers les encodeurs automatiques, les K-Means, le clustering hiérarchique et d'autres techniques pour créer des solutions d'apprentissage automatique non supervisées et améliorer leur précision.

  
  

• Les modèles d'apprentissage par renforcement interagissent avec leur environnement sans formation spécifique. Lorsqu'ils atteignent un résultat souhaité, c'est-à-dire faire une prédiction que les développeurs ont espérée, les modèles sont récompensés. Au contraire, les modèles d'apprentissage par renforcement sont pénalisés lorsqu'ils font des hypothèses erronées. L'approche permet aux algorithmes d'IA de prendre des décisions plus complexes que leurs homologues supervisés et semi-supervisés. Un exemple d'apprentissage par renforcement en action serait les véhicules autonomes ou l'intelligence artificielle comme AlphaGo.

  
  

• Les modèles d'IA générative produisent de nouvelles données similaires aux données sur lesquelles ils ont été formés. Ces données peuvent inclure du texte, des images, des clips audio et des vidéos. La solution ChatGPT mentionnée dans la section précédente appartient à cette catégorie de modèles d'IA de base. D'autres exemples d'IA générative incluent l' outil DALL-E 2 , qui crée des images basées sur des descriptions écrites en langage naturel, et la plateforme vidéo Synthesia.io , qui utilise des entrées textuelles pour produire du contenu vidéo.

• Les modèles d'apprentissage par transfert peuvent résoudre des tâches autres que celles sur lesquelles ils ont été formés. Par exemple, les ingénieurs en vision par ordinateur peuvent tirer parti d'algorithmes de classification d'images pré-formés pour la détection d'objets. Ou exploitez les solutions NLP existantes pour des tâches plus gourmandes en connaissances, telles que l'analyse des sentiments des clients. Certaines solutions d'apprentissage automatique pré-formées populaires incluent OpenCV, une bibliothèque de vision par ordinateur contenant des modèles robustes pour la classification d'objets et la détection d'images, et les offres de bibliothèque Transformers de Hugging Face, telles que le transformateur pré-formé génératif (GPT) - c'est-à-dire un modèle de langage riche dont troisième génération (GPT-3) alimente le service ChatGPT.

  
  

• Les modèles de méta-apprentissage , contrairement à leurs équivalents axés sur les tâches, apprennent littéralement à apprendre (sans jeu de mots). Au lieu de dévorer des données pour résoudre un problème spécifique, ces modèles développent des stratégies générales de résolution de problèmes. De cette façon, les solutions de méta-apprentissage peuvent facilement s'adapter aux nouveaux défis tout en utilisant leurs ressources, telles que la mémoire et la puissance de calcul, plus efficacement. Les experts en ML exploitent le méta-apprentissage lorsque les données de formation sont rares ou qu'une entreprise n'a pas de plans définitifs concernant la mise en œuvre de l'IA dans les affaires. TensorFlow, PyTorch et d'autres bibliothèques et frameworks d'apprentissage automatique open source offrent des outils qui permettent aux développeurs d'explorer des techniques de méta-apprentissage. Et les fournisseurs de cloud computing comme Google aident les experts en ML et les débutants à former des modèles d'apprentissage automatique personnalisés à l'aide d'AutoML.

Selon l'application spécifique et le type de données dont vous disposez, un modèle de fondation peut être plus approprié qu'un autre. Et votre entreprise est libre de choisir entre une solution open source, qui nécessite quelques ajustements, ou un produit tiers prêt à l'emploi, à condition qu'il réponde à vos objectifs commerciaux.

Les 3 principales raisons d'exploiter les modèles d'IA de base pour votre prochain projet

Par rapport aux modèles d'apprentissage automatique autonomes et axés sur les tâches, les modèles de base aident à créer des solutions d'IA fiables plus rapidement et à moindre coût, avec moins de données impliquées et un réglage fin minimal. Et cela ne veut pas dire que, étant formés sur plus de données qu'une seule organisation ne pourrait jamais obtenir, les modèles de base affichent une grande précision dès le premier jour.

Vous trouverez ci-dessous un aperçu des avantages des modèles d'IA de base :

• Les modèles de base vous aideront à mettre en œuvre l'IA plus rapidement, à moindre coût et avec moins de ressources impliquées . La création et le déploiement d'une solution d'IA nécessitent un temps et des ressources considérables. Pour chaque nouvelle application, vous avez besoin d'un ensemble de données séparé bien étiqueté. Et si vous ne l'avez pas, vous aurez besoin d'une équipe d'experts en données pour trouver, nettoyer et étiqueter ces informations. Selon Dakshi Agrawal, CTO d'IBM AI, les modèles de base permettent de réduire les exigences d'étiquetage des données de 10 à 200 fois selon un cas d'utilisation donné, ce qui se traduit par des économies de coûts importantes. Du côté des entreprises, vous devez également tenir compte de l'augmentation des dépenses de cloud computing. Google, par exemple, a dépensé jusqu'à 35 millions de dollars pour apprendre à DeepMind à jouer au Go. Et bien que votre projet d'IA ne soit pas à moitié aussi ambitieux, vous pourriez facilement dépenser 300 000 $ en frais de serveur cloud pour que votre application d'IA soit opérationnelle. Une autre raison d'utiliser des modèles de base, tels que les solutions d'IA génératives, est la possibilité de prototyper et de tester rapidement différents concepts sans investir massivement dans la R&D.

  
  

• Vous pouvez réutiliser les modèles d'IA de base pour créer différentes applications . Comme leur nom l'indique, les modèles de base d'IA peuvent servir de base à plusieurs applications d'IA. Pensez à conduire une voiture. Une fois que vous avez un permis de conduire, vous n'avez pas besoin de passer l'examen chaque fois que vous achetez un autre véhicule. De même, vous pouvez utiliser une plus petite quantité de données étiquetées pour former un modèle de base à usage général qui résume les textes pour traiter le contenu spécifique à un domaine. Et les modèles de base possèdent également des capacités "d'émergence", ce qui signifie qu'un modèle, une fois formé, peut apprendre à résoudre des problèmes qu'il n'était pas censé résoudre ou à glaner des informations inattendues à partir des données de formation.

  
  

• Les modèles Foundation AI aident à atteindre les objectifs de développement durable de votre entreprise . L'entraînement d'un grand modèle d'apprentissage automatique peut avoir la même empreinte environnementale que l'utilisation de cinq voitures au cours de leur vie. Une empreinte carbone aussi élevée contraste fortement avec le fait que 66 % et 49 % des entreprises augmentent respectivement l'efficacité de leur consommation d'énergie et développent de nouveaux services et produits respectueux du climat. Avec les modèles d'IA de base, vous pouvez former des algorithmes intelligents plus rapidement et utiliser judicieusement les ressources informatiques, notamment grâce à l'architecture des modèles qui tire parti du parallélisme matériel, exécutant plusieurs tâches simultanément.

  
  

Considérés comme «l'avenir de l'IA», les modèles de base abaissent le seuil d'exploitation de l'intelligence artificielle et pourraient potentiellement mettre fin au cycle de preuve de concept de l'IA en aidant les entreprises à faire évoluer les modèles dans d'autres cas d'utilisation et à l'échelle de l'entreprise.

Mais à chaque opportunité vient un défi.

Éléments à prendre en compte lors de l'utilisation de modèles de fondation

Le seul inconvénient flagrant des modèles d'IA de base est leur manque d'explicabilité .

Les grands modèles de base peuvent utiliser tellement de données de formation et avoir tellement de couches profondes qu'il est parfois difficile de déterminer comment les algorithmes arrivent à leurs conclusions.

La nature de la boîte noire des modèles de base laisse également une porte dérobée aux cybercriminels. Les pirates peuvent lancer des attaques d'empoisonnement des données et introduire un biais d'IA , exacerbant encore les problèmes éthiques de l'intelligence artificielle.

Les entreprises technologiques devraient s'associer aux gouvernements pour mettre en place une infrastructure pour les projets publics d'IA afin d'éviter les conflits autour de l'utilisation des modèles d'IA de base. Les fournisseurs d'IA doivent également divulguer les ensembles de données qu'ils utilisent et comment ils forment leurs modèles.

Comme l'a déclaré Percy Liang, professeur d'informatique et de la faculté de Stanford HAI, lors de sa récente interview avec Venture Beat , « nous en sommes encore aux premiers jours, donc les normes professionnelles sont sous-développées. Il est donc impératif que nous, en tant que communauté, agissions maintenant pour nous assurer que cette technologie est développée et déployée de manière éthiquement et socialement responsable.

Que faut-il pour commencer à utiliser des modèles de base dans votre organisation

En tant que personne qui a passé les dix dernières années à aider les entreprises à mettre en œuvre des systèmes d'IA, l'équipe ITRex assiste à une évolution de l'intelligence artificielle.

Les systèmes qui exécutent des tâches spécifiques dans un seul domaine cèdent la place à une IA large qui apprend de manière plus générale et fonctionne dans tous les secteurs et cas d'utilisation. Les modèles de base, formés sur de grands ensembles de données non étiquetés et affinés pour diverses applications, sont à l'origine de cette transformation.

Si votre entreprise est prête à dépasser vos concurrents et à obtenir plus rapidement un retour sur investissement de vos systèmes d'IA, voici une stratégie de haut niveau pour mettre en œuvre des modèles de base :

1. Collectez et pré-traitez vos données . La première étape consiste à collecter et à prétraiter les données que vous alimenterez dans un modèle d'IA de base. La qualité et la diversité de ces données sont essentielles pour garantir que le modèle affiné est précis et robuste.
2. Choisissez un modèle de fondation . De nombreux modèles de base d'IA pré-formés sont disponibles sur le marché. Certaines solutions populaires incluent BERT, GPT et ResNet, entre autres. Il est important de choisir le bon modèle de base en fonction de la tâche que vous souhaitez résoudre et du type de données dont vous disposez.
3. Ajustez le modèle en fonction de vos objectifs commerciaux . Une fois que votre modèle de base et vos données sont prêts, vous pouvez ajuster les paramètres du modèle à votre tâche spécifique. Une façon d'atteindre cet objectif est l'apprentissage par transfert, où vous utilisez les poids pré-formés du modèle de base comme point de départ et les ajustez en fonction de vos données de formation.
4. Évaluez le modèle . Après un réglage fin, il est crucial de déterminer si le modèle fonctionne bien et si d'autres ajustements sont nécessaires. Pour évaluer les performances du modèle de base, vous pouvez utiliser des mesures standard telles que l'exactitude, la précision, le rappel et le score F1.
5. Déployez votre solution d'IA . Une fois que vous êtes satisfait des performances de votre modèle affiné, vous pouvez le déployer dans un environnement de production. Plusieurs options de déploiement de modèles d'IA incluent des plates-formes basées sur le cloud, des serveurs sur site ou des appareils périphériques.

Il est important de se rappeler que la mise en œuvre des modèles de base de l'IA nécessite une expertise technique et un accès à des outils matériels et logiciels spécialisés. Par conséquent, il peut être utile de s'associer à un fournisseur spécialisé en IA ou de consulter une équipe d'experts en IA pour s'assurer que le processus est effectué efficacement.

Écrivez-nous pour discuter de vos besoins en IA ! Nous évaluerons la préparation de votre entreprise à l'IA, auditerons vos données et les préparerons pour l'analyse algorithmique, et choisirons le bon modèle de base pour démarrer avec l'intelligence artificielle !