Comprendre l'impact du GPT4 Turbo d'OpenAI sur les « Wrappers »

OpenAI a fait des vagues dans le monde de l'intelligence artificielle avec le développement et la publication rapides de modèles de langage puissants comme GPT-4 et son incarnation grand public, ChatGPT. Aujourd'hui, ils ont dévoilé une série de mises à jour destinées aux développeurs lors de leur premier événement DevDay.

Ces nouvelles versions promettent des améliorations majeures des capacités de l'IA grâce à des fonctionnalités telles que le nouveau modèle GPT-4 Turbo et l'API Assistants.

Un secteur qui verra probablement un impact significatif de ces mises à jour est l’écosystème des « wrappers GPT ».

Les « wrappers GPT » sont des services tiers qui fournissent des fonctionnalités étendues en encapsulant les modèles GPT de base avec du code supplémentaire.

Avec l'évolution continue de ChatGPT et l'API d'OpenAI qui gagne de nouvelles fonctionnalités puissantes, les wrappers doivent s'adapter rapidement ou risquer d'être obsolètes alors qu'ils en sont encore à leurs balbutiements.

Dans cet article, je vais plonger dans les dernières offres d'OpenAI et analyser ce qu'elles pourraient signifier pour l'avenir des wrappers ChatGPT comme ma propre startup, Olympia. Nous spéculerons sur la manière dont Olympia et les services similaires pourraient évoluer à mesure qu'OpenAI poursuit son rythme de développement rapide. Restez dans les parages pour découvrir les innovations qui façonnent le paysage de l’IA.

Récapitulatif des annonces DevDay

OpenAI a dévoilé plusieurs nouvelles offres majeures lors du DevDay qui promettent de pousser encore plus les capacités de l'IA vers leur objectif déclaré de transformer progressivement le monde via les agents et l'AGI (Artificial General Intelligence).

Voici quelques points importants:

ChatGPT4 Turbo

La star du spectacle était GPT-4 Turbo, la dernière itération du modèle conversationnel d'OpenAI. GPT-4 Turbo peut gérer un contexte conversationnel beaucoup plus long – jusqu'à 128 000 jetons, par rapport à la limite de 8 000 jetons du modèle GPT-4 actuel. Le contexte plus long permet des conversations beaucoup plus longues, affichant l'équivalent de 300 pages d'informations imprimées avant de manquer d'espace.

Turbo est également plus rapide et dispose d'une mémoire améliorée et de capacités de raisonnement pour des échanges plus naturels et plus humains. Le modèle est également doté de nouvelles fonctionnalités puissantes liées à la génération de sorties JSON et à l'appel de fonctions, notamment l'appel de plusieurs fonctions à la fois, en séquence ou en parallèle.

Ces améliorations font du GPT-4 Turbo OpenAI l'IA conversationnelle la plus performante à ce jour et la placent encore plus en avance sur les concurrents et les modèles open source.

API des assistants

OpenAI a dévoilé son API Assistants, qui permet aux développeurs d'intégrer des complétions de chat avec état sans avoir à créer eux-mêmes cette fonctionnalité. En plus de l'état, il ajoute également des fonctions de récupération, une classe de fonctionnalités que presque toutes les applications wrapper devaient jusqu'à présent implémenter elles-mêmes.

D'autres parties de la nouvelle API gèrent la reconnaissance et la synthèse vocales, ainsi que l'accès aux connaissances externes.

Des prix réduits

En réponse aux commentaires des développeurs sur les coûts élevés associés aux modèles de langage d'OpenAI, la dernière mise à jour de Sam Altman a apporté un soulagement bien mérité. L'une des annonces les plus appréciées du DevDay a été la réduction significative des prix sur l'ensemble de la plateforme, visant à répercuter les économies sur les développeurs.

Altman a révélé des prix réduits pour ses plus grands systèmes, GPT-4 Turbo et GPT-3.5 Turbo. Les jetons d'entrée de GPT-4 Turbo sont désormais 3 fois moins chers que GPT-4 à 0,01 $, et les jetons de sortie sont 2 fois moins chers à 0,03 $. Les jetons d'entrée GPT-3.5 Turbo sont 3 fois moins chers que le modèle 16K précédent à 0,001 $, et les jetons de sortie sont 2 fois moins chers à 0,002 $.

Les développeurs utilisant auparavant GPT-3.5 Turbo 4K peuvent bénéficier d'une réduction de 33 % sur les jetons d'entrée à 0,001 $. Outre les améliorations d'efficacité, ces changements rendent la technologie OpenAI beaucoup plus abordable.

Impact sur les wrappers GPT

Les dernières offres d'OpenAI promettent de faire progresser considérablement l'état de l'art actuel en matière d'IA conversationnelle. Pour les services wrapper GPT construits sur les modèles de base d'OpenAI, ces mises à niveau représentent de nouvelles fonctionnalités intéressantes à intégrer dans leurs produits.

Grâce à sa mémoire, son raisonnement et son contexte conversationnel améliorés, Turbo surmonte bon nombre des limitations que les services wrapper tentent actuellement de contourner. La taille élargie du contexte à elle seule change la donne : les conversations ne se heurteront plus à un mur de briques après relativement peu d'échanges.

Nous avons construit Olympia dans le but d'offrir une expérience conversationnelle plus conviviale et plus performante que notre principal concurrent ChatGPT. Avec des centaines d'autres wrappers GPT, nous pouvons désormais tirer parti des meilleures performances et de la réduction des coûts de Turbo.

Nos techniques bien rodées telles que le réglage des sentiments et l'injection de personnalité s'associent parfaitement aux améliorations de Turbo pour créer des interactions plus humaines entre nos assistants et les utilisateurs.

Regarder vers l'avant

Le rythme d'innovation surprenant d'OpenAI ne montrant aucun signe de ralentissement, ces nouvelles offres ne sont probablement qu'un aperçu de ce qui nous attend. Les futures améliorations des modèles de base tels que GPT-4 Turbo et les techniques de formation avancées débloqueront une IA conversationnelle encore plus puissante.

La voie à suivre consiste à suivre de près les progrès d’OpenAI et à intégrer rapidement chaque nouvelle fonctionnalité dans les produits. Les wrappers capables d'adopter rapidement des mises à jour de pointe pourront garder une longueur d'avance sur le peloton et sur ChatGPT lui-même.

Plus précisément, Olympia souhaitera peut-être se préparer aux intégrations avec de futures mises à niveau telles que :

• Capacité contextuelle encore plus grande : des contextes plus longs signifient que nos assistants peuvent « se souvenir » davantage de nos utilisateurs et de leurs entreprises chaque fois qu'ils leur parlent.

• Capacités multimodales : les modèles capables de comprendre et de générer du contenu image, vidéo et audio parallèlement au texte peuvent ouvrir de nouvelles possibilités d'interaction attrayantes, telles que les graphistes soutenus par l'IA.

• Formation dans un domaine spécialisé – Comme le montre l'API Assistants, des modules spécifiques à un domaine adaptés à des sujets ciblés mèneront à une IA plus compétente.

  
  

Nous commençons tout juste à entrevoir le potentiel créatif et productif de cette technologie. L’IA avancée est sur le point de devenir une partie intégrante de nos vies à un rythme que peu de personnes dans le monde auraient pu imaginer. Les prochaines années promettent d’être passionnantes !