Galactica est un modèle d'IA formé sur 120 milliards de paramètres
Trop long; Pour lire
MetaAI et Papers with Code ont annoncé la sortie de Galactica, un grand modèle de langage open source qui change la donne, formé sur des connaissances scientifiques avec 120 milliards de paramètres. Le modèle peut écrire des livres blancs, des critiques, des pages Wikipédia et du code. Il sait citer et écrire des équations. C'est un gros problème pour l'IA et la science. Le 17 novembre, Galactica a été arrêté car il ne comprenait pas la tâche à accomplir et se trompait dans de nombreux cas. Pourtant, le modèle est disponible pour les chercheurs, et je pense qu'il est important de le garder en open source.