Table de gauche Abstract et 1 : Introduction et travaux connexes 
 
 
 
 
 
 
 
 
 
 
 Methodology 2.1 LLM-Sim Task 2.2 Data 2.3 Evaluation 
 
 Experiments 
 
 Results 
 
 Conclusion 
 
 Limitations and Ethical Concerns, Acknowledgements, and References A. Détails du modèle Exemples de transitions de jeu La génération des règles du jeu D. Prompts E. Résultats GPT-3.5 • Histogrammes 5 Conclusion 6 Limitations et préoccupations éthiques 6.1 Les limites Ce travail considère deux LLM d'apprentissage contextuel forts, GPT-3.5 et GPT-4, dans leur capacité à agir en tant que simulateurs formels explicites.Nous adoptons ces modèles parce qu'ils sont généralement les modèles les plus performants de l'étagère sur une variété de critères de référence. Alors que nous observons que même GPT-3.5 et GPT-4 ont obtenu un score modeste sur la tâche proposée, nous reconnaissons que nous n'avons pas évalué de manière exhaustive une grande sélection de modèles de langue, et d'autres modèles peuvent fonctionner mieux. Nous fournissons ce travail comme un critère pour évaluer la performance des modèles existants et futurs sur la tâche de simuler avec précision les trans Dans ce travail, nous proposons deux formalismes représentatifs pour représenter les espaces d'état, l'un comprenant l'espace d'état complet, tandis que l'autre se concentre sur la différence d'état, les deux représentés à l'aide d'objets JSON. Nous avons choisi ces représentations en fonction de leur popularité et de leur compatibilité avec les formats d'entrée et de sortie de la plupart des données de pré-entraînement LLM (par exemple, Fakhoury et al., 2023), ainsi que de pouvoir comparer directement contre la sortie de simulateur standard d'or pour l'évaluation, bien qu'il soit possible que d'autres formats représentatifs puissent être plus performants dans la tâche de simulation. Enfin, les espaces d'état produits dans ce travail sont centrés autour du domaine du bon sens et du raisonnement scientifique précoce (élémental). Ces tâches, telles que l'ouverture de conteneurs ou l'activation de dispositifs, ont été choisies parce que les résultats de ces actions sont des connaissances communes, et les modèles sont susceptibles d'être les plus performants dans la simulation de ces actions. Alors que ce travail aborde une sélection d'actions et de propriétés moins fréquentes, il ne s'agit pas d'utiliser les LLMs comme simulateurs pour des domaines très spécifiques, tels que la simulation physique ou médicale. Un objectif à long terme de ce travail est de faciliter l'utilisation de modèles de langue comme simulateurs pour les domaines à impact 6.2 Les préoccupations éthiques Nous ne prévoyons pas un impact éthique ou social immédiat résultant de notre travail. Cependant, nous reconnaissons que, en tant qu'application LLM, la tâche proposée LLM-Sim pourrait être affectée d'une certaine manière par la désinformation et les hallucinations introduites par la LLM spécifique sélectionnée par l'utilisateur. Notre travail met en évidence le problème de l'utilisation de LLM comme simulateurs mondiaux basés sur le texte. Dans les tâches en aval, telles que la simulation de jeux, les LLM peuvent générer des informations trompeuses ou non-factuelles. Par exemple, si le simulateur suggère de brûler une maison pour faire bouillir de l'eau, notre travail n'empêche pas cela, ni nous n'évaluons les implications éthiques de reconnaissances Nous tenons à remercier les trois critiques anonymes pour leurs commentaires utiles sur un projet antérieur de cet article. Références Josh Achiam, Steven Adler, Sandhini Agarwal, Lama Ahmad, Ilge Akkaya, Florencia Leoni Aleman, Diogo Almeida, Janko Altenschmidt, Sam Altman, Shyamal Anadkat, et al. 2023. Gpt-4 rapport technique. arXiv préprint arXiv:2303.08774. Ashutosh Adhikari, Xingdi Yuan, Marc-Alexandre Côté, Mikuláš Zelinka, Marc-Antoine Rondeau, Romain Laroche, Pascal Poupart, Jian Tang, Adam Trischler et Will Hamilton. 2020. Apprendre les graphiques de croyance dynamiques pour généraliser sur les jeux basés sur le texte. Avancés dans les systèmes de traitement des informations neuronales, 33:3045-3057. Prithviraj Ammanabrolu et Matthew Hausknecht. 2020. Graph confined reinforcement learning for natural language action spaces. arXiv préprint arXiv:2001.08837. Marc-Alexandre Côté, Ákos Kádár, Xingdi Yuan, Ben Kybartas, Tavian Barnes, Emery Fine, James Moore, Ruo Yu Tao, Matthew Hausknecht, Layla El Asri, Mahmoud Adada, Wendy Tay et Adam Trischler. 2018. Textworld: Un environnement d’apprentissage pour les jeux textuels. CoRR, abs/1806.11532. Sarah Fakhoury, Saikat Chakraborty, Madan Musuvathi et Shuvendu K Lahiri. 2023. Vers la génération d'éditions de code fonctionnellement correctes à partir de descriptions d'émissions de langues naturelles. arXiv préimpression arXiv:2304.03816. Angela Fan, Jack Urbanek, Pratik Ringshia, Emily Dinan, Emma Qian, Siddharth Karamcheti, Shrimai Prabhumoye, Douwe Kiela, Tim Rocktaschel, Arthur Szlam et Jason Weston. 2020. Générer des mondes interactifs avec du texte. Shibo Hao, Yi Gu, Haodi Ma, Joshua Hong, Zhen Wang, Daisy Wang et Zhiting Hu. 2023 Le raisonnement avec le modèle de langue est planifié avec le modèle du monde. Atthew Hausknecht, Prithviraj Ammanabrolu, MarcAlexandre Côté et Xingdi Yuan. 2020. Jeux de fiction interactifs: Une aventure colossale. Dans Procédures de la Conférence AAAI sur l'intelligence artificielle, volume 34, pages 7903-7910. Peter Jansen. 2022. Une étude systématique des mondes de texte comme environnements de langue naturelle incarnée. dans Proceedings of the 3rd Wordplay: When Language Meets Games Workshop (Wordplay 2022), pages 1 à 15. Leslie Pack Kaelbling, Michael L Littman, et Anthony R Cassandra. 1998. Planification et action dans des domaines stochastiques partiellement observables. Intelligence artificielle, 101(1-2):99–134. Bo Liu, Yuqian Jiang, Xiaohan Zhang, Qiang Liu, Shiqi Zhang, Joydeep Biswas, et Peter Stone. 2023. Llm+ p: Développer de grands modèles de langues avec une compétence optimale en planification. arXiv préimpression arXiv:2304.11477. Kolby Nottingham, Prithviraj Ammanabrolu, Alane Suhr, Yejin Choi, Hannaneh Hajishirzi, Sameer Singh et Roy Fox. 2023. Les agents incarnés rêvent de moutons pixelés : la prise de décision incarnée en utilisant la modélisation du monde guidée par le langage. Mohit Shridhar, Xingdi Yuan, Marc-Alexandre Côté, Yonatan Bisk, Adam Trischler et Matthew Hausknecht. 2020. Alfworld: Alignement du texte et des environnements incarnés pour l’apprentissage interactif. arXiv préprint arXiv:2010.03768. Hao Tang, Darren Key, et Kevin Ellis. 2024. Worldcoder, un agent llm basé sur le modèle: Construire des modèles du monde en écrivant du code et en interagissant avec l'environnement. arXiv préimpression arXiv:2402.12275. Jack Urbanek, Angela Fan, Siddharth Karamcheti, Saachi Jain, Samuel Humeau, Emily Dinan, Tim Rocktäschel, Douwe Kiela, Arthur Szlam et Jason Weston. Karthik Valmeekam, Matthew Marquez, Sarath Sreedharan, et Subbarao Kambhampati. 2023. Sur les capacités de planification des grands modèles linguistiques-une enquête critique. Comment nous avons évolué AI Dungeon 2 pour supporter plus d'un million d'utilisateurs. Ruoyao Wang, Peter Jansen, Marc-Alexandre Côté, et Prithviraj Ammanabrolu. 2022. Scienceworld: Est-ce que votre agent est plus intelligent qu’un 5e degré? dans Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing, pages 11279–11298. Ruoyao Wang, Graham Todd, Xingdi Yuan, Ziang Xiao, Marc-Alexandre Côté et Peter Jansen. 2023. ByteSized32: Une tâche de corpus et de défi pour générer des modèles mondiaux spécifiques aux tâches exprimés sous forme de jeux de texte. Lionel Wong, Gabriel Grand, Alexander K. Lew, Noah D. Goodman, Vikash K. Mansinghka, Jacob Andreas et Joshua B. Tenenbaum. 2023. Des modèles de mots aux modèles du monde: Traduction du langage naturel au langage probabiliste de la pensée. arXiv préimpression arXiv:2306.12672. 
 
 
 
 
 
 
 
 
 Les auteurs : (1) Ruoyao Wang, Université de l’Arizona (ruoyaowang@arizona.edu) (2) Graham Todd, Université de New York (gdrtodd@nyu.edu) (3) Ziang Xiao, Université Johns Hopkins (ziang.xiao@jhu.edu) (4) Xingdi Yuan, Microsoft Research Montréal (eric.yuan@microsoft.com) ; (5) Marc-Alexandre Côté, Microsoft Research Montréal (macote@microsoft.com) (6) Peter Clark, Allen Institute for AI (PeterC@allenai.org). (7) Peter Jansen, Université de l’Arizona et Allen Institute for AI (pajansen@arizona.edu). Authors: (1) Ruoyao Wang, Université de l’Arizona (ruoyaowang@arizona.edu) (2) Graham Todd, Université de New York (gdrtodd@nyu.edu) (3) Ziang Xiao, Université Johns Hopkins (ziang.xiao@jhu.edu) (4) Xingdi Yuan, Microsoft Research Montréal (eric.yuan@microsoft.com) ; (5) Marc-Alexandre Côté, Microsoft Research Montréal (macote@microsoft.com) (6) Peter Clark, Allen Institute for AI ( ) ; Père@allenai.org (7) Peter Jansen, Université de l'Arizona et Allen Institute for AI ( ) de à l’adresse : arizona.edu 
 
 Ce document est disponible sous licence CC BY 4.0. Ce document est disponible sous licence CC BY 4.0. Disponible dans les archives

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

AI Models on HackerNoon

Cet audio est produit dans la langue originale de l'histoire !

Trop long; Pour lire

Make resilience your competitive advantage

Les modèles d'IA ne peuvent pas encore être fiables dans les simulations à haut taux

About Author

COMMENTAIRES

ÉTIQUETTES

CET ARTICLE A ÉTÉ PARU DANS

Related Stories

Vous voulez gagner un concours d’écriture HackerNoon ? Voici ce que recommandent les gagnants du concours #crypto-api

Libérer la puissance de l’IA. Une revue systématique des techniques de pointe : résumé et introduction

Le modèle Bitcoin UTXO, alimentant un écosystème unique

Naviguer sur les eaux : développer des applications RAG de qualité production avec des lacs de données

Vous voulez gagner un concours d’écriture HackerNoon ? Voici ce que recommandent les gagnants du concours #crypto-api

Libérer la puissance de l’IA. Une revue systématique des techniques de pointe : résumé et introduction

Le modèle Bitcoin UTXO, alimentant un écosystème unique

Naviguer sur les eaux : développer des applications RAG de qualité production avec des lacs de données

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps