tavolo di sinistra Abstract e 1.Introduzione e lavori correlati 
 
 
 
 
 
 
 
 
 
 
 Methodology 2.1 LLM-Sim Task 2.2 Data 2.3 Evaluation 
 
 Experiments 
 
 Results 
 
 Conclusion 
 
 Limitations and Ethical Concerns, Acknowledgements, and References A. Dettagli del modello Esempi di transizione di gioco La generazione delle regole del gioco D. Prompto E. Risultati GPT-3.5 F. Istogrammi 5 Conclusioni 6 Limitazioni e preoccupazioni etiche 6.1 Limitazioni Questo lavoro considera due forti LLM di apprendimento in contesto, GPT-3.5 e GPT-4, nella loro capacità di agire come simulatori formali espliciti.Abbiamo adottato questi modelli perché sono generalmente i modelli più performanti in una varietà di benchmarks. Mentre osserviamo che anche GPT-3.5 e GPT-4 hanno ottenuto un punteggio modesto nel compito proposto, riconosciamo che non abbiamo valutato in modo esaustivo una vasta selezione di modelli di lingua di grandi dimensioni, e altri modelli potrebbero funzionare meglio. Forniamo questo lavoro come punto di riferimento per valutare le prestazioni dei modelli esistenti e futuri sul compito di simulare accuratamente le transizioni spaziali di stato. In questo lavoro, proponiamo due formalismi rappresentativi per rappresentare gli spazi di stato, uno che include lo spazio di stato completo, mentre l'altro si concentra sulla differenza di stato, entrambi rappresentati utilizzando oggetti JSON. Abbiamo scelto queste rappresentazioni in base alla loro popolarità e compatibilità con i formati di input e di uscita della maggior parte dei dati di pre-allenamento LLM (ad esempio, Fakhoury et al., 2023), così come essere in grado di confrontare direttamente con l'uscita del simulatore Gold Standard per la valutazione, anche se è possibile che altri formati rappresentativi possano essere più performanti nel compito di simulazione. Infine, gli spazi di stato prodotti in questo lavoro sono focalizzati intorno al dominio del senso comune e del ragionamento scientifico precoce (elementare). Questi compiti, come aprire contenitori o attivare dispositivi, sono stati scelti perché i risultati di queste azioni sono conoscenze comuni e i modelli sono probabilmente i più performanti nella simulazione di queste azioni. Mentre questo lavoro affronta una selezione di azioni e proprietà meno frequenti, non affronta l'uso di LLM come simulatori per aree altamente specifiche del dominio, come la simulazione fisica o medica. Un obiettivo a lungo termine di questo lavoro è quello di facilitare l'uso di modelli linguistici come simulatori per domini ad alto impatto, e vediamo questo lavoro come una pietra miliare per sviluppare progressivamente modelli lingu 6.2 Preoccupazioni etiche Non prevediamo un impatto etico o sociale immediato derivante dal nostro lavoro. Tuttavia, riconosciamo che, come applicazione LLM, il compito proposto LLM-Sim potrebbe essere in qualche modo influenzato da disinformazioni e allucinazioni introdotte dal LLM specifico selezionato dall'utente. Il nostro lavoro evidenzia il problema con l'uso di LLM come simulatori del mondo basati sul testo. In attività a valle, come la simulazione di giochi, i LLM possono generare informazioni fuorvianti o non factuali. Ad esempio, se il simulatore suggerisce di bruciare una casa per bollere l'acqua, il nostro lavoro non impedisce questo, né valutiamo le implicazioni etiche di tali suggerimenti potenzialmente pericolosi. Di conseguenza, crediamo che tali applicazioni non siano né adatte né sicure da Riconoscimenti Vorremmo ringraziare i tre recensori anonimi per i loro commenti utili su un progetto precedente di questo articolo. Riferimenti Josh Achiam, Steven Adler, Sandhini Agarwal, Lama Ahmad, Ilge Akkaya, Florencia Leoni Aleman, Diogo Almeida, Janko Altenschmidt, Sam Altman, Shyamal Anadkat, et al. 2023. Gpt-4 rapporto tecnico. arXiv preprint arXiv:2303.08774. Ashutosh Adhikari, Xingdi Yuan, Marc-Alexandre Côté, Mikuláš Zelinka, Marc-Antoine Rondeau, Romain Laroche, Pascal Poupart, Jian Tang, Adam Trischler e Will Hamilton. 2020. Imparare i grafici di credenza dinamici per generalizzare sui giochi basati sul testo. Avanzi nei sistemi di elaborazione delle informazioni neurali, 33:3045-3057. Prithviraj Ammanabrolu e Matthew Hausknecht. 2020. Graph restringed reinforcement learning for natural language action spaces. arXiv preprint arXiv:2001.08837. Marc-Alexandre Côté, Ákos Kádár, Xingdi Yuan, Ben Kybartas, Tavian Barnes, Emery Fine, James Moore, Ruo Yu Tao, Matthew Hausknecht, Layla El Asri, Mahmoud Adada, Wendy Tay e Adam Trischler. 2018. Textworld: Un ambiente di apprendimento per i giochi basati su testo. CoRR, abs/1806.11532. Sarah Fakhoury, Saikat Chakraborty, Madan Musuvathi e Shuvendu K Lahiri. 2023. verso la generazione di edizioni di codice funzionalmente corrette da descrizioni di emissioni di linguaggio naturale. arXiv preprint arXiv:2304.03816. Angela Fan, Jack Urbanek, Pratik Ringshia, Emily Dinan, Emma Qian, Siddharth Karamcheti, Shrimai Prabhumoye, Douwe Kiela, Tim Rocktaschel, Arthur Szlam e Jason Weston. Shibo Hao, Yi Gu, Haodi Ma, Joshua Hong, Zhen Wang, Daisy Wang e Zhiting Hu. 2023 Il ragionamento con il modello linguistico sta pianificando con il modello mondiale. Atthew Hausknecht, Prithviraj Ammanabrolu, MarcAlexandre Côté e Xingdi Yuan. 2020. Giochi di fantascienza interattivi: un'avventura colossale. In Procedure della Conferenza AAAI sull'intelligenza artificiale, volume 34, pagine 7903-7910. Peter Jansen. 2022 Un sondaggio sistematico dei mondi del testo come ambienti di linguaggio naturale incarnati. in Proceedings of the 3rd Wordplay: When Language Meets Games Workshop (Wordplay 2022), pagine 1–15. Leslie Pack Kaelbling, Michael L. Littman e Anthony R. Cassandra. 1998 Pianificazione e azione in domini stochastici parzialmente osservabili. Intelligenza artificiale, 101(1-2):99–134. Bo Liu, Yuqian Jiang, Xiaohan Zhang, Qiang Liu, Shiqi Zhang, Joydeep Biswas, e Peter Stone. 2023. Llm+ p: Empowering grandi modelli di lingua con capacità di pianificazione ottimale. arXiv preprint arXiv:2304.11477. Kolby Nottingham, Prithviraj Ammanabrolu, Alane Suhr, Yejin Choi, Hannaneh Hajishirzi, Sameer Singh, e Roy Fox. 2023 Gli agenti incarnati sognano pecore pixelate: il processo decisionale incarnato utilizza la modellazione del mondo guidata dalla lingua. In International Conference on Machine Learning, pagine 26311–26325. Mohit Shridhar, Xingdi Yuan, Marc-Alexandre Côté, Yonatan Bisk, Adam Trischler e Matthew Hausknecht. 2020. Alfworld: allineamento del testo e degli ambienti incorporati per l'apprendimento interattivo. arXiv preprint arXiv:2010.03768. Hao Tang, Darren Key, e Kevin Ellis. 2024. Worldcoder, un agente llm basato su modelli: costruire modelli del mondo scrivendo codice e interagendo con l'ambiente. arXiv preprint arXiv:2402.12275. Jack Urbanek, Angela Fan, Siddharth Karamcheti, Saachi Jain, Samuel Humeau, Emily Dinan, Tim Rocktäschel, Douwe Kiela, Arthur Szlam e Jason Weston. Karthik Valmeekam, Matthew Marquez, Sarath Sreedharan, e Subbarao Kambhampati. 2023. sulle capacità di pianificazione dei grandi modelli linguistici-una indagine critica. Come abbiamo scalato AI Dungeon 2 per supportare oltre 1.000.000 utenti. Ruoyao Wang, Peter Jansen, Marc-Alexandre Côté, e Prithviraj Ammanabrolu. 2022. Scienceworld: Il tuo agente è più intelligente di un 5° grado? In Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing, pagine 11279–11298. Ruoyao Wang, Graham Todd, Xingdi Yuan, Ziang Xiao, Marc-Alexandre Côté e Peter Jansen. 2023. ByteSized32: Un corpus e un compito di sfida per generare modelli di mondo specifici per attività espressi come giochi di testo. In Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing, pagine 13455–13471, Singapore. Lionel Wong, Gabriel Grand, Alexander K Lew, Noah D Goodman, Vikash K Mansinghka, Jacob Andreas, e Joshua B Tenenbaum. 2023. dai modelli di parole ai modelli del mondo: traduzione dal linguaggio naturale al linguaggio probabilistico del pensiero. arXiv preprint arXiv:2306.12672. 
 
 
 
 
 
 
 
 
 Gli autori : (1) Ruoyao Wang, Università dell’Arizona (ruoyaowang@arizona.edu); (2) Graham Todd, Università di New York (gdrtodd@nyu.edu); (3) Ziang Xiao, Università Johns Hopkins (ziang.xiao@jhu.edu); (4) Xingdi Yuan, Microsoft Research Montréal (eric.yuan@microsoft.com); (5) Marc-Alexandre Côté, Microsoft Research Montréal (macote@microsoft.com) (6) Peter Clark, Allen Institute for AI (PeterC@allenai.org). (7) Peter Jansen, Università dell’Arizona e Allen Institute for AI (pajansen@arizona.edu). Authors: (1) Ruoyao Wang, Università dell’Arizona (ruoyaowang@arizona.edu); (2) Graham Todd, Università di New York (gdrtodd@nyu.edu); (3) Ziang Xiao, Università Johns Hopkins (ziang.xiao@jhu.edu); (4) Xingdi Yuan, Microsoft Research Montréal ( e) il di eric.yuan@microsoft.com (5) Marc-Alexandre Côté, Microsoft Research Montréal ( e) il di macote@microsoft.com (6) Peter Clark, Allen Institute for AI (PeterC@allenai.org). (7) Peter Jansen, Università dell'Arizona e Allen Institute for AI ( e) il Cittadini@arizona.edu 
 
 Questo documento è disponibile su archiv sotto la licenza CC BY 4.0. Questo documento è disponibile su archiv sotto la licenza CC BY 4.0. Disponibile in archivio

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

AI Models on HackerNoon

Questo audio è prodotto nella lingua originale della storia!

I modelli AI non possono ancora essere fidati nelle simulazioni ad alto tasso

About Author

COMMENTI

CARTELLINI

QUESTO ARTICOLO È STATO PRESENTATO IN

Related Stories

I Tried Perplexity For a Week, And I Don't Think AI Search Engines Can Replace Google.. Yet

Meet Dealscard, Winner of Startups of The Year 2024 in Ghaziabad/Deal Aggregator

I Built an AI Copilot That Thinks in Exploits, Not Prompts

The Ultimate FAQ Guide to HackerNoon's Business Blogging

I Tried Perplexity For a Week, And I Don't Think AI Search Engines Can Replace Google.. Yet

Meet Dealscard, Winner of Startups of The Year 2024 in Ghaziabad/Deal Aggregator

I Built an AI Copilot That Thinks in Exploits, Not Prompts

The Ultimate FAQ Guide to HackerNoon's Business Blogging

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps