Jan 01, 1970
ChipNeMo : LLM adaptés au domaine pour la conception de puces : conclusions
Trop long; Pour lire
Les chercheurs présentent ChipNeMo, qui utilise l'adaptation de domaine pour améliorer les LLM pour la conception de puces, permettant ainsi de réduire la taille du modèle jusqu'à 5 fois avec de meilleures performances.Auteurs:
(1) Mingjie Liu, NVIDIA {Contribution égale} ;
(2) Teodor-Dumitru Ene, NVIDIA {Contribution égale} ;
(3) Robert Kirby, NVIDIA {Contribution égale} ;
(4) Chris Cheng, NVIDIA {Contribution égale} ;
(5) Nathaniel Pinckney, NVIDIA {Contribution égale} ;
(6) Rongjian Liang, NVIDIA {Contribution égale} ;
(7) Jonah Alben, NVIDIA ;
(8) Himyanshu Anand, NVIDIA ;
(9) Sanmitra Banerjee, NVIDIA ;
(10) Ismet Bayraktaroglu, NVIDIA ;
(11) Bonita Bhaskaran, NVIDIA ;
(12) Bryan Catanzaro, NVIDIA ;
(13) Arjun Chaudhuri, NVIDIA ;
(14) Sharon Clay, NVIDIA ;
(15) Bill Dally, NVIDIA ;
(16) Laura Dang, NVIDIA ;
(17) Parikshit Deshpande, NVIDIA ;
(18) Siddhanth Dhodhi, NVIDIA ;
(19) Sameer Halepete, NVIDIA ;
(20) Eric Hill, NVIDIA ;
(21) Jiashang Hu, NVIDIA ;
(22) Sumit Jain, NVIDIA ;
(23) Brucek Khailany, NVIDIA ;
(24) George Kokai, NVIDIA ;
(25) Kishor Kunal, NVIDIA ;
(26) Xiaowei Li, NVIDIA ;
(27) Charley Lind, NVIDIA ;
(28) Hao Liu, NVIDIA ;
(29) Stuart Oberman, NVIDIA ;
(30) Sujeet Omar, NVIDIA ;
(31) Sreedhar Pratty, NVIDIA ;
(23) Jonathan Raiman, NVIDIA ;
(33) Ambar Sarkar, NVIDIA ;
(34) Zhengjiang Shao, NVIDIA ;
(35) Hanfei Sun, NVIDIA ;
(36) Pratik P. Suthar, NVIDIA ;
(37) Varun Tej, NVIDIA ;
(38) Walker Turner, NVIDIA ;
(39) Kaizhe Xu, NVIDIA ;
(40) Haoxing Ren, NVIDIA.
Tableau des liens
- Résumé et introduction
- Base de données
- Méthodes d'adaptation de domaine ChipNemo
- Candidatures LLM
- Évaluations
- Discussion
- Travaux connexes
- Conclusions
- Remerciements, contributions et références
- annexe
VIII. CONCLUSIONS
Les auteurs souhaitent remercier : les équipes informatiques de NVIDIA pour leur soutien sur l'intégration de NVBugs ; L'équipe NVIDIA Hardware Security pour son assistance sur les problèmes de sécurité ; Les équipes NVIDIA NeMo pour leur soutien et leurs conseils sur la formation et l'inférence des modèles ChipNeMo ; Les équipes d'infrastructure NVIDIA pour prendre en charge les ressources de formation et d'inférence GPU pour le projet ; Les équipes de conception de matériel NVIDIA pour leur soutien et leurs connaissances.
Cet article est disponible sur arxiv sous licence CC 4.0.
L O A D I N G
. . . comments & more!
. . . comments & more!
