Jan 01, 1970
ChipNeMo: LLM adaptados al dominio para el diseño de chips: Conclusiones
Demasiado Largo; Para Leer
Los investigadores presentan ChipNeMo, que utiliza la adaptación de dominio para mejorar los LLM para el diseño de chips, logrando una reducción del tamaño del modelo de hasta cinco veces con un mejor rendimiento.Autores:
(1) Mingjie Liu, NVIDIA {Contribución igual};
(2) Teodor-Dumitru Ene, NVIDIA {Contribución igual};
(3) Robert Kirby, NVIDIA {Contribución igual};
(4) Chris Cheng, NVIDIA {Contribución igual};
(5) Nathaniel Pinckney, NVIDIA {Contribución igual};
(6) Rongjian Liang, NVIDIA {Contribución igual};
(7) Jonás Alben, NVIDIA;
(8) Himyanshu Anand, NVIDIA;
(9) Sanmitra Banerjee, NVIDIA;
(10) Ismet Bayraktaroglu, NVIDIA;
(11) Bonita Bhaskaran, NVIDIA;
(12) Bryan Catanzaro, NVIDIA;
(13) Arjun Chaudhuri, NVIDIA;
(14) Sharon Clay, NVIDIA;
(15) Bill Dally, NVIDIA;
(16) Laura Dang, NVIDIA;
(17) Parikshit Deshpande, NVIDIA;
(18) Siddhanth Dhodhi, NVIDIA;
(19) Sameer Halepete, NVIDIA;
(20) Eric Hill, NVIDIA;
(21) Jiashang Hu, NVIDIA;
(22) Sumit Jain, NVIDIA;
(23) Brucek Khailany, NVIDIA;
(24) George Kokai, NVIDIA;
(25) Kishor Kunal, NVIDIA;
(26) Xiaowei Li, NVIDIA;
(27) Charley Lind, NVIDIA;
(28) Hao Liu, NVIDIA;
(29) Stuart Oberman, NVIDIA;
(30) Sujeet Omar, NVIDIA;
(31) Sreedhar Pratty, NVIDIA;
(23) Jonathan Raiman, NVIDIA;
(33) Ambar Sarkar, NVIDIA;
(34) Zhengjiang Shao, NVIDIA;
(35) Hanfei Sun, NVIDIA;
(36) Pratik P. Suthar, NVIDIA;
(37) Varun Tej, NVIDIA;
(38) Walker Turner, NVIDIA;
(39) Kaizhe Xu, NVIDIA;
(40) Haoxing Ren, NVIDIA.
Tabla de enlaces
- Resumen e introducción
- Conjunto de datos
- Métodos de adaptación del dominio ChipNemo
- Aplicaciones de Maestría en Derecho
- Evaluaciones
- Discusión
- Obras relacionadas
- Conclusiones
- Agradecimientos, Aportes y Referencias
- Apéndice
VIII. CONCLUSIONES
Los autores desean agradecer a: los equipos de TI de NVIDIA por su apoyo en la integración de NVBugs; al equipo de Seguridad de hardware de NVIDIA por su apoyo en cuestiones de seguridad; a los equipos de NVIDIA NeMo por su apoyo y orientación sobre entrenamiento e inferencia de modelos ChipNeMo; Equipos de infraestructura de NVIDIA por respaldar los recursos de inferencia y capacitación de GPU para el proyecto; Equipos de diseño de hardware de NVIDIA por su apoyo y conocimiento.
Este documento está disponible en arxiv bajo licencia CC 4.0.
L O A D I N G
. . . comments & more!
. . . comments & more!
