5,766 lecturas

¡Ejecute Llama sin GPU! LLM cuantificado con LLMWare y Quantized Dragon

by
byShanglun Wang@shanglun

Director of AI - building products used by Fortune 100 companies and startups alike. Quant. Tango Organizer

2024/01/07
featured image - ¡Ejecute Llama sin GPU! LLM cuantificado con LLMWare y Quantized Dragon
Shanglun Wang
    byShanglun Wang@shanglun

    Director of AI - building products used by Fortune 100 companies and startups alike. Quant. Tango Organizer

    Story's Credibility
    Original Reporting
← Previous

Mejora del chatbot con generación de código: creación de un chatbot sensible al contexto para publicaciones

Up Next →

LLM de llamadas a funciones: combinación de SLIM y DRAGON para un mejor rendimiento de RAG

About Author

Shanglun Wang HackerNoon profile picture
Shanglun Wang@shanglun

Director of AI - building products used by Fortune 100 companies and startups alike. Quant. Tango Organizer

Read my storiesAbout @shanglun

COMENTARIOS

avatar

ETIQUETAS

machine-learning#llm#chatgpt#quantization#rag#python#mlops#gpu-infrastructure#hackernoon-top-story

ESTE ARTÍCULO FUE PRESENTADO EN

TerminalTerminalLiteLite

Related Stories