5,766 leituras

Execute o Llama sem GPU! LLM Quantizado com LLMWare e Dragão Quantizado

by
byShanglun Wang@shanglun

Director of AI - building products used by Fortune 100 companies and startups alike. Quant. Tango Organizer

2024/01/07
featured image - Execute o Llama sem GPU! LLM Quantizado com LLMWare e Dragão Quantizado
Shanglun Wang
    byShanglun Wang@shanglun

    Director of AI - building products used by Fortune 100 companies and startups alike. Quant. Tango Organizer

    Story's Credibility
    Original Reporting
← Previous

Melhorando o chatbot com geração de código: construindo um chatbot sensível ao contexto para publicações

Up Next →

LLMs de chamada de função: combinando SLIMs e DRAGON para melhor desempenho de RAG

About Author

Shanglun Wang HackerNoon profile picture
Shanglun Wang@shanglun

Director of AI - building products used by Fortune 100 companies and startups alike. Quant. Tango Organizer

Read my storiesAbout @shanglun

COMENTARIOS

avatar

Rótulos

machine-learning#llm#chatgpt#quantization#rag#python#mlops#gpu-infrastructure#hackernoon-top-story

ESTE ARTIGO FOI APRESENTADO EM

TerminalTerminalLiteLite

Related Stories