Ollama s'ha convertit en l'estàndard per a l'execució de grans models de llengües (LLM) localment. En aquest tutorial, vull mostrar-vos les coses més importants que haureu de saber sobre Ollama. https://youtu.be/AGAETsxjg0o?embedable=true Veure a YouTube: Ollama Tutorial complet Mireu a Youtube: Títol Tutorial complet Títol Tutorial complet Títol Tutorial complet Què és Ollama? Ollama és una plataforma de codi obert per executar i gestionar els paquets de model de gran llenguatge (LLM) completament a la vostra màquina local. Conecta els pesos del model, la configuració i les dades en un sol paquet de fitxers de models. Ollama ofereix una interfície de línia de comandament (CLI), una API REST i un SDK de Python/JavaScript, que permet als usuaris descarregar models, executar-los fora de línia i fins i tot trucar funcions definides per l'usuari. Executar models localment dóna privacitat als usuaris, elimina la latència de la xarxa i manté les dades en el dispositiu de l'usuari. Instal·lació Ollama Visiteu el lloc web oficial per descarregar Ollama Està disponible per a m https://ollama.com/ ac, Windows, and Linux. https://ollama.com/ El Linux: curl -fsSL https://ollama.com/install.sh | sh
 Els macos: brew install ollama
 Windows: Descarregueu el Instal·lar i executar. .exe Com córrer Ollama Ollama normalment executa models quantificats a 4 bits (q4_0), que redueix significativament l'ús de la memòria amb una pèrdua mínima de qualitat. Recommended Hardware: 
 
 
 
 
 Models 7B (per exemple, Llama 3, Mistral): Requereix ~8 GB de RAM (executa en la majoria d'ordinadors portàtils moderns). 13B — 30B Models: Requereix 16GB — 32GB de RAM. 70B+ Models: Requereix 64GB+ de RAM o doble GPU. GPU: Una GPU NVIDIA o Apple Silicon (M1/M2/M3) és altament recomanable per a la velocitat. Vés a Feu clic a "Models" i seleccioneu el model per al vostre test. Pàgina web de l'Ollama Pàgina web de l'Ollama Després d'això, feu clic al nom del model i copieu el comandament de terminal: Obriu la finestra del terminal i col·loqueu la comanda: Això li permetrà descarregar i xatejar amb un model immediatament. Ollama CLI - Comandaments del nucli El CLI d'Ollama és central per a la gestió del model. Els comandes comuns inclouen: 
 
 
 
 
 
 
 
 
 
 Títol <model> — Descarregar un model ollama run <model> — Executar un model de manera interactiva ollama list o ollama ls — Llista de models descarregats ollama rm <model> — Suprimir un model ollama create -f <Model File> — Crear un model personalitzat ollama serve — Iniciar el servidor d'API Ollama ollama ps — Mostra models en marxa ollama stop <model> - Parar un model en marxa Ollama ajuda - Mostra ajuda Personalització avançada: model personalitzat amb fitxers de model Podeu “finalitzar” la personalitat i les restriccions d’un model utilitzant un Model File. 
 
 
 Crear un fitxer anomenat ModelFile Afegeix la següent configuració: # 1. Base the model on an existing one
FROM llama3
# 2. Set the creative temperature (0.0 = precise, 1.0 = creative)
PARAMETER temperature 0.7
# 3. Set the context window size (default is 4096 tokens)
PARAMETER num_ctx 4096
# 4. Define the System Prompt (The AI’s “brain”)
SYSTEM """
You are a Senior Python Backend Engineer.
Only answer with code snippets and brief technical explanations.
Do not be conversational.
"""
 Defineix el model de base FROM Instal·lació ràpida del sistema SYSTEM Comportament de la inferència PARAMETER Després d'això, cal construir el model utilitzant aquest comandament: ollama create [change-to-your-custom-name] -f Modelfile
 Això embolica el model + prompt de plantilla junts en un paquet reutilitzable. A continuació, correu en: ollama run [change-to-your-custom-name]
 Premeu Enter o feu clic per veure la imatge en grandària completa Servei d’Ollama (API local) Ollama pot executar-se com un servidor local que les aplicacions poden trucar. ollama serve
 Es llegeix en http://localhost:11434 per defecte. Títol HTTP import requests
r = requests.post(
    "http://localhost:11434/api/chat",
    json={
        "model": "llama3",
        "messages": [{"role":"user","content":"Hello Ollama"}]
    }
)
print(r.json()["message"]["content"])
 Això li permet incorporar Ollama a aplicacions o serveis. Integració Python Utilitzeu Ollama dins de les aplicacions de Python amb la biblioteca oficial. Crear i activar entorns virtuals: python3 -m venv .venv
source .venv/bin/activate
 Instal·lació de la biblioteca oficial: pip install ollama
 Utilitza aquest codi Python: import ollama

# This sends a message to the model 'gemma:2b'
response = ollama.chat(model='gemma:2b', messages=[
  {
    'role': 'user',
    'content': 'Write a short poem about coding.'
  },
])

# Print the AI's reply
print(response['message']['content'])
 Això funciona a través de l'API local automàticament quan s'executa Ollama. You can also call a local server: import requests
r = requests.post(
    "http://localhost:11434/api/chat",
    json={
        "model": "llama3",
        "messages": [{"role":"user","content":"Hello Ollama"}]
    }
)
print(r.json()["message"]["content"])
 El núvol d'Ollama Ollama també dóna suport als models de núvol, útil quan la seva màquina no pot executar models molt grans. En primer lloc, crear un compte A continuació, dins de la pàgina Models, feu clic al enllaç del núvol i seleccioneu qualsevol model que vulgueu provar. https://ollama.com/cloud https://ollama.com/cloud A la llista de models, veureu el model amb la prefix**, que significa que està disponible en el núvol Ollama. -cloud Feu clic en ell i copieu la comanda CLI. Després, dins del terminal, utilitzeu: ollama signin
 Per accedir al seu compte Ollama. Un cop s'ha iniciat la sessió amb ollama signin, executeu els models de núvol: ollama run nemotron-3-nano:30b-cloud
 El teu propi model al núvol Mentre Ollama és local-first, Ollama Cloud li permet empènyer els seus models personalitzats (els que va construir amb Modelfiles) a la web per compartir amb el seu equip o utilitzar a través de dispositius. 
 
 
 
 Crea un compte a ollama.com. Afegiu la vostra clau pública (trobat a ~/.ollama/id_ed25519.pub). Descarrega’t el teu model: ollama push your-username/change-to-your-custom-model-name
 Conclusió Aquesta és la visió general completa d'Ollama! És una eina poderosa que li dóna un control total sobre la IA. Si t'agrada aquest tutorial, si us plau, agrada i comparteix el teu comentari a la secció de sota. Felicitats! 😉

Read My Blog

Support my work

Aquest àudio és produït a l'idioma original de la història!

Tutorial complet d'Ollama (2026) - LLM a través de CLI, Cloud i Python

About Author

COMENTARIS

Etiquetes penjant

AQUEST ARTICLE VA SER PRESENTAT A

Related Stories

How to Turn Year-End Reflections into Q1 Content Gold

Startups of The Year: Meet the Healthcare Industry

Startups of The Year: Meet the Engineering Industry

Startups of The Year: Meet the Education Industry

How to Turn Year-End Reflections into Q1 Content Gold

Startups of The Year: Meet the Healthcare Industry

Startups of The Year: Meet the Engineering Industry

Startups of The Year: Meet the Education Industry

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps