Ollama har blivit standard för att köra stora språkmodeller (LLM) lokalt. I den här handledningen vill jag visa dig de viktigaste sakerna du borde veta om Ollama. https://youtu.be/AGAETsxjg0o?embedable=true Titta på YouTube: Ollama Full Tutorial Titta på Youtube: Ollama Full Tutorial Fullständig Tutorial Fullständig Tutorial Vad är Ollama? Ollama är en öppen källkodsplattform för att köra och hantera storspråkiga modellpaket (LLM) helt på din lokala dator. Den buntar modellvikter, konfiguration och data till ett enda modellfilpaket. Ollama erbjuder ett kommandoradsgränssnitt (CLI), en REST API och en Python/JavaScript SDK, så att användare kan ladda ner modeller, köra dem offline och till och med ringa användardefinierade funktioner. Installera Ollama Besök den officiella hemsidan för att ladda ner Ollama Det är tillgängligt för M https://ollama.com/ ac, Windows, and Linux. https://ollama.com/ För Linux: curl -fsSL https://ollama.com/install.sh | sh
 För macOS: brew install ollama
 Windows: Ladda ner den Installera och köra den. .exe Hur man kör Ollama Ollama kör vanligtvis modeller som är kvantifierade till 4 bitar (q4_0), vilket avsevärt minskar minnesanvändningen med minimal förlust av kvalitet. Recommended Hardware: 
 
 
 
 
 7B-modeller (t.ex. Llama 3, Mistral): Kräver ~8 GB RAM (körs på de flesta moderna bärbara datorer). 13B – 30B Modeller: Kräver 16GB – 32GB RAM. 70B+ modeller: Kräver 64GB+ RAM eller dubbla GPU:er. GPU: En NVIDIA GPU eller Apple Silicon (M1/M2/M3) rekommenderas starkt för hastighet. Gå till och klicka på "Modeller" och välj modellen för ditt test. the Ollama website Webbplatsen Ollama Därefter klickar du på modellnamnet och kopierar terminalen: Öppna sedan terminalen och klistra in kommandot: Det gör att du kan ladda ner och chatta med en modell omedelbart. Ollama CLI – kärnkommandon Ollamas CLI är central för modellhantering. Vanliga kommandon inkluderar: 
 
 
 
 
 
 
 
 
 
 ollama pull <model> — Ladda ner en modell ollama run <model> — Kör en modell interaktivt ollama list eller ollama ls — Lista över nedladdade modeller ollama rm <model> — Ta bort en modell ollama create -f <Modelfile> — Skapa en anpassad modell ollama serve – Starta Ollama API-servern ollama ps — Visa löpande modeller ollama stop <model> - Stoppa en körande modell ollama hjälp - Visa hjälp Avancerad anpassning: Anpassad modell med modellfiler Du kan "fine-tune" en modell personlighet och begränsningar med hjälp av en modellfil. 
 
 
 Skapa en fil som heter Modelfile Lägg till följande konfiguration: # 1. Base the model on an existing one
FROM llama3
# 2. Set the creative temperature (0.0 = precise, 1.0 = creative)
PARAMETER temperature 0.7
# 3. Set the context window size (default is 4096 tokens)
PARAMETER num_ctx 4096
# 4. Define the System Prompt (The AI’s “brain”)
SYSTEM """
You are a Senior Python Backend Engineer.
Only answer with code snippets and brief technical explanations.
Do not be conversational.
"""
 Definiera basmodellen FROM Ställ in ett system snabbt SYSTEM Kontrollera inferensbeteende PARAMETER Därefter måste du bygga modellen med det här kommandot: ollama create [change-to-your-custom-name] -f Modelfile
 Detta paketerar modellen + promptmallen tillsammans i ett återanvändbart paket. Och sedan springa in: ollama run [change-to-your-custom-name]
 Tryck eller klicka för att se bilden i full storlek Ollama Server (Lokalt API) Ollama kan köras som en lokal server som appar kan ringa. För att starta servern använd kommandot: ollama serve
 Det lyssnar på http://localhost:11434 som standard. Rå HTTP import requests
r = requests.post(
    "http://localhost:11434/api/chat",
    json={
        "model": "llama3",
        "messages": [{"role":"user","content":"Hello Ollama"}]
    }
)
print(r.json()["message"]["content"])
 Detta gör att du kan bädda in Ollama i appar eller tjänster. Python integration Använd Ollama inuti Python-program med det officiella biblioteket. Kör dessa kommandon: Skapa och aktivera virtuella miljöer: python3 -m venv .venv
source .venv/bin/activate
 Installera det officiella biblioteket: pip install ollama
 Använd denna enkla Python-kod: import ollama

# This sends a message to the model 'gemma:2b'
response = ollama.chat(model='gemma:2b', messages=[
  {
    'role': 'user',
    'content': 'Write a short poem about coding.'
  },
])

# Print the AI's reply
print(response['message']['content'])
 Detta fungerar över den lokala API automatiskt när Ollama körs. You can also call a local server: import requests
r = requests.post(
    "http://localhost:11434/api/chat",
    json={
        "model": "llama3",
        "messages": [{"role":"user","content":"Hello Ollama"}]
    }
)
print(r.json()["message"]["content"])
 Använda Ollama Cloud Ollama stöder också molnmodeller – användbart när din maskin inte kan köra mycket stora modeller. Först skapa ett konto på Sedan, i Modeller sida, e klicka på moln länken och välj vilken modell du vill testa. https://ollama.com/cloud https://ollama.com/cloud I listan över modeller ser du modellen med Prefix**,** vilket innebär att den är tillgänglig i Ollama-molnet. -cloud Klicka på den och kopiera kommandot CLI. Sedan, inuti terminalen, använd: ollama signin
 För att logga in på ditt Ollama-konto.När du loggar in med ollama signin kör du sedan molnmodeller: ollama run nemotron-3-nano:30b-cloud
 Din egen modell i molnet Medan Ollama är lokal-först, tillåter Ollama Cloud dig att driva dina anpassade modeller (de du byggde med Modelfiles) till webben för att dela med ditt team eller använda över enheter. 
 
 
 
 Skapa ett konto på ollama.com. Lägg till din offentliga nyckel (finns i ~/.ollama/id_ed25519.pub). Tryck på din custom modell: ollama push your-username/change-to-your-custom-model-name
 Slutsats Det är den fullständiga översikten av Ollama! Det är ett kraftfullt verktyg som ger dig total kontroll över AI. Om du gillar den här handledningen, vänligen gilla den och dela din feedback i avsnittet nedan. Lycka till! 😉

Read My Blog

Support my work

Det här ljudet är producerat på berättelsens originalspråk!

Komplett Ollama Tutorial (2026) – LLM via CLI, Cloud & Python

About Author

KOMMENTARER

HÄNG TAGGAR

DENNA ARTIKEL PRESENTERAS I

Related Stories

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps