Ollama è diventato lo standard per eseguire Large Language Models (LLM) localmente. In questo tutorial, voglio mostrarti le cose più importanti che dovresti sapere su Ollama. https://youtu.be/AGAETsxjg0o?embedable=true Guarda su YouTube: Ollama Tutorial completo Guarda su YouTube: Tutorial completo Tutorial completo Tutorial completo Che cosa è Ollama? Ollama è una piattaforma open-source per eseguire e gestire i pacchetti di big-language-model (LLM) interamente sulla macchina locale. Unisce i pesi del modello, la configurazione e i dati in un unico pacchetto Modelfile. Ollama offre un'interfaccia di linea di comando (CLI), un'API REST e un SDK Python/JavaScript, consentendo agli utenti di scaricare i modelli, eseguirli offline e persino chiamare funzioni definite dall'utente. Eseguire modelli localmente fornisce privacy agli utenti, rimuove la latenza della rete e mantiene i dati sul dispositivo dell'utente. Installazione Ollama Visita il sito ufficiale per scaricare Ollama Disponibile per m https://ollama.com/ ac, Windows, and Linux. https://ollama.com/ di Linux: curl -fsSL https://ollama.com/install.sh | sh
 di macOS: brew install ollama
 Windows: scaricare il Installare e eseguire. .exe Come eseguire Ollama Ollama di solito esegue modelli quantizzati a 4 bit (q4_0), che riduce significativamente l'utilizzo della memoria con una minima perdita di qualità. Recommended Hardware: 
 
 
 
 
 Modelli 7B (ad esempio, Llama 3, Mistral): Richiede ~8 GB di RAM (funziona sulla maggior parte dei laptop moderni). 13B – 30B Modelli: Richiede 16GB – 32GB di RAM. 70B+ Modelli: richiede 64GB+ di RAM o GPU dual. GPU: una GPU NVIDIA o Apple Silicon (M1/M2/M3) è altamente raccomandata per la velocità. Vai a Fai clic su “Modelli” e seleziona il modello per il tuo test. Il sito di Ollama Il sito di Ollama Dopo di che, fare clic sul nome del modello e copiare il comando del terminale: Apri la finestra del terminale e inserisci il comando: Vi permetterà di scaricare e chattare con un modello immediatamente. Ollama CLI – Comandi Core Il CLI di Ollama è centrale per la gestione del modello. Comandi comuni includono: 
 
 
 
 
 
 
 
 
 
 Città del Sud - Scarica un modello ollama run <model> — Eseguire un modello in modo interattivo ollama list o ollama ls — Elenco dei modelli scaricati ollama rm <model> — Rimuovere un modello ollama create -f <Modelfile> — Creare un modello personalizzato ollama serve — Avviare il server Ollama API ollama ps — Mostra modelli in esecuzione ollama stop <model> - Stop a running model Ollama aiuto - Mostra aiuto Personalizzazione avanzata: Modello personalizzato con Modelfiles Puoi “fine-tune” la personalità e i vincoli di un modello utilizzando un Modelfile. Questo è simile a un Dockerfile. 
 
 
 Creare un file chiamato Modelfile Inserisci la seguente configurazione: # 1. Base the model on an existing one
FROM llama3
# 2. Set the creative temperature (0.0 = precise, 1.0 = creative)
PARAMETER temperature 0.7
# 3. Set the context window size (default is 4096 tokens)
PARAMETER num_ctx 4096
# 4. Define the System Prompt (The AI’s “brain”)
SYSTEM """
You are a Senior Python Backend Engineer.
Only answer with code snippets and brief technical explanations.
Do not be conversational.
"""
 Definire il modello di base FROM Impostare un sistema rapido SYSTEM Controllare il comportamento di inferenza PARAMETER Dopo di che, è necessario costruire il modello usando questo comando: ollama create [change-to-your-custom-name] -f Modelfile
 Questo avvolge il modello + prompt modello insieme in un pacchetto riutilizzabile. Poi correre in: ollama run [change-to-your-custom-name]
 Premere Enter o cliccare per visualizzare l'immagine in piena dimensione Il server di Ollama (Local API) Ollama può essere eseguito come server locale che le applicazioni possono chiamare. Per avviare il server utilizzare il comando: ollama serve
 Si legge su http://localhost:11434 per impostazione predefinita. Sito HTTP import requests
r = requests.post(
    "http://localhost:11434/api/chat",
    json={
        "model": "llama3",
        "messages": [{"role":"user","content":"Hello Ollama"}]
    }
)
print(r.json()["message"]["content"])
 Questo ti consente di incorporare Ollama in app o servizi. Integrazione Python Utilizzare Ollama all'interno delle applicazioni di Python con la libreria ufficiale. Eseguire questi comandi: Creare e attivare ambienti virtuali: python3 -m venv .venv
source .venv/bin/activate
 Installa la biblioteca ufficiale: pip install ollama
 Utilizzare questo semplice codice Python: import ollama

# This sends a message to the model 'gemma:2b'
response = ollama.chat(model='gemma:2b', messages=[
  {
    'role': 'user',
    'content': 'Write a short poem about coding.'
  },
])

# Print the AI's reply
print(response['message']['content'])
 Questo funziona automaticamente sull'API locale quando Ollama è in esecuzione. You can also call a local server: import requests
r = requests.post(
    "http://localhost:11434/api/chat",
    json={
        "model": "llama3",
        "messages": [{"role":"user","content":"Hello Ollama"}]
    }
)
print(r.json()["message"]["content"])
 Utilizzo di Ollama Cloud Ollama supporta anche i modelli cloud, utile quando la macchina non può eseguire modelli molto grandi. In primo luogo, creare un account su Poi, all'interno della pagina Modelli, e cliccare sul collegamento cloud e selezionare qualsiasi modello che si desidera testare. https://ollama.com/cloud https://ollama.com/cloud Nell'elenco dei modelli, vedrete il modello con prefix**, che significa che è disponibile nel cloud Ollama. -cloud Clicca su di esso e copia il comando CLI. Poi, all'interno del terminale, usa: ollama signin
 Per accedere al tuo account Ollama. Una volta effettuato l'accesso con ollama signin, eseguire i modelli cloud: ollama run nemotron-3-nano:30b-cloud
 Il tuo modello nel cloud Mentre Ollama è locale, Ollama Cloud ti consente di spingere i tuoi modelli personalizzati (quelli che hai costruito con Modelfiles) sul web per condividere con il tuo team o usare su tutti i dispositivi. 
 
 
 
 Crea un account su ollama.com. Aggiungi la tua chiave pubblica (trovata in ~/.ollama/id_ed25519.pub). Spingete il vostro modello personalizzato: ollama push your-username/change-to-your-custom-model-name
 Conclusione Questa è la panoramica completa di Ollama! È uno strumento potente che ti dà il controllo totale sull'IA. Se ti piace questo tutorial, ti prego di piacerlo e condividere il tuo feedback nella sezione qui sotto. Buon giorno! 😉

Read My Blog

Support my work

Questo audio è prodotto nella lingua originale della storia!

Complete Ollama Tutorial (2026) – LLM tramite CLI, Cloud & Python

About Author

COMMENTI

CARTELLINI

QUESTO ARTICOLO È STATO PRESENTATO IN

Related Stories

Meet Dealscard, Winner of Startups of The Year 2024 in Ghaziabad/Deal Aggregator

Streamlining Network Policy Management - Interview with Startups of the Year Nominee, Otterize

I Built an AI Copilot That Thinks in Exploits, Not Prompts

10 Reasons Why Publishing on HackerNoon Will Skyrocket Your Reach and Impact

Meet Dealscard, Winner of Startups of The Year 2024 in Ghaziabad/Deal Aggregator

Streamlining Network Policy Management - Interview with Startups of the Year Nominee, Otterize

I Built an AI Copilot That Thinks in Exploits, Not Prompts

10 Reasons Why Publishing on HackerNoon Will Skyrocket Your Reach and Impact

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps