Ollama орон нутгийн Large Language Models (LLMs) ажиллуулах стандарт болж байна. Энэ сургалт, би Ollama талаар мэдэх ёстой хамгийн чухал зүйлсийг харуулсан байна. https://youtu.be/AGAETsxjg0o?embedable=true YouTube дээр үзнэ үү: Ollama Full Tutorial YouTube дээр үзнэ үү: Ollama Full Tutorial Оролцоогоор Full Tutorial Оролцоогоор Full Tutorial Ollama гэж юу вэ? Ollama нь том хэлний загвар (LLM) багцыг бүрэн таны орон нутгийн машин дээр ажиллуулах, удирдахын тулд нээлттэй эх сурвалжтай платформ юм. Энэ нь загвар жин, тохиргоог, өгөгдлийг нэг загвар файлын багц руу багцуулдаг. Ollama-ийн Command-Line интерфэйс (CLI), REST API, Python/JavaScript SDK санал болгож, хэрэглэгчдийн загварууд татаж авах, офлайн ажиллуулах, мөн хэрэглэгчийн тодорхойлолттай функцийг зочилж боломжийг олгодог. Олонхаас хэрэглэгчидг орон нутгийн загварууд ашигладаг, сүлжээний давтамж илрүүлэх, хэрэглэгчийн төхөөрөмж дээр өгөгдлийг хадгалах. Алдартай албан ёсны вэбсайт зочилж Ollama татаж авах . Энэ нь M нь боломжтой https://ollama.com/ ac, Windows, and Linux. https://ollama.com/ Линукс нь: curl -fsSL https://ollama.com/install.sh | sh
 Макс : brew install ollama
 Windows: татаж авах Татаж авах, ажиллуулах .exe Ollama хэрхэн ажиллуулах Оллама ихэвчлэн 4 бит (q4_0) квантизийн загварууд ажиллуулдаг бөгөөд энэ нь хамгийн бага чанарын хамааралтай хэв маяг хэрэглээг багасгадаг. Recommended Hardware: 
 
 
 
 
 7B загварууд (жишээ нь, Llama 3, Mistral): ~8GB RAM-ийг шаарддаг. 13B — 30B загварууд: 16GB — 32GB RAM шаарддаг. 70B + загварууд: 64GB + RAM эсвэл хоёр GPU-ийг шаарддаг. GPU: NVIDIA GPU эсвэл Apple Silicon (M1/M2/M3) хурдны хувьд маш их зөвлөж байна. Зөвлөгөө болон "Models" дээр дарна уу, таны тест нь загварыг сонгоно. Ollama вэб сайт Ollama вэб сайт Дараа нь загварын нэр дээр дарна уу, терминал орлогдсон: Дараа нь терминалын ширээг нээж, үйл явцыг илгээх: Энэ нь танд танд татаж авах, нэг загвартай шууд чат боломжийг олгодог. Ollama CLI — Core Commands Ollama-ийн CLI нь загварын менежментийн төв юм. Хэвийн орд нь: 
 
 
 
 
 
 
 
 
 
 ollama pull <model> — Model татаж авах ollama run <model> — загварыг интерактивтай ажиллуулах ollama жагсаалт эсвэл ollama ls — Татаж авах загвар жагсаалт ollama rm <model> — загвар очиж ollama create -f <Modelfile> — Үйлчилгээний загвар үүсгэх ollama serve — Ollama API сервер эхлэх ollama ps — Show running models ollama stop <model> — Ажлын загварыг бууруулах Ollama дэмжлэг - дэмжлэг үзэх Advanced Customization: ModelFiles нь Custom загвар Та ModelFile-ийг ашиглан загварын мэдлэг, хязгаарлалт "файлын тохируулах" боломжтой. Энэ нь Dockerfile-ийг хамардаг. 
 
 
 ModelFile нэртэй файл үүсгэх Дараачийн конфигурацийг нэмнэ үү: # 1. Base the model on an existing one
FROM llama3
# 2. Set the creative temperature (0.0 = precise, 1.0 = creative)
PARAMETER temperature 0.7
# 3. Set the context window size (default is 4096 tokens)
PARAMETER num_ctx 4096
# 4. Define the System Prompt (The AI’s “brain”)
SYSTEM """
You are a Senior Python Backend Engineer.
Only answer with code snippets and brief technical explanations.
Do not be conversational.
"""
 үндсэн загвар тодорхойлолт FROM Системыг хурдан тохируулах SYSTEM Controls Inference үйл ажиллагаа PARAMETER Дараа нь, та энэ орлогдлыг ашиглан загварыг үүсгэх хэрэгтэй: ollama create [change-to-your-custom-name] -f Modelfile
 Энэ нь Model + Prompt шаблон нь өөрчилж болно багц юм. Дараа нь: ollama run [change-to-your-custom-name]
 Хэвлэх / Click to view the image in full size Ollama сервер (Local API) Ollama нь програм хангамжийг зочилж болно орон нутгийн сервер болгон ажиллуулж болно. сервер эхлэхэд гарын авлага ашиглах: ollama serve
 Энэ нь http://localhost:11434 дээр уншиж байна. Хөргөх HTTP import requests
r = requests.post(
    "http://localhost:11434/api/chat",
    json={
        "model": "llama3",
        "messages": [{"role":"user","content":"Hello Ollama"}]
    }
)
print(r.json()["message"]["content"])
 Энэ нь Ollama-ийг апп эсвэл үйлчилгээнд суулгах боломжийг олгодог. Python интеграци Ollama-ийг албан ёсны библиотекаар Python-ийн програмуудын дотор ашиглах. Эдгээр үйл явцыг ажиллуулах: Виртуал орчинд үүсгэх, идэвхжүүлэх: python3 -m venv .venv
source .venv/bin/activate
 албан ёсны библиотек суулгах: pip install ollama
 Эдгээр хялбар Python код ашиглах: import ollama

# This sends a message to the model 'gemma:2b'
response = ollama.chat(model='gemma:2b', messages=[
  {
    'role': 'user',
    'content': 'Write a short poem about coding.'
  },
])

# Print the AI's reply
print(response['message']['content'])
 Энэ нь Ollama ажиллаж байгаа үед автоматаар орон нутгийн API дээр ажилладаг. You can also call a local server: import requests
r = requests.post(
    "http://localhost:11434/api/chat",
    json={
        "model": "llama3",
        "messages": [{"role":"user","content":"Hello Ollama"}]
    }
)
print(r.json()["message"]["content"])
 Ollama Cloud ашиглах Ollama нь хөнгөн загварыг дэмждэг - таны машин маш том загварыг ажиллуулж чадахгүй байгаа үед ашигтай. Эхлээд, дээр нь данс үүсгэх Дараа нь, Моделүүд хуудсууд дээр, e хөнгөн холболт дээр дарна уу, шалгаж хүссэн ямар ч загвар сонгоно. https://ollama.com/cloud https://ollama.com/cloud загвар жагсаалт, Та загвар нь префикс**,** Энэ нь Ollama Cloud-д боломжтой юм. -cloud Энэ дээр дарна уу, CLI орлогдсон. Дараа нь терминалын дотор ашиглах: ollama signin
 Таны Ollama данс руу бүртгүүлэх. Та ollama signin ашиглан бүртгүүлэх дараа хөнгөн загварууд ажиллуулах: ollama run nemotron-3-nano:30b-cloud
 Cloud дээр өөрийн загвар Ollama нь орон нутгийн эхний юм боловч Ollama Cloud нь өөрчилсөн загварууд (Модел файлуудыг ашиглан бий болгосон загварууд) вэбээр таны багтай хуваалцах эсвэл төхөөрөмжүүд хооронд ашиглах боломжийг олгодог. 
 
 
 
 Ollama.com дээр данс үүсгэх. Ямар ч гэсэн үг юм. Add your public key (found in ~/.ollama/id_ed25519.pub). Таны custom загвар дээр дарна уу: ollama push your-username/change-to-your-custom-model-name
 Баримтлал Энэ бол Ollama-ийн бүрэн үзүүлэлт юм! Энэ нь AI-ийн бүрэн хяналтын боломжийг олгодог хүчтэй хэрэгсэл юм. Хэрэв та энэ суралцахыг дуртай бол энэ нь дуртай бөгөөд доорх хэсэгт таны хаяг хуваалцахыг хүсч байна. Сайн байна уу! ;)

Read My Blog

Support my work

Энэхүү аудио нь түүхийн эх хэлээр хийгдсэн болно!

Complete Ollama Tutorial (2026) - CLI, Cloud & Python дамжуулан LLMs

About Author

Сэтгэгдлүүд

TAG ҮҮ

ЭНЭ ӨГҮҮЛЛИЙГ ТОЛГОЙЛУУЛСАН

Related Stories

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps