Ollama הפך את הסטנדרט עבור הפעלת מודלים לשפות גדולות (LLMs) מקומי. https://youtu.be/AGAETsxjg0o?embedable=true צפו ב YouTube: Ollama Tutorial מלא צפו בYouTube: להורדה Full Tutorial להורדה Full Tutorial להורדה Full Tutorial מה זה Ollama? Ollama היא פלטפורמת קוד פתוח לביצוע וניהול חבילות מודל שפה גדולה (LLM) במלואם במחשב המקומי שלך. היא משלבת משקולות מודל, תצורה ונתונים לחבילת מודל אחת. Ollama מציעה ממשק קו פקודה (CLI), API REST ו- Python/JavaScript SDK, המאפשרים למשתמשים להוריד מודלים, להפעיל אותם מקוון ואפילו להתקשר לתפקידים מוגדרים על ידי המשתמש. להורדה Ollama בקר באתר הרשמי כדי להוריד Ollama זמין עבור M https://ollama.com/ ac, Windows, and Linux. https://ollama.com/ לינוקס : curl -fsSL https://ollama.com/install.sh | sh
 על macOS: brew install ollama
 Windows: הורד את להתקין ולהפעיל אותו. .exe איך לרוץ Ollama לפני הפעלת מודלים, חשוב להבין את Quantization. Ollama בדרך כלל פועל מודלים כוונטיזציה עד 4 סיביות (q4_0), אשר מפחית באופן משמעותי את השימוש בזיכרון עם אובדן מינימלי באיכות. Recommended Hardware: 
 
 
 
 
 מודלים 7B (לדוגמה, Llama 3, Mistral): דורש ~8GB של זיכרון RAM (הופעל על רוב המחשבים הניידים המודרניים). 13B — 30B מודלים: דורש 16GB — 32GB של RAM. 70B+ מודלים: דורש 64GB+ RAM או GPU כפול. GPU: NVIDIA GPU או Apple Silicon (M1/M2/M3) מומלץ מאוד עבור מהירות. יאללה לחצו על "מודלים" ובחרו את המודל עבור המבחן שלכם. האתר של Ollama האתר של Ollama לאחר מכן, לחץ על שם המודל וקופץ את פקודת הטרמינל: לאחר מכן, פתח את חלון הטרמינל והדביק את הפקודה: זה יאפשר לך להוריד ולשוחח עם מודל מיד. Ollama CLI - פקודות Core CLI של Ollama הוא מרכזי לניהול מודל. פקודות נפוצות כוללות: 
 
 
 
 
 
 
 
 
 
 דוגמנית <model> — Download a model ollama run <model> — הפעל מודל באופן אינטראקטיבי ollama list or ollama ls — רשימת הדגמים שהורדו ollama rm <model> — להסיר מודל ollama create -f <Modelfile> — צור מודל מותאם אישית ollama serve – הפעל את שרת ה-Ollama API ollama ps — מציג מודלים רצים ollama stop <model> - הפסקת מודל פועל עזרה - Show help התאמה אישית מתקדמת: מודל מותאם אישית עם קבצי מודל אתה יכול "להתאים" את האישיות וההגבלות של מודל באמצעות קובץ מודל. 
 
 
 יצירת קובץ בשם ModelFile הוסף את ההגדרה הבאה: # 1. Base the model on an existing one
FROM llama3
# 2. Set the creative temperature (0.0 = precise, 1.0 = creative)
PARAMETER temperature 0.7
# 3. Set the context window size (default is 4096 tokens)
PARAMETER num_ctx 4096
# 4. Define the System Prompt (The AI’s “brain”)
SYSTEM """
You are a Senior Python Backend Engineer.
Only answer with code snippets and brief technical explanations.
Do not be conversational.
"""
 הגדרת המודל הבסיסי FROM הגדרת מערכת מהירה SYSTEM פיקוח על התנהגות PARAMETER לאחר מכן, אתה צריך לבנות את המודל באמצעות פקודה זו: ollama create [change-to-your-custom-name] -f Modelfile
 פעולה זו מכסה את התבנית + התבנית יחד לתוך חבילה חוזרת לשימוש. לאחר מכן לרוץ: ollama run [change-to-your-custom-name]
 לחץ על Enter או לחצו כדי לראות את התמונה בגודל מלא שרת Ollama (Local API) Ollama יכול לפעול כשרת מקומי שאפליקציות יכולות להתקשר אליו כדי להתחיל את השרת באמצעות הפקודה: ollama serve
 זה מקשיב ב http://localhost:11434 כברירת מחדל. עקבו אחרי HTTP import requests
r = requests.post(
    "http://localhost:11434/api/chat",
    json={
        "model": "llama3",
        "messages": [{"role":"user","content":"Hello Ollama"}]
    }
)
print(r.json()["message"]["content"])
 זה מאפשר לך להטביע Ollama באפליקציות או בשירותים. אינטגרציה Python השתמש Ollama בתוך יישומים של Python עם הספרייה הרשמית. ליצור ולהפעיל סביבות וירטואליות: python3 -m venv .venv
source .venv/bin/activate
 הפעל את הספרייה הרשמית: pip install ollama
 השתמש בקוד Python פשוט זה: import ollama

# This sends a message to the model 'gemma:2b'
response = ollama.chat(model='gemma:2b', messages=[
  {
    'role': 'user',
    'content': 'Write a short poem about coding.'
  },
])

# Print the AI's reply
print(response['message']['content'])
 זה עובד על API המקומי באופן אוטומטי כאשר Ollama פועל. You can also call a local server: import requests
r = requests.post(
    "http://localhost:11434/api/chat",
    json={
        "model": "llama3",
        "messages": [{"role":"user","content":"Hello Ollama"}]
    }
)
print(r.json()["message"]["content"])
 שימוש בOllama Cloud Ollama תומך גם במודלים ענן – שימושיים כאשר המכונה שלך לא יכולה להפעיל מודלים גדולים מאוד. ראשית, ליצור חשבון לאחר מכן, בתוך הדף מודלים, לחצו על הקישור בענן ובחרו כל מודל שברצונכם לבדוק. https://ollama.com/cloud https://ollama.com/cloud ברשימה של הדגמים, תוכל לראות את המודל עם הקדמה**,** כלומר היא זמינה בענן Ollama. -cloud לחצו עליו וקופצו את הפקודה CLI. ולאחר מכן, בתוך המסוף, השתמשו: ollama signin
 כדי להיכנס לחשבון Ollama שלך.אחרי שאתה נכנס עם ollama signin, ואז להפעיל מודלים ענן: ollama run nemotron-3-nano:30b-cloud
 מודל משלך בענן בעוד Ollama הוא מקומי ראשון, Ollama ענן מאפשר לך לדחוף מודלים מותאמים אישית (אלה שאתה בנה עם Modelfiles) לאינטרנט כדי לשתף עם הצוות שלך או להשתמש במכשירים שונים. 
 
 
 
 צור חשבון ב- ollama.com הוסף את המפתח הציבורי שלך (מצא ב ~/.ollama/id_ed25519.pub). דחוף את המודל האישי שלך: ollama push your-username/change-to-your-custom-model-name
 מסקנה זהו סקירה מלאה של Ollama! זה כלי רב עוצמה שנותן לך שליטה מוחלטת על AI. אם אתה אוהב את ההוראה הזו, אנא אוהב את זה ולשתף את המשוב שלך בסעיף למטה. מזל טוב! 😉

Read My Blog

Support my work

האודיו הזה מופק בשפת המקור של הסיפור!

Complete Ollama Tutorial (2026) – LLMs דרך CLI, ענן וPython

About Author

הערות

תלו תגים

מאמר זה הוצג ב

Related Stories

The TechBeat: 5 Low-Cost Cybersecurity Measures SMBs Can’t Afford to Not Implement (3/4/2024)

97 Stories To Learn About Quicknode

The TechBeat: Python's Testing Playbook: Building Bulletproof Code (1/18/2024)

The TechBeat: Investigating Internet Freedom: Unseen Aspects of Our Online Existence (1/22/2024)

The TechBeat: 5 Low-Cost Cybersecurity Measures SMBs Can’t Afford to Not Implement (3/4/2024)

97 Stories To Learn About Quicknode

The TechBeat: Python's Testing Playbook: Building Bulletproof Code (1/18/2024)

The TechBeat: Investigating Internet Freedom: Unseen Aspects of Our Online Existence (1/22/2024)

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps