Ինչպե՞ս պետք է սեղմել սեղմել սեղմել սեղմել սեղմել սեղմել սեղմել

Այն, ինչ սկսվել է, քանի որ հավատում է, որ AI- ի մատակարարների միջոցով մատակարարվում է մատակարարների մատակարարման հզորության փորձը, հզոր censorship- ը եւ անպահասելի ծախսերը: Արդյոք փորձնական AI- ի օգտվողների համար լուծումը ավելի շատ տեղադրվում է Self-Hosting- ում: Cloud AI- ի ծախսերի ծախսերը Cloud AI- ի մատակարարները մշակել են մի վտանգավոր մոդել: Ապրիլը արտադրանքի համար արտադրանքի համար արտադրանքի կատարման համար հարմարեցնում է հաճախորդներին, ապա փնտրում են ծառայության որակը: OpenAI- ի օգտվողները հայտարարել են, որ GPT-4o- ը այժմ «պասկանում է շատ արագ, բայց եթե բաղադրիչները եւ ուղեցույցները անում են արագ պատասխանների ապահովման համար, ապա գործիքը չի կարող օգտագործվել». —Technique- ը, որտեղ մատակարարները միավորել են բազմաթիվ օգտվողների պահանջները GPU- ի արդյունավետության համար, ինչպիսիք են, որ մասնավոր պահանջները վայելում են մինչեւ 4x երկար ժամանակ, քանի որ փաթեթային չափերը աճում են: Token batching Հիմնական պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային պտուտակային Censorship: Երբ անվտանգությունը չի կարող օգտագործվել Google-ը չգիտեցնում է պատասխանել 20 հարցերիից 10 հարցերին, որոնք պլանավոր են, բայց հավասար են: Մարդիկ, ովքեր վախենում են սեռական վախենում, կարող են բլոգել իրենց ծրագրերը, ինչպիսիք են «նվտանգ չժանգոտվող բաղադրույքներ»: Հիմնական խաղալիքների խոսքերը անմիջապես կանգնած են աշխատել նորարարության հետո: Հիմնական բաղադրույքները բլոգում են անվտանգության սեղմիչները: Anthropic- ի Claude- ը «բոնդերլին անսահմանափակ» է դարձել, քանի որ օգտագործողները վախենում են հզոր սենսորացիայի հետ, որը բլոգում է հավատական օգտագործման գործիքները: Գլխավոր Ապրանքներ Արդյունաբերական ինտերնետային սարքավորումներ կարող են վերահսկել այդ սխալները: Միայն լավ սարքավորումների հետ, տեղական սխալները հասանելի են 1900+ tokens/second—10-100x ավելի արագ ժամանակից առաջին token- ից, քան Cloud- ի ծառայություններ: Դուք վերահսկում եք մոդելային տարբերակների ամբողջական վերահսկողությունը, ինչպիսիք են անսահմանափակ update- ները, որոնք կտրում են աշխատանքային թռիչքները: Չնայած սխալների սխալները չի բլոգում ճշգրտված բաղադրույքները: Չնայած բաղադրույքները կտրում են ձեր աշխատանքը: Չնայած բաղադրույքները չի կտրում օգտագործման ծախսերը: Շատ տարիների ընթացքում, Հեղինակային պահանջները: Building Your AI Powerhouse Մոդելային չափերի եւ կատեգորիաների գիտություն Արդյոք, դուք կարող եք ստանալ այն, ինչ դուք պետք է ստանալ, քանի որ դուք պետք է ստանալ այն, ինչ դուք պետք է ստանալ, եւ դուք պետք է ստանալ այն, ինչ դուք պետք է ստանալ: Կանոնտացիոնը նվազեցնում է մոդելային քանակների ճշգրտությունը, որը առաջադեմ թռիչք-պտուտակային ցուցադրմանից նվազագույն բետային ձեւաչափերի համար: Տեսեք այն, ինչպիսիք են բարձր resolutions մանրամասի մանրամասի սեղմելու համար: Դուք առեւտրում եք մի քանի մանրամասների համար, որոնք շատ փոքր են ֆայլերի չափերի համար: Նրաուլային ցանցում, դա նշանակում է, որ յուրաքանչյուր մանրամասը սեղմվում է ավելի քիչ բետների հետ, ինչպիսիք է, որ մանրամասի օգտագործումը անմիջապես նվազեցնում է եւ արագեցնում է ճշգրտությունը: What is Quantization? Չնայած մանրամասնության, նույնիսկ մանրամասն լեզուային մոդելներ չեն կարող են հասնել ամենամեծ օգտագործողների համար: 70B- ի մանրամասն մոդելը ամենամեծ ճշգրիտությամբ պահանջում է 140GB մանրամասնությունը, քան ամենամեծ մանրամասն GPU-ները: Մանրամասնությունը հզոր մոդելներ կատարելու միջոցով հզոր է, որը կարող է աշխատել ամենօրյա սարքավորումների վրա, թույլ է տալիս տեղական տեղադրման, նվազեցնել մանրամասների ծախսերը եւ բարելավել մանրամասների արագությունը ավելի արդյունավետ մանրամասների մուտքագրման մոդելների միջոցով: Why Quantization Matters FP16 (Full Precision): Original Model Quality, Maximum Memory Requirements 8-bit Quantization: ~50% մանրամասն մանրամասներ, փոքր որակի ազդեցություն 4-bit Quantization: ~75% մանրամասի նվազեցումը, քիչ որակի փոխանցման 2-bit Quantization: ~87.5% մանրամասի ցածրությունը, տեսանելի որակի ցածրությունը 7B parameter մոդելի համար, դա փոխվում է 14GB (FP16), 7GB (8-bit), 3.5GB (4-bit), կամ 1.75GB (2-bit) մանրամասի պահանջում: Open-Source մոդելներ եւ նրանց պահանջները Small Models (1.5B-8B parameters): Qwen3 4B / 8B: The latest generation with hybrid thinking modes. Qwen3-4B կատարում է բազմաթիվ 72B մոդելների համար programming գործիքների համար. Կարդալում է ~3-6GB 4-bit quantization DeepSeek-R1 7B: Բարձր ճշգրտման հզորությունը, 4GB RAM Mistral Small 3.1 24B: Նորագույն Apache 2.0 մոդելը multimodal կարողություններով, 128K բջջային վահանակով եւ 150 tokens/sec արդյունավետության հետ: Գործում է մեկ RTX 4090 կամ 32GB Mac- ում Medium Models (14B-32B parameters): GPT-OSS 20B: OpenAI-ի առաջին բաց մոդել 2019 թ.ից հետո, Apache 2.0- ի լիցենզիա: MoE- ի դիզայնը 3.6B- ի ակտիվ պարամետրերի հետ ապահովում է o3-mini կատարումը: RTX 4080- ի հետ 16GB VRAM- ի հետ աշխատում է Qwen3 14B/32B: Հաստ մոդելներ, որոնք կարող են զգալ մեթոդների կարողությունները: Qwen3-14B- ը համատեղելի է Qwen2.5-32B- ի կատարման հետ, իսկ ավելի արդյունավետ է DeepSeek-R1 14B: Optimal է RTX 3070 Ti / 4070 Mistral Small 3.2: Լավագույն թարմացումը, որը բարելավվել է ուղեցույցների հետ եւ նվազեցնում է վերադառնալը Large Models (70B+ parameters): Llama 3.3 70B: ~35GB 4-բետային քենտատում, պետք է Dual RTX 4090 կամ A100 DeepSeek-R1 70B: 48GB VRAM- ը առաջարկում է, որը հասանելի է 2x RTX 4090- ի հետ GPT-OSS 120B: OpenAI- ի տպագրական բաց մոդելը 5.1B- ի գործառույթների միջոցով 128-expert MoE- ի միջոցով: Հիմնադրվում է o4-mini կատարումը, աշխատում է Single H100 (80GB) կամ 2-4x RTX 3090s- ում Qwen3-235B-A22B: Flagship MoE մոդելը 22B- ի գործառույթների հետ, համատեղելի է o3-mini- ի հետ DeepSeek-R1 671B- ը, որը պահանջում է 480GB + VRAM- ի կամ մասնագիտացված տեղադրման համար Մոդելային մոդելային մասնագիտությունը: Small Coding Models (1B-7B active parameters): Qwen3-Coder 30B-A3B: MoE մոդելը միայն 3.3B- ի գործառույթների հետ: Հիմնական 256K կապը (1M- ի հետ YaRN- ի հետ) սարքավորումների չափազանց գործառույթների համար: RTX 3060- ում 12GB- ում աշխատում է 4-բետային քենտատում Qwen3-Coder 30B-A3B-FP8: Պաշտոնական 8-բիտ մանրամասնությունը, որը պահպանում է 95% + արդյունավետությունը: Նրանք պահանջում են 15GB VRAM, optimal for RTX 4070/3080 Unsloth Qwen3-Coder 30B-A3B: Dynamic quantizations with fixed tool-calling. Q4_K_M աշխատում է 12GB, Q4_K_XL 18GB հետ ավելի լավ որակի Large Coding Models (35B+ active parameters): Qwen3-Coder 480B-A35B: 35B- ի մոդելը աշխատում է 160- ի մասնագիտական MoE- ի միջոցով: Ստացվում է 61.8% SWE-Bench- ում, ինչպիսիք են Claude Sonnet- ի 4- ի հետ: Ստացվում է 8x H200- ը կամ 12x H100- ը ամբողջ ճշգրիտությամբ Qwen3-Coder 480B-A35B-FP8: Պաշտոնական 8-բիտ խանութը գնում է 250GB- ում: Գնվում է 4x H100 80GB կամ 4x A100 80GB Unsloth Qwen3-Coder 480B-A35B: Q2_K_XL- ը 276GB- ում աշխատում է 4x RTX 4090 + 180GB RAM- ում: IQ1_M- ը 150GB- ում կարող է աշխատել 2x RTX 4090 + 100GB RAM- ում Hardware Configurations- ի համար Budget Build (~$2,000): AMD-ի Ryzen 7 7700X պրոցեսոր 64GB DDR5-5600 RAM-ը PowerColor RX 7900 XT 20GB կամ օգտագործված RTX 3090 14B մոդելների հարմարավետ վերահսկում Performance Build (~$4,000): AMD-ի Ryzen 9 7900X- ը 128GB DDR5-5600 RAM-ը RTX 4090 24GB սարքավորումներ 32B մոդելները արդյունավետ են, փոքրիկ 70B մոդելները բեռնում են Professional Setup (~$8,000): Dual Xeon / EPYC պրոֆեսորներ 256GB RAM-ը 2x RTX 4090 կամ RTX A6000 70B մոդելներ աշխատում են արտադրության արագությամբ Mac Options: MacBook M1 Pro 36GB: Լավ է 7B-14B մոդելների համար, միասնական մանրամասի առավելությունը Mac Mini M4 64GB: 32B մոդելների հետ հարմարավետ Mac Studio M3 Ultra 512GB: The Ultimate Option—Runs DeepSeek-R1 671B 17-18 tokens/sec համար ~ $10,000 AMD- ի EPYC համակարգեր առաջարկում են գերազանց արժեքը: EPYC 7702 համակարգը 512GB-1TB DDR4- ի հետ $ 2,500- ի համար ապահովում է DeepSeek-R1 671B- ում 3.5-8 tokens- ում / րոպե - ավելի արագ է, քան GPU- ում, բայց շատ ավելի հարմար է այս չափի մոդելների համար: The AMD EPYC Alternative: Այս konfiguration- ը կարող է գործել DeepSeek-R1 671B- ը 3.5-4.25 tokens- ի ժամանակ: The $2,000 EPYC Build (Digital Spaceport Setup): CPU: AMD EPYC 7702 (64 կոր) - $ 650, կամ Upgrade to EPYC 7C13/7V13 - $ 599-735 motherboard: MZ32-AR0 (16 DIMM slots, 3200MHz աջակցություն) - $ 500 Մեմա: 16x 32GB DDR4-2400 ECC (512GB ընդհանուր) - $ 400, կամ 16x 64GB համար 1TB - $ 800 Samsung 980 Pro NVMe սարքավորումներ - $75 Corsair H170i Elite Capellix XT-ի սննդի սննդի սննդի սննդը PSU: 850W (CPU-only) կամ 1500W (բեռնել GPU լայնությունը) - $80-150 Տեսակ: Rack frame - $ 55 : ~$2,000 համար 512GB, ~$2,500 համար 1TB կարգավորումը Total Cost Performance Results: DeepSeek-R1 671B Q4: 3.5-4.25 տոմսներ / շաբաթ Պահպանված Windows: 16K + Supported Power Draw: 60W անսահմանափակ, 260W բեռնել Memory Bandwidth: Critical—Faster DDR4-3200- ը մեծապես բարելավում է կատարումը Այս տեղադրումը հավատում է, որ խոշոր մոդելներ կարող են աշխատել հարմարավետորեն CPU- ի միայն համակարգերի վրա, ինչպիսիք է, որ frontier AI- ը հասանելի է առանց GPU- ի պահանջների: Dual-socket կարողություն եւ խոշոր մանրամասի աջակցություն դարձնում են EPYC- ը հարմարավետ մոդելների համար, որոնք գերազանցում են GPU VRAM սահմանափակները: Հեղինակ: Digital Spaceport - How to Run Deepseek R1 671b Fully Locally on a $2000 EPYC Server Digital Spaceport - Ինչպե՞ս գործել Deepseek R1 671b- ը ամբողջապես տեղականորեն $ 2000 EPYC սերվերի վրա Software Setup: From Installation to Production (Մի տեղադրման մինչեւ արտադրության) Ollama: The հիմնադրամը Ollama- ը դարձել է տեղական մոդելային տեղադրման de facto ստանդարտը, որը առաջարկում է հեշտությունը, առանց հզորության ծախսելու: Installation: # Linux/macOS curl -fsSL https://ollama.com/install.sh | sh # Windows: Download installer from ollama.com/download Essential Configuration: # Optimize for performance export OLLAMA_HOST="0.0.0.0:11434" # Enable network access export OLLAMA_MAX_LOADED_MODELS=3 # Concurrent models export OLLAMA_NUM_PARALLEL=4 # Parallel requests export OLLAMA_FLASH_ATTENTION=1 # Enable optimizations export OLLAMA_KV_CACHE_TYPE="q8_0" # Quantized cache # Download models ollama pull qwen3:4b ollama pull qwen3:8b ollama pull mistral-small3.1 ollama pull deepseek-r1:7b Շատ GPU- ի տեղադրման համար կատարեք միասին Ollama- ի միասին: Running Multiple Instances: # GPU 1 CUDA_VISIBLE_DEVICES=0 OLLAMA_HOST="0.0.0.0:11434" ollama serve # GPU 2 CUDA_VISIBLE_DEVICES=1 OLLAMA_HOST="0.0.0.0:11435" ollama serve Exo.labs: Distributed Inference Magic Վիքիպահեստում Exo.labs- ը թույլ է տալիս գործել խոշոր մոդելներ բազմաթիվ սարքերի վրա - նույնիսկ MacBooks, PC- ի եւ Raspberry Pis- ի mixing. Installation: git clone https://github.com/exo-explore/exo.git cd exo pip install -e . Պարզապես Run Ձեր ցանցի բոլոր սարքերում: Նրանք ավտոմատորեն հասկանում են միասին եւ փոխանցում են մոդելային հաշվարկը: 3x M4 Pro Mac- ի հետ տեղադրման ժամանակ Llama 3.2 3B- ում 108.8 tokens/second- ը հասկանում է, որը 2.2x- ը բարելավում է մեկ սարքի կատարումը: Usage: exo GUI տարբերակներ Լավագույն ChatGPT- ի նման փորձը ապահովում է: Open WebUI docker run -d -p 3000:8080 --gpus=all \ -v ollama:/root/.ollama \ -v open-webui:/app/backend/data \ --name open-webui \ ghcr.io/open-webui/open-webui:ollama Տեղադրություն at RAG- ի աջակցության, բազմաթիվ օգտվողների կառավարման եւ plugin համակարգի համար: http://localhost:3000 Լավագույն desktop փորձը: GPT4All Բեռնել gpt4all.io համար Windows, macOS, կամ Linux One-click տեղադրումը ավտոմատ Ollama detection- ի հետ Բջջային մոդել բլոգեր եւ բեռնել կառավարիչ Լավ է սկսողների համար, ովքեր ցանկանում են բջջային desktop app Ապրանքներ, որոնք աջակցում են Local Document Chat եւ Plugins Արդյոք, մենք ունենք մի հզոր արտադրական ինտերնետը: AI Studio Multi-model comparison եւ փորձարկման հզորություններ Բարձր արագ անգլերեն գործառույթներ API Endpoint կառավարման եւ փորձարկման Model Performance Analysis եւ Benchmarking- ը Պահպանում է Ollama, LocalAI եւ custom backends Արդյոք, այն լավ է, որ AI- ի հետազոտողները եւ Developer- ը Ապրանքներ ներառում են զանգվածային թռիչք, prompt templates եւ export options Բարձրացվում է ստեղծագործական ծրագրերի եւ karakters-based ինտերնետների համար, որը առաջարկում է լայն հարմարեցման roleplay եւ ստեղծագործական գրառման սենյակների համար: SillyTavern Tailscale- ի հետ հեռավոր մուտք: Ձեր AI-ը ամենայնում Մեկը հզորագույն մասը Self-hosting AI- ի կարողությունը հասնել ձեր մոդելերը ցանկացած վայրից, իսկ պահպանելով ամբողջական պաշտպանությունը. Tailscale VPN- ը այն հեշտ է, որ ստեղծում է անվտանգ մետաղական ցանցը բոլոր ձեր սարքերի միջեւ: Tailscale- ի կարգավորումը Remote AI Access- ի համար Install Tailscale on your AI server: # Linux/macOS curl -fsSL https://tailscale.com/install.sh | sh sudo tailscale up # Windows: Download from tailscale.com/download Configure Ollama for network access: # Set environment variable to listen on all interfaces export OLLAMA_HOST="0.0.0.0:11434" ollama serve (Laptop, phone, tablet) օգտագործելով նույն հաշիվը: Բոլոր սարքերը ավտոմատորեն հայտնվում են ձեր անձնական մազային ցանցում միավոր IP հասցենով (պատկապես 100.x.x.x մակարդակ). Install Tailscale on client devices Check your server's Tailscale IP: tailscale ip -4 # Example output: 100.123.45.67 Access from any device on your Tailnet: Հեղինակային կայքը: http://100.123.45.67:3000 (Open WebUI) API-ի վերջը: http://100.123.45.67:11434/v1/chat/completions Mobile Apps: Configure Ollama endpoint to your Tailscale IP- ը Բարձրագույն Tailscale Configuration Միացեք ձեր ամբողջ տունային ցանցը: Enable subnet routing # On AI server sudo tailscale up --advertise-routes=192.168.1.0/24 # Replace with your actual subnet HTTPS- ի համար ավտոմատ սերտիֆիկների համար: Use Tailscale Serve # Expose Open WebUI with HTTPS tailscale serve https / http://localhost:3000 Այսպիսին է ստեղծվել մի public URL- ը, ինչպիսիք են Միայն ձեր Tailscale ցանցին հասանելի է. https://your-machine.your-tailnet.ts.net Mobile Access սարքավորումներ iOS / Android սարքերի համար: Բեռնել App Store / Play Store- ից Միացեք նույն հաշիվով Install compatible apps: : Enchanted, Mela, or any OpenAI-compatible client iOS : Ollama Android app, or web browser Android Ստեղծեք app- ը ձեր Tailscale IP-ի օգտագործման համար: http://100.123.45.67:11434 Անվտանգության լավագույն գործիքներ Tailscale- ը ապահովում է անվտանգությունը սխալված մետաղային ցանցի միջոցով, այլեւս չի պահանջվում լրացուցիչ firewall konfiguration- ը: Tailscale- ի գեղեցկությունը այն է, որ: Automatically encrypts բոլոր առեւտրի օգտագործելով WireGuard Միայն թույլ է տալիս authenticated սարքավորումներ ձեր ցանցում Նրանք ստեղծում են ինտեգրված կապներ, որոնք ամբողջությամբ փնտրում են ձեր router- ը Արդյոք, դուք կարող եք խուսափել, թե ինչ է անսահմանափակ առեւտրային առցանց Քանի որ Tailscale traffic- ը սեղմվում է եւ հասանելի է միայն ձեր ստուգված սարքերի համար, ձեր Ollama սերվերը ամբողջապես անձնական է, նույնիսկ այն ժամանակ, երբ հասանելի է հեռավորապես: Չնայած մատակարարման մատակարարման, ոչ VPS- ի տեղադրման, ոչ պլաստիկ firewall- ի կարգավորումները - պարզապես անվտանգ, ուղղակի սարքավորումներ- ի սարքավորումներ: Tailscale- ի հետ, ձեր ինտեգրված AI- ը իրականում պտուտակավոր է - ստանալ ձեր մոդելերը ամբողջական ինտեգրվածությամբ, եթե դուք գնում եք մի կետ, ճանապարհորդում եք, կամ աշխատում եք այլ տեղից: Ծրագրված մետաղային ցանցը ապահովում է, որ ձեր AI- ի խոսքերը երբեք չի հեռանում ձեր վերահսկողության վրա: Agentic Workflows: AI- ը, որը իրականում աշխատում է Goose է Block Goose- ը ձեր տեղական մոդելները փոխանցում է ինտերնետային զարգացման օգնությունները, որոնք կարող են կառուցել ամբողջ ծրագրեր: Installation: curl -fsSL https://github.com/block/goose/releases/download/stable/download_cli.sh | bash Configuration for Ollama: goose configure # Select: Configure Providers → Custom → Local # Base URL: http://localhost:11434/v1 # Model: qwen3:8b Goose- ը գերազանցում է կոդը մigrations- ի, կատարման optimization- ի, test generation- ի եւ հարմար արտադրական աշխատանքային պլաների վրա: Հիմնականորեն, այն պլանավորում է եւ կատարում է ամբողջ արտադրական գործառույթները. Crush է Charm Crush- ի համար Crush-ը ապահովում է հպարտ AI- ի coding- ի գործիչը, որը հպարտ է IDE- ի ինտեգրման հետ: Installation: brew install charmbracelet/tap/crush # macOS/Linux # or npm install -g @charmland/crush (Տեսանյութ) )՝ Ollama Configuration .crush.json { "providers": { "ollama": { "type": "openai", "base_url": "http://localhost:11434/v1", "api_key": "ollama", "models": [{ "id": "qwen3:8b", "name": "Qwen3 8B", "context_window": 32768 }] } } } N8N AI Starter Kit- ը Օգտագործելով Visual Workflow Automation, n8n Self-Hosted Kit- ը համատեղում է ամեն ինչ անհրաժեշտ է: git clone https://github.com/n8n-io/self-hosted-ai-starter-kit.git cd self-hosted-ai-starter-kit docker compose --profile gpu-nvidia up Visual Workflow Editor- ը 400+ ինտեգրման եւ նախընտրված AI Templates- ի հետ: http://localhost:5678/ Corporate Scale Inference: The 50 Million Tokens/Hour Setup- ը Օգտագործման համար, որոնք պահանջում են գերազանց արդյունավետության, Self-Hosting- ի սահմանները լայնորեն լայն են, քան բնական տունային սերվերը, ինչպիսիք են @nisten setup- ը X- ում: Մոդել: Qwen3-Coder-480B (480B parametrs, 35B active MoE architecture) Հեղինակային սարքավորումներ: 4x NVidia H200 արտադրանքը: 50 միլիոն տոմս / ժամ (հարկե $ 250 / ժամ, եթե օգտագործեք Sonnet) Բարձրության վերլուծություն Initial Investment: Արդյունաբերական սարքավորումներ: ~ 2,000 $ Ապրանքի կարգավորումը: ~$4,000 Ապրանքանիշը: ~ 9000 $ Operational Costs: Ապրանքներ: 50 - 200 $ / ամիս Zero Fire Գնացքներ Ոչ օգտագործման սահմանափակներ Բարձր ծախսերի հարմարավետությունը Բարձր օգտվողները վերցնում են ներդրումներ 3-6 ամիսում. Մասնավոր օգտվողները կտրում են նույնիսկ մեկ տարվա ընթացքում: Արդյոք ազատությունը գինը սահմանափակների, սենզորության եւ արդյունավետության վերահսկողության մասին: Ոչ գինը: Break-even Timeline: Հյուրատետր Ավելի կարեւոր է, որ AI-ը աշխատում է այնպես, ինչպես դուք պետք է: Չնայած սխալներ, ոչ մի սխալներ, ոչ մի սխալներ: Փորձեք տարբեր մոդելների հետ: Ավելացնել գործիչական հզորությունները: Բարձրացրեք այն, ինչ պետք է: Որքան կարեւոր է, վայելեք AI- ի ազատությունը, որը աշխատում է այնպես, ինչպես դուք պետք է: Չնայած սխալներ, ոչ սխալներ, ոչ սխալներ: Գնացրեք փորձնական կարիքից գործնական անհրաժեշտության մեջ: հզոր open-source մոդելների, ծախսված ծրագրային օպտիմացիոնների եւ հասանելի սարքավորումների համատեղը ստեղծում է AI- ի անսահմանափակ հնարավորություն: Եթե դուք սխալված եք մ Հեղինակային գրքեր, որոնք ներառում են Self-Hosting- ում: Ingo Eichhorst եւ նրա գեղեցիկ տեղադրումը, տեսանյութը, որը ես օգտագործեցի այս հոդվածի համար: https://ingoeichhorst.medium.com/building-a-wall-mounted-and-wallet-friendly-ml-rig-0683a7094704 Digital Spaceport EPYC սարքավորումներ: https://digitalspaceport.com/how-to-run-deepseek-r1-671b-fully-locally-on-2000-epyc-rig/ Տեսեք ինձ ձեր ռեժիմ վրա LocalLLaMa subreddit: https://www.reddit.com/r/LocalLLaMA/comments/1fqwler/show_me_your_ai_rig/ Գլխավոր էջ / Գլխավոր էջ / Գլխավոր էջ / Գլխավոր էջ / Գլխավոր էջ / Գլխավոր էջ / Գլխավոր էջ Exo Labs cluster with 5 Mac Studio: https://www.youtube.com/watch?v=Ju0ndy2kwlw