Lokální AI
AI model ani jeho paměť nemusí být plně závislé na cizím cloudu. Lokální nástroje dávají větší kontrolu nad daty, provozem i náklady; některé fungují zcela offline, jiné lokální data propojují s cloudovými modely. Níže jsou aplikace, kterými AI rozjedete nebo doplníte, a modely pro obyčejný notebook i silnou sestavu.
V kostce: Do běžného notebooku s 8 až 16 GB paměti se vejdou menší modely jako Gemma 4 E4B nebo Ministral 3 14B, s 24 GB paměti Qwen3.6-27B či Qwen3.6-35B-A3B. Největší otevřené modely (DeepSeek V4.1 Flash, Muse Spark Open) vyžadují stovky GB a patří na server. Modely spustíte nástroji jako Ollama, LM Studio, Jan nebo llama.cpp.
Aplikace a nástroje
Aplikace pro spouštění modelů, vlastní AI server, práci s dokumenty i dlouhodobou paměť. Liší se rozhraním, mírou technické náročnosti a tím, zda pracují zcela offline, nebo propojují lokální data s cloudovými službami.
| Nástroj | Pro koho | Rozhraní | Engine | OpenAI API | Licence | Více |
|---|---|---|---|---|---|---|
 Ollama ↗AplikacemacOS · Windows · Linux | Vývojáři, kteří chtějí lokální model napojit na vlastní kód | GUI + CLI | llama.cpp | Ano | MIT | Číst více |
Nejrozšířenější způsob, jak model rozjet jedním příkazem. Dřív šlo čistě o nástroj do terminálu, dnes k němu patří i nativní aplikace, takže ho zvládne i někdo, kdo příkazovou řádku neotevře.
| ||||||
 LM Studio ↗AplikacemacOS · Windows · Linux | Kdo chce klikat, zkoušet modely a nepsat příkazy | GUI + CLI | llama.cpp + MLX | Ano | Zdarma, uzavřený kód | Číst více |
Nejpříjemnější vstup do lokální AI. Má prohlížeč modelů napojený na Hugging Face, takže model najdete, stáhnete a hned si s ním píšete, aniž byste řešili formáty a parametry.
Aplikace je zdarma, ale zdrojový kód není otevřený — na rozdíl od zbytku seznamu. | ||||||
| Offline-first alternativa ChatGPT pro netechnické okolí | GUI | llama.cpp | Ano | Apache 2.0 | Číst více | |
Otevřená obdoba ChatGPT, která má engine rovnou v sobě — nic dalšího neinstalujete. Funguje i s vytaženým síťovým kabelem, což je přesně ten nástroj, který dáte kolegovi, co terminál nikdy neotevře.
| ||||||
 Open WebUI ↗Serverové rozhranímacOS · Windows · Linux | Domácí server, kde má k modelům přístup víc lidí | Web | Napojuje se na Ollamu nebo llama.cpp | Ano | Vlastní licence s klauzulí o brandingu | Číst více |
Webové rozhraní, které si pustíte na svém serveru a přistupujete k němu z prohlížeče. Sám model nespouští — připojí se k Ollamě nebo llama.cpp a přidá nad ně účty, role a správu konverzací.
Od dubna 2025 už není pod BSD-3 — licence není schválená OSI a obsahuje podmínku o zachování brandingu. | ||||||
 llama.cpp ↗RuntimemacOS · Windows · Linux | Maximální kontrola nad tím, jak model běží | CLI | Vlastní — je to ten engine | Ano | MIT | Číst více |
Základ, na kterém stojí Ollama i LM Studio. Sáhnete po něm, když chcete ladit kvantizaci a rozložení vrstev mezi GPU a procesor sami, nebo když potřebujete běžet na hardwaru, který ostatní nástroje nepodporují.
Počítejte s kompilací a ruční správou modelů — pohodlí ostatních nástrojů tu nehledejte. | ||||||
 AnythingLLM ↗AplikacemacOS · Windows · Linux | Ptát se vlastních dokumentů bez nastavování databáze | GUI + Web | Napojuje se na Ollamu, LM Studio i llama.cpp | Ano | MIT | Číst více |
Nástroj postavený kolem práce s dokumenty. Vektorovou databázi i dělení textu má v sobě, takže nahrajete PDF a ptáte se — bez skládání vlastního RAG řetězce.
V březnu 2026 měl kritickou zranitelnost (CVSS 9,6) opravenou ve verzi 1.11.2 — držte aktuální verzi. | ||||||
| NCM Memory ↗AplikacemacOS · Windows · Linux | Kdo chce jednu vlastní dlouhodobou paměť sdílenou mezi různými AI chaty, coding agenty a lokálními modely | GUI + Web | Lokální Neuromorphic Cognitive Memory + MCP | Ne | Komerční, proprietární | Číst více |
Česká lokální paměťová vrstva pro AI asistenty a agenty. Uchovává dlouhodobý kontext na zařízení uživatele a přes webové rozšíření nebo MCP jej zpřístupňuje nástrojům jako ChatGPT, Claude, Gemini, Ollama, Claude Code, Codex a Cursor.
Jde o mladý komerční produkt. Ceny $3 a $8,50 měsíčně jsou zaváděcí pro první uživatele a deklarovaná úspora až 80 % tokenů je tvrzení výrobce, nikoli nezávislý benchmark. | ||||||
Doporučené modely
Všechno otevřené váhy, které si stáhnete a spustíte. Nároky na paměť platí pro 4bitovou kvantizaci — běžný kompromis mezi kvalitou a velikostí.
| Model | Čím je dobrý | Velikost | Paměť | Kontext | Spuštění | Více |
|---|---|---|---|---|---|---|
 Qwen3.6-35B-A3BAlibaba · Apache 2.0 | Nejlepší poměr výkon/paměť | 35B (3B aktivních) | ~23–24 GB | 256K | ollama run qwen3.6:35b-a3b | Číst více |
Rozumná výchozí volba pro silnější stroj. Díky MoE architektuře počítá jen se třemi miliardami parametrů na token, takže je svižný i tam, kde by dense model téhle velikosti nestačil. | ||||||
| Qwen3.6-27BAlibaba · Apache 2.0 | Programování | 27B | ~17–19 GB | 256K | ollama run qwen3.6:27b | Číst více |
Dense model, který se vejde na kartu s 24 GB a je silný hlavně v kódu. Pokud hledáte lokální náhradu programovacího asistenta, začněte tady. | ||||||
 Gemma 4 26B-A4BGoogle · Apache 2.0 | Multimodální výkon | 25,2B (3,8B aktivních) | ~16–19 GB | 256K | ollama run gemma4:26b | Číst více |
Multimodální MoE model Googlu, který rozumí textu i obrázkům a zvládá přes 140 jazyků. Aktivuje jen 3,8 miliardy parametrů, ale celé váhy se musí vejít do paměti. | ||||||
 Ministral 3 14BMistral AI · Apache 2.0 | Střední třída | 14B | ~9 GB | 256K | ollama run ministral-3:14b | Číst více |
Praktická multimodální volba mezi malými modely a dvacetimiliardovou třídou. Umí text i obraz, podporuje více jazyků a nativní volání nástrojů, přitom se v Q4 vejde zhruba do 9 GB. | ||||||
 gpt-oss-20bOpenAI · Apache 2.0 | Běžný notebook | 20B (3,6B aktivních) | ~16 GB | 128K | ollama run gpt-oss:20b | Číst více |
Otevřený model od OpenAI, který cílí na běžný hardware — rozjedete ho i na lepším notebooku. Menší ze dvojice gpt-oss, ta větší potřebuje 80GB kartu. | ||||||
| Gemma 4 E4BGoogle · Apache 2.0 | Slabší stroje | 4,5B efektivních (8B s embeddingy) | ~6,6–9,5 GB | 128K | ollama run gemma4:e4b | Číst více |
Úsporná volba pro notebook nebo stroj bez výkonné dedikované grafiky. Zvládá text a obraz; architektura podporuje také zvuk, jeho dostupnost ale závisí na použitém runtime. | ||||||
| Němčina a dlouhý kontext | 78,1B (3,46B aktivních) | ~46–50 GB | 1M (256K doporučeno) | Jen ruční nasazení | Číst více | |
Nový evropský MoE model zaměřený na němčinu a angličtinu, reasoning, práci s dlouhými dokumenty a volání nástrojů. Oficiální FP8 váhy zabírají přibližně 78 GB; 4bitové komunitní kvantizace kolem 46–50 GB už existují, ale oficiální balíček pro Ollamu zatím ne. | ||||||
 DeepSeek V4.1 Flash 1017DeepSeek · MIT | Serverové sestavy | 552B backbone (8B prefill / 16B decode) | stovky GB (více GPU) | 1M | Jen ruční nasazení | Číst více |
Aktuální Flash generace nahradila V4 a zpracovává text i obraz. Verze 1017 z 17. 10. 2026 má stejnou architekturu jako zářijová V4.1 Flash, DeepSeek ji ale dál dotrénoval na dlouhé agentní úlohy a programování celých projektů a podle něj zkracuje výstupy. Přes nízký počet aktivních parametrů jde o obří model: lokálně patří na server s více GPU, ne na běžnou pracovní stanici. | ||||||
 Muse Spark OpenMeta · Muse Model License | Dva Mac Studia M5 Ultra | 816B (42B aktivních) | min. ~700 GB (NVFP4), ~2 TB (BF16) | 1M | Jen ruční nasazení | Číst více |
Multimodální MoE model Mety (256 expertů, 8 aktivních na token), který přijímá text, obraz, video i zvuk a vrací text. Meta ho označuje za nejschopnější americký model s otevřenými vahami; ve vlastních benchmarcích ale vede jen v některých disciplínách a za GLM 5.3 či Kimi K3 zaostává. Licence vyžaduje uvedení „Built with Muse Spark Open“ a smlouvu s Metou pro poskytovatele API s obratem nad 20 mil. USD ročně. Váhy jsou po vyplnění formuláře na Hugging Face. | ||||||
Lokální rozhodovací modely
Specializované modely pro klasifikaci, směrování agentů a bezpečnostní brány. Nevytvářejí text, ale vybírají z předem určených odpovědí a vracejí pravděpodobnosti.
pplx-decider-v1.1-27b
Perplexity
Univerzální výchozí volba
Aktualizovaná otevřená varianta Perplexity Decideru. Lze ji volat přes Decisions API nebo provozovat z vlastních vah bez změny základního způsobu dotazování.
26B · Apache 2.0 · $0,02 / 1M
Clef-flash
Cloudflare
Rozhodování citlivé na latenci
Rychlejší člen rodiny Clef, kompatibilní se System One API. Je dostupný přes Workers AI a zároveň má otevřené váhy pro vlastní provoz.
9B · Apache 2.0 · $0,021 / 1M
Clef
Cloudflare
Přesnější multimodální rozhodování
Větší model Cloudflare pro případy, kdy je důležitější přesnost než minimální odezva. Podporuje společné System One API a vlastní nasazení.
27B · Apache 2.0 · $0,042 / 1M
Strands Decider 2B · Hobson v21
Strands Labs / AWS
Lokální brány a směrování agentů
Malý otevřený model určený pro rozhodování uvnitř agentních workflow. Projekt zveřejňuje váhy, kód, trénovací recept i evaluace a lze jej spustit na CUDA, Apple Silicon i CPU.
2B · Apache 2.0 · Vlastní hardware
GLiNER2.5-Decide
Fastino
CPU, offline a air-gapped prostředí
Kompaktní enkodér pro typovaná rozhodnutí, extrakci a vzájemná pravidla mezi odpověďmi. Pro menší objemy může prakticky běžet i bez grafické karty.
340M · Apache 2.0 · Vlastní hardware
Clef Omni
Cloudflare
Rozhodování nad zvukem a videem
MoE člen rodiny Clef, fine-tune modelu Qwen3-Omni-30B-A3B. Jako jediný z rodiny přijímá i zvuk a běží na Workers AI i z otevřených vah.
30B (3B aktivních) · Apache 2.0 · $0,15 / 1M
Drex v1.5
Nace.AI
Levné textové rozhodování
Menší 9B model Nace.AI s kalibrovanými pravděpodobnostmi pro ano/ne, výběr i škálu. Váhy jsou dostupné na Hugging Face.
9B · Otevřené váhy · $0,04 / 1M
Laya
Convai Innovations
Malé lokální brány po doladění na vlastních datech
Otevřený enkodér (ModernBERT-large, vícejazyčná varianta mmBERT-base) pro typovaná rozhodnutí. Vícejazyčný checkpoint pokrývá přes 100 jazyků a model běží na CPU i GPU.
421M (vícejazyčná 322M) · Apache 2.0 · Vlastní hardware
Uvedená paměť je orientační a roste s délkou kontextu — počítejte s rezervou pro systém. Na Macu se modely dělí o unifikovanou paměť s celým systémem, na PC jde o VRAM grafické karty; když se model nevejde, část se přesune do pomalejší operační paměti a generování se výrazně zpomalí. Poslední kontrola: 18. 10. 2026.
Časté otázky
Jakou paměť potřebuji pro lokální AI model?
Záleží na velikosti modelu. Při 4bitové kvantizaci potřebuje Gemma 4 E4B zhruba 7 až 10 GB, Ministral 3 14B asi 9 GB a Qwen3.6-27B zhruba 17 až 19 GB. Skutečná spotřeba roste s délkou kontextu. Na PC jde o VRAM grafické karty, na Macu o sdílenou paměť.
Čím lokální model nejsnáze spustit?
Nejjednodušší jsou aplikace s grafickým rozhraním jako LM Studio, Jan nebo Ollama (ta nabízí i hotová jména modelů a příkazovou řádku). llama.cpp je nejnižší úroveň ovládaná z příkazové řádky a staví na ní řada dalších nástrojů.
Proč provozovat AI lokálně?
Máte větší kontrolu nad daty a provozem, žádné poplatky za tokeny a některé nástroje fungují zcela offline. Za to platíte vlastním hardwarem a obvykle nižší kvalitou než u největších cloudových modelů.
Který lokální model je dobrý pro programování?
Na stránce doporučujeme Qwen3.6-27B jako lokální náhradu programovacího asistenta; vejde se na kartu s 24 GB paměti.