Quale modello AI può girare sul tuo PC?
Inserisci il tuo setup e trova modelli scaricabili da provare, con una stima della memoria e il percorso di esecuzione.
Inserisci il tuo setup: confrontiamo i 20 modelli del catalogo, con una stima prudente della memoria.
Come vengono scelti i modelli
Il fabbisogno stimato include la dimensione dei file GGUF, la cache del contesto a 16 bit e un margine di esecuzione. Usiamo una richiesta alla volta; per le immagini aggiungiamo il proiettore visivo e un margine più ampio. Le stime sono in GiB: i campi GB seguono l’uso comune delle capacità di RAM e VRAM.
Cache = 2 × layer × teste KV × dimensione della testa × token × 2 byte. Per prudenza conteggiamo una cache piena anche nei modelli con attenzione locale; il programma può consumare meno quando ottimizza queste finestre. Il margine di esecuzione è 0,75–1,5 GiB per il testo e 1,5–3 GiB per una prima prova con immagini, oltre al proiettore.
La preferenza ordina i modelli per taglia e destinazione d’uso; favorisce quelli che entrano nella GPU. Per il percorso misto richiediamo prudentemente spazio in RAM per l’intero carico. Il numero di parametri non è un punteggio di qualità. Driver, versione del programma, batch e immagini possono cambiare il consumo: verifica il primo caricamento. Non stimiamo token al secondo.
Usa llama.cpp con la build adatta al tuo hardware; per le immagini consulta la documentazione multimodale. I download GGUF indicano il relativo editore, anche quando diverso dal creatore del modello.
Catalogo e fonti · 20 modelli · ampliato il 10 ottobre 2026
- Qwen3-0.6B · GGUF: bartowski · Architettura · file e configurazione verificati: 2026-10-10
- Qwen3-1.7B · GGUF: bartowski · Architettura · file e configurazione verificati: 2026-10-10
- Qwen3-4B · GGUF: Qwen · Architettura · file e configurazione verificati: 2026-10-10
- Qwen3-8B · GGUF: Qwen · Architettura · file e configurazione verificati: 2026-10-10
- Qwen3-14B · GGUF: Qwen · Architettura · file e configurazione verificati: 2026-10-10
- Qwen3-32B · GGUF: Qwen · Architettura · file e configurazione verificati: 2026-10-10
- Qwen2.5-Coder-1.5B-Instruct · GGUF: Qwen · Architettura · file e configurazione verificati: 2026-10-10
- Qwen2.5-Coder-3B-Instruct · GGUF: Qwen · Architettura · file e configurazione verificati: 2026-10-10
- Qwen2.5-Coder-7B-Instruct · GGUF: Qwen · Architettura · file e configurazione verificati: 2026-10-10
- Qwen2.5-Coder-14B-Instruct · GGUF: Qwen · Architettura · file e configurazione verificati: 2026-10-10
- Phi-4-mini-instruct · GGUF: bartowski · Architettura · file e configurazione verificati: 2026-10-10
- DeepSeek-R1-Distill-Qwen-7B · GGUF: bartowski · Architettura · file e configurazione verificati: 2026-10-10
- gemma-3-4b-it · GGUF: bartowski · Architettura · file e configurazione verificati: 2026-10-10
- Qwen2.5-Coder-0.5B-Instruct · GGUF: bartowski · Architettura · file e configurazione verificati: 2026-10-10
- Qwen2.5-Coder-32B-Instruct · GGUF: bartowski · Architettura · file e configurazione verificati: 2026-10-10
- Qwen2.5-7B-Instruct · GGUF: bartowski · Architettura · file e configurazione verificati: 2026-10-10
- Qwen2.5-14B-Instruct · GGUF: bartowski · Architettura · file e configurazione verificati: 2026-10-10
- Ministral 3 8B · GGUF: bartowski · Architettura · file e configurazione verificati: 2026-10-10
- Devstral Small 2 24B · GGUF: bartowski · Architettura · file e configurazione verificati: 2026-10-10
- GLM-4.6V-Flash 9B · GGUF: unsloth · Architettura · file e configurazione verificati: 2026-10-10
Bonsai: memoria e programma da usare
Il percorso dedicato confronta PQ2_0 e PTQ1_0 di Bonsai 2 27B. Usa la build indicata da Bonsai-demo. La cache F16 documentata è 64 KiB per token; Q4 è una stima di circa 18 KiB per token e richiede la configurazione prevista dal progetto. Aggiungiamo un margine di esecuzione di 1,5–3 GiB; per le immagini anche il proiettore. Verifica i consumi al primo caricamento.
File e scheda ufficiale · Bonsai sulla mia scrivania. Dati dei file verificati l’8 ottobre 2026; la stima non certifica driver e build.
Bonsai richiede un runtime dedicato: non applichiamo automaticamente le stime dei GGUF standard. Il selettore confronta i 20 modelli GGUF elencati nel catalogo. Per altri percorsi: Bonsai e il runtime ternario, CLM e il ragionamento latente, Colibrì e lo streaming da disco, Jev e il servizio di coding. Capire RAM, VRAM e quantizzazione.

