Che cos’è e chi lo sviluppa
Bonsai 8B è una variante compatta di PrismML basata su Qwen3-8B. La sua caratteristica è la rappresentazione binaria dei pesi: appartiene alla famiglia precedente a Bonsai 2 27B e non è semplicemente lo stesso modello con un file più piccolo.
Specifiche verificate
La scheda del produttore indica 8,19 miliardi di parametri, formato GGUF Q1_0, circa 1,15 GB per i pesi e un contesto di 65.536 token. Il file include anche metadati e tokenizer. Sono dichiarati backend CUDA, Metal e CPU e licenza Apache 2.0; la documentazione rimanda al fork compatibile di llama.cpp.
Come funziona nell’uso locale
Il dato interessante è quanto poco spazio occupano i pesi. La conseguenza pratica, però, va misurata su ogni compito: compressione, architettura e addestramento contribuiscono alla qualità. Un numero ridotto di bit non permette da solo di stimare se una spiegazione in italiano o una funzione Python saranno corrette. Va distinto anche il consumo del processo dal consumo dell’intero PC.
Utilizzi e valutazione pratica
Per cominciare proponiamo compiti brevi e verificabili: riordinare una lista, spiegare un errore oppure produrre dati con un formato preciso. Preparare dieci esempi con risposte controllabili rende il confronto più utile di una conversazione riuscita. Per richieste difficili, registra quante correzioni servono e quanta attesa accumuli prima di ottenere un risultato utilizzabile.
Esperienza personale e limiti
Non abbiamo una prova personale documentata di questo checkpoint da pubblicare. L’articolo è una guida alle specifiche ufficiali e alla valutazione: non eredita prestazioni o impressioni delle sessioni con Bonsai 2. Per installarlo, usa la documentazione della generazione corretta e controlla il nome completo del file prima del download.
Da dove iniziare
- Apri la scheda ufficiale e identifica checkpoint, formato e revisione.
- Controlla la compatibilità del programma prima del download.
- Prova una richiesta breve e registra memoria, tempi e correttezza.
- Aumenta contesto e accesso agli strumenti soltanto dopo la prima verifica.
Download e fonti ufficiali
Scheda del modello, file e documentazione del produttore, consultati il 5 ottobre 2026. Specifiche ufficiali e proposte di valutazione sono distinte dalle eventuali prove informali del progetto.