Uso l’AI locale soprattutto per coding e repository, ma anche per revisione di documenti, ricerche sul web e piccoli compiti con strumenti. Mi interessa poter configurare il flusso di lavoro. Bonsai mi ha sorpreso; Hermes è il punto da cui voglio esplorare nuove automazioni per negozio e sito.
Double-check always
Una risposta ben scritta può essere sbagliata. Nel codice leggo la modifica, verifico che risponda alla richiesta ed eseguo controlli pertinenti. Nei documenti confronto i passaggi con l’originale; nelle ricerche controllo fonti e date. Un benchmark può aiutare a confrontare modelli, ma non dimostra da solo che sapranno svolgere il mio compito.
Locale o cloud?
Scelgo il locale per il controllo della configurazione e dei dati. Questo richiede controllare anche gli strumenti collegati: un agente locale che usa un servizio esterno può comunque inviare informazioni fuori dal PC. Apprezzo i servizi cloud per velocità, gestione e accesso ai modelli di frontiera, verificando le condizioni del servizio e i risultati.
Il tempo dipende dal problema
Per un problema che può aspettare accetto un modello grande e lento, anche lasciandolo lavorare a lungo. Voglio però poter leggere il progresso e fermare cicli inutili. Un contesto più lungo o più ore di esecuzione non garantiscono una risposta migliore.
Le istruzioni non sono un recinto tecnico
Ho osservato tentativi di aggirare limitazioni o continuare per strade non richieste. Per raccontare questi episodi servono esempi e log precisi. Nel frattempo separo i permessi degli strumenti dalle istruzioni testuali: una richiesta di non fare qualcosa non sostituisce un limite di accesso verificabile.
CUDA nella mia esperienza
Preferisco generalmente CUDA per i miei lavori con GPU NVIDIA. Non lo considero una garanzia universale: scheda, driver, build, modello e memoria devono essere compatibili. Il diario delle sessioni conserva configurazioni e osservazioni già raccolte, senza aggiungere quantizzazioni o misure non ancora documentate.
Cosa vorrei automatizzare con Hermes
Prima di tutto bozze di risposte alle domande frequenti e richieste di guide, da controllare prima dell’invio; poi supporto alle descrizioni dei prodotti con soli dati verificati. Sono obiettivi di sviluppo, non servizi automatici già attivi sul sito.
Puoi iniziare dal selettore di modelli, dal contatore del testo e dal confronto dei costi API e locale.
