01 / Come funziona
Come funziona un test di IA privata e locale
Provi un modello aperto sull'hardware che sta valutando, prima di acquistarlo.
Scelga una configurazione.
Selezioni l'hardware e il modello da un breve elenco di configurazioni che abbiamo preparato e testato noi stessi: un NVIDIA DGX Spark con 128 GB di memoria, che esegue Qwen, DeepSeek o GLM. Ogni configurazione indica la macchina esatta e vincola il modello a una versione precisa.
Colleghi i Suoi strumenti.
Ogni configurazione è già attiva e risponde pochi secondi dopo l'avvio. Riceverà un indirizzo web e una chiave per un endpoint IA compatibile: funziona qualsiasi strumento che accetti questi due elementi, e sulla Sua rete non viene installato nulla.
Esegua le prove e decida.
Esegua le attività che Le interessano e annoti velocità, qualità ed errori. Poi decida se acquistare, non acquistare o chiedere il nostro supporto. Se la risposta è no, avrà risparmiato il prezzo d'acquisto. Se è sì, conserverà la configurazione esatta, così da poterla riprodurre su una macchina di Sua proprietà.
Private Local AI in uso presso uno studio legale
Il segreto professionale ci impedisce di condividere i dati dei nostri clienti con OpenAI o Anthropic. Inoltre, non vogliamo che la nostra proprietà intellettuale finisca nei loro sistemi.
Far funzionare un'IA in proprio è complesso, e non sapevamo se sarebbe stata all'altezza di tutto il nostro lavoro.
Private-Local.ai ci permette di eseguire i nostri flussi di lavoro reali esattamente sull'hardware e sui modelli di IA che stavamo valutando. Nel giro di un pomeriggio sapevamo con quale configurazione avremmo introdotto l'IA nello studio, su una macchina e un modello di nostra proprietà.
Mina
Partner
02 / Domande
IA privata: le risposte alle domande più frequenti.
Che cos'è l'IA privata?
IA privata significa eseguire modelli di intelligenza artificiale su hardware controllato dalla Sua organizzazione, in modo che il lavoro resti all'interno anziché passare a un fornitore esterno. Il test drive è il passo che la precede: Lei noleggia la macchina a ore, su hardware che non è Suo, per capire se una macchina di proprietà sarebbe all'altezza del Suo lavoro.
Dove si trovano i server?
I server per l'Italia si trovano a Milano. Ogni sito nazionale indica l'ubicazione dei propri server: Stati Uniti (New York e San Francisco), Regno Unito (Londra), Germania (Francoforte sul Meno), Francia (Parigi), Spagna (Madrid), Italia (Milano) e Brasile (San Paolo).
Perché non continuare semplicemente a usare ChatGPT o Claude?
Per gran parte del Suo lavoro, dovrebbe continuare a farlo. ChatGPT, Claude e Gemini forniscono risposte migliori di qualsiasi modello aperto abbastanza piccolo da poter essere eseguito su una macchina desktop. Una macchina di proprietà si ripaga quando si usa l'IA in modo intensivo o quando occorre avere il controllo su dove finiscono i dati, non perché le sue risposte siano migliori.
Quali strumenti possiamo collegare?
Qualsiasi strumento in grado di comunicare con un endpoint IA compatibile, il che oggi vale per la maggior parte degli strumenti: assistenti di programmazione come Continue, Cline e OpenCode, piattaforme di automazione come n8n, strumenti per prendere appunti come Obsidian con il plugin Copilot, nonché il Suo codice. Finora abbiamo testato noi stessi Hermes Agent e le chiamate dirette da codice; gli altri accettano un endpoint di questo tipo nelle loro impostazioni, ma non li abbiamo ancora testati. Se ha dubbi sul Suo strumento, ci indichi quale utilizza.
Quanto costa e perché non noleggiare una macchina non configurata?
Costa 10 € all'ora e Lei paga soltanto le ore effettivamente utilizzate; la maggior parte delle domande trova risposta in una o due ore. Un DGX Spark non configurato si noleggia a un prezzo molto inferiore, ma installare il modello e renderlo disponibile spetta a Lei. La nostra tariffa copre una macchina preparata, configurata come dichiarato e già in grado di rispondere prima che Lei inizi.
Che cosa succede dopo il test drive?
La decisione spetta a Lei, con i Suoi risultati alla mano: non acquistare nulla, acquistare una macchina e configurarla autonomamente, oppure chiederci di assisterLa nella configurazione con un incarico separato, dal perimetro definito a parte.
Hardware dedicato
Richieda un test drive dell'hardware.
Esegua le Sue attività su una macchina dedicata con il chip NVIDIA GB10 del DGX Spark prima di acquistarne una. I test drive dell'hardware sono offerti su richiesta; ci descriva il Suo carico di lavoro tramite il modulo di contatto.
Richieda un test drive dell'hardware