SOFIA, l’IA che ascolta le telefonate. Come l’ho costruita con un modello locale su LM Studio

Il problema

In molte aziende le informazioni più importanti passano al telefono. Un cliente chiede un preventivo, un fornitore sposta una consegna, un tecnico segnala un guasto. Se chi risponde non scrive tutto subito, la richiesta si perde o arriva tardi alla persona giusta.

Un’IA può ascoltare, riassumere e smistare. Ma le telefonate sono piene di dati personali, prezzi, condizioni, problemi dei clienti, e per molte aziende mandarle a un servizio esterno non è un’opzione. Il problema vero era questo, far lavorare l’IA senza far uscire i dati.

Come l’ho risolto

Sono partito da un documento, la specifica completa di SOFIA, con cosa deve fare, per chi e con quali regole. Poi l’ho data a Claude Code, che in una giornata ha costruito il primo prototipo funzionante, pezzo per pezzo, provandolo su registrazioni di prova.

La scelta chiave è stata dove far lavorare l’intelligenza artificiale. Ho scelto un modello open-weight, cioè un modello che si scarica e si usa sulle proprie macchine, servito da LM Studio su una macchina dell’azienda. Il programma di SOFIA gli manda il testo della telefonata e riceve indietro categoria, urgenza e sintesi.

Una precisazione importante. Claude Code non usa il modello locale al posto di Claude. Claude Code mi è servito per costruire il programma, il modello locale è quello che il programma usa sulle telefonate vere.

Poi il prototipo è diventato un prodotto, progettato insieme a Puntosistemi Servizi, che oggi lo propone alle aziende su sofiavoice.it (si apre in una nuova scheda).

Perché tenere i dati in casa conviene

• Riservatezza. Audio e trascrizioni restano sulla macchina dell’azienda e non passano da servizi di IA esterni.
• Privacy più semplice da gestire. Meno fornitori che trattano i dati, meno trasferimenti, un’informativa più chiara. Le regole del GDPR valgono comunque.
• Costi prevedibili. Niente costo a consumo per ogni richiesta, si paga la macchina.
• Funziona anche senza internet. Una volta scaricati i modelli, LM Studio può lavorare del tutto offline.
• Il modello non cambia da solo. Decidi tu quando aggiornarlo, e il comportamento resta stabile.

Prova anche tu, LM Studio passo passo

1. Controlla il computer. LM Studio funziona su Windows, macOS e Linux. Sul Mac serve un processore Apple Silicon, su Windows e Linux un processore x64 con istruzioni AVX2 oppure ARM. Sono consigliati almeno 16 GB di RAM, e su Windows una scheda video con almeno 4 GB di memoria dedicata aiuta molto.
2. Installa LM Studio dal sito ufficiale lmstudio.ai (si apre in una nuova scheda) e aprilo una volta.
3. Scarica un modello. Nella scheda Discover, che si apre con Ctrl+2 o sul Mac con Cmd+2, cerca un modello e scaricalo. Parti da uno piccolo, nella versione a 4 bit, che occupa meno memoria.
4. Provalo nella chat di LM Studio con dieci esempi del tuo lavoro, resi anonimi. Se le risposte non ti convincono, prova un altro modello.
5. Avvia il server. Nella scheda Developer attiva l’interruttore Start server, oppure dal terminale scrivi lms server start. Il comando lms arriva insieme all’app. Il server risponde all’indirizzo localhost:1234, cioè solo da quel computer.
6. Interrogalo. Il server parla la stessa lingua delle API di OpenAI, quindi molti programmi e librerie funzionano cambiando solo l’indirizzo di base in http://localhost:1234/v1. Qui sotto trovi una richiesta di prova.
7. Fai costruire il programma a Claude Code. Per esempio «scrivi un programma che legge i testi nella cartella chiamate, li manda al server di LM Studio su localhost:1234 e salva categoria e urgenza in un file CSV. Non usare servizi su internet». Se il terminale non fa per te, chiedi a Claude Code di fare anche la prova del server.
8. Misura prima di fidarti. Confronta le risposte del modello con le tue su almeno venti casi. Cambia modello o istruzioni finché il risultato ti convince.

Richiesta di prova al server locale

curl http://localhost:1234/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "nome-del-modello",
    "messages": [
      { "role": "system", "content": "Classifica la richiesta in una di queste categorie: vendite, assistenza tecnica, amministrazione. Rispondi solo con la categoria." },
      { "role": "user", "content": "Buongiorno, la macchina che ci avete consegnato si blocca appena la accendo." }
    ],
    "temperature": 0.2
  }'

Al posto di nome-del-modello metti il nome che LM Studio mostra per il modello caricato. Il comando è scritto per il terminale di macOS e Linux, su Windows è più semplice chiedere a Claude Code di lanciarlo per te.

Cosa ho imparato

• La specifica scritta prima è stata la mossa più utile. Claude Code sapeva cosa costruire e io sapevo cosa controllare.
• Il modello più grande non è sempre il migliore. Per smistare telefonate contano anche velocità e memoria occupata.
• La privacy si progetta all’inizio. Decidere subito dove lavora l’IA ha semplificato tutto il resto.
• Le registrazioni di prova valgono oro. Con le stesse registrazioni confronti modelli, istruzioni e versioni del programma.

Il risultato

SOFIA oggi ascolta le telefonate, riconosce chi chiama, assegna una categoria e un livello di urgenza e avvisa il reparto giusto con una email mirata. Il prototipo nato in una giornata è diventato un prodotto, che Puntosistemi Servizi propone alle aziende con una demo gratuita sui loro flussi.

Impararlo con me

Nei corsi aiuto le aziende a scegliere dove far lavorare l’IA, in cloud o in locale, con le regole di AI Act e GDPR. Trovi i dettagli nella pagina dei progetti di IA per le aziende e in quella del corso di intelligenza artificiale a Milano.

Ho tenuto fuori codice, dati e dettagli interni del progetto. Gli esempi nelle finestre e negli schemi sono semplificati, per mostrare il metodo.