
Indice
- Cosa significa davvero «on-device»
- La pipeline: cosa succede fra il microfono e il testo
- L’hardware: cosa fa il Neural Engine
- La trascrizione on-device perde accuratezza?
- Quanto è veloce, in pratica?
- Cosa l’on-device davvero non può fare
- Domande frequenti
- Considerazioni finali sulla trascrizione IA on-device
- Fonti
Risposta rapida: trascrizione IA on-device significa che il modello di riconoscimento vocale gira sui processori del tuo telefono — la registrazione diventa testo senza essere inviata da nessuna parte. La promessa di privacy è architetturale, non contrattuale: nella pipeline non esiste alcun passaggio di caricamento che l’audio possa imboccare, e puoi verificarlo da solo trascrivendo in modalità Aereo. On-device non significa meno accurato: gli stessi pesi del modello producono la stessa trascrizione ovunque vengano eseguiti. Comporta però un vincolo hardware: è la memoria del telefono, non la sua potenza di calcolo, a decidere di che dimensioni può essere il modello che un’app carica — ed è per questo che alcune app caricano senza dirlo le varianti piccole di Whisper, mentre altre riescono a farci stare un modello di famiglia Large. Ecco cosa succede davvero fra il microfono e il testo.
Questa guida è stata scritta dal team di LoroNote il 27 agosto 2026. LoroNote esegue Whisper Large V3 Turbo interamente sul dispositivo, quindi questo articolo descrive il meccanismo su cui il nostro stesso prodotto si regge. Ogni cifra di benchmark rimanda a una fonte primaria, in gran parte raccolte nella nostra pagina di statistiche verificate sulla trascrizione (in inglese); l’unica misurazione nostra è indicata come tale.
Cosa significa davvero «on-device»
Ogni servizio di trascrizione svolge lo stesso compito; le architetture si distinguono per dove gira il modello.
| Passaggio | Trascrizione in cloud | Trascrizione on-device |
|---|---|---|
| Registrazione | Sul tuo telefono | Sul tuo telefono |
| Caricamento | L’audio viaggia verso i server del fornitore | Non esiste |
| Modello vocale | Gira su GPU in server | Gira sui processori del telefono |
| Risultato | Il testo torna indietro dalla rete | Il testo viene scritto in locale |
| Funziona offline | No | Sì — nessun passaggio richiede la rete |
| Chi può accedere all’audio | Tu e l’infrastruttura del fornitore | Chi ha il telefono in mano |
Le ultime due righe sono quelle che contano. Il funzionamento offline non è una funzione aggiunta alla trascrizione on-device: è un effetto collaterale dell’architettura, perché niente nella pipeline ha bisogno di una connessione. E la privacy vale per lo stesso principio: un audio mai caricato non può essere conservato, trafugato o consultato dal fornitore — non perché un’informativa prometta di non toccarlo, ma perché una copia da toccare non esiste proprio. È un’affermazione sull’architettura, non una garanzia legale: cosa comporti per i tuoi obblighi di riservatezza lo decidi tu, ma il fatto tecnico si controlla in modalità Aereo.
La pipeline: cosa succede fra il microfono e il testo
I modelli vocali moderni come Whisper di OpenAI elaborano l’audio in pochi passaggi concreti, che in un’app on-device girano tutti in locale:
- Ricampionamento. L’audio viene convertito a 16.000 Hz — il paper dichiara che tutto l’audio di addestramento è ricampionato a quella frequenza, quindi tutto ciò che sta sopra viene scartato prima ancora che il modello ascolti. (È anche il motivo per cui registrare a frequenze da studio non migliora l’accuratezza.)
- Lo spettrogramma. La forma d’onda diventa uno spettrogramma Mel — secondo il paper di Whisper, una rappresentazione logaritmica calcolata su finestre da 25 millisecondi con passo di 10 millisecondi. Il modello non sente mai il «suono»: legge questa mappa, simile a un’immagine, che mostra quali frequenze trasportano energia nel tempo.
- Codifica. Un encoder Transformer condensa lo spettrogramma in una rappresentazione interna di ciò che è stato pronunciato.
- Decodifica. Un decoder Transformer scrive la trascrizione un token alla volta, guardando sia la rappresentazione dell’audio sia il testo prodotto fin lì — motivo per cui Whisper si legge così fluido, e anche per cui può inventare testo fluente sopra il silenzio.
Nessuno di questi passaggi dipende da dove viene eseguito: una GPU in un server e un telefono svolgono la stessa matematica sugli stessi pesi. È proprio per questo che la trascrizione on-device è diventata possibile non appena i chip dei telefoni si sono messi al passo.
L’hardware: cosa fa il Neural Engine
I chip dei telefoni hanno smesso da anni di essere semplici CPU. I system-on-a-chip della serie A di Apple affiancano a CPU e GPU un blocco dedicato al calcolo delle reti neurali — il Neural Engine — e l’annuncio ufficiale dell’iPhone 15 Pro descrive quello dell’A17 Pro come fino a due volte più veloce del predecessore. Le app di trascrizione in commercio convertono i loro modelli nel formato Core ML di Apple perché questo hardware possa eseguire encoder e decoder in modo efficiente.

L’illustrazione di un chip Apple serie A. Accanto a CPU e GPU, chip come questo ospitano un Neural Engine dedicato — il blocco che esegue la matematica del modello vocale sul dispositivo. Fonte:
Wikimedia Commons (Henriok)
, CC0.
Il vincolo pratico, però, non è quanto veloce calcola il silicio: è quanta parte del modello sta in memoria. La tabella pubblicata da OpenAI dà un’idea concreta degli ordini di grandezza (parametri e ingombri di riferimento, misurati su una GPU da server):
| Variante di Whisper | Parametri | Memoria di riferimento | Velocità relativa (A100) |
|---|---|---|---|
| tiny | 39 mln | ca. 1 GB | ca. 10× |
| base | 74 mln | ca. 1 GB | ca. 7× |
| small | 244 mln | ca. 2 GB | ca. 4× |
| medium | 769 mln | ca. 5 GB | ca. 2× |
| large | 1.550 mln | ca. 10 GB | 1× |
| turbo | 809 mln | ca. 6 GB | ca. 8× |
Su questa tabella vanno dette due cose, per onestà. Le colonne di memoria e velocità sono cifre di riferimento di OpenAI per l’inferenza su GPU: un telefono non ha una VRAM separata, e le app in commercio quantizzano i modelli per Core ML, il che cambia sia l’ingombro sia la resa. Leggila come una proporzione fra le varianti, non come la scheda tecnica di un telefono. Ma è proprio quella proporzione il punto: una variante piccola entra in un telefono senza sforzo, una di famiglia Large solo con vero lavoro di ingegneria — ed è per questo che diverse note app per iPhone caricano senza dirlo small o medium anche quando le loro versioni desktop eseguono large. Whisper Large V3 Turbo — 809 milioni di parametri con il decoder ridotto da 32 a 4 strati — esiste proprio per far entrare l’accuratezza di famiglia Large in quel vincolo; abbiamo spiegato perché LoroNote l’ha scelto.
La trascrizione on-device perde accuratezza?
No — ed è l’equivoco più tenace che la riguardi. I pesi di un modello sono matematica deterministica: la stessa variante produce la stessa qualità di trascrizione su un telefono come su un server. L’on-device non è una modalità ridotta.
Ciò che cambia da un’app all’altra è quale variante viene caricata, e quella differenza è grande: secondo le cifre pubblicate, sullo stesso benchmark le varianti piccole di Whisper commettono circa il doppio degli errori dei motori di famiglia Large. La domanda sull’accuratezza, quindi, non è mai stata «cloud o dispositivo?». È «quale modello?», da fare a ogni singola app. I numeri misurati, dal parlato letto pulito alle sale riunioni, sono in Quanto è accurato Whisper?
Quanto è veloce, in pratica?
Un numero qui è nostro, quindi lo indichiamo: su un iPhone 15 Pro, LoroNote trascrive a circa 19 volte il tempo reale — una registrazione di un’ora diventa testo in circa tre minuti, interamente sul dispositivo (misurazione LoroNote, 13-08-2026). Come riferimento da un altro motore on-device, il benchmark di SpeechAnalyzer di Apple per iOS 26 ha riportato una resa di circa 12–40 volte il tempo reale su un M2 Pro desktop — con avvertenze importanti su cosa quel benchmark ha testato e cosa no.
La velocità on-device ha una proprietà che quella in cloud non ha: è tua. Niente coda, niente limiti di richieste, niente contatore al minuto — il costo marginale di trascrivere un’altra ora è la batteria, non la bolletta.
Cosa l’on-device davvero non può fare
Una definizione onesta include i limiti:
- Il modello migliora solo quando l’app si aggiorna. Un fornitore cloud può sostituire il modello sui server da un giorno all’altro; un’app on-device include il modello al proprio interno: i miglioramenti arrivano con gli aggiornamenti, mai in silenzio.
- I grandi lotti restano un lavoro da grande hardware. Trascrivere centinaia di ore per un archivio di ricerca è più rapido su una GPU desktop o su una coda cloud a pagamento che su qualsiasi telefono.
- Tutto ciò che è intrinsecamente multi-utente richiede un server. Una trascrizione condivisa in diretta che dieci persone modificano durante una call è coordinamento, non trascrizione — quando un servizio cloud resta la scelta giusta è trattato nella guida alla trascrizione offline.
- Il calcolo prolungato consuma batteria. La trascrizione avviene una volta per registrazione, non di continuo, ma un file lungo è lavoro vero per il chip: per un lotto di tre ore conviene collegare il caricatore.
Nessuno di questi limiti cambia la sostanza: per le registrazioni personali — riunioni, lezioni, interviste, appunti — il lavoro avviene su hardware che possiedi già, con l’accuratezza del modello che hai scelto, senza che nulla lasci il dispositivo.
Domande frequenti
La trascrizione on-device è davvero privata?
La sua proprietà di privacy è architetturale: la pipeline non contiene un passaggio di caricamento, quindi non esiste da nessuna parte una copia del tuo audio che possa essere conservata o violata. Puoi verificare l’architettura da solo — attiva la modalità Aereo e trascrivi. Cosa significhi quel fatto per i tuoi obblighi di riservatezza è un giudizio che spetta solo a te; l’affermazione tecnica è semplicemente che l’audio resta sul telefono.
La trascrizione on-device funziona offline?
Sì, per costruzione — niente nella pipeline ha bisogno della rete. Il modello si scarica una volta insieme all’app; da lì in poi registrazione e trascrizione funzionano in un seminterrato, in aereo o in modalità Aereo.
La trascrizione on-device è meno accurata di quella in cloud?
Non per via di dove gira: pesi identici producono qualità identica ovunque. Le differenze di accuratezza fra le app vengono dalla variante di modello che ciascuna carica, e la pressione sulla memoria del telefono è il motivo per cui alcune scelgono le varianti piccole. Controlla la variante, non il luogo.
Perché alcune app per iPhone eseguono modelli Whisper più piccoli?
Per la memoria. La tabella di riferimento di OpenAI va da 39 milioni a 1,55 miliardi di parametri, e le varianti più grandi richiedono diversi gigabyte ancora prima di fare i conti con un telefono. Far entrare un modello di famiglia Large in un telefono richiede un lavoro di ingegneria mirato — quantizzazione, conversione in Core ML, un’architettura ottimizzata per la velocità come il decoder a 4 strati di Turbo — e non tutte le app ci investono.
Anche la dettatura integrata di Apple è trascrizione IA on-device?
Sempre di più, sì. SpeechAnalyzer di Apple in iOS 26 gira interamente sul dispositivo, come un’app Whisper on-device — le differenze stanno nella copertura e nei requisiti: il motore di Apple supportava 22 lingue ad agosto 2026 contro le circa 100 di Whisper, e richiede iOS 26. Abbiamo confrontato i due motori in dettaglio.
La trascrizione on-device consuma molta batteria?
La trascrizione è un picco di calcolo concentrato, non un consumo continuo in sottofondo: gira quando trascrivi e si ferma quando il testo è pronto. Le registrazioni brevi sono trascurabili; per lotti di più ore, trattala come qualsiasi compito pesante e collega il caricatore.
Considerazioni finali sulla trascrizione IA on-device
La trascrizione IA on-device non è la copia sbiadita di un servizio cloud: è la stessa matematica eseguita su silicio che possiedi già. La definizione da ricordare ha tre parti: per l’audio non esiste alcun passaggio di caricamento (verificabile in modalità Aereo), l’accuratezza è una proprietà della variante di modello e non del luogo, ed è la memoria del telefono — non la sua velocità — a decidere quale variante un’app riesce a caricare. Giudica qualsiasi app on-device con quest’ultima domanda, perché è quella a cui il marketing non risponde mai.
Fonti
- OpenAI, repository di Whisper — tabella delle dimensioni dei modelli (parametri, memoria di riferimento, velocità relative misurate su GPU A100)
- OpenAI, Robust Speech Recognition via Large-Scale Weak Supervision — ricampionamento a 16.000 Hz, front-end a spettrogramma Mel, architettura encoder-decoder
- Apple, annuncio dell’iPhone 15 Pro — l’affermazione sul Neural Engine dell’A17 Pro «fino a 2 volte più veloce»
- Lyonesse, Apple’s New Speech API vs Whisper — l’intervallo di resa di SpeechAnalyzer e le sue avvertenze
- LoroNote, Statistiche sulla trascrizione AI — cifre di accuratezza verificate con fonti primarie e date (in inglese)
Cifre riverificate sulle fonti collegate il 27 agosto 2026.
La tua voce diventa testo — offline
LoroNote trascrive riunioni, lezioni e interviste direttamente sul tuo iPhone — privato, preciso e illimitato.
Scarica dall’App Store