On-Device-Transkription: So läuft Whisper auf dem iPhone (2026)

Kurz gesagt: On-Device-Transkription bedeutet, dass das Spracherkennungsmodell auf den Prozessoren Ihres Telefons läuft – die Aufnahme wird in Text verwandelt, ohne je irgendwohin geschickt zu werden. Das Datenschutzversprechen ist dabei eine Frage der Architektur, nicht des Vertrags: Es gibt schlicht keinen Upload, den Ihre Aufnahme durchlaufen könnte – und genau das können Sie im Flugmodus selbst überprüfen. On-Device heißt auch nicht ungenauer – dieselben Modellgewichte liefern dasselbe Ergebnis, egal wo sie rechnen. Eines allerdings bringt On-Device mit sich: ein Hardware-Budget. Nicht die Rechenleistung, sondern der Speicher des Telefons entscheidet, welche Modellgröße eine App laden kann. Deshalb führen manche Apps stillschweigend die kleinen Whisper-Varianten aus, während andere ein Modell der Large-Familie unterbringen. Gehen wir durch, was zwischen Mikrofon und Text tatsächlich passiert.

Diesen Leitfaden hat das LoroNote-Team am 27. August 2026 geschrieben. LoroNote führt Whisper Large V3 Turbo vollständig auf dem Gerät aus – dieser Artikel beschreibt also genau die Technik, auf der unser eigenes Produkt aufbaut. Jede Benchmark-Zahl ist mit einer Primärquelle verknüpft, die meisten davon gesammelt auf unserer Seite mit verifizierten Transkriptionsstatistiken (englisch); die eine Messung, die von uns selbst stammt, ist als solche gekennzeichnet.

Was „On-Device“ tatsächlich bedeutet

Jeder Transkriptionsdienst erledigt dieselbe Aufgabe; die Architekturen unterscheiden sich darin, wo das Modell zu Hause ist.

Entscheidend sind die letzten beiden Zeilen. Der Offline-Betrieb ist kein Extra, das man der On-Device-Transkription hinzugefügt hätte – er ist ein Nebeneffekt der Architektur, weil kein Schritt der Pipeline ein Netzwerk braucht. Und die Datenschutzeigenschaft funktioniert nach demselben Prinzip: Audio, das nie hochgeladen wurde, kann kein Anbieter speichern, verlieren oder einsehen – nicht weil eine Richtlinie Zurückhaltung verspricht, sondern weil schlicht keine Kopie existiert. Das ist eine Aussage über Architektur, keine rechtliche Garantie. Was sie für Ihre eigenen Pflichten bedeutet, müssen Sie selbst beurteilen – der technische Befund aber lässt sich im Flugmodus nachprüfen.

Die Pipeline: Was zwischen Mikrofon und Text passiert

Moderne Sprachmodelle wie Whisper von OpenAI verarbeiten Audio in mehreren klar umrissenen Schritten – und in einer On-Device-App laufen sie alle lokal ab:

1. Resampling. Das Audio wird auf 16.000 Hz umgerechnet – laut Paper wird sämtliches Trainingsaudio auf diese Rate gebracht, alles darüber wird also verworfen, bevor das Modell überhaupt zuhört. (Genau deshalb bringt eine Aufnahme in Studio-Abtastraten keine bessere Genauigkeit.)
2. Das Spektrogramm. Aus der Wellenform wird ein Mel-Spektrogramm – laut Whisper-Paper eine logarithmische Darstellung, berechnet in 25-Millisekunden-Fenstern, die in 10-Millisekunden-Schritten weiterrücken. Das Modell hört keinen „Klang“; es liest diese bildartige Karte, die zeigt, in welchen Frequenzen im Zeitverlauf Energie steckt.
3. Encoding. Ein Transformer-Encoder verdichtet das Spektrogramm zu einer internen Repräsentation dessen, was akustisch gesagt wurde.
4. Decoding. Ein Transformer-Decoder schreibt das Transkript Token für Token – er stützt sich dabei auf die Audio-Repräsentation und auf den Text, den er bereits geschrieben hat. Deshalb liest sich Whisper so flüssig, und deshalb kann es über Stille hinweg flüssigen Text erfinden.

Keiner dieser Schritte kümmert sich darum, wo er läuft. Eine Server-GPU und ein Telefon führen dieselbe Mathematik auf denselben Gewichten aus – genau deshalb wurde On-Device-Transkription in dem Moment möglich, in dem die Smartphone-Chips aufgeholt hatten.

Die Hardware: Was die Neural Engine leistet

Telefon-Chips sind seit Jahren keine reinen CPUs mehr. Apples A-Serie-Chips tragen neben CPU und GPU einen eigenen Rechenblock für neuronale Netze – die Neural Engine. In Apples eigener Ankündigung zum iPhone 15 Pro heißt es, die Neural Engine des A17 Pro sei bis zu doppelt so schnell wie die des Vorgängers. Die Transkriptions-Apps im App Store konvertieren ihre Modelle in Apples Core-ML-Format, damit diese Hardware Encoder und Decoder effizient ausführen kann.

Die praktische Grenze ist allerdings nicht, wie schnell das Silizium rechnet – sondern wie groß das Modell sein darf, das noch in den Speicher passt. OpenAIs veröffentlichte Tabelle macht greifbar, worum es geht (Parameter und Referenz-Speicherbedarf, gemessen auf einer Server-GPU):

Zu dieser Tabelle gehören zwei ehrliche Einschränkungen. Die Spalten für Speicher und Geschwindigkeit sind OpenAIs Referenzwerte für GPU-Inferenz – ein Telefon hat keinen separaten VRAM-Pool, und ausgelieferte Apps quantisieren die Modelle für Core ML, was Speicherbedarf und Durchsatz verändert. Lesen Sie die Tabelle also als das Verhältnis der Varianten zueinander, nicht als Datenblatt eines Telefons. Aber genau dieses Verhältnis ist der Punkt: Ein kleines Modell passt mühelos auf ein Telefon, ein Modell der Large-Familie nur mit echtem Ingenieursaufwand. Deshalb laden mehrere bekannte iPhone-Apps stillschweigend small oder medium, selbst wenn ihre Desktop-Versionen large ausführen. Whisper Large V3 Turbo – 809 Millionen Parameter, der Decoder von 32 auf 4 Schichten gekürzt – existiert genau dafür, Large-Genauigkeit in dieses Budget zu bringen; warum LoroNote sich für dieses Modell entschieden hat, haben wir gesondert erklärt.

Verliert On-Device-Transkription an Genauigkeit?

Nein – und das ist das hartnäckigste Missverständnis zu diesem Thema. Modellgewichte sind deterministische Mathematik: Dieselbe Variante liefert auf dem Telefon dieselbe Transkriptqualität wie auf einem Server. On-Device ist kein Sparmodus.

Was sich zwischen Apps unterscheidet, ist, welche Variante sie laden – und dieser Unterschied ist groß: Nach den veröffentlichten Zahlen liegen Whispers kleine Varianten im selben Benchmark bei rund der doppelten Fehlerrate der Large-Engines. Die Genauigkeitsfrage lautete also nie „Cloud oder Gerät?“, sondern „welches Modell?“ – gestellt an jede App einzeln. Die gemessenen Zahlen, von vorgelesener Sprache bis zum Meetingraum, stehen in Wie genau ist Whisper?

Wie schnell ist das in der Praxis?

Eine Zahl hier stammt von uns selbst, deshalb kennzeichnen wir sie: Auf einem iPhone 15 Pro transkribiert LoroNote mit rund 19-facher Echtzeit – aus einer einstündigen Aufnahme wird in etwa drei Minuten Text, vollständig auf dem Gerät (LoroNote-Messung, 13.08.2026). Zum Vergleich ein Wert einer anderen On-Device-Engine: Der Benchmark zu Apples SpeechAnalyzer in iOS 26 meldete auf einem Desktop-M2-Pro einen Durchsatz von grob 12- bis 40-facher Echtzeit – mit wichtigen Einschränkungen dazu, was dieser Benchmark getestet hat und was nicht.

Geschwindigkeit auf dem Gerät hat eine Eigenschaft, die Cloud-Geschwindigkeit nie hat: Sie gehört Ihnen. Keine Warteschlange, kein Ratenlimit, kein Minutenzähler – eine weitere transkribierte Stunde kostet Sie Akkuladung, keine Gebühren.

Was On-Device wirklich nicht kann

Zu einer ehrlichen Definition gehören die Grenzen:

• Das Modell wird nur mit App-Updates besser. Ein Cloud-Anbieter kann serverseitig über Nacht ein besseres Modell einwechseln; eine On-Device-App liefert ihr Modell in der App mit. Verbesserungen kommen also mit App-Updates – sichtbar, nicht stillschweigend.
• Große Stapelaufträge bleiben eine Sache großer Hardware. Hunderte Stunden für ein Forschungsarchiv transkribiert eine Desktop-GPU oder eine bezahlte Cloud-Warteschlange schneller als jedes Telefon.
• Was von Natur aus mehrere Nutzer hat, braucht einen Server. Ein geteiltes Live-Transkript, das zehn Personen während eines Calls bearbeiten, ist Koordination, nicht Transkription – wann ein Cloud-Dienst weiterhin die richtige Wahl ist, behandelt unser Offline-Leitfaden.
• Anhaltendes Rechnen kostet Akku. Transkribiert wird einmal pro Aufnahme, nicht dauerhaft im Hintergrund – aber eine lange Datei ist echte Arbeit für den Chip. Bei einem dreistündigen Stapel hängen Sie das Gerät am besten ans Ladekabel.

Nichts davon rüttelt am Kern der Sache: Bei persönlichen Aufnahmen – Meetings, Vorlesungen, Interviews, Notizen – passiert die Arbeit auf Hardware, die Sie schon besitzen, mit der Genauigkeit des Modells, das Sie gewählt haben, und ohne dass irgendetwas das Gerät verlässt.

Häufige Fragen

Ist On-Device-Transkription wirklich privat?

Die Datenschutzeigenschaft steckt in der Architektur: Die Pipeline enthält keinen Upload-Schritt, also existiert nirgendwo eine Kopie Ihres Audios, die gespeichert werden oder abhandenkommen könnte. Die Architektur können Sie selbst überprüfen – Flugmodus einschalten und transkribieren. Was dieser Befund für Ihre eigenen Vertraulichkeitspflichten bedeutet, können nur Sie beurteilen; die technische Aussage ist schlicht, dass das Audio auf dem Telefon bleibt.

Funktioniert On-Device-Transkription offline?

Ja, konstruktionsbedingt – kein Schritt der Pipeline braucht ein Netzwerk. Das Modell wird einmal mit der App heruntergeladen; danach funktionieren Aufnahme und Transkription im Keller, im Flugzeug und im Flugmodus.

Ist On-Device-Transkription ungenauer als Cloud-Transkription?

Nicht wegen des Ortes, an dem sie läuft – identische Modellgewichte liefern überall identische Qualität. Genauigkeitsunterschiede zwischen Apps entstehen dadurch, welche Modellvariante die jeweilige App lädt – und der knappe Speicher des Telefons ist der Grund, warum manche Apps zu den kleinen Varianten greifen. Prüfen Sie die Variante, nicht den Ort.

Warum führen manche iPhone-Apps kleinere Whisper-Modelle aus?

Wegen des Speichers. OpenAIs Referenztabelle reicht von 39 Millionen bis 1,55 Milliarden Parametern, und die größeren Varianten brauchen schon vor allen Telefon-Beschränkungen mehrere Gigabyte. Ein Modell der Large-Familie auf ein Telefon zu bringen, verlangt gezielten Aufwand – Quantisierung, Core-ML-Konvertierung, eine auf Geschwindigkeit ausgelegte Architektur wie Turbos Vier-Schichten-Decoder –, und nicht jede App betreibt diesen Aufwand.

Ist Apples eingebautes Diktat auch On-Device-KI-Transkription?

Zunehmend ja. Apples SpeechAnalyzer in iOS 26 läuft vollständig auf dem Gerät, wie eine On-Device-Whisper-App – die Unterschiede liegen im Sprachumfang und in den Voraussetzungen: Stand August 2026 unterstützte Apples Engine 22 Sprachen gegenüber rund 100 bei Whisper, und sie setzt iOS 26 voraus. Wir haben beide Engines im Detail verglichen.

Belastet On-Device-Transkription den Akku?

Transkription ist ein Schub echter Rechenarbeit, kein Dauerverbrauch im Hintergrund – sie läuft, wenn Sie transkribieren, und endet mit dem fertigen Text. Kurze Aufnahmen fallen kaum auf; mehrstündige Stapel behandeln Sie wie jede andere schwere Aufgabe und hängen das Gerät nebenbei ans Ladegerät.

Fazit: On-Device-KI-Transkription

On-Device-Transkription ist keine abgespeckte Kopie eines Cloud-Dienstes, sondern dieselbe Mathematik, ausgeführt auf Silizium, das Ihnen schon gehört. Die Definition, die man sich merken sollte, hat drei Teile: Es gibt keinen Upload, den das Audio durchlaufen könnte (nachprüfbar im Flugmodus); die Genauigkeit ist eine Eigenschaft der Modellvariante, nicht des Ortes; und der Speicher des Telefons – nicht sein Tempo – entscheidet, welche Variante eine App stemmen kann. Beurteilen Sie jede On-Device-App nach dieser letzten Frage, denn genau diese Frage beantwortet das Marketing nie.

Quellen

• OpenAI, Whisper-Repository – Tabelle der Modellgrößen (Parameter, Referenzspeicher, relative Geschwindigkeiten, gemessen auf einer A100-GPU)
• OpenAI, Robust Speech Recognition via Large-Scale Weak Supervision – Resampling auf 16.000 Hz, Mel-Spektrogramm-Vorverarbeitung, Encoder-Decoder-Architektur
• Apple, Ankündigung des iPhone 15 Pro – die Aussage zur „bis zu 2x“ schnelleren Neural Engine des A17 Pro
• Lyonesse, Apple’s New Speech API vs Whisper – Durchsatzbereich des SpeechAnalyzer samt Einschränkungen
• LoroNote, KI-Transkriptionsstatistiken – verifizierte Genauigkeitszahlen mit Primärquellen und Prüfdaten (englisch)

Alle Zahlen am 27. August 2026 gegen die verlinkten Quellen geprüft.