
先に結論: オンデバイスAI文字起こしとは、音声認識モデルがスマホ自身のプロセッサ上で動く方式のことです。録音がテキストになるまでの間、どこにも送信されません。プライバシーを守っているのは約束ではなく構造です。音声が通るアップロード工程がそもそも存在せず、機内モードで文字起こしすれば誰でも自分で確かめられます。オンデバイスだから精度が落ちる、ということもありません。同じモデルの重みは、どこで動かしても同じ結果を出します。代わりに生まれるのはハードウェアの制約です。アプリがどのサイズのモデルを積めるかは演算速度ではなくスマホのメモリが決めます。だから、Whisperの小さいモデルを静かに積むアプリもあれば、Largeクラスを積むアプリもあります。マイクとテキストの間で実際に起きていることを、順番に見ていきます。
この記事はLoroNoteチームが2026年8月27日に書いています。LoroNoteはWhisper Large V3 Turboをすべて端末上で動かしているので、ここで説明するのは自社製品が立脚している仕組みそのものです。ベンチマーク数値にはすべて1次出典を付けており、その多くは検証済みの文字起こし統計ページ(英語)にまとめてあります。自社で測った数値は1つだけで、本文でそう明示しています。
「オンデバイス」が実際に意味すること
どの文字起こしサービスもやることは同じです。違うのは、モデルがどこにあるかです。
| 工程 | クラウド文字起こし | オンデバイス文字起こし |
|---|---|---|
| 録音 | 自分のスマホ | 自分のスマホ |
| アップロード | 音声が事業者のサーバーへ移動 | 工程そのものが存在しない |
| 音声モデル | サーバーのGPUで実行 | スマホ自身のプロセッサで実行 |
| 結果 | テキストがネットワーク経由で戻る | テキストが端末内で生成される |
| オフライン動作 | 不可 | 可能。ネットワークが要る工程がない |
| 音声に触れられる場所 | 自分+事業者のインフラ | スマホを手にしている人だけ |
重要なのは最後の2行です。オフライン動作は、オンデバイス文字起こしに後から足された機能ではなく、構造の副産物です。処理のどこにもネットワークを必要とする工程がないからです。プライバシーも同じ理屈で成り立ちます。アップロードされたことのない音声は、保管されることも、漏えいすることも、事業者に閲覧されることもありません。事業者が自制を約束しているからではなく、そもそも事業者の手元にコピーが存在しないからです。これは法的な保証ではなく、あくまで構造の話です。そしてその構造は、機内モードで自分の手で確かめられます。
パイプライン:マイクとテキストの間の4工程
OpenAIのWhisperのような現在の音声モデルは、音声をいくつかの具体的な工程で処理します。オンデバイスアプリでは、この全部が端末の中で動きます。
- リサンプリング。 音声を16,000Hzに変換します。論文に、学習音声はすべてこのレートにリサンプリングすると明記されています。つまり、それより高いサンプルレートはモデルが聞く前に捨てられます。スタジオ級のサンプルレートで録音しても精度が上がらない理由がここにあります。
- スペクトログラム。 波形をメルスペクトログラムに変えます。Whisperの論文によれば、25ミリ秒の窓を10ミリ秒ずつずらしながら計算した対数スケールの表現です。モデルは「音」を聞いているのではなく、どの周波数にいつエネルギーが乗っていたかを描いた、画像のような地図を読んでいます。
- エンコード。 Transformerのエンコーダがスペクトログラムを消化し、「音響的に何が話されたか」の内部表現に変えます。
- デコード。 Transformerのデコーダが、音声の表現とそれまでに書いたテキストの両方を見ながら、文字起こしをトークン単位で書き進めます。Whisperの文章が流暢に読める理由であり、同時に無音の上に流暢な作り話を書いてしまうことがある理由でもあります。
この4工程のどれも、自分がどこで動いているかを気にしません。サーバーのGPUでもスマホでも、同じ重みで同じ数学を実行します。スマホのチップが十分に高性能になった時点でオンデバイス文字起こしが可能になったのは、まさにこのためです。
ハードウェア:Neural Engineの仕事
スマホのチップが「CPUだけの部品」だった時代はとっくに終わっています。アップルのAシリーズチップには、CPUとGPUに並んで、ニューラルネットワーク演算専用のブロックであるNeural Engineが載っています。アップル自身、iPhone 15 Proの発表でA17 ProのNeural Engineは前世代より最大2倍高速だと述べました。実際に出荷されている文字起こしアプリは、このハードウェアがエンコーダとデコーダを効率よく実行できるよう、モデルをアップルのCore ML形式に変換して積んでいます。

アップルAシリーズチップのイラスト。この種のチップにはCPU・GPUと並んで、音声モデルの数学を端末内で実行する専用ブロック、Neural Engineが載っています。出典:
Wikimedia Commons (Henriok)
, CC0.
ただし実務上の制約は、チップの計算がどれだけ速いかではなく、モデルがメモリに収まるかどうかです。OpenAIが公表している表を見ると、サイズごとの差がどれほど大きいかが具体的に分かります(パラメータ数と参考メモリ量。サーバーGPUでの測定値です)。
| Whisperのサイズ | パラメータ | 参考メモリ | 相対速度(A100基準) |
|---|---|---|---|
| tiny | 3,900万 | 約1GB | 約10倍 |
| base | 7,400万 | 約1GB | 約7倍 |
| small | 2億4,400万 | 約2GB | 約4倍 |
| medium | 7億6,900万 | 約5GB | 約2倍 |
| large | 15億5,000万 | 約10GB | 1倍 |
| turbo | 8億900万 | 約6GB | 約8倍 |
この表には、正直に付けるべき但し書きが2つあります。メモリと速度の列は、OpenAIがGPU推論を基準に測った参考値です。スマホに独立したVRAMはなく、実際のアプリはモデルをCore ML向けに量子化して積むため、消費量も速度も変わります。だからこの表は、特定のアプリの仕様表ではなく、サイズ同士の関係として読むべきです。そして、その関係こそが本題です。小さいモデルはスマホに楽に収まりますが、Largeクラスは本格的なエンジニアリングなしには収まりません。だから、名の知れたiOSアプリの中にも、smallやmediumを静かに積んでいるものがあります。Whisper Large V3 Turboは、デコーダを32層から4層に削った8億900万パラメータのモデルで、Largeクラスの精度をこの制約の中に収めるために存在します。LoroNoteがこのモデルを選んだ理由は別記事にまとめました。
オンデバイスだと精度は落ちるのか
落ちません。そしてこれが、オンデバイス文字起こしをめぐる最もしつこい誤解です。モデルの重みは決定論的な数学です。同じサイズのモデルは、スマホで動かしてもサーバーで動かしても、同じ品質の文字起こしを出します。オンデバイスは劣化モードではありません。
アプリごとに違うのは「どのサイズを積んでいるか」で、その差は決して小さくありません。公表数値では、Whisperの小さいモデルは同じベンチマークでLargeクラスのおよそ2倍の誤り率を示します。つまり精度の問いは、最初から「クラウドか端末か」ではありませんでした。アプリの一つひとつに「どのモデルか」を問うべきなのです。クリーンな朗読音声から会議室までの実測値はWhisperはどれくらい正確かにあります。
実際の速度は
ここに出てくる数値の1つは自社のものなので、そう明示します。iPhone 15 ProでLoroNoteは実時間比およそ19倍の速度で文字起こしします。1時間の録音が3分ほどでテキストになり、すべて端末の中で完結します(LoroNote自社測定、2026-08-13)。別のオンデバイスエンジンの参考値として、アップルのiOS 26 SpeechAnalyzerのベンチマークは、デスクトップのM2 Proで実時間比およそ12〜40倍の処理量を報告しています。そのベンチマークが何を測り、何を測らなかったかは別記事で確認できます。
オンデバイスの速度には、クラウドの速度にはない性質が1つあります。丸ごと自分のものだという点です。順番待ちも、レート制限も、分単位の課金もありません。もう1時間文字起こしするための追加コストは、料金ではなくバッテリーです。
オンデバイスに本当にできないこと
正直な定義には、限界も含まれるべきです。
- モデルが良くなるのは、アプリが更新されたときだけです。 クラウド事業者はサーバー側で一晩のうちにより良いモデルへ差し替えられますが、オンデバイスアプリはモデルをアプリの中に入れて配布します。改善はサーバー側で静かに起きるのではなく、アプリのアップデートとして目に見える形で届きます。
- 大量の一括処理は、今も大きなハードウェアが有利です。 研究アーカイブの数百時間を文字起こしするなら、どんなスマホよりデスクトップのGPUやクラウドの有料バッチ処理のほうが速く終わります。
- 本質的に複数人で使う機能にはサーバーが必要です。 通話中に10人が同時に見て編集するライブ共有の文字起こしは、文字起こしではなく共同作業の問題です。クラウドサービスのほうが適している場合はオフライン文字起こしのガイドで扱っています。
- 長く回せばバッテリーを使います。 文字起こしは常時動く処理ではなく録音1本につき1回の処理ですが、長いファイルの処理はチップにとって相応の負荷になります。3時間分をまとめて処理するなら、充電しながらが賢明です。
とはいえ、どの限界もこの方式の本質的な利点を損なうものではありません。会議・講義・インタビュー・メモといった個人の録音なら、すでに持っているハードウェアの上で、自分が選んだモデルの精度で、何ひとつ端末の外に出さずに作業が終わります。
よくある質問
オンデバイス文字起こしは本当にプライバシーが守られますか
この方式のプライバシーは構造から来ています。パイプラインにアップロード工程がないため、保管されたり漏えいしたりする音声のコピーがどこにも生まれません。構造は自分で確認できます。機内モードをオンにして文字起こしすればよいのです。その事実が自分の守秘義務にとって何を意味するかは、ご自身にしか判断できません。技術的に確かなのは、音声がスマホから出ないという点です。
オンデバイス文字起こしはオフラインでも動きますか
動きます。構造上、当然の帰結です。モデルはアプリと一緒に一度ダウンロードするだけで、その後は地下でも、飛行機の中でも、機内モードでも、録音と文字起こしは同じように動きます。
オンデバイス文字起こしはクラウドより不正確ですか
動く場所のせいで不正確になることはありません。同じ重みは、どこで動かしても同じ品質を出します。アプリ間の精度差は各アプリが積むモデルのサイズから生まれ、小さいサイズを選ばせる圧力の正体がスマホのメモリです。確かめるべきは場所ではなくモデルです。
なぜ小さいWhisperモデルを積むiPhoneアプリがあるのですか
メモリのためです。OpenAIの参考表は3,900万から15億5,000万パラメータまでに及び、大きいモデルはスマホの事情を考える前から数ギガバイトを要求します。Largeクラスをスマホに収めるには、量子化、Core ML変換、Turboの4層デコーダのような速度最適化構造といった、腰を据えたエンジニアリングが必要で、すべてのアプリがそこに投資するわけではありません。
アップル標準の音声入力もオンデバイスAI文字起こしですか
だんだんそうなってきています。アップルのiOS 26 SpeechAnalyzerは、オンデバイスのWhisperアプリと同じく、すべて端末上で動きます。違いは対応範囲と条件です。2026年8月時点でアップルのエンジンの対応言語は22、Whisperは約100で、SpeechAnalyzerにはiOS 26が必要です。2つのエンジンの比較は別記事に詳しくまとめました。
オンデバイス文字起こしはバッテリーを消耗しますか
文字起こしは背後で回り続ける処理ではなく、実行したときに一気に行う計算です。短い録音なら体感できるほどではありません。数時間分を続けて処理するなら、ほかの重い処理と同じように充電しながら行うのがおすすめです。
まとめ:オンデバイスAI文字起こしとは
オンデバイスAI文字起こしは、クラウドサービスの縮小版ではありません。同じ数学を、すでに手元にあるチップで実行する方式です。押さえておくべきポイントは3つです。音声には通るべきアップロード工程がない(機内モードで確認可能)。精度は場所ではなくモデルのサイズの属性である。そして、アプリがどのサイズを積めるかはチップの速さではなくメモリが決める。オンデバイスアプリを選ぶときは、最後の問いを投げかけてください。マーケティングが最後まで答えない問い、「それで、どのモデルを積んでいるのですか」です。
出典
- OpenAI, Whisperリポジトリ:モデルサイズの表(パラメータ、参考メモリ、A100 GPU基準の相対速度)
- OpenAI, Robust Speech Recognition via Large-Scale Weak Supervision:16,000Hzへのリサンプリング、メルスペクトログラムの前処理、エンコーダ・デコーダ構造
- Apple, iPhone 15 Pro発表文:A17 ProのNeural Engineが「最大2倍高速」という記述
- Lyonesse, Apple’s New Speech API vs Whisper:SpeechAnalyzerの処理量の範囲とその但し書き
- LoroNote, AI文字起こし統計(英語):1次出典と確認日付きの精度数値のまとめ
数値は2026年8月27日に、リンク先の出典と照合して再確認しました。
