Gradium は 10 月 20 日、デバイス上で動かすことを前提にした小型の音声合成（TTS）モデル群 Phonon をオープンウェイトで公開しました。モデルカードには Phonon が "builds on Pocket TTS and the Mimi codec, developed by Kyutai" と書かれており、Kyutai が開発した Pocket TTS と Mimi コーデックがベースです。

最初にお伝えしておくと、Phonon は日本語にも中国語にも対応していません。最小の Phonon 31m は英語専用で、他のバージョンも英語、フランス語、ドイツ語、スペイン語、ポルトガル語の 5 言語のみです。日本語の読み上げには使えません。

公開されたバージョン

  • Phonon 31m：英語のみ、Apache 2.0 ライセンスで商用利用可。
  • Phonon 40m：英・仏・独・西・葡の言語ごとに 1 モデル、各言語 12〜37 種類の内蔵ボイス、CC BY-NC ライセンス。
  • Phonon 40m multilingual：上記 5 言語を 1 つの重みでカバー、CC BY-NC ライセンス。

CC BY-NC は非商用に限られ、40m 系の商用利用は Gradium への問い合わせが必要です。自由に商用利用できるのは英語の 31m だけです。

64.5MB が指すもの

64.5MB は英語 31m モデルの 8 ビット量子化重みファイル model.q8.gguf のサイズで、実行時に必要なメモリ全体ではありません。Gradium は実行時メモリの数値を公表していません。また 31M というパラメータ数には音声コーデック（Mimi）が含まれていません。40m 版は 74.6MB とされています。

ローカルでの動かし方

モデルカードによると、Phonon は生成しながら音声を再生するストリーミングに対応し、ブラウザのタブ、スマホ、ノート PC の CPU で動くほど小さいとされています。公式には Python とブラウザ向けの手段、GitHub 上のランタイムが用意されており、CPU（Intel、Arm、WebAssembly）、GPU（CUDA、Vulkan、Metal、WebGPU）、NPU（Apple Core ML、Snapdragon）など 10 以上のハードウェアに最適化したとしています。

プライバシー

ローカル推論なら読み上げるテキストをサーバーに送る必要がなく、ネットワークがなくても音声を出せます。プライバシーに配慮が必要な英語コンテンツやオフライン用途では、クラウドの音声 API と比べた最大の利点です。

導入コスト

  • ライセンス：英語 31m は Apache 2.0 で商用ライセンス料は不要。40m 系は非商用のみ。
  • 利用料金：ローカル実行なのでリクエストや文字数ごとの課金はありません。
  • 開発コスト：モデルファイルの同梱、配布、更新は自前で行い、対象デバイスでメモリと速度を確認する必要があります。

公式の数値（私たちは未検証）

以下はすべて Gradium 自身のテスト結果で、私たちはまだ試していません。

  • Phonon 31m はノート PC の CPU で 7 ミリ秒で発話を開始。
  • Kokoro、Magpie、NeuTTS、Pocket TTS とのブラインド比較で、評価者 1,189 人、17,270 票。
  • Gradium 独自の各言語 500 文の難文テストで、単語誤り率は 31m が 1.70%、40m multilingual が 2.11%、40m が 2.22%。

日本語の音声が必要な場合は、日本語に対応した別の手段を選ぶ必要があります。クラウド側の音声モデルの動向は Grok Voice 3.0 の記事もご覧ください。ほかのオンデバイスモデルについては スマホで動く MiniCPM-V 4.7 と Perplexity Computer の Mac でのローカル実行 も参考になります。