Breeze TTS 2

audio_tokenizer/LICENSE · Apache-2.0 · Qwen/Qwen3-TTS-Tokenizer-12Hz

Apple M5 Pro · 48 GiB · TTFA / RTF / RSS

2026-10-30 · en · 8bit=3.20 s · bf16=3.20 s · seed=42 · CFG=4 · firstChunkFrames=3 · chunkFrames=25 · MLX cache=2 GiB · warm=3

MLX	TTFA p50	RTF	RSS (GiB)	Maximaler physischer Speicher (GiB)
8bit	178 ms	0.535	3.92	7.23
bf16	272 ms	0.868	6.06	9.22

WAV=45 · distinct=11 · 8bit PCM SHA256=baseline · unit=1933 · skipped=42 · E2E=15 · Qwen3-ASR-0.6B-MLX-4bit

BF16 erreicht beim kurzen Satz RTF 0.868 (Vergleich: 1.258) und beim 9.20-s-Absatz 0.853 (Vergleich: 1.280). Mit einem ersten Frame kommt das erste PCM nach 138 ms. Alle 11 unterschiedlichen finalen Wellenformen haben bei unabhängiger ASR normalisierte WER/CER von null. Die 8-Bit-Ausgabe mit Standardblöcken ist bytegleich zum Vergleich. BF16-Rundung kann Audio bei gleichem Seed verändern. Mit SPEECH_SWIFT_BREEZE_GEMV=0 vor dem Laden lässt sich der ursprüngliche Projektionspfad vergleichen.

Für einen früheren Wiedergabestart einen ersten Frame, zwei Frames je Folgeblock und 1 GiB MLX-Cachebudget verwenden. Beim 9.04-s-Absatz mit 8 Bit ist der CLI-Vorpuffer nach geschätzten 190 ms bereit; die aufgezeichneten Blockankünfte erfordern keinen zusätzlichen Puffer. Render-Callback und Ausgabegerätelatenz sind nicht enthalten.

2026-10-30 · 8bit · 9.04 s · firstChunkFrames=1 · chunkFrames=2 · MLX cache=1 GiB · PCM=103 ms · buffer=190 ms · RTF=0.761 · peak=6.10 GiB

speech speak "The quick brown fox jumps over the lazy dog." --engine breeze \
  --instruct "A clear, calm English narrator." --first-chunk-frames 1 \
  --chunk-frames 2 --breeze-cache-limit-mib 1024 --stream -o fast-start.wav

TTFA enthält weder Modellladen noch Lautsprecherwiedergabe. Ergebnisse hängen von Hardware, Text und Einstellungen ab. Die gemeinsame Richtlinie begrenzt wiederverwendbaren MLX-Cache auf den kleineren Wert aus 2 GiB und einem Viertel des physischen Speichers und beachtet niedrigere Anwendungsbudgets. --breeze-cache-limit-mib senkt diese Prozessgrenze; 0 deaktiviert den wiederverwendbaren Cache. Aktive Modelltensoren werden nicht begrenzt.

Englische und chinesische Sprachsynthese mit Stimmdesign, Klonen und Steuerung einer Referenzstimme sowie Audiostreaming (MLX BF16/8-bit, 24 kHz; nur Forschung und nichtkommerzielle Nutzung).

BreezeTTS · 24,000 Hz · 16 × 2,048 · 80 ms · MLX BF16 / 8-bit

Verwendung

speech speak "The quick brown fox jumps over the lazy dog." --engine breeze \
  --instruct "A clear, calm English narrator." --stream -o design.wav

speech speak "The weather is beautiful today." --engine breeze \
  --voice-sample reference.wav --breeze-reference-text "Exact transcript." \
  --breeze-seed 42 -o clone.wav

speech speak "We need to discuss what happened." --engine breeze \
  --voice-sample reference.wav --breeze-reference-text "Exact transcript." \
  --instruct "Speak slowly, with a serious tone." --stream -o directed.wav

Swift API

import BreezeTTS

let model = try await BreezeTTSModel.fromPretrained()
let samples = try await model.generate(
    text: "The quick brown fox jumps over the lazy dog.",
    instruction: "A clear, calm English narrator.")

try await model.generateStreaming(text: "Hello, world!", instruction: "A warm voice.") { chunk in
    print(chunk.sampleRate, chunk.samples.count, chunk.isFinal)
}

Optionen

--breeze-model-id: aufklarer/Breeze-TTS-2-MLX-8bit
--breeze-bundle-dir
--breeze-cache-limit-mib: Optionales prozessweites Limit für wiederverwendbaren MLX-Cache in MiB; 0 deaktiviert den Cache.
--breeze-reference-text
--breeze-temperature: 0.9
--breeze-top-k: 50
--breeze-top-p: 1
--breeze-cfg-scale: 4
--breeze-max-frames: 750
--breeze-seed: 42
--first-chunk-frames: 3
--chunk-frames: 25

Lizenz

Derived from Breeze TTS 2 by BreezeBlue and licensed for research and non-commercial use only.

BreezeBlue Research and Non-Commercial License · Breeze TTS 2 MLX 8-bit · Breeze TTS 2 MLX BF16

Quellcode und Konvertierung

speech-swift / BreezeTTS · export_breeze_mlx.py · WER / CER / RSS / TTFA / RTF