Breeze TTS 2

audio_tokenizer/LICENSE · Apache-2.0 · Qwen/Qwen3-TTS-Tokenizer-12Hz

Apple M5 Pro · 48 GiB · TTFA / RTF / RSS

2026-10-30 · en · 8bit=3.20 s · bf16=3.20 s · seed=42 · CFG=4 · firstChunkFrames=3 · chunkFrames=25 · MLX cache=2 GiB · warm=3

MLX	TTFA p50	RTF	RSS (GiB)	Пиковая физическая память (GiB)
8bit	178 ms	0.535	3.92	7.23
bf16	272 ms	0.868	6.06	9.22

WAV=45 · distinct=11 · 8bit PCM SHA256=baseline · unit=1933 · skipped=42 · E2E=15 · Qwen3-ASR-0.6B-MLX-4bit

BF16 достигает RTF 0.868 на короткой фразе (исходно: 1.258) и 0.853 на абзаце 9.20 с (исходно: 1.280). С первым блоком из одного кадра PCM поступает за 138 мс. Все 11 различных итоговых сигналов имеют нулевые нормализованные WER/CER в независимой ASR; 8-битный вывод со стандартными блоками побайтово совпадает с исходным. Округление BF16 может менять звук при одинаковом seed. Задайте SPEECH_SWIFT_BREEZE_GEMV=0 перед загрузкой для сравнения с исходной проекцией.

Для раннего воспроизведения используйте один кадр в первом блоке, два в последующих и кэш MLX 1 GiB. На 8-битном абзаце 9.04 с предварительный буфер CLI готов примерно через 190 мс; записанные моменты поступления блоков не требуют дополнительного буфера. Задержки callback рендеринга и устройства вывода не включены.

2026-10-30 · 8bit · 9.04 s · firstChunkFrames=1 · chunkFrames=2 · MLX cache=1 GiB · PCM=103 ms · buffer=190 ms · RTF=0.761 · peak=6.10 GiB

speech speak "The quick brown fox jumps over the lazy dog." --engine breeze \
  --instruct "A clear, calm English narrator." --first-chunk-frames 1 \
  --chunk-frames 2 --breeze-cache-limit-mib 1024 --stream -o fast-start.wav

TTFA не включает загрузку модели и воспроизведение динамиком. Результаты зависят от оборудования, текста и настроек. Общая политика ограничивает повторно используемый кэш MLX меньшим из 2 GiB и четверти физической памяти, учитывая меньшие бюджеты приложения. --breeze-cache-limit-mib может снизить предел процесса; 0 отключает этот кэш. Активные тензоры не ограничиваются.

Синтез английской и китайской речи с дизайном голоса, клонированием и управлением по образцу, потоковый звук (MLX BF16/8-bit, 24 kHz; только исследования и некоммерческое использование).

BreezeTTS · 24,000 Hz · 16 × 2,048 · 80 ms · MLX BF16 / 8-bit

Использование

speech speak "The quick brown fox jumps over the lazy dog." --engine breeze \
  --instruct "A clear, calm English narrator." --stream -o design.wav

speech speak "The weather is beautiful today." --engine breeze \
  --voice-sample reference.wav --breeze-reference-text "Exact transcript." \
  --breeze-seed 42 -o clone.wav

speech speak "We need to discuss what happened." --engine breeze \
  --voice-sample reference.wav --breeze-reference-text "Exact transcript." \
  --instruct "Speak slowly, with a serious tone." --stream -o directed.wav

Swift API

import BreezeTTS

let model = try await BreezeTTSModel.fromPretrained()
let samples = try await model.generate(
    text: "The quick brown fox jumps over the lazy dog.",
    instruction: "A clear, calm English narrator.")

try await model.generateStreaming(text: "Hello, world!", instruction: "A warm voice.") { chunk in
    print(chunk.sampleRate, chunk.samples.count, chunk.isFinal)
}

Параметры

--breeze-model-id: aufklarer/Breeze-TTS-2-MLX-8bit
--breeze-bundle-dir
--breeze-cache-limit-mib: Необязательное ограничение повторно используемого кеша MLX для всего процесса, в MiB; 0 отключает кеширование.
--breeze-reference-text
--breeze-temperature: 0.9
--breeze-top-k: 50
--breeze-top-p: 1
--breeze-cfg-scale: 4
--breeze-max-frames: 750
--breeze-seed: 42
--first-chunk-frames: 3
--chunk-frames: 25

Лицензия

Derived from Breeze TTS 2 by BreezeBlue and licensed for research and non-commercial use only.

BreezeBlue Research and Non-Commercial License · Breeze TTS 2 MLX 8-bit · Breeze TTS 2 MLX BF16

Исходный код и преобразование

speech-swift / BreezeTTS · export_breeze_mlx.py · WER / CER / RSS / TTFA / RTF