Breeze TTS 2

audio_tokenizer/LICENSE · Apache-2.0 · Qwen/Qwen3-TTS-Tokenizer-12Hz

Apple M5 Pro · 48 GiB · TTFA / RTF / RSS

2026-10-30 · en · 8bit=3.20 s · bf16=3.20 s · seed=42 · CFG=4 · firstChunkFrames=3 · chunkFrames=25 · MLX cache=2 GiB · warm=3

MLX	TTFA p50	RTF	RSS (GiB)	Memória física máxima (GiB)
8bit	178 ms	0.535	3.92	7.23
bf16	272 ms	0.868	6.06	9.22

WAV=45 · distinct=11 · 8bit PCM SHA256=baseline · unit=1933 · skipped=42 · E2E=15 · Qwen3-ASR-0.6B-MLX-4bit

BF16 atinge RTF 0.868 na frase curta (referência: 1.258) e 0.853 no parágrafo de 9.20 s (referência: 1.280). Com um quadro inicial, o primeiro PCM chega em 138 ms. As 11 formas de onda finais distintas têm WER/CER normalizados iguais a zero em ASR independente; a saída de 8 bits com blocos padrão é idêntica byte a byte à referência. O arredondamento BF16 pode alterar o áudio com a mesma semente. Defina SPEECH_SWIFT_BREEZE_GEMV=0 antes de carregar para comparar a projeção original.

Para iniciar a reprodução mais cedo, use um quadro inicial, dois por bloco seguinte e 1 GiB de cache MLX. No parágrafo de 8 bits de 9.04 s, o pré-buffer estimado da CLI fica pronto em 190 ms, sem buffer adicional segundo as chegadas registradas. A estimativa exclui o callback de renderização e a latência do dispositivo de saída.

2026-10-30 · 8bit · 9.04 s · firstChunkFrames=1 · chunkFrames=2 · MLX cache=1 GiB · PCM=103 ms · buffer=190 ms · RTF=0.761 · peak=6.10 GiB

speech speak "The quick brown fox jumps over the lazy dog." --engine breeze \
  --instruct "A clear, calm English narrator." --first-chunk-frames 1 \
  --chunk-frames 2 --breeze-cache-limit-mib 1024 --stream -o fast-start.wav

TTFA exclui o carregamento do modelo e a reprodução no alto-falante. Os resultados dependem do hardware, texto e ajustes. A política compartilhada limita o cache MLX reutilizável ao menor valor entre 2 GiB e um quarto da memória física, respeitando orçamentos menores do aplicativo. --breeze-cache-limit-mib pode reduzir esse limite do processo; 0 desativa o cache reutilizável. Tensores ativos não são limitados.

TTS em inglês e chinês com criação de voz, clonagem e direção por áudio de referência e streaming de áudio (MLX BF16/8-bit, 24 kHz; licença de pesquisa e uso não comercial).

BreezeTTS · 24,000 Hz · 16 × 2,048 · 80 ms · MLX BF16 / 8-bit

Uso

speech speak "The quick brown fox jumps over the lazy dog." --engine breeze \
  --instruct "A clear, calm English narrator." --stream -o design.wav

speech speak "The weather is beautiful today." --engine breeze \
  --voice-sample reference.wav --breeze-reference-text "Exact transcript." \
  --breeze-seed 42 -o clone.wav

speech speak "We need to discuss what happened." --engine breeze \
  --voice-sample reference.wav --breeze-reference-text "Exact transcript." \
  --instruct "Speak slowly, with a serious tone." --stream -o directed.wav

API Swift

import BreezeTTS

let model = try await BreezeTTSModel.fromPretrained()
let samples = try await model.generate(
    text: "The quick brown fox jumps over the lazy dog.",
    instruction: "A clear, calm English narrator.")

try await model.generateStreaming(text: "Hello, world!", instruction: "A warm voice.") { chunk in
    print(chunk.sampleRate, chunk.samples.count, chunk.isFinal)
}

Opções

--breeze-model-id: aufklarer/Breeze-TTS-2-MLX-8bit
--breeze-bundle-dir
--breeze-cache-limit-mib: Limite opcional de cache MLX reutilizável para todo o processo, em MiB; 0 desativa o cache.
--breeze-reference-text
--breeze-temperature: 0.9
--breeze-top-k: 50
--breeze-top-p: 1
--breeze-cfg-scale: 4
--breeze-max-frames: 750
--breeze-seed: 42
--first-chunk-frames: 3
--chunk-frames: 25

Licença

Derived from Breeze TTS 2 by BreezeBlue and licensed for research and non-commercial use only.

BreezeBlue Research and Non-Commercial License · Breeze TTS 2 MLX 8-bit · Breeze TTS 2 MLX BF16

Código e conversão

speech-swift / BreezeTTS · export_breeze_mlx.py · WER / CER / RSS / TTFA / RTF