Trang tiếng Anh chuẩn đã mô tả runtime MLX 128K mới cho âm thanh dài, benchmark INT5/INT8 và mức dùng bộ nhớ. Bản dịch này vẫn chủ yếu mô tả runtime CoreML trước đây.
MOSS Transcribe Diarize 0.9B
Trang Soniqo này ghi lại MOSS Transcribe Diarize 0.9B theo triển khai hiện có trong speech-swift / speech-core. Liên kết Hugging Face nằm bên dưới phần ghi chú tích hợp.
Thẻ trên trang chính và menu tài liệu trỏ vào đây trước; liên kết model nguồn và bundle vẫn có trong trang này.
Tổng quan
| Model | MOSS Transcribe Diarize 0.9B |
|---|---|
| Vai trò | Chép lời theo lô với nhãn người nói và mốc thời gian do model tạo |
| Backend | CoreML với frontend Whisper gốc dựa trên Accelerate |
| Đầu ra | Bản chép lời thuần văn bản và các đoạn có người nói cùng mốc thời gian |
| Ngôn ngữ | Model chép lời MOSS đa ngôn ngữ |
| Giấy phép | Hãy kiểm tra điều khoản của model nguồn và bundle cho mục đích sử dụng |
| Trạng thái | Có thể dùng qua speech transcribe --engine moss và sản phẩm Swift MossTranscribe |
| Nguồn | OpenMOSS-Team/MOSS-Transcribe-Diarize |
| Sản phẩm Swift | MossTranscribe |
| CLI / runtime | speech transcribe --engine moss |
Cách dùng
Đoạn dưới đây khớp với API hoặc lệnh hiện tại do speech-swift cung cấp.
# INT8 là lựa chọn mặc định được khuyên dùng.
.build/release/speech transcribe recording.wav --engine moss
# Bản tham chiếu FP16.
.build/release/speech transcribe recording.wav --engine moss --model fp16Liên kết model
- Bundle CoreML INT8
- Bundle CoreML FP16
- Tài liệu model speech-swift
- Tài liệu suy luận speech-swift
- Benchmark speech-swift
Ghi chú triển khai
- Benchmark khớp trên 80 đoạn tiếng Anh bằng M5 Pro: cả hai biến thể đạt WER tổng hợp 8,16% và CER 5,90%.
- Gộp hai lần chạy đảo thứ tự, INT8 đạt RTF 0,070 (14,3× thời gian thực), FP16 đạt 0,079 (12,6×); RSS đỉnh lấy mẫu lần lượt là 2,38–2,40 GB và 3,69–3,74 GB.
- Runtime Swift đảm nhiệm tiền xử lý Whisper log-mel chính xác, prompt MOSS có mốc thời gian, chèn embedding âm thanh, cập nhật bộ nhớ đệm MLState, giải mã tham lam và phân tích đầu ra có cấu trúc.
- INT8 giữ encoder âm thanh và I/O decoder ở FP16, đồng thời áp dụng lượng tử hóa tuyến tính đối xứng INT8 block-32 cho decoder.
- Prompt và đầu ra dùng chung ngữ cảnh cố định 1024 token. Runtime hiện chỉ chạy theo lô và từ chối --stream.
Bộ nhớ đệm bộ đệm MLX
Từ khi nạp trọng số đến khi phiên âm, MLX giới hạn bộ nhớ đệm cho các bộ đệm tái sử dụng trên toàn tiến trình ở giá trị nhỏ hơn giữa 2 GiB và 25% RAM vật lý. Giới hạn thấp hơn do bên gọi đặt được giữ nguyên, kể cả 0 để tắt bộ nhớ đệm. MOSS và Qwen3-ASR chia sẻ ngân sách này; giải phóng mô hình cuối cùng sẽ khôi phục giới hạn trước đó, trừ khi bên gọi đã đổi giới hạn trong lúc sử dụng.
Giới hạn này chỉ áp dụng cho bộ đệm tái sử dụng đang không dùng, không phải tổng bộ nhớ. Tensor KV đang hoạt động và dữ liệu âm thanh vẫn tăng theo thời lượng bản ghi; trọng số và các cấp phát khác cần thêm bộ nhớ.
Để có đầu ra có cấu trúc kèm người nói, hãy dùng bộ nhớ đệm KV FP16 mặc định. Các kiểm tra KV INT8 hiện tại bỏ nhãn người nói với cả hai biến thể trọng số trên cả runtime gốc và runtime có giới hạn; giới hạn bộ đệm không khắc phục vấn đề chất lượng riêng này.