Kanonik İngilizce sayfa artık uzun ses için yeni 128K MLX çalışma zamanını, INT5/INT8 testlerini ve bellek kullanımını açıklıyor. Bu çeviri hâlâ ağırlıklı olarak önceki CoreML çalışma zamanını anlatıyor.
MOSS Transcribe Diarize 0.9B
Bu Soniqo sayfası, yerel speech-swift / speech-core uygulamasındaki MOSS Transcribe Diarize 0.9B modelini belgeler. Hugging Face bundle bağlantıları entegrasyon notlarından sonra yer alır.
Açılış kartları ve belge menüleri önce buraya yönlenir; kaynak model ve bundle bağlantıları bu sayfada kalır.
Özet
| Model | MOSS Transcribe Diarize 0.9B |
|---|---|
| Rol | Modelin ürettiği konuşmacı etiketleri ve zaman damgalarıyla toplu transkripsiyon |
| Backend | Accelerate tabanlı yerel Whisper ön ucuna sahip CoreML |
| Çıktı | Düz transkript ile konuşmacı etiketli zaman damgası bölümleri |
| Diller | Çok dilli MOSS transkripsiyon modeli |
| Lisans | Amaçlanan kullanım için kaynak model ve bundle koşullarını doğrulayın |
| Durum | speech transcribe --engine moss ve MossTranscribe Swift ürünü üzerinden hazır |
| Kaynak | OpenMOSS-Team/MOSS-Transcribe-Diarize |
| Swift ürünü | MossTranscribe |
| CLI / runtime | speech transcribe --engine moss |
Kullanım
Aşağıdaki parça, speech-swift deposundaki güncel API veya komutla eşleşir.
# INT8 önerilen varsayılandır.
.build/release/speech transcribe recording.wav --engine moss
# FP16 referansı.
.build/release/speech transcribe recording.wav --engine moss --model fp16Model bağlantıları
- CoreML INT8 paketi
- CoreML FP16 paketi
- speech-swift model belgeleri
- speech-swift çıkarım belgeleri
- speech-swift performans testi
Uygulama notları
- M5 Pro üzerinde eşleştirilmiş 80 İngilizce klip benchmarkı: her iki varyant da %8,16 toplam WER ve %5,90 CER elde etti.
- Ters sırada iki koşu birleştirildiğinde INT8 RTF 0,070 (14,3× gerçek zaman), FP16 ise 0,079 (12,6×) verdi; örneklenen en yüksek RSS sırasıyla 2,38–2,40 GB ve 3,69–3,74 GB oldu.
- Swift çalışma zamanı tam Whisper log-mel ön işleme, MOSS zaman işaretli prompt kurulumu, ses embedding ekleme, MLState önbellek güncelleme, greedy kod çözme ve yapısal çıktı ayrıştırmayı üstlenir.
- INT8, ses kodlayıcı ve decoder I/O’yu FP16 tutarken decoder’a simetrik doğrusal INT8 block-32 kuantizasyon uygular.
- Prompt ve çıktı sabit 1024-token bağlamını paylaşır. Geçerli çalışma zamanı yalnızca toplu çalışır ve --stream seçeneğini reddeder.
MLX arabellek önbelleği
Ağırlıkların yüklenmesinden transkripsiyona kadar MLX, süreç genelindeki yeniden kullanılabilir arabellek önbelleğini 2 GiB ile fiziksel RAM’in %25’inden küçük olanıyla sınırlar. Önbelleği kapatan 0 dahil, çağıranın daha düşük sınırları korunur. MOSS ve Qwen3-ASR bu bütçeyi paylaşır; son model bırakıldığında, çağıran kullanım sırasında sınırı değiştirmediyse önceki sınır geri yüklenir.
Bu yalnızca kullanılmayan yeniden kullanılabilir arabellekleri sınırlar, toplam belleği değil. Etkin KV tensörleri ve ses verileri kayıt süresiyle büyümeye devam eder; ağırlıklar ve diğer çalışma zamanı ayırmaları ek bellek gerektirir.
Konuşmacı bilgili yapılandırılmış çıktı için varsayılan FP16 KV önbelleğini kullanın. Güncel INT8 KV kontrolleri, her iki ağırlık varyantında hem özgün hem de sınırlı çalışma zamanında konuşmacı etiketlerini atlıyor; arabellek sınırı bu ayrı kalite sorununu çözmez.