توثّق الصفحة الإنجليزية المرجعية الآن بيئة MLX الجديدة ذات سياق 128K للصوت الطويل، واختبارات INT5/INT8، واستهلاك الذاكرة. ما زالت هذه الترجمة تصف أساسا بيئة CoreML السابقة.
MOSS Transcribe Diarize 0.9B
توثق هذه الصفحة من Soniqo نموذج MOSS Transcribe Diarize 0.9B كما هو منفذ في speech-swift / speech-core. روابط Hugging Face موجودة أدناه بعد ملاحظات الدمج.
بطاقات الصفحة الرئيسية وقوائم الوثائق تشير إلى هذه الصفحة أولا؛ وتبقى روابط النموذج والحزم داخلها.
لمحة سريعة
| النموذج | MOSS Transcribe Diarize 0.9B |
|---|---|
| الدور | تفريغ دفعي مع تسميات المتحدثين والطوابع الزمنية التي يولدها النموذج |
| Backend | CoreML مع واجهة Whisper أصلية مبنية على Accelerate |
| الإخراج | نص تفريغ عادي ومقاطع مؤقتة منسوبة إلى المتحدثين |
| اللغات | نموذج MOSS متعدد اللغات للتفريغ |
| الرخصة | تحقق من شروط النموذج المصدر والحزم وفق الاستخدام المقصود |
| الحالة | متاح عبر speech transcribe --engine moss ومنتج Swift المسمى MossTranscribe |
| المصدر | OpenMOSS-Team/MOSS-Transcribe-Diarize |
| منتج Swift | MossTranscribe |
| CLI / runtime | speech transcribe --engine moss |
الاستخدام
المقتطف أدناه يطابق API أو الأمر الحالي في speech-swift.
# INT8 هو الخيار الافتراضي الموصى به.
.build/release/speech transcribe recording.wav --engine moss
# مرجع FP16.
.build/release/speech transcribe recording.wav --engine moss --model fp16روابط النموذج
- حزمة CoreML INT8
- حزمة CoreML FP16
- توثيق نموذج speech-swift
- توثيق استدلال speech-swift
- اختبار أداء speech-swift
ملاحظات التنفيذ
- اختبار متطابق من 80 مقطعا إنجليزيا على M5 Pro: حققت النسختان WER إجماليا 8.16% وCER بنسبة 5.90%.
- بعد جمع تشغيلين بترتيب معكوس، بلغ RTF لنسخة INT8 مقدار 0.070 (14.3× من الزمن الحقيقي)، مقابل 0.079 (12.6×) لنسخة FP16، مع ذروة RSS مقاسة 2.38–2.40 GB مقابل 3.69–3.74 GB.
- تتولى بيئة Swift معالجة Whisper log-mel الدقيقة، وبناء موجّه MOSS بعلامات الوقت، وحقن تضمينات الصوت، وتحديث MLState، وفك الترميز الجشع، وتحليل الخرج المنظم.
- تحافظ INT8 على مرمّز الصوت ومدخلات ومخرجات المفكك بصيغة FP16، وتطبق على المفكك تكميم INT8 block-32 خطيا متناظرا.
- يتشارك الموجّه والخرج سياقا ثابتا من 1024 token. تعمل البيئة الحالية بالدفعات فقط وترفض --stream.
ذاكرة مخازن MLX المؤقتة
من تحميل الأوزان حتى التفريغ النصي، يحد MLX ذاكرة المخازن القابلة لإعادة الاستخدام على مستوى العملية بالأصغر بين 2 GiB و25% من ذاكرة RAM الفعلية. تُحفظ الحدود الأقل التي يحددها المستدعي، بما فيها 0 لتعطيل التخزين المؤقت. يتشارك MOSS وQwen3-ASR هذه الميزانية؛ ويُعاد الحد السابق عند تحرير آخر نموذج ما لم يغيره المستدعي أثناء الاستخدام.
يحد هذا المخازن غير المستخدمة فقط، وليس إجمالي الذاكرة. تستمر موترات KV النشطة وبيانات الصوت في النمو مع مدة التسجيل؛ وتحتاج الأوزان وتخصيصات وقت التشغيل الأخرى إلى ذاكرة إضافية.
للحصول على مخرجات منظمة بعلامات المتحدثين، استخدم ذاكرة KV الافتراضية بدقة FP16. تُسقط اختبارات INT8 KV الحالية علامات المتحدثين مع كلا نوعي الأوزان في وقت التشغيل الأصلي والمحدود؛ ولا يعالج حد ذاكرة المخازن المؤقتة مشكلة الجودة المنفصلة هذه.