我們怎麼評估語音辨識引擎
Talkey · 2026-09-27
結論: 抽樣測試台灣各類型語音 (新聞、財經、科技、訪談),Talkey 準確辨識台灣口音與中英夾雜。實際體驗通常比評測數字更好,因為字幕常刪贅字、改寫句子,這些也算成錯誤。
我們在台灣國語夾英文的語音上評估過 8 顆以上的開源語音辨識模型. 選模型不難, 難的是量得準 —— 評分方式稍有偏差, 就會選到錯的模型.
五個難點
1. 答案必須獨立
正確答案若取自候選引擎的輸出, 評分會系統性地偏向那幾顆引擎, 多引擎融合的效益也會被高估.
2. 字形與寫法不等於聽錯
簡體與繁體、「三零八零」與「3080」, 都會被字錯誤率算成錯字. 同一顆引擎, 評分方式不同, 字錯誤率可以從 0.319 變成 0.050. 見 繁簡與數字寫法.
3. 平均值會掩蓋偶發的整句錯誤
語音輸入的文字直接貼進文件, 偶爾一整句錯得離譜, 比平均略準一點更傷體驗. 平均分數看不到這件事.
4. 對一個人準, 不等於對所有人準
在單一說話者身上顯著變準的模型, 放到上百位不同說話者的語音上, 可能反而顯著變差.
5. 評測通過, 不代表上線安全
罕見的失誤要非常大的樣本才看得到. 評測集反覆通過的做法, 實際使用中仍可能出事.
延遲同樣是品質
準度之外, 從放開按鍵到文字出現的時間也是品質的一部分. 準度與速度必須一起取捨.