分層自適應遷移學習框架用於手語機器翻譯
arXiv - Computers and SocietyNada Shahin, Leila Ismail
本文提出分層自適應遷移學習(HATL)框架，透過動態解凍預訓練模型層，提升手語機器翻譯的效能，並解決數據稀缺與領域差距問題。
AI 幫你先抓重點
AI 重點 1
動態解凍預訓練模型層的概念。
滑鼠懸停看 AI 判斷理由
此概念針對手語機器翻譯中常見的數據稀缺問題提供解決方案，透過有選擇性地更新模型，避免過擬合並保留重要資訊，對於提升翻譯準確度至關重要。
AI 重點 2
HATL框架的跨語言泛化能力。
滑鼠懸停看 AI 判斷理由
在不同數據集上的實驗結果證明了HATL的穩定性和適用性，這對於開發能夠處理多種手語和語言的通用翻譯系統至關重要，有助於促進聽障人士與健全人士之間的溝通。
核心研究發現
- 1
HATL框架透過逐步且動態地解凍預訓練層，有效保留通用表徵，同時適應手語的特徵。
- 2
結合動態解凍、逐層學習率衰減和穩定機制，HATL能避免過擬合，提升模型在不同語言和手語變體上的泛化能力。
- 3
實驗結果顯示，HATL在Sign2Text和Sign2Gloss2Text任務上，相較於傳統遷移學習方法，表現更優異。
- 4
使用ADAT模型，HATL在RWTH-PHOENIX14T數據集上BLEU-4分數提升了15.0%，顯示其強大的翻譯能力。
- 5
HATL在RWTH-PHOENIX14T、Isharah和MedASL三個數據集上的評估，證明了其跨語言的穩定性和可靠性。
對教育工作者的啟發
HATL框架的動態解凍策略可應用於其他低資源語言的機器翻譯任務，尤其是在教育領域，可協助開發更精準的手語教學工具，提升聽障學生的學習體驗。此外，逐層學習率衰減和穩定機制有助於建立更穩健的翻譯模型，降低因數據變異性所造成的誤差，提升教學資源的可靠性。研究結果也提醒教育科技開發者，在設計機器翻譯系統時，應考慮語言和文化的多樣性，並採用自適應的學習策略。
原始文獻資訊
- 英文標題：
- HATL: Hierarchical Adaptive-Transfer Learning Framework for Sign Language Machine Translation
- 作者：
- Nada Shahin, Leila Ismail
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- ISTA-DASLab/gemma-3-27b-it-GPTQ-4b-128g
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。