Utilizing meta-learning for cross-lingual transfer in few-shot stance detection task

摘要

隨著移動互聯網的普及和社交網路的飛速發展，人們現在能夠接受到越來越多資訊，其中具有爭議性的資訊往往是人們關注的重點。從自然語言文本中自動提取語義資訊是?多實際應用領域中的重要研究問題。因此研究有爭議性的資訊的立場傾向也是現在自然語言處理研究中很重要的一個部分。研究者們已經在很多在?多立場檢測任務中取得了優秀的成績。但是在實際應用過程中，我們難以擁有如此大量的訓練資料。因此本文著力於解決在某些立場檢測任務中資料不足的問題。 本文提出了一種基於元學習演算法的模型，使用其它任務的資料來增強資料不足的任務的訓練效果。在元學習訓練(Meta-training)的過程中，本文運用了記憶網路和跨語言的預訓練模型，使模型能夠使用不同語言，不同來源，文本長度差異巨大的立場檢測任務。本文還在實驗部分探究了不同的元學習模型不同的優化方式和參數設置對實驗結果的影響。所以，本文的主要貢獻點為：（1）把元學習演算法結合到立場檢查任務中，提升資料量不足的立場檢測任務的效果。（2）在元學習算法中使用記憶網路和跨語言預訓練模型，增大了元學習訓練過程中訓練資料的適用性。

獎項日期	2020
原文	English
監督員	Hung-Yu Kao (Supervisor)