阿里雲開源的業界首個面向NLP場景深度遷移學習框架EasyTransfer
近日，阿里雲正式開源了深度遷移學習框架EasyTransfer，這是業界首個面向NLP場景的深度遷移學習框架。
該框架由阿里雲機器學習PAI團隊研發，讓自然語言處理場景的模型預訓練和遷移學習開發與部署更加簡單和高效。
面向自然語言處理場景的深度遷移學習在現實場景裏有巨大的需求，因為大量新的領域不斷湧現，傳統的機器學習需要對每個領域都積累大量訓練數據，這將會耗費大量標註的人力與物力。深度遷移學習技術可以將源領域學到的知識遷移到新的領域的任務，進而大大減少標註的資源。
儘管面向自然語言場景的深度遷移學習有很多的需求，目前開源社區還沒有一個完善的框架，而且構建一個簡單易用且高性能的框架有巨大挑戰。
首先，預訓練模型加知識遷移現在是主流的NLP應用模式，通常預訓練模型尺寸越大學習到的知識表徵越有效，然而超大的模型給框架的分佈式架構帶來了巨大挑戰。如何提供一個高性能的分佈式架構，從而有效支持超大規模的模型訓練。
其次，用户應用場景的多樣性很高，單一的遷移學習算法無法適用，如何提供一個完備的遷移學習工具來提升下游場景的效果。
第三，從算法開發到業務落地通常需要很長的鏈路，如何提供一個簡單易用的從模型訓練到部署的一站式服務。
面對這三大挑戰，PAI團隊推出了EasyTransfer，一個簡單易用且高性能的遷移學習框架。框架支持主流的遷移學習算法，支持自動混合精度、編譯優化和高效的分佈式數據/模型並行策略，適用於工業級的分佈式應用場景。
值得一提的是，配合混合精度、編譯優化和分佈式策略，EasyTransfer支持的ALBERT模型比社區版的ALBERT在分佈式訓練的運算速度上快4倍多。
同時，經過了阿里內部10多個BU，20多個業務場景打磨，給NLP和遷移學習用户提供了多種便利，包括業界領先的高性能預訓練工具鏈和預訓練ModelZoo，豐富易用的AppZoo，高效的遷移學習算法，以及全面兼容阿里巴巴PAI生態產品，給用户提供一個從模型訓練到部署的一站式服務。
阿里雲機器學習PAI團隊負責人林偉表示： 本次開源EasyTransfer代碼，希望把阿里能力賦能給更多的用户，降低NLP的預訓練和知識遷移的門檻，同時也和更多夥伴一起深入合作打造一個簡單，易用，高性能的NLP和遷移學習工具。
EasyTransfer工具的框架總覽
EasyTransfer的整體框架如下圖所示，在設計上儘可能的簡化了深度遷移學習的算法開發難度。框架抽象了常用的IO，layers，losses，optimizers, models，用户可以基於這些接口開發模型，也可以直接接入預訓練模型庫ModelZoo快速建模。框架支持五種遷移學習(TL)範式，model finetuning，feature-based TL, instance-based TL, model-based TL和meta learning。同時，框架集成了AppZoo，支持主流的NLP應用，方便用户搭建常用的NLP算法應用。最後，框架無縫兼容PAI生態的產品，給用户從訓練到部署帶來一站式的體驗。
業界領先的高性能預訓練工具鏈和預訓練ModelZoo
EasyTransfer框架支持工業級的分佈式應用場景，改善了分佈式優化器，配合自動混合精度，編譯優化，和高效的分佈式數據/模型並行策略，做到比社區版的多機多卡分佈式訓練在運算速度上快4倍多。基於這個高性能的分佈式底座，框架推出完整的預訓練工具鏈，方便用户預訓練語言模型如BERT和ALBERT。值得一提的是，基於該預訓練工具產出的模型在多個公開的榜單上取得好成績，比方説多輪對話榜單QuAC第一名（2019年10月），中文CLUE榜單取得第一名（2019年12月），和英文SuperGLUE榜單第二名。同時EasyTransfer集成了預訓練模型ModelZoo，支持BERT，ALBERT，XLNet等主流模型的Continual Pretrain和Finetune，也集成了在PAI平台上訓練的高質量預訓練模型和自研的電商場景多模態模型FashionBERT。
豐富易用的AppZoo & 知識蒸餾
EasyTransfer封裝了高度易用、靈活且學習成本低的AppZoo，支持用户在僅用幾行命令的條件下“大規模”運行“前沿”的開源與自研算法，即可迅速接入不同場景和業務數據下的NLP應用，包括文本向量化、匹配、分類、閲讀理解和序列標註等。並且集成了豐富知識蒸餾算法，使得用户能從參數量大、推理速度慢的大模型中蒸餾出參數少、推理性能高的可上線的小模型。比方説，EasyTransfer集成了任務自適應蒸餾模型AdaBERT，從神經架構搜索（NAS）這個全新的角度出發，搜索出最適合目標任務的小模型架構，在6個NLP經典任務上，將BERT模型壓縮到原來的1/17~1/10，推理加速達到原先的12 ~ 29倍。同時該模型相應論文已被AI頂級會議 IJCAI 2020 所接收。
高效的遷移學習算法
EasyTransfer框架支持所有主流的遷移學習範式，包括Model Fine-tuning, Feature-based TL, Instance-based TL, Model-based TL和Meta Learning。基於這些遷移學習範式開發了10多種算法，在阿里的業務實踐中取得了良好效果的效果。後續所有的算法都會開源到EasyTransfer代碼庫裏。在具體應用的時候，用户可以根據下圖來選擇一種遷移學習範式來測試效果。
集成適應多任務的自研元學習算法
EasyTransfer框架集成了基於元學習（Meta Learning）的多任務學習算法，支持用户在訓練特定任務的模型時利用其他任務的數據集進行學習增強。EasyTransfer集成了自研的元調優（Meta Fine-tuning）算法，借鑑元學習的思想，旨在學習預訓練語言模型跨領域的Meta-leaner，從而使得學習的Meta-leaner可以快速遷移到特定領域的任務上。該算法相應論文已被NLP頂級會議 EMNLP 2020 所接收。由於上述模型仍然具有參數量太大、推理速度慢的問題，EasyTransfer團隊進一步自研了元知識蒸餾算法，在蒸餾階段額外對Meta-leaner進行選擇性蒸餾，使得蒸餾得到的小模型在相應的領域的效果顯著提升，逼近原始模型的效果。相關的代碼和論文會在近期發佈。
全面兼容阿里巴巴PAI生態產品
EasyTransfer框架全面兼容PAI-Tensorflow，用户通過簡單的代碼或配置文件修改，就可以使用PAI自研高效的分佈式訓練，編譯優化等特性；同時框架完美兼容PAI生態的產品，在PAI Web組件（PAI Studio），開發平台（PAI DSW），雲原生訓練平台（PAI DLC），和PAI Serving平台（PAI EAS）上均可直接使用。
應用落地和創新的算法解決方案
EasyTransfer框架已在阿里集團內數十個NLP場景落地，包括智能客服、搜索推薦、安全風控、大文娛等，帶來了顯著業務效果的提升。目前EasyTransfer日常服務有上億次調用，月均訓練調用量超過5萬次。EasyTransfer團隊在落地業務的同時也沉澱了很多的創新的算法解決方案，包括元學習，多模態預訓練，強化遷移學習，特徵遷移學習等方向的工作，共合作發表了幾十篇頂級會議文章，下面列舉一些代表性工作。這些算法一部分已經開源，其他部分會在EasyTransfer框架裏陸續開源供廣大用户使用。
[EMNLP 2020]. Meta Fine-Tuning Neural Language Models for Multi-Domain Text Mining.2020.
[SIGIR2020] FashionBERT: Text and Image Matching for Fashion Domain with Adaptive Loss. 2020.
[IJCAI 2020] AdaBERT: Task-Adaptive BERT Compression with Differentiable Neural Architecture Search. 2020.
[KDD 2019]. A Minimax Game for Instance based Selective Transfer Learning. 2019.
[CIKM 2019]. Cross-domain Attention Network with Wasserstein Regularizers for E-commerce Search, 2019.
[WWW 2019]. Multi-Domain Gated CNN for Review Helpfulness Prediction, 2019.
[WSDM 2019]. Learning to Selectively Transfer: Reinforced Transfer Learning for Deep Text Matching. 2019.
[WSDM 2018]. Modeling Domain Relationships for Transfer Learning on Retrieval-based Question Answering Systems in E-commerce. 2018.
[ACL 2018]. Transfer Learning for Context-Aware Question Matching in Information-seeking Conversations in E-commerce. 2018.
[ICDM 2017]. A Short-Term Rainfall Prediction Model using Multi-Task Convolutional Neural Networks. 2017.
最後，EasyTransfer工具是中文CLUE社區官方推薦的toolkit。同時，阿里雲天池平台將攜手CLUE社區打造一個多任務語義理解的大賽，EasyTransfer為默認的開發工具，用户可以基於EasyTransfer輕鬆搭建多任務的baseline和進行建模和優化，敬請大家期待。