騰訊開源Transformer推理加速工具

4月24日，騰訊宣佈開源Transformer推理加速工具TurboTransformers。該工具面向自然語言處理領域中Transformers相關模型豐富的線上預測場景，在微信、騰訊雲、QQ看點等產品的線上服務中已經廣泛應用，這也是騰訊通過Github對外開源的第100個項目。

據瞭解，TurboTransformers來自於深度學習自然語言處理基礎平台TencentNLP Oteam，作為基礎性技術版塊，率先進行了開源協同的實踐，旨在搭建統一的深度學習 NLP 基礎平台、提升研發效能。