6月10日，騰訊(xun)優圖(tu)實驗室(shi)宣布正式開源新一代移動(dong)端(duan)深度學習推理框架TNN，通過(guo)底層(ceng)技術優化實現在(zai)多(duo)個不同(tong)平臺的(de)輕(qing)(qing)量部署落地，性能優異、簡單(dan)易用。騰訊(xun)方(fang)面稱，基于TNN，開發者能夠輕(qing)(qing)松將深度學習算(suan)法移植到手機端(duan)高效的(de)執行，開發出人工智能 App，真正將 AI 帶到指(zhi)尖。

GitHub鏈接： //github.com/Tencent/TNN

輕(qing)量級部署，TNN助力深度學習(xi)提速增效

深度學習對算力(li)的巨大(da)需求一直制(zhi)約(yue)著(zhu)其更廣泛的落地，尤其是在移(yi)動端(duan)，由于(yu)手(shou)機(ji)處理器(qi)性能(neng)弱、算力(li)無(wu)法多(duo)機(ji)拓展、運(yun)算耗(hao)時長(chang)等因(yin)素常(chang)常(chang)導致(zhi)發熱和高(gao)功耗(hao)，直接影響到App等應用的用戶體驗。騰訊優圖基于(yu)自身在深度學習方面的技術積累，并(bing)借鑒(jian)業(ye)內主流框架優點，推出了針對手(shou)機(ji)端(duan)的高(gao)性能(neng)、輕量級移(yi)動端(duan)推理框架TNN。

TNN在(zai)設計(ji)之(zhi)初便(bian)將移動端(duan)高(gao)性能融入核心(xin)理念，對2017年開源(yuan)的ncnn框架(jia)進行了重構升(sheng)級。通過(guo)GPU深(shen)(shen)度調優、ARM SIMD深(shen)(shen)入匯(hui)編指(zhi)令調優、低精度計(ji)算等(deng)技術手段，在(zai)性能上取得(de)了進一(yi)步提升(sheng)。以下是MNN, ncnn, TNN框架(jia)在(zai)多(duo)款主流(liu)平臺的實測性能：