騰訊混元開源翻譯模型1.5,可手機離線部署


【騰訊混元開源翻譯模型1.5,可手機離線部署】新京報貝殼財經訊(記者羅亦丹)12月30日 , 騰訊混元宣布推出并開源翻譯模型1.5 , 共包含兩個模型:Tencent-HY-MT1.5-1.8B 和 Tencent-HY-MT1.5-7B , 兩個模型均支持 33 個語種互譯以及5種民漢/方言 , 除了中文、英語、日語等常見語種 , 也包含捷克語、馬拉地語、愛沙尼亞語、冰島語等小語種 。 模型已在騰訊混元官網上線 , 通過開源社區也可以直接下載使用 。
騰訊方面表示 , HY-MT1.5-1.8B主要面向手機等消費級設備場景 , 經過量化 , 可支持端側直接部署和離線實時翻譯 , 1GB內存可流暢運行 , 并且在參數量極小的前提下 , 與主流商用翻譯模型API對比推理速度更快 , 處理50個tokens平均耗時0.18秒 , 其他模型的時間在0.4秒左右 。
在部分用戶實用場景下 , 混元翻譯1.8B和7B兩個尺寸模型同時使用 , 可以實現端側和云側模型的協同部署 。
編輯 岳彩周
校對 柳寶慶

    推薦閱讀