百度文心大模型4.5系列正式開源,同步開放API服務

百度文心大模型4.5系列正式開源,同步開放API服務

文章圖片

百度文心大模型4.5系列正式開源,同步開放API服務

文章圖片

百度文心大模型4.5系列正式開源,同步開放API服務




6月30日 , 百度正式開源文心大模型4.5系列模型 , 涵蓋47B、3B激活參數的混合專家(MoE)模型 , 與0.3B參數的稠密型模型等10款模型 , 并實現預訓練權重和推理代碼的完全開源 。 目前 , 文心大模型4.5開源系列已可在飛槳星河社區、HuggingFace等平臺下載部署使用 , 同時開源模型API服務也可在百度智能云千帆大模型平臺使用 。 早在今年2月 , 百度就已預告了文心大模型4.5系列的推出計劃 , 并明確將于6月30日起正式開源 。

文心大模型4.5系列開源模型
此次百度一次性推出10款文心大模型4.5系列開源模型 , 在獨立自研模型數量占比、模型類型數量、參數豐富度、開源寬松度與可靠性等關鍵維度上 , 均處于行業領先位置 。
據介紹 , 文心大模型4.5開源系列針對MoE架構提出了一種創新性的多模態異構模型結構 , 適用于從大語言模型向多模態模型的持續預訓練范式 , 在保持甚至提升文本任務性能的基礎上 , 顯著增強了多模態理解能力 , 其優越的性能主要得益于多模態混合專家模型預訓練、高效訓練推理框架和針對模態的后訓練等關鍵技術點 。
此外 , 文心大模型4.5開源系列均使用飛槳深度學習框架進行高效訓練、推理和部署 。 在大語言模型的預訓練中 , 模型FLOPs利用率(MFU)達到47% 。 實驗結果顯示 , 其系列模型在多個文本和多模態基準測試中達到SOTA水平 , 尤其在指令遵循、世界知識記憶、視覺理解和多模態推理任務上效果突出 。
在文本模型方面 , 文心大模型4.5開源系列基礎能力強、事實準確性高、指令遵循能力強、推理和編程能力出色 , 在多個主流基準評測中超越DeepSeek-V3、Qwen3等模型 。 在多模態模型方面 , 文心大模型4.5開源系列擁有卓越的視覺感知能力 , 同時精通豐富視覺常識 , 并實現了思考與非思考統一 , 在視覺常識、多模態推理、視覺感知等主流的多模態大模型評測中優于閉源的OpenAI o1 。 此外 , 在輕量模型上 , 文心4.5-21B-A3B-Base文本模型效果與同量級的Qwen3相當 , 文心4.5-VL-28B-A3B多模態模型也是目前同量級最好的多模態開源模型 , 甚至與更大參數模型Qwen2.5-VL-32B不相上下 。
【百度文心大模型4.5系列正式開源,同步開放API服務】
文心4.5預訓練模型在主流基準測試中表現優異

文心4.5-300B-A47B模型在主流基準測試中表現優異


文心多模態后訓練模型(支持思考、關閉思考)在多個多模態基準測試中達到SOTA水平
據了解 , 文心大模型4.5開源系列權重按照Apache 2.0協議開源 , 支持開展學術研究和產業應用 。 此外 , 基于飛槳提供開源的產業級開發套件 , 廣泛兼容多種芯片 , 降低模型的后訓練和部署門檻 。
作為國內最早投入AI研發的企業之一 , 百度在算力、框架、模型到應用的四層布局構建了明顯的AI全棧技術優勢 。 其中 , 飛槳是中國首個自主研發、功能豐富、開源開放的產業級深度學習平臺 , 基于多年飛槳開源技術與生態系統積累 , 此次文心大模型4.5開源系列同步升級發布文心大模型開發套件ERNIEKit和大模型高效部署套件FastDeploy , 為文心大模型4.5系列及開發者提供開箱即用的工具和全流程支持 。
值得關注的是 , 此次文心大模型4.5系列開源后 , 百度實現了框架層與模型層的“雙層開源” , 為行業樹立了新標桿 。

    推薦閱讀