6月30日消息，華為今日正式宣布開源盤古70億參數的稠密模型、盤古Pro MoE 720億參數的混合專家模型和基于昇騰的模型推理技術。
華為表示：“此舉是華為踐行昇騰生態戰略的又一關鍵舉措，推動大模型技術的研究與創新發展，加速推進人工智能在千行百業的應用與價值創造。”
根據華為官網顯示：
盤古Pro MoE 72B模型權重、基礎推理代碼，已正式上線開源平臺。
基于昇騰的超大規模MoE模型推理代碼，已正式上線開源平臺。
盤古7B相關模型權重與推理代碼將于近期上線開源平臺。
據悉，基于MoGE架構構建的盤古Pro MoE大模型（72B總參數、16B激活參數）在昇騰300I Duo和800I A2可實現更優的專家負載分布與計算效率（321 tokens/s和1528 tokens/s）。
而在模型能力方面，盤古Pro MoE在最新一期業界權威大模型榜單SuperCLUE上交出了超能打的成績。
和其他動輒千億以上的大模型相比，如DeepSeek-R1具有671B參數，盤古Pro MoE以72B總參數量達到了59分，千億參數量以內大模型排行并列國內第一。
并且，16B激活參數量可以媲美其他廠商更大規模的模型。
文章來源：
快科技
版權聲明：本文內容由互聯網用戶自發貢獻，該文觀點僅代表作者本人。本站僅提供信息存儲空間服務，不擁有所有權，不承擔相關法律責任。如發現本站有涉嫌抄襲侵權/違法違規的內容， 請發送郵件至23467321@qq.com舉報，一經查實，本站將立刻刪除;如已特別標注為本站原創文章的，轉載時請以鏈接形式注明文章出處，謝謝！
