8月15日，科大訊飛在星火認知大模型發(fā)布會上，與華為共同發(fā)布一款用于企業(yè)構(gòu)建專屬大模型的軟硬件一體化設(shè)備“星火一體機”，讓所有企業(yè)都可以在國產(chǎn)自主創(chuàng)新的平臺上自主、安全、可控地私有化部署大模型。
科大訊飛董事長劉慶峰在發(fā)布會上介紹稱：“星火一體機可用于大模型的訓練和推理，企業(yè)拎回去，開箱即可用。每一家企業(yè)，每一個行業(yè)、每一個學校、每個醫(yī)院都可以有機會構(gòu)建自己的專屬大模型。”
他還表示，正在與華為打造面向超大規(guī)模參數(shù)大模型訓練的國產(chǎn)算力的集群，對標英偉達的A100芯片。A100是目前在大模型訓練市場上應用最廣泛的芯片。
(資料圖片)
另據(jù)第一財經(jīng)記者獨家證實，星火一體機使用的是華為尚未官方對外發(fā)布的昇騰910B人工智能芯片。今年8月1日，華為在官網(wǎng)上公布了昇騰910B NPU驅(qū)動和固件升級指南。
一位業(yè)內(nèi)人士告訴第一財經(jīng)記者：“華為昇騰910B芯片的性能從未對外公布，但最近華為在業(yè)內(nèi)大力推廣這一平臺，而且它的性能與上一代的910相比，應該絕對不是一個量級。”
第一財經(jīng)記者了解到，星火一體機也是910B芯片首個對外商業(yè)化應用產(chǎn)品。上個月，科大訊飛就與華為宣布，打造基于中國自主創(chuàng)新的通用智能新底座。一方面，訊飛星火認知大模型基于訓練推理一體化設(shè)計，實現(xiàn)大模型稀疏化、低精度量化的技術(shù)突破，能高效適配昇騰AI，加速大模型的行業(yè)落地應用和迭代；另一方面，以昇騰AI為核心，軟硬件協(xié)同優(yōu)化，構(gòu)建算力集中、性能優(yōu)越、供給穩(wěn)定、數(shù)據(jù)安全的大模型訓練集群。
據(jù)介紹，星火一體機提供從底層算力、AI框架、訓練算法、推理能力、應用成效等全棧AI能力，可用于問答系統(tǒng)、對話生成、知識圖譜構(gòu)建、智能推薦等多個領(lǐng)域的應用，具備大模型預訓練、多模態(tài)理解與生成、多任務(wù)學習和遷移等能力。
劉慶峰表示：“華為與科大訊飛將共同在生成式軟硬件平臺上，把高算力、高性能的算子庫，多卡的高速互聯(lián)以及分布式存儲結(jié)合起來，尤其是我們聯(lián)合針對人工智能所需要的最重要的算子庫進行甄別和打磨，在此基礎(chǔ)上架構(gòu)科大訊飛的訓練和數(shù)據(jù)閉環(huán)的全流程設(shè)計，以及訓練和推理一體化設(shè)計的自研的大模型訓練平臺。”
劉慶峰稱，目前該平臺在單卡算力上已經(jīng)能夠?qū)擞ミ_的A100芯片。“現(xiàn)在我們基本按照國產(chǎn)的芯片來規(guī)劃了，因為我們已經(jīng)不能買美國芯片了，除了早期有的那些（英偉達）的算力外，我們現(xiàn)在必須全部國產(chǎn)化。”他表示。
訊飛星火大模型擁有130億、650億和1750億三個版本的模型參數(shù)可選，圍繞星火大模型，科大訊飛也在構(gòu)建開發(fā)者生態(tài)，目前已經(jīng)有4000多個助手開發(fā)者團隊加入星火平臺。
在媒體采訪中談及星火大模型未來是否會走向開源時，劉慶峰說道：“我們會做一部分開源，但是肯定不會全部開源，開源的部分主要是為了推動科研、高校研發(fā)這些目的，我們會給他們一份開源。”
關(guān)鍵詞：
