-
華為推出DeepSeek訓(xùn)/推一體機,國產(chǎn)芯片迎來新機遇?
-
連政guanchazhewanxgun
DeepSeek的熱潮,終于帶火了AI一體機產(chǎn)品?這種頗具“中國特色”的AI硬件,能否給國產(chǎn)芯片的普及再加一把火?
2月16日,據(jù)“華為數(shù)據(jù)存儲”公眾號消息,華為DCS AI解決方案針對DeepSeek的本地部署,推出了DS版FusionCube A3000訓(xùn)/推超融合一體機,深度適配DeepSeekV3&R1及蒸餾模型,支持私有化部署。
配置清單顯示,DS版的FusionCube A3000訓(xùn)/推超融合一體機有三種型號,分別為Ultra(滿血版)、Pro(蒸餾版)和 Lite(蒸餾輕量版)。
其中滿血版可以完美適配DeepSeek-R1、V3的671B模型,硬件使用2個華為Atlas800l A2,處理速度達到671B: 1911 token/s 。而蒸餾版則配備1個Atlas800l A2,適配DeepSeek R1-Distill-Qwen-32B、Llama-70B等蒸餾模型,處理速度 70B: 3300 token/s,32B: 4940 token/s。
Atlas800l A2是華為推出的鯤鵬920+昇騰 AI處理器的AI推理服務(wù)器,應(yīng)用于深度學(xué)習(xí)模型開發(fā)和AI推理服務(wù)場景,目前面向公有云、互聯(lián)網(wǎng)、運營商、政府、交通、金融、高校、電力等領(lǐng)域,用于企業(yè)機房部署和大規(guī)模數(shù)據(jù)中心集群部署。
軟件方面,DS版訓(xùn)/推超融合一體機使用大模型訓(xùn)練、推理和應(yīng)用開發(fā)的華為ModelEngine AI平臺,該平臺基于昇騰AI芯片,通過推理框架優(yōu)化和MoE存算協(xié)同,提供動態(tài)換入換出和全局統(tǒng)一緩存,實現(xiàn)推理高并發(fā)和低時延。2月6日,華為對外宣布,ModelEngine平臺全面支持DeepSeek大模型R1&V3和蒸餾系列模型的本地部署與優(yōu)化,開發(fā)者可通過該平臺實現(xiàn)上述DeepSeek大模型的“一鍵部署”。
近一段時間以來,DeepSeek線上算力的嚴重不足,帶火了大模型本地部署需求,許多廠商開始營銷各類AI一體機產(chǎn)品。
2月5日,聯(lián)想與國內(nèi)AI芯片廠商沐曦聯(lián)合發(fā)布基于DeepSeek 大模型的一體機解決方案,采用ThinkStation PX工作站為載體,搭載沐曦曦思N260 GPU。
2月14日,中科曙光也發(fā)布了全國產(chǎn)的DeepSeek超融合一體機,該一體機采用全國產(chǎn)技術(shù)路線,選用國產(chǎn)X86 CPU和國產(chǎn)GPGPU加速卡,支持全精度、半精度混合訓(xùn)練與推理。
中科曙光的DS超融合一體機
在模型適配方面,中科曙光一體機同樣全面適配DeepSeek系列模型,如DeepSeek V3、DeepSeek R1和DeepSeek Janus Pro,還支持全系列量化蒸餾版本。同時,對QWen2.5、LLama3.2、ChatGLM等主流大模型也全面兼容,滿足各種業(yè)務(wù)場景需求。
中科曙光公眾號的文章,就毫不吝惜地稱呼該一體機為“國貨之光”,將為政府和企業(yè)的數(shù)字化、智能化轉(zhuǎn)型按下“加速鍵”。
實際上,AI一體機并不是最近才出現(xiàn)的新事物。在中國市場上,由于大量企業(yè)不愿意為單純的軟件和算力付費,或者處于數(shù)據(jù)安全等原因傾向于將硬件本地部署,因此把軟硬件打包在一起的“一體機”一直擁有獨特的生存空間。
作為對比,盡管英偉達也推出了Jetson系列的硬件集成平臺,但是主要用于機器人和嵌入式邊緣計算等場景,而非去做通用大模型的推理。
不過,隨著大模型推理成本的降低,以及C端用戶需求的增長,英偉達也將目光投向了個人市場。今年早些時候,英偉達就推出了個人超級計算機“Project DIGITS”,該產(chǎn)品搭載英偉達全新GB10超級芯片,最高可提供達1 PFLOPS的AI性能,主要用于AI大模型的原型設(shè)計、微調(diào)及運行。
Project DIGITS(左下角類紙盒物品)號稱全球最小的可運行 200B 參數(shù)模型的 AI 超級計算機。英偉達官網(wǎng)
英偉達表示,GB10超級芯片讓Project DIGITS只需使用標準電源插座就能提供強大的性能。借助 Project DIGITS,用戶則可以使用自己的桌面系統(tǒng)開發(fā)和運行模型推理,并在加速的云或數(shù)據(jù)中心基礎(chǔ)設(shè)施上無縫部署模型。同時,用戶還可以通過英偉達技術(shù)將兩臺Project DIGITS AI超級計算機連接在一起,運行包含高達4050億參數(shù)的模型。
華為DS版FusionCube A3000以及中科曙光的DS超融合一體機價格暫不清楚,而英偉達面向個人的消費級Project DIGITS的具體售價約在3000美元左右,今年晚些時候上市。
本文系觀察者網(wǎng)獨家稿件,未經(jīng)授權(quán),不得轉(zhuǎn)載。
- 責(zé)任編輯: 連政 
-
韓國芯片巨頭要停用中國EDA?
2025-02-17 15:50 觀網(wǎng)財經(jīng)-科創(chuàng) -
美年健康7天5板,AI醫(yī)療板塊熱度不減
2025-02-17 11:29 股市 -
深度對話|AI眼鏡“百鏡大戰(zhàn)”,跑對方向比搶跑更重要?
2025-02-16 16:46 觀網(wǎng)財經(jīng)-科創(chuàng) -
頭部主播的下半場:就此隱身,還是學(xué)習(xí)胖東來?
2025-02-15 17:00 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
又落地?中國企業(yè)的數(shù)據(jù)中心正在海外擴張
2025-02-15 15:55 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
奔馳集團董事長向中方表態(tài)
2025-02-14 21:54 -
騰訊元寶接入滿血版DeepSeek,可切換雙模型
2025-02-14 21:30 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
“鯰魚”京東,打響2025年“品質(zhì)外賣”第一槍
2025-02-14 21:20 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
馬云現(xiàn)身長沙盒馬
2025-02-14 21:12 -
百度放棄閉源,但或許回歸了最初的自己
2025-02-14 19:41 -
“蘋果股價正越來越依賴中國”
2025-02-14 18:52 觀網(wǎng)財經(jīng)-科創(chuàng) -
2024年我國國際收支貨物貿(mào)易順差同比增長近三成
2025-02-14 18:12 -
頂級域名認證Deepseek?ai.com的前世今生
2025-02-14 16:49 觀網(wǎng)財經(jīng)-科創(chuàng) -
榮耀DeepSeek-R1聯(lián)網(wǎng)版正式上線
2025-02-14 14:31 觀網(wǎng)財經(jīng)-科創(chuàng) -
美團啟動新一輪“騎手超時免罰”試點:扣分不扣錢
2025-02-14 14:30 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
本源量子:本源悟空全球訪問量破2000萬次,境外美國排第一
2025-02-14 14:01 科技前沿 -
力帆科技更名千里科技,“AI+車”劍指全球智能出行高地
2025-02-14 10:51 觀網(wǎng)財經(jīng)-科創(chuàng) -
百度突然宣布下一代文心大模型開源
2025-02-14 10:44 -
牽手阿里后,傳蘋果AI仍會與百度合作
2025-02-14 10:23 大公司 -
央行去年總資產(chǎn)減少1.65萬億,專家:央行縮表不代表貨幣緊縮
2025-02-14 07:56 宏觀經(jīng)濟
相關(guān)推薦 -
-
多家美企施壓中國供應(yīng)商降價,“中方不會容忍” 評論 160升級!美防長撂狠話,胡塞:瞄準所有美軍艦只 評論 183國安部曝光4名“臺獨”網(wǎng)軍分子 評論 443“特朗普想搞新世界秩序,但美元要先遭殃” 評論 66“因為普京不喜歡”,特朗普將自家俄烏特使降格 評論 58最新聞 Hot
-
多家美企施壓中國供應(yīng)商降價,“中方不會容忍”
-
“我和普京約好時間了,要談發(fā)電廠和資產(chǎn)分割”
-
“什么時候了還在指望美國,癡心妄想!”
-
“出差”8天,“加班”9個月,終于看到了回地球的曙光
-
升級!美防長撂狠話,胡塞:瞄準所有美軍艦只
-
中國頂尖人才來自美國?斯坦福博士“真相”了
-
莫迪對華最新表態(tài)
-
“民主黨支持率跌至歷史新低”
-
香港《大公報》再發(fā)文:飲水思源有擔(dān)當(dāng),背靠祖國謀發(fā)展
-
美方直說了:做好“割地”準備吧,加入北約也沒戲
-
怕美國針對,法國總理“窩里橫”:歐盟這么搞不對
-
菲警方:若ICC需要,可配合逮捕杜特爾特盟友
-
方濟各病重住院后的首張照片公布
-
馬克龍“硬杠”:不需要俄方許可
-
“特朗普想搞新世界秩序,但美元要先遭殃”
-
“因為普京不喜歡”,特朗普將自家俄烏特使降格
-