觀察員
-
英偉達(dá)：創(chuàng)造DeepSeek-R1推理性能世界紀(jì)錄
-
湯普濟(jì)我在看著你
最后更新: 2025-03-19 12:41:25
（文/湯普濟(jì) 編輯/呂棟）
當(dāng)?shù)貢r間3月18日，英偉達(dá)CEO黃仁勛于GTC AI大會上發(fā)表演講，發(fā)布最新一代Blackwell Ultra GPU（GB300）。同日， 英偉達(dá)官方博客發(fā)布文章，宣布利用Blackwell架構(gòu)GPU實現(xiàn)DeepSeek-R1模型推理性能的世界紀(jì)錄。
英偉達(dá)此次利用單個配備八塊Blackwell架構(gòu)B200 GPU的英偉達(dá)DGX系統(tǒng)，在英偉達(dá)評價為“超大規(guī)模、最先進(jìn)的”DeepSeek-R1模型上，實現(xiàn)每用戶每秒可處理超過250個token的性能，或每秒最大吞吐量超過30000個token。
NVIDIA
英偉達(dá)于2025年1月30日在面向開發(fā)者的網(wǎng)站上發(fā)布NVIDIA NIM微服務(wù)版的DeepSeek，之后，英偉達(dá)不斷通過優(yōu)化推理生態(tài)，刷新DeepSeek-R1模型的吞吐量。英偉達(dá)聲稱，自1月以來，DeepSeek-R1 671B模型的吞吐量已被提高了約36倍，相當(dāng)于每token的成本降低了約32倍。
同時，英偉達(dá)聲稱，紀(jì)錄還將隨著Blackwell Ultra GPU和 Blackwell GPU在推理性能上的突破刷新。
據(jù)悉，英偉達(dá)此次發(fā)布的GB300是全球首個288GB HBM3E GPU，F(xiàn)P4推理性能可達(dá)去年發(fā)布的GB200的1.5倍，峰值可達(dá)15PFLOPS。將在2025年下半年出貨。
英偉達(dá)還預(yù)覽了下一代AI超級芯片——Vera Rubin，由Rubin GPU和Vera CPU組成。Vera CPU擁有88個定制Arm核心、176個線程。Rubin由兩塊掩模尺寸的GPU組成，擁有288GB HBM4內(nèi)存，F(xiàn)P4峰值推理能力可達(dá)50PFLOPS，相比GB300，整體性能可達(dá)3.3倍。
此外，英偉達(dá)還發(fā)布了用于加速AI模型推理的分布式推理服務(wù)庫NVIDIA Dyamo，據(jù)稱，在GB200 NVL72架構(gòu)上運行Dyamo推理，能使DeepSeek-R1模型的吞吐量提升30倍。
本文系觀察者網(wǎng)獨家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。
- 責(zé)任編輯: 湯普濟(jì)
-
英偉達(dá)宣布合作開發(fā)AI原生6G
2025-03-19 12:11 觀網(wǎng)財經(jīng)-科創(chuàng) -
手機(jī)汽車家電均不愁賣，小米去年營收3659億創(chuàng)新高
2025-03-19 07:38 觀網(wǎng)財經(jīng)-科創(chuàng) -
四川省長施小琳會見孟晚舟
2025-03-18 22:58 觀網(wǎng)財經(jīng)-科創(chuàng) -
-
格力地產(chǎn)：證券簡稱擬變更為“珠免集團(tuán)”
2025-03-18 22:30 -
特步2024年凈賺12億，創(chuàng)歷史新高
2025-03-18 19:53 觀網(wǎng)財經(jīng)-消費 -
茶咖日報｜蜜雪冰城新規(guī)檸檬不能過夜？部分門店已改24小時營業(yè)
2025-03-18 19:52 觀網(wǎng)財經(jīng)-消費 -
永輝超市或閉店350家！葉國富成立改革小組，原創(chuàng)始人投下反對票
2025-03-18 18:03 觀網(wǎng)財經(jīng)-消費 -
緩解育兒焦慮，梁建章建議推廣“共享爺爺奶奶”模式
2025-03-18 17:57 產(chǎn)業(yè)萬象 -
滴滴四季度訂單同比增長14.8%，中國出行日均3530萬單
2025-03-18 17:26 今日財經(jīng) -
“無法抵抗SHEIN和Temu”，美國知名快時尚品牌又要破產(chǎn)了？
2025-03-18 17:06 觀網(wǎng)財經(jīng)-消費 -
小米智能家電工廠將于下半年交付，最先量產(chǎn)空調(diào)
2025-03-18 16:51 觀網(wǎng)財經(jīng)-科創(chuàng) -
蘋果在iPad側(cè)面印上“中國制造”
2025-03-18 15:55 觀網(wǎng)財經(jīng)-科創(chuàng) -
美的人形機(jī)器人曝光：可能先在工業(yè)、商業(yè)場景得到應(yīng)用
2025-03-18 15:43 觀網(wǎng)財經(jīng)-科創(chuàng) -
華為被曝正測試原生磁吸無線充電
2025-03-18 14:36 觀網(wǎng)財經(jīng)-科創(chuàng) -
蘋果計劃在印度生產(chǎn)耳機(jī)，僅供出口
2025-03-18 14:31 觀網(wǎng)財經(jīng)-科創(chuàng) -
SpaceX確認(rèn)龍飛船已脫離國際空間站：將帶回兩名滯留宇航員
2025-03-18 14:22 觀網(wǎng)財經(jīng)-科創(chuàng) -
2月韓國芯片對華出口額同比下降31.8%
2025-03-18 14:18 觀網(wǎng)財經(jīng)-科創(chuàng) -
北美份額超50%，瓦楞紙包裝裝備龍頭破局全球化
2025-03-18 14:09 觀網(wǎng)財經(jīng)-科創(chuàng) -
李嘉誠深陷港口風(fēng)波，長和股價再“跳水”
2025-03-18 13:55
相關(guān)推薦 -
-
普京一腳把球踢回去了，特朗普這次接得住嗎？ 評論 32
美俄通話，“烏克蘭在菜單上” 評論 171
“整個歐洲，瑟瑟發(fā)抖” 評論 180
“中方在最后一刻續(xù)了，但美國牛肉還要等” 評論 136最新聞 Hot-
普京一腳把球踢回去了，特朗普這次接得住嗎？
-
普京讓特朗普等了一小時
-
美俄通話，“烏克蘭在菜單上”
-
美商務(wù)部長又演上了：跟中國做這個交易，出賣靈魂
-
他再辯解：全世界都搞錯了
-
普京沒同意?；?0天，特朗普回應(yīng)
-
普京嘲諷G7：地圖上都看不到
-
“緬泰邊境最多仍有10萬人在搞詐騙”
-
美俄通話后，美國大使館前標(biāo)語被換成了“我們在一起”
-
美法官首次叫停：可能違憲
-
美財長夸口：美國夢不能光靠買便宜中國貨
-
曹興信被逮捕
-
英國再威脅俄羅斯：小心點，歐洲還有武器
-
罕見！美國首席大法官公開反對特朗普
-
72小時內(nèi)，胡塞第4次攻擊美航母
-
“談了2小時28分，美俄領(lǐng)導(dǎo)人史上最長通話”
-
- 聯(lián)系我們
- 關(guān)于我們
- 版權(quán)聲明
- 服務(wù)條款
- 刊登廣告
- 聯(lián)系微博
- 加入我們
- 網(wǎng)站地圖
- 舉報鏈接
- 舉報制度規(guī)范
- 《網(wǎng)站自律管理承諾書》
Copyright ? 2014-2024 觀察者 All rights reserved。
滬ICP備10213822號-2 互聯(lián)網(wǎng)新聞信息服務(wù)許可證：31220170001
網(wǎng)登網(wǎng)視備（滬）02020000041-1號 互聯(lián)網(wǎng)宗教信息服務(wù)許可證：滬（2024）0000009
廣播電視節(jié)目制作經(jīng)營許可證：（滬）字第03952號
增值電信業(yè)務(wù)經(jīng)營許可證：滬B2-20210968 違法及不良信息舉報電話：021-62376571
滬公網(wǎng)安備 31010502000027號
中國互聯(lián)網(wǎng)舉報中心
上海市互聯(lián)網(wǎng)違法與不良信息舉報中心
