-
蘋(píng)果在谷歌芯片上訓(xùn)練AI,打響拋棄英偉達(dá)GPU第一槍?zhuān)?/h3>
最后更新: 2024-07-30 13:06:37美東時(shí)間7月29日,蘋(píng)果公司發(fā)布iPhone AI的首個(gè)預(yù)覽版,隨后發(fā)布論文,稱(chēng)其人工智能模型是在谷歌的TPU(張量處理單元)上訓(xùn)練的。論文中介紹了為支持Apple Intelligence功能而開(kāi)發(fā)的基礎(chǔ)語(yǔ)言模型,包括一個(gè)設(shè)計(jì)用于在設(shè)備上高效運(yùn)行的約30億參數(shù)模型和一個(gè)基于私有云計(jì)算的云側(cè)大模型。
蘋(píng)果基礎(chǔ)模型的建模概述蘋(píng)果官方發(fā)布論文
蘋(píng)果發(fā)布的論文稱(chēng),他們?cè)?192塊TPU v4芯片上訓(xùn)練云側(cè)AFM(Apple Foundation Model),使用4096的序列長(zhǎng)度和4096個(gè)序列的批量大小,進(jìn)行了6.3萬(wàn)億token訓(xùn)練。端側(cè)AFM在2048塊TPU v5p芯片上進(jìn)行訓(xùn)練。
蘋(píng)果的決定表明,一些大型科技公司在人工智能訓(xùn)練方面可能正在尋找英偉達(dá)圖形處理單元的替代品。
一些芯片行業(yè)媒體稱(chēng),這是蘋(píng)果打響了拋棄英偉達(dá)GPU的第一槍。
今年6月初,日本證券公司瑞穗證券估計(jì),英偉達(dá)控制著用于訓(xùn)練和部署OpenAI的GPT等模型的AI芯片市場(chǎng)的70%至95%。一些專(zhuān)家將英偉達(dá)在AI芯片市場(chǎng)的地位描述為護(hù)城河,其旗艦AI圖形處理單元GPU(例如H100)與該公司的CUDA軟件相結(jié)合,使其在競(jìng)爭(zhēng)中占據(jù)了先機(jī)。
包括谷歌、Meta、甲骨文和特斯拉在內(nèi)的科技公司一直在努力構(gòu)建自己的人工智能系統(tǒng)和產(chǎn)品。
心智觀察所研究員潘攻愚指出,蘋(píng)果宣布其Apple Foundation Model(AFM)在谷歌自主開(kāi)發(fā)的Tensor處理單元(TPU)進(jìn)行訓(xùn)練,而且還租用了谷歌的云服務(wù)。蘋(píng)果在AI訓(xùn)練方面的權(quán)衡折射出了英偉達(dá)通用型AI加速器和谷歌的ASIC定制化AI服務(wù)體系的競(jìng)爭(zhēng)升級(jí)。
谷歌自2015年以來(lái)一直在使用自主設(shè)計(jì)的TPU來(lái)訓(xùn)練和部署AI模型。不是設(shè)計(jì)通用處理器,而是將其設(shè)計(jì)為專(zhuān)門(mén)用于神經(jīng)網(wǎng)絡(luò)工作負(fù)載的矩陣處理器,在整個(gè)大量計(jì)算和數(shù)據(jù)傳遞過(guò)程中,根本不需要訪問(wèn)內(nèi)存。
今年5月,谷歌宣布推出了人工智能(AI)數(shù)據(jù)中心芯片Trillium,據(jù)稱(chēng)該芯片的速度相比之前的版本提升了幾乎5倍。該公司表示,這款芯片將用于開(kāi)發(fā)自己的模型,包括Gemini和Imagen。
谷歌稱(chēng),如果提前三年預(yù)訂,最新的TPU每小時(shí)使用成本不到2美元。谷歌于2015年首次推出TPU用于內(nèi)部工作負(fù)載,并于2017年向公眾開(kāi)放。它們現(xiàn)在是專(zhuān)為人工智能設(shè)計(jì)的最成熟的定制芯片之一。
盡管如此,谷歌仍是英偉達(dá)最大的客戶之一。它使用英偉達(dá) 的GPU和自己的TPU來(lái)訓(xùn)練AI系統(tǒng),并且還在其云端出售英偉達(dá)技術(shù)的訪問(wèn)權(quán)限。
“雖然英偉達(dá)目前控制著高達(dá)80%份額的高端AI芯片市場(chǎng),但剩余市場(chǎng)份額大多被大型云服務(wù)供應(yīng)商如谷歌、微軟、亞馬遜占據(jù)。這一次蘋(píng)果采用的谷歌TPUv5雖然在通用性上較英偉達(dá)同生態(tài)位芯片遜色,但主打一個(gè)性價(jià)比,綜合總成本(TCO)要低英偉達(dá)四倍,而且拿貨周期短。目前谷歌TPUv5所在的市場(chǎng)大約有300億美元,英偉達(dá)一直覬覦這塊‘肥肉’,但考慮到和谷歌微妙的競(jìng)合關(guān)系,英偉達(dá)目前還不會(huì)貿(mào)然大舉進(jìn)入ASIC領(lǐng)域?!迸斯ビ薹治龇Q(chēng)。
Meta首席執(zhí)行官馬克·扎克伯格和Alphabet首席執(zhí)行官桑達(dá)爾·皮查伊上周均發(fā)表評(píng)論稱(chēng),他們的公司和業(yè)內(nèi)其他公司可能在AI基礎(chǔ)設(shè)施上投資過(guò)度,但他們也承認(rèn),不這樣做的商業(yè)風(fēng)險(xiǎn)太高。一旦落后,將無(wú)法掌握未來(lái)10到15年最重要的技術(shù)。
本文系觀察者網(wǎng)獨(dú)家稿件,未經(jīng)授權(quán),不得轉(zhuǎn)載。
|舉報(bào)-
違反法律法規(guī) -
垃圾信息、廣告 -
色情、淫穢信息 -
人身攻擊 -
謠言、不實(shí)信息 -
冒充,冒用信息 -
破壞社區(qū)秩序 -
其他 -
涉未成年人有害信息
- 責(zé)任編輯: 李亞麗
-
10分鐘漲到1.8元,多地共享單車(chē)漲價(jià)
2024-07-30 10:07 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
吳清主席會(huì)見(jiàn)英國(guó)駐華大使吳若蘭
2024-07-29 21:00 金融觀察 -
-
10億投資臺(tái)灣,AMD和英偉達(dá)貼身肉搏
2024-07-29 18:35 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
國(guó)家電網(wǎng)投資將首次超過(guò)6000億元 特高壓建設(shè)高景氣有望延續(xù)
2024-07-29 17:56 能源戰(zhàn)略 -
抖音支付等16家機(jī)構(gòu)率先更換“新版”支付牌照
2024-07-29 11:40 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
恒大汽車(chē)附屬公司被申請(qǐng)破產(chǎn)重整
2024-07-29 08:09 觀方車(chē)訊 -
-
廣州上半年GDP超1.4萬(wàn)億元,同比增長(zhǎng)2.5%
2024-07-27 20:19 -
中信建投回應(yīng)實(shí)習(xí)生事件:系某團(tuán)隊(duì)負(fù)責(zé)人違規(guī)引入,已被撤職
2024-07-27 20:15 -
上半年深圳GDP1.73萬(wàn)億,同比增長(zhǎng)5.9%
2024-07-27 17:10 -
華為與聯(lián)發(fā)科互訴,最關(guān)心結(jié)果的是高通?
2024-07-27 11:01 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
香港要做的,是把股民從美股身上搶回來(lái)
2024-07-27 10:31 -
困在“調(diào)度費(fèi)”里的新鄭機(jī)場(chǎng)網(wǎng)約車(chē)司機(jī)
2024-07-26 21:02 -
中日匯率飆漲,正讓美元資產(chǎn)很難受
2024-07-26 18:55 觀網(wǎng)財(cái)經(jīng)-金融 -
證監(jiān)會(huì):研究謀劃進(jìn)一步全面深化資本市場(chǎng)改革開(kāi)放的一攬子舉措
2024-07-26 18:35 金融觀察 -
不應(yīng)泛化新質(zhì)生產(chǎn)力,什么好東西都往這個(gè)“筐”里裝
2024-07-26 16:09 2024中國(guó)經(jīng)濟(jì)季度觀察 -
俞敏洪:東方甄選不會(huì)再出現(xiàn)某個(gè)主播成立獨(dú)立平臺(tái)
2024-07-26 16:04 -
財(cái)政部:6月份全國(guó)共銷(xiāo)售彩票559.37億元,同比增長(zhǎng)14.8%
2024-07-26 15:22 -
開(kāi)啟內(nèi)測(cè)!OpenAI的搜索引擎要來(lái)了
2024-07-26 11:31 觀網(wǎng)財(cái)經(jīng)-科創(chuàng)
相關(guān)推薦 -
“特朗普不代表所有美國(guó)人,請(qǐng)別報(bào)復(fù)我們州” 評(píng)論 37中柬云壤港聯(lián)合保障和訓(xùn)練中心正式掛牌運(yùn)行 評(píng)論 143美股蒸發(fā)超5萬(wàn)億美元,“95年來(lái)最大政策失誤” 評(píng)論 347美國(guó)人瘋狂囤貨,“中國(guó)電視被買(mǎi)空” 評(píng)論 222最新聞 Hot
-
“特朗普不代表所有美國(guó)人,請(qǐng)別報(bào)復(fù)我們州”
-
中柬掛牌,洪瑪奈感謝中國(guó)
-
特朗普轉(zhuǎn)發(fā)“巴菲特支持特朗普經(jīng)濟(jì)政策”,巴菲特回應(yīng)了
-
演都不演了,特朗普顧問(wèn)直說(shuō):阿根廷得結(jié)束這份中國(guó)協(xié)議,不然…
-
中柬云壤港聯(lián)合保障和訓(xùn)練中心正式掛牌運(yùn)行
-
這一重大科研裝置,成功部署!
-
美媒關(guān)注:辛辣回?fù)籼乩势贞P(guān)稅,中國(guó)媒體用上AI歌曲和短片
-
特朗普再要求降息,鮑威爾:關(guān)稅遠(yuǎn)超預(yù)期,再等等
-
美股蒸發(fā)超5萬(wàn)億美元,“95年來(lái)最大政策失誤”
-
萬(wàn)斯:歐洲最大威脅不是中俄
-
魯比奧辯解:美國(guó)需要回到制造業(yè)時(shí)代
-
在美烏克蘭人限期7日離境?美官方:發(fā)錯(cuò)了
-
美股“血流成河”,特朗普選擇…去打高爾夫球
-
魯比奧告訴北約:特朗普快對(duì)普京沒(méi)耐心了
-
美國(guó)人瘋狂囤貨,“中國(guó)電視被買(mǎi)空”
-
美股三大股指收盤(pán)暴跌,納指進(jìn)入熊市
-