從微軟遷出被視為試圖減少對(duì)英偉達(dá)圖形處理單元的依賴,這些單元需求量很大,供應(yīng)短缺。
微軟的人工智能芯片代號(hào)為Athena,專為數(shù)據(jù)中心服務(wù)器而設(shè)計(jì)。預(yù)計(jì)Athena將與Nvidia的旗艦H100 GPU競(jìng)爭(zhēng),后者正被微軟和其他云提供商用于為大型語(yǔ)言模型和其他AI應(yīng)用程序提供動(dòng)力。
該信息于5月4日首次報(bào)道雅典娜。該芯片預(yù)計(jì)將在定于11月14日至17日舉行的Microsoft Ignite會(huì)議上亮相。
為了降低運(yùn)行生成式人工智能模型的成本,微軟自 2019 年以來一直在開發(fā)一種名為 Athena 的人工智能芯片。
根據(jù)說法,雅典娜背后的想法有兩個(gè)目的。微軟高管意識(shí)到,該公司在構(gòu)建自己的內(nèi)部芯片方面落后于谷歌和亞馬遜,一位了解此事的消息人士告訴The Information。
此外,據(jù)報(bào)道,微軟正在尋找更便宜的替代品,并決定制造更便宜的芯片。超過300名微軟員工在芯片上工作。
Athena的發(fā)展正值人工智能芯片需求不斷增加的時(shí)候,特別是對(duì)于需要大量計(jì)算能力來訓(xùn)練和操作的大型語(yǔ)言模型。因此,人工智能芯片的短缺推高了產(chǎn)品價(jià)格。
谷歌和亞馬遜正在開發(fā)自己的人工智能芯片,這表明人工智能芯片市場(chǎng)將快速增長(zhǎng)。
據(jù)知情人士透露,OpenAI還在探索制造自己的人工智能芯片,甚至已經(jīng)評(píng)估了潛在的收購(gòu)目標(biāo)。通過這樣做,ChatGPT之父希望減少對(duì)英偉達(dá)和其他芯片制造商的依賴。它還可以幫助微軟降低成本并提高其云服務(wù)的性能。
據(jù)知情人士透露,至少?gòu)娜ツ觊_始,OpenAI一直在討論各種選擇,以解決該公司所依賴的昂貴人工智能芯片短缺的問題。
選擇包括構(gòu)建自己的人工智能芯片,與包括英偉達(dá)在內(nèi)的其他芯片制造商更緊密地合作,以及多元化進(jìn)入英偉達(dá)以外的供應(yīng)商。
OpenAI拒絕置評(píng)。
OpenAI首席執(zhí)行官Sam Altman已將收購(gòu)更多人工智能芯片作為公司的首要任務(wù)。他曾公開抱怨GPU的稀缺性,這是一個(gè)由英偉達(dá)主導(dǎo)的市場(chǎng)。英偉達(dá)控制著全球80%以上的芯片市場(chǎng)份額,最適合運(yùn)行人工智能應(yīng)用程序。
獲得更多芯片的努力與Sam Altman發(fā)現(xiàn)的兩個(gè)主要問題有關(guān):為OpenAI軟件提供動(dòng)力的先進(jìn)處理器短缺;與操作硬件相關(guān)的“壓倒性”成本,以支持他們的項(xiàng)目和產(chǎn)品。
自 2020 年以來,OpenAI 一直在微軟建造的巨型超級(jí)計(jì)算機(jī)上開發(fā)生成式人工智能技術(shù),使用 10000 個(gè) Nvidia GPU。
生成式人工智能是一種人工智能,經(jīng)過編程,可自動(dòng)生成新內(nèi)容,如文本、圖像、音頻和視頻。它與其他人工智能系統(tǒng)的不同之處在于從現(xiàn)有數(shù)據(jù)中預(yù)測(cè)結(jié)果。生成式人工智能系統(tǒng)不依賴于訓(xùn)練數(shù)據(jù),而是能夠自行生成新的、更豐富的數(shù)據(jù)。
使用OpenAI運(yùn)行ChatGPT是昂貴的。根據(jù)伯恩斯坦銀行的Stacy Rasgon的分析,每次查詢的成本約為4美分。如果 ChatGPT 查詢?cè)鲩L(zhǎng)到谷歌搜索量的十分之一,OpenAI 最初每年將需要價(jià)值約 481 億美元的 GPU 和價(jià)值約 16 億美元的芯片才能維持生計(jì)。
開發(fā)自己的人工智能芯片的努力將使OpenAI進(jìn)入谷歌,亞馬遜和微軟等一小群大型科技公司,這些公司正試圖控制對(duì)其業(yè)務(wù)至關(guān)重要的芯片的設(shè)計(jì)過程。
目前還不清楚OpenAI是否會(huì)繼續(xù)其制造定制芯片的計(jì)劃。據(jù)業(yè)內(nèi)資深人士稱,這樣做將是一項(xiàng)重大的戰(zhàn)略舉措,也是一項(xiàng)每年可能花費(fèi)數(shù)億美元的重大投資。即使為這項(xiàng)任務(wù)投入資源,OpenAI也不能保證成功。
收購(gòu)一家芯片公司可能會(huì)加快OpenAI自己的芯片構(gòu)建過程,就像亞馬遜一樣,通過在2015年收購(gòu)Annapurna Labs。
據(jù)一位熟悉OpenAI計(jì)劃的人士稱,該公司研究了它對(duì)可能的收購(gòu)目標(biāo)進(jìn)行事實(shí)核查的程度。OpenAI的目標(biāo)公司的身份尚不清楚。
即使OpenAI繼續(xù)實(shí)施定制芯片計(jì)劃,包括收購(gòu),這項(xiàng)工作也可能需要數(shù)年時(shí)間。與此同時(shí),該公司仍然依賴Nvidia和Advanced Micro Devices等商業(yè)芯片供應(yīng)商。
一些大型科技公司多年來一直在構(gòu)建自己的處理器,但結(jié)果有限。據(jù)路透社報(bào)道,Meta Platforms生產(chǎn)定制芯片的努力遇到了問題,促使該公司逐步淘汰其部分人工智能芯片。Facebook所有者正在開發(fā)一種可以支持各種人工智能工作的新型芯片。
OpenAI考慮生產(chǎn)自己的人工智能芯片可能表明,它正朝著減少對(duì)微軟依賴的方向發(fā)展。
半導(dǎo)體研究公司SemiAnalysis的分析師迪倫·帕特爾表示,由于人工智能聊天機(jī)器人運(yùn)行的昂貴技術(shù)基礎(chǔ)設(shè)施,世界上有這么多人使用ChatGPT,OpenAI每天可能花費(fèi)超過700萬美元。原因是 ChatGPT 需要巨大的計(jì)算能力來響應(yīng)用戶請(qǐng)求。
"大部分成本是基于OpenAI需要的昂貴服務(wù)器,“Dylan Patel告訴The Information。
在與Insider的電話中,Dylan Patel表示,OpenAI現(xiàn)在運(yùn)營(yíng)ChatGPT的成本更高,因?yàn)樗畛醯墓烙?jì)是基于GPT-3模型。
帕特爾說,OpenAI的最新型號(hào)GPT-4運(yùn)行成本更高。
SemiAnalysis的其他分析師Dylan Patel和Afzal Ahmad表示:“訓(xùn)練OpenAI的大型語(yǔ)言模型可能花費(fèi)數(shù)千萬美元。然而,操作或推理成本遠(yuǎn)遠(yuǎn)超過以任何合理規(guī)模部署大型語(yǔ)言模型的訓(xùn)練成本。
"事實(shí)上,ChatGPT 的推理成本超過了每周的培訓(xùn)成本,“他們強(qiáng)調(diào)說。