<p id="iuri5"><del id="iuri5"></del></p>
  • <p id="iuri5"></p>
  • 
    

      機房360首頁
      當前位置:首頁 ? 廠商動態 ? 英偉達的野心:“AI原生”徹底顛覆數據中心

      英偉達的野心:“AI原生”徹底顛覆數據中心

      來源:華爾街見聞 作者: 更新時間:2023/8/10 8:40:41

      摘要:英偉達發布新一代GH200 Grace Hopper超級芯片平臺,專為加速計算和生成式AI時代而打造。

      英偉達發布新一代GH200 Grace Hopper超級芯片平臺,專為加速計算和生成式AI時代而打造。

      黃仁勛指出,為了滿足生成式 AI 不斷增長的需求,數據中心需要有針對特殊需求的加速計算平臺。新的GH200芯片平臺提供了卓越的內存技術和帶寬,提升無損耗連接GPU聚合性能的能力,并且擁有可以在整個數據中心輕松部署的服務器設計。

      值得一提的是,大模型浪潮來襲,催生各種AI原生應用,帶動算力需求激增,專為應對數據密集型人工智能應用的數據中心市場正迅速崛起。

      數據中心迎來新變革

      據華爾街日報報道,分析師們指出,隨著老牌云計算供應商競相為數據中心改裝先進芯片和進行其他升級,以滿足人工智能軟件的需求,一些新興的建設者看到了從零開發新設施的機會。

      數據中心類似于一個大型倉庫,配備了多架服務器、網絡和存儲設備,用于存儲和處理數據。與傳統數據中心相比,AI數據中心擁有更多使用高性能芯片的服務器,因此AI數據中心服務器每個機架的平均耗電量可達50千瓦或更多,而傳統數據中心每個機架的耗電量大約為7千瓦。

      這意味著AI數據中心需要增建能夠提供更高功率的基礎設施,由于額外的用電量會產生更多的熱量,AI數據中心還需要其他冷卻方法,如液體冷卻系統,以防止設備過熱。

      服務和咨詢公司Unisys高級副總裁Manju Naglapur指出:

      專門建造的人工智能數據中心可容納利用人工智能芯片(如英偉達的GPU)的服務器,在人工智能應用篩選龐大的數據存儲時,可同時運行多個計算。這些數據中心還配備了光纖網絡和更高效的存儲設備,以支持大規模的人工智能模型。

      AI數據中心是高度專業化的建筑,需要投入大量的資金和時間。研究公司Data Bridge Market Research數據顯示,到2029年,全球人工智能基礎設施市場的支出預計將達到4225.5 億美元,未來六年的復合年增長率將達到44%。

      DataBank首席執行官Raul Martynek表示,人工智能的部署速度很可能會導致數據中心容量在未來12到24個月內出現短缺。

      AI算力新秀獲得23億美元融資

      目前,各路巨頭都在押注AI數據中心,“地產標桿”黑石賣房轉投AI數據中心。Meta也曾表示,將建設一個新的人工智能數據中心。

      此前文章提到,AI算力新秀CoreWeave,拿英偉達H100抵押貸款,獲得債務融資23億美元(約165億人民幣)。

      CoreWeave表示,這筆資金將用于加快建設人工智能數據中心,這是該公司繼今年4月獲得2.21億美元和5 月獲得2億美元后的又一次融資。CoreWeave成立于六年前,目前已有7個人工智能數據中心上線,預計到今年年底將翻一番。

      CoreWeave正與英偉達以及Inflection AI合作建一個超大型AI服務器集群,目標是運行2.2萬塊英偉達H100。如果建成,將成為全球最大的AI服務器集群。

      值得一提的是,根據CoreWeave官網宣傳,他們的服務比傳統云計算廠商便宜80%。英偉達最新的HGX H100服務器,內含8張80G顯存的H100和1T內存那種,起步價每小時只要2.23美元(16塊人民幣)。

      而相比前代平臺,新GH200 Grace Hopper平臺的雙芯片配置將內存容量提高3.5倍,帶寬增加三倍,一個服務器就有144個Arm Neoverse高性能內核、8 petaflops 的 AI 性能和282GB的最新HBM3e內存技術。

      難怪在這個LLM大爆炸的時代,黃仁勛依然大膽放話“買得越多,省得越多”!

      責任編輯:Cherry

      機房360微信公眾號訂閱
      掃一掃,訂閱更多數據中心資訊

      本文地址:http://www.thatfreebiesite.com/news/2023810/n0835154151.html 網友評論: 閱讀次數:
      版權聲明:凡本站原創文章,未經授權,禁止轉載,否則追究法律責任。
      轉載聲明:凡注明來源的文章其內容和圖片均為網上轉載,非商業用途,如有侵權請告知,會刪除。
      相關評論
      正在加載評論列表...
      評論表單加載中...
      • 我要分享
      推薦圖片
      片源丰富、内容全面_亚洲A∨综合色区无码一区_亚洲91在线_精品国产在天天线在线