當?shù)貢r間4月9日,英特爾CEO帕特·基辛格亮出了最新AI芯片——Gaudi 3。目前,人工智能市場主要由Nvidia、AMD主導,英特爾正積極尋求突破,期望搶占市場份額。
圖片來源:英特爾
英特爾表示,Gaudi 3 AI加速器可通過以太網(wǎng)的通用標準連接多達數(shù)萬個加速器。與上一代產(chǎn)品相比,英特爾Gaudi 3將帶來4倍的BF16 AI計算能力提升,以及1.5倍的內(nèi)存帶寬提升。該加速器將為尋求大規(guī)模部署生成式AI的企業(yè)帶來AI訓練和推理方面的重大飛躍。
英特爾Gaudi 3預計可大幅縮短70億和130億參數(shù)Llama2模型,以及1750億參數(shù)GPT-3模型的訓練時間。
據(jù)英特爾稱,Gaudi 3芯片訓練性能比Nvidia的H100芯片高1.7倍,推理能力提高50%,能效提高40%,但成本低很多,將于2024年第三季量產(chǎn)并全面上市,價格未知。
基辛格在現(xiàn)場表示,Gaudi 3的性能將與英偉達H200相當,在某些領(lǐng)域的性能甚至會更好。但是他沒有給出具體數(shù)據(jù)。
圖片來源:英特爾
值得注意的是,外媒指出,H100是英偉達Hopper產(chǎn)品線中的老款芯片,在2022年發(fā)布。英偉達在去年又發(fā)布了H200,將于今年二季度正式開售,2024年3月英偉達展示了新的Blackwell B100和B200芯片。
英特爾表示,Gaudi 3已經(jīng)在Meta大模型Llama上做了測試,可以有效地訓練或部署AI大模型,包括文生圖的Stable Diffusion和語音識別的Whisper等等。
在現(xiàn)場,基辛格也展示了集成最新英特爾芯片的AI PC,能夠快速處理的多項任務,例如快速處理郵件、語音處理、圖像渲染等。
據(jù)了解,英特爾Gaudi 3采用臺積電5納米工藝制造。英特爾Gaudi 3將于2024年第二季度面向OEM廠商出貨,包括戴爾、惠普和超微電腦在內(nèi)的公司將使用該芯片。
當天,英特爾還分享了企業(yè)AI各細分領(lǐng)域的下一代產(chǎn)品和服務的最新信息。英特爾為面向數(shù)據(jù)中心、云和邊緣發(fā)布了下一代處理器英特爾至強6。配備能效核(E-cores)的英特爾至強6處理器將于2024年第二季度推出,配備性能核(P-cores)的英特爾至強6處理器將緊隨其后推出,帶來更高的AI性能。
英特爾想要打造一個廣泛的AI生態(tài)聯(lián)盟,推動企業(yè)在AI領(lǐng)域創(chuàng)新。
英特爾概述了面向開放的、可擴展的AI系統(tǒng)的戰(zhàn)略,其中包括硬件、軟件、框架和工具。當天,英特爾聯(lián)合多家公司宣布,將創(chuàng)建一個開放平臺助力企業(yè)推動AI創(chuàng)新。這一計劃旨在開發(fā)開放的、多供應商的生成式AI系統(tǒng),通過RAG(檢索增強生成)技術(shù),提供部署便利性、性能和價值。RAG可使企業(yè)在標準云基礎(chǔ)設(shè)施上運行的大量現(xiàn)存專有數(shù)據(jù)源得到開放大語言模型(LLM)功能的增強,加速生成式AI在企業(yè)中的應用。
免責聲明:文章內(nèi)容由微電子制造綜合,發(fā)布/轉(zhuǎn)載只作交流分享。如有異議請及時聯(lián)系,謝謝。
推薦閱讀
進群交流
掃碼添加管理員微信(備注“公司名稱+產(chǎn)品”,否則不予通過)入群交流拓寬人脈認識更多行業(yè)大咖
參考資料:
CSEAC
舉辦地區(qū):江蘇
開閉館時間:09:00-18:00
舉辦地址:無錫市太湖新城清舒道88號
展覽面積:48000㎡
觀眾數(shù)量:58000
舉辦周期:1年1屆
主辦單位:中國電子專用設(shè)備工業(yè)協(xié)會