久久ER99热精品一区二区-久久精品99国产精品日本-久久精品免费一区二区三区-久久综合九色综合欧美狠狠

新聞中心

EEPW首頁 > 智能計算 > 業界動態 > 英特爾以全棧軟硬件布局,擁抱人工智能發展新機遇

英特爾以全棧軟硬件布局,擁抱人工智能發展新機遇

作者: 時間:2023-09-04 來源:電子產品世界 收藏

今日,數據中心與集團副總裁兼中國區總經理陳葆立在2023年中國國際服務貿易交易會的中國創新發展論壇上,發表題為“面向中國市場的AI戰略”的演講。陳葆立從通用計算和加速計算兩個維度出發,詳細闡述了如何通過全面的異構產品組合以及開放的軟件棧,與廣泛的中國生態伙伴持續探索和創新,以把握AI時代機遇,創造無限可能。

陳葆立指出,“致力于創造改變世界的技術,英特爾自1985年進入中國以來,始終通過不斷的技術變革,為中國客戶創造更高價值,推動更深層的本地創新和發展。在AI‘黃金時代’的初期,憑借在芯片制造和創新領域的深厚積累,英特爾也正利用自身的行業領先優勢,通過在云、網絡、邊緣、客戶端等領域的全方位布局,為行業的持續發展提供助力。”

image.png

AI的數據流包括廣泛而復雜的工作負載和多模態數據集。而面對AI的計算需求,并沒有一種通用的解決方案。如今,受多重技術和經濟因素影響,很大一部分AI工作負載是在通用處理器上運行。x86架構的大規模普及和其內置的AI能力使通用處理器已經成為解決AI數據流的理想解決方案。

基于此,英特爾在企業級硬件方面,打造內置英特爾?高級矩陣擴展(英特爾? AMX)加速引擎的第四代英特爾?至強?可擴展處理器,提供比上一代高達10倍的AI推理和訓練性能提升,并實現對大多數大型AI模型,包括實時、中等吞吐量、低延遲稀疏推理,以及中、小型規模的訓練和邊緣推理的支持。此外,還通過廣泛的生態系統、專用于簡化流程的軟件工具以及優化的編譯器,讓客戶能夠更輕松部署英特爾解決方案,以及持續對更高級別軟件堆棧的投入,如oneAPI和OpenVINO,讓開發者更輕松地使用其所熟悉的AI框架。

基于集成英特爾?AMX的第四代英特爾?至強?可擴展處理器,百度也打造自身的自然語言處理模型ERNIE-Tiny。這款百度在飛槳文心大模型核心產品上推出的輕量化版本,在引入英特爾? AMX之后,整體推理性能得到多倍提升,同時也使其在通用CPU平臺上獲得令人滿意的推理效能,從而能進一步擴大普范圍,幫助更多用戶在既有IT設施中更為方便地部署文心模型。

而面臨爆炸式增長的個人電腦AI應用,英特爾在提供強大硬件的同時,也通過可擴展的軟件棧加持,讓更多開源模型能夠運行在個人的客戶端上。一方面,第13代英特爾?酷睿?處理器通過XPU加速、低位量化、軟件優化以及對16GB及以上內存容量的支持,使得高達160億參數的大型語言模型能夠通過BigDL-LLM框架在個人電腦上運行。而英特爾?銳炬?Xe顯卡和英特爾銳炫?顯卡通過硬件優化和精度控制,能夠穩定地支持FP16精度的深度學習模型推理。這對于加速深度學習工作負載,提高計算效率具有重要意義。另一方面,英特爾亦通過可擴展的軟件棧支持通用AI框架,使得用戶可以輕松地在不同框架中進行模型推理。

盡管英特爾至強?可擴展?處理器可以運行諸多AI工作負載,但為支持更大的模型規模和滿足廣泛的系統需求,需要采用異構計算的方法,使用不同的計算架構。對于這些應用場景,英特爾?數據中心GPU Max系列和Gaudi深度學習加速器可提供硬件支持。其中,英特爾全新Gaudi2處理器于今年7月面世中國市場。作為英特爾從云到端產品組合的重要組成,為深度學習而生的Gaudi2致力于以多方位性能與能效比提升,加速AI訓練及推理。值得注意的是,其出色的性能表現亦在近期公布的MLCommons? MLPerf?基準測試1中得到充分驗證,與其他同類產品相比,是大規模部署AI的更優解。而得益于SynapseAI?軟件套件的優化,Gaudi2在簡化模型的開發和遷移方面也獨具優勢。

一直以來,英特爾始終在中國積極推動技術轉型,不僅加速PC在中國的普及率,也通過與廣大本地生態伙伴的深入合作,推動云計算和邊緣計算發展,賦能行業的數字化轉型。在浪潮呈席卷之勢的當下,英特爾也將利用自身的深厚積淀與前沿洞察,與生態伙伴一同緊抓行業發展新機遇,為AI在中國的全面綻放注入源源不斷的動力。

注釋:1. https://mlcommons.org/en/training-normal-30


評論


相關推薦

技術專區

關閉