曾經很長一段時間里,業界都在談論是否有必要設立AI基準測試。如今看來,隨著人工智能對于算力的強烈渴求,如何發揮AI最大潛能、賦能數字化轉型正成為全行業最大挑戰,以 MLPerf? 為代表的AI基準測試的價值則愈發凸顯,在推動AI軟硬件發展、AI系統落地等方面發揮著重要作用。

近日,在最新的2021 MLperf? AI基準評測里,英偉達、浪潮、英特爾、高通、阿里巴巴等17家業界頂尖廠商在42個賽道參與角逐,競爭極為激烈,最終結果卻呈現出一邊倒的情況: 浪潮獲得18項性能第一, 英偉達獲得10項性能第一,兩家廠商占據了70%的冠軍榜單,浪潮更是創造了中國公司在 MLPerf? 基準測試中最佳成績。

有人說,計算產業正在加速從計算躍遷智算,從此次MLperf? AI基準評測中,我們不僅看到了人工智能算力快速發展的一角,更讀懂了智算時代的未來。

MLPerf?測試為何愈發重要

毫無疑問,人工智能進入到比拼算力的時代。專家直言,近年來人工智能對于算力的強烈渴求正在加速形成新摩爾定律,即在數據爆炸性增長和模型日趨復雜的驅動下,人工智能系統所需算力每3．43個月翻一倍。

例如,去年,OpenAI發布的超大模型GPT-3以1750億個模型參數、45TB預訓練數據、最大96層數驚艷了世界。與上一代模型相比,GPT-3模型在各方面迎來了指數級的變化,對于算力的需求也呈現出指數級的增長。

與傳統服務器成熟的SPC等測試體系相比,AI基準測試處于起步階段,卻在幫助AI開發者了解AI系統、開發AI系統產品、推動市場良性競爭和AI應用落地方面發揮著重要作用,這也是 MLPerf? AI基準測試近年來受到廣受業界關注的核心原因。

MLPerf? AI基準測試大有來頭,由圖靈獎得主David ?Patterson聯合斯坦福、哈佛大學等頂尖學術機構發起成立,近年來已經有英特爾、英偉達、谷歌、亞馬遜、阿里巴巴、微軟、百度、浪潮等70多個知名企業和機構積極參與,成為全球權威性最大、影響力最廣的AI性能基準測試。

某種程度而言,MLPerf?在以可復制的、公平可靠的基準測量方法推動機器學習行業和研究的發展,促進AI系統之間的良性競爭與長遠發展。例如,最新MLPerf? Inference V1．0基準,涵蓋了圖像分類、目標檢測、醫療圖像分割、自然語言處理、語音轉文字和推薦系統6類AI應用場景,分為數據中心和邊緣兩類處理場景,每類場景都包含固定任務(Closed)和開放優化(Open)兩類性能競賽,對于AI系統在行業中的落地極富參考價值。

可以說,以浪潮為代表的中國廠商在此次MLPerf? AI基準測試取得的成績極富含金量,標志著中國廠商在AI算力的創新探索和系統產品落地方面走在了業界最前沿。

厚積薄發,18項冠軍的背后

在本次MLPerf? AI基準測試中,浪潮NF 5488A5服務器和浪潮NE5260邊緣服務器,分別斬獲數據中心場景11項冠軍和邊緣場景7項冠軍。

具體來看,在數據中心固定任務競賽中,一共有13家廠商提交了584項競賽成績,競爭極為激烈,浪潮NF5488A5在其中全部16條賽道中斬獲11項冠軍,在全部21項基準測試中,浪潮同樣以11項獲得第一。

值得關注的是,NF5488A5屬于再次衛冕“性能王”。作為業界率先實現500W 80GB A100GPU的液冷散熱AI服務器,NF5488A5在系統拓撲上采用了超低延遲設計,并通過深度優化系統結構設計,實現在高溫、高負載環境中穩定運行,將2020年MLPerf? DLRM的最高推理性能提升了23．4%,同比2019年MLPerf? Resnet50的單機最高推理性能提升326%。

浪潮NF5488A5衛冕“性能王”

而在邊緣場景固定任務賽道中,一共有11家廠商提交326項競賽成績,競爭同樣異常激烈,浪潮NE5260首次亮相就一戰成名,斬獲7項目冠軍,在邊緣場景21項基準測試中,同樣獲得7項第一。

浪潮NE5260 采用專門針對邊緣計算出行家的設計,完美兼容CPU和GPU、FPGA等多種異構加速器,在追求邊緣場景極致AI性能的同時,打破物理空間限制,最大限度提升邊緣計算場景的部署體驗。

此外,參與評測的NF5488 M6也收獲了同等配置跡象9項最好成績,居同類服務器性能幫助。

事實上,浪潮此次在MLPerf? AI基準測試取得如此出色的成績,并不是為了打榜成績而做的“一蹴而就”行為,背后是其對于AI算力趨勢洞察、戰略布局、創新投入等長期積累的結果。

早在2016年AlphGo給世界一大彩蛋、AI計算方興未艾之際,浪潮就敏銳洞察到新型計算類型--智慧計算,認為隨著AI技術的迅猛發展,物理世界數字化、數字世界智能化進程進一步加速,智慧計算也開始崛起。

為此,浪潮在2016年首次提出了“智慧計算”戰略,明確智慧計算的框架:以云計算為平臺、以大數據為認知方法,以深度學習為優化工具,三者相互促進、相互融合、共同發展,衍生出一種新的計算類型為智慧計算。

此后,浪潮圍繞“智慧計算”戰略,不僅陸續提出“計算力就是生產力”、“人工智能是智慧計算的核心”、“智算中心”等先進理念,還在AI產品創新和生態建設上也不遺余力,成為業界擁有最為廣泛和極富競爭力AI產品線的廠商,并且連續多年位列全球AI服務器市場第一。

“冰凍三尺非一日之寒”。浪潮斬獲MLPerf? 18項冠軍,看似是一次打榜的偶然,恰恰是浪潮智慧計算戰略長期執行的必然。

從MLPerf?讀懂智算的未來

從MLPerf?最新榜單很難不讓人想到剛剛結束的浪潮IPF 2021大會。

隨著智慧場景在各個行業遍地開花,從計算到智算的變革正在加速,計算產業迎來新的格局,多元算力融合將成為關鍵,算力供給基建化將成為社會創新的支撐。為此,浪潮集團首席科學家王恩東院士在本次IPF大會上直指三大艱巨挑戰:計算場景復雜多元,訓練模型巨大與應用規模海量,產業鏈脫節與生態離散,需要在架構、產品、生態進行全面創新,來應對智算多元化、巨量化和生態挑戰。

此時的浪潮,已經不僅僅著眼于某些產品的創新,而是在積極構建云腦生態,聯合技術開放組織、部件上游廠商、模型數據伙伴等左手合作伙伴,以及智慧應用伙伴、行業方案伙伴、平臺供應商等右手合作伙伴,共同推動智算產品、技術的落地與應用。

可以說,浪潮此次在MLPerf?霸榜,不僅是其長期致力于AI產品創新的成果,更是從計算到智算的產業躍遷中,新模式、新技術、新生態的結晶。

面對未來,隨著多元算力需求的不斷提升,計算產業真正進入到創新大周期,無論是體系結構還是產品形態,都將迎來百花齊放的時代,聯合生態力量來加速AI在行業場景中的落地將成為必然之路。也正因為如此,浪潮堅持多年的智慧計算戰略才顯得極富前瞻性和彌足珍貴。

相信在未來,在計算產業新模式、新生態的加持下,浪潮在AI算力上必定能不斷突破,再攀高峰。