11月8日消息，阿里巴巴達摩院公布多模態(tài)大模型M6最新進展，其參數(shù)已從萬億躍遷至10萬億，規(guī)模遠超谷歌、微軟此前發(fā)布的萬億級模型，成為全球最大的AI預(yù)訓(xùn)練模型。同時，M6做到了業(yè)內(nèi)極致的低碳高效，使用512塊GPU在10天內(nèi)即訓(xùn)練出具有可用水平的10萬億模型。相比去年發(fā)布的大模型GPT－3，M6實現(xiàn)同等參數(shù)規(guī)模，能耗為其1％。

【什么是超大規(guī)模預(yù)訓(xùn)練模型】

目前，人工智能正迅速普及并應(yīng)用到人們的日常生活，但仔細觀察會發(fā)現(xiàn)，這些技術(shù)主要集中在“感知層面”，比如聽覺、視覺等。但需要外部知識、邏輯推理的“認知層面”，人工智能尚處于初級階段。

“認知智能”被認為是下一代人工智能的關(guān)鍵性突破。而超大規(guī)模預(yù)訓(xùn)練模型則被認為是認知智能的基礎(chǔ)設(shè)施。

當前，企業(yè)應(yīng)用AI技術(shù)面臨前期投入大、開發(fā)時間長等痛點，AI技術(shù)高昂的使用門檻將絕大多數(shù)企業(yè)拒之門外。Gartner的研究報告顯示，37％的企業(yè)已經(jīng)或即將部署AI模型，但仍有大量中小企業(yè)未享受到人工智能技術(shù)帶來的利好。大規(guī)模預(yù)訓(xùn)練模型的出現(xiàn)或?qū)�徹底改變�(nèi)斯ぶ悄艿膽?yīng)用現(xiàn)狀。

大規(guī)模預(yù)訓(xùn)練模型基于復(fù)雜的預(yù)訓(xùn)練目標和龐大的模型參數(shù)，將豐富的知識存儲到大量參數(shù)的隱式編碼中，使其能夠完成多種下游任務(wù)，即便是新任務(wù)，也能夠通過動態(tài)學(xué)習(xí)來完成。

借助大規(guī)模預(yù)訓(xùn)練模型， 企業(yè)應(yīng)用AI技術(shù)的前期投入將大幅下降，其不再需要前期就投入大量資金和時間研發(fā)定制化模型。

2020年8月，GPT－3模型的面世可謂人類AI史的里程碑事件。GPT－3是美國非盈利機構(gòu)OpenAI發(fā)布的GPT第三代模型，被譽為“最接近通用人工智能”的模型。GPT－3不僅支持多種不同類型的任務(wù)， 包括改語法錯誤、寫文章（ 寫詩） 、聊天、算數(shù)、答題、翻譯等， 還能夠通過小樣本動態(tài)學(xué)習(xí)， 解決從未遇到過的任務(wù)， 從而具備成為通用解決方案的能力。

【阿里達摩院的超大規(guī)模多模態(tài)預(yù)訓(xùn)練模型M6】

鑒于大規(guī)模預(yù)訓(xùn)練模型的強大與高效， 國內(nèi)頭部科研機構(gòu)如阿里、華為、智源研究院也都先后發(fā)布了自研的大規(guī)模預(yù)訓(xùn)練模型。

其中，M6是由阿里達摩院聯(lián)合清華大學(xué)研發(fā)，中國首個萬億參數(shù)的超大規(guī)模多模態(tài)預(yù)訓(xùn)練模型。

據(jù)悉，M6的優(yōu)勢在于將大模型所需算力壓縮到極致，通過一系列技術(shù)突破，達摩院和阿里云只用了480塊GPU就訓(xùn)練出了M6，相比英偉達用3072塊GPU訓(xùn)練萬億模型、谷歌用2048塊TPU訓(xùn)練1．6萬億模型（1 TPU約等于2～3GPU），M6省了超過八成算力，還將效率提升了近11倍。

阿里達摩院的M6定位是主打多模態(tài)、多任務(wù)能力，目標是成為全球領(lǐng)先的具有通用性的人工智能大模型。

【M6的商業(yè)化應(yīng)用】

隨著M6參數(shù)規(guī)模的擴大，AI的認知和創(chuàng)造能力不斷升級。阿里研究人員發(fā)現(xiàn)，M6在繪畫、寫作、問答、文字生成圖片領(lǐng)域均有驚人的表現(xiàn)，可以生成1024＊1024分辨率宛如實物的高清圖片，比此前海外公司OpenAI最高紀錄提升4倍。

不僅如此，M6更是首個真正進入商用的多模態(tài)通用大模型。目前，M6已作為AI小助理在阿里新制造平臺犀牛智造上崗，可實現(xiàn)快速設(shè)計、試穿效果模擬。M6還已應(yīng)用在支付寶、淘寶等平臺，參與跨模態(tài)搜索、文案撰寫、圖片設(shè)計等工作。

M6根據(jù)文本內(nèi)容，自動設(shè)計特定風(fēng)格圖片

舉個例子，按照淘寶目前的搜索系統(tǒng)，用戶在淘寶上搜索商品名稱或類別時，通常會用到關(guān)鍵詞搜索，但對于用戶一些十分特別的商品特征需求，商家未必能夠把特征關(guān)鍵詞全部羅列出來。比如，用戶可能想要尋找一個表面凹凸的咖啡杯，但商家一般不會把這樣的細節(jié)寫在商品描述中，用戶難以快速搜索到這種商品。

但多模態(tài)大模型M6可以做到，目前M6已建立了從文本到圖片的匹配能力。這意味著，AI通過識別圖片就可以知道商品的所有細節(jié)特征，AI會把這些細節(jié)特征記錄成文本，用戶無論搜索什么“奇葩”的特征，系統(tǒng)都能幫用戶找到相對應(yīng)的商品。

未來，M6或?qū)⒔�立從文字到視頻內(nèi)容的認知能力，為搜索形態(tài)帶來變革。