技術創新:蘋果在閃存上存儲大型語言模型(LLM)引領未來AI發展
(本篇文篇章共1135字,閱讀時間約1分鐘)

2023年12月22日,據多家媒體報道,蘋果正積極探索在閃存上存儲大型語言模型(LLM)的技術創新,并計劃將其引入iPhone、iPad和Mac等設備,以在資源有限的環境中提高人工智能(AI)的運行效率。這一突破性進展將有望讓強大的Siri、實時語言翻譯以及融入攝影和增強現實的AI功能成為未來iPhone的獨特賣點。
傳統上,大型語言模型需要占用大量CPU和內存資源。為了解決這一問題,蘋果的研究人員正在探索在有限內存設備上存儲LLM的可能性。在一篇新發表的論文中,蘋果詳細介紹了他們利用閃存芯片存儲AI模型數據的創新技術。由于iPhone和Mac計算機上閃存大量可用,這項技術使用了一種稱為“Windowing”的方法,通過重復使用已處理的數據,減少了對連續內存獲取的需求,從而提高了整個過程的速度。
具體而言,兩種關鍵技術被引入,分別是“窗口化(Windowing)”和“行列捆綁(Row-Column Bundling)”。前者實現了數據的有效分組,減少了對內存的頻繁讀取,而后者更有效地對數據進行捆綁,使得AI模型能夠更快地從閃存中讀取數據并提高其理解和生成語言的速度。
根據研究人員的介紹,這兩項技術的引入將使AI模型在iPhone可用RAM大小的兩倍范圍內運行,極大地提高了在標準處理器上的速度,最高可達5倍,在圖形處理器上更是可達25倍。
蘋果對AI的重視不斷顯現,從自家聊天機器人Apple GPT的推出到計劃中的iPhone 16系列搭載升級麥克風,以提升語音輸入功能。此外,有傳言稱,iOS 18將在明年正式到來時引入某種形式的生成式AI,進一步將蘋果推向人工智能技術的前沿。
這一技術創新有望為未來iPhone帶來更強大的AI功能,包括更智能的Siri、實時語言翻譯以及在攝影和增強現實領域的復雜AI驅動功能。蘋果的生成式AI模型,代號為“Ajax”,被認為將與OpenAI的GPT-3和GPT-4競爭,具有高度復雜性和強大的語言理解和生成能力,為蘋果的生態系統帶來更深層次的AI整合。
*免責聲明:以上內容整理自網絡,僅供交流學習之用。如有內容、版權問題,請留言與我們聯系進行刪除。
原文標題 : 技術創新:蘋果在閃存上存儲大型語言模型(LLM)引領未來AI發展
請輸入評論內容...
請輸入評論/評論長度6~500個字
最新活動更多
-
11月7日立即參評>> 【評選】維科杯·OFweek 2025(第十屆)物聯網行業年度評選
-
11月20日立即報名>> 【免費下載】RISC-V芯片發展現狀與測試挑戰-白皮書
-
即日-11.25立即下載>>> 費斯托白皮書《柔性:汽車生產未來的關鍵》
-
11月27日立即報名>> 【工程師系列】汽車電子技術在線大會
-
11月28日立即下載>> 【白皮書】精準洞察 無線掌控——283FC智能自檢萬用表
-
12月18日立即報名>> 【線下會議】OFweek 2025(第十屆)物聯網產業大會


分享













