Apple 矽晶片的 AI 訓練速度將大幅受惠於一項新專案

 

Engineer Working On Server With AI Interface Overlay

一項提升 Apple 矽晶片上神經網路處理速度的新專案 mlx-graphs,有望將訓練大型資料集的速度增加十倍。

機器學習的專案遇到的最大問題之一,是在大型資料集上訓練模型,這得依賴龐大的運算能力來處理資料。由博士生 Tristan Bilot、Francesco Farina 和 MLX 團隊一起打造的新專案 mlx-graphs,有助於Graph Neural Networks (GNNs,圖像化神經網路)在 Apple 矽晶片上運作更有效率。圖像化神經網路用於預測節點、邊界,並執行以圖形為主的工作,在計算機視覺領域尤其有用。

mlx-graphs 專案以 MLX 為基礎,是專為 Apple 矽晶片發表的圖形神經網路函式庫。該計畫旨在為該領域的研究人員提供可觀的性能提升,可大幅提升模型訓練速度。

Bilot 聲稱,在對大型圖形資料集進行訓練時,該函式庫的初始基準測試運行速度可達 PyTorch Geometric 和 DGL 等框架速度的十倍。這是因為它採用專門針對 GNN 平行運算而設計的核心,在 M 系列晶片 GPU 上直接運算。

該項目仍處於早期階段,Bilot 承認「仍有足夠的空間做出重大貢獻」。但隨著其不斷進展,速度還有可能提升。

mlx-graphs 庫可於 GitHub 下載。在機器學習和生成式 AI 風潮下,創作內容以及向使用者提供資訊服務的方式已有大幅改變,催生出不少這類專案。以 Apple 為例,其內部研究人員建立一種用於製作圖像動畫的生成式 AI 工具,還有更多專案在 Xcode 工具中測試對 AI 的運用。Apple 執行長 Tim Cook 也談到,Apple 將在 2024 年末為使用者推出大量人工智慧功能。