針對 Apple 矽晶片最佳化的 AI 開發工具 MLX

Apple 針對自家的矽晶片推出的 MLX 機器學習框架，是專為 Apple M 系列 CPU 上執行機器學習而特製的開放原始碼框架。目前人工智慧當道，Apple 自然不可能缺席這場盛會，正積極佈局人工智慧的技術發展。

MLX 解決了 Apple 獨特架構與軟體的相容性及效能問題。 MLX 提供使用者友善的設計，汲取 PyTorch、Jax 和 ArrayFire 等框架的優點。MLX 的推出，為 Apple 設備上訓練和部署人工智慧學習模型提供更簡化的流程。

在架構上，MLX 最特別的是其支援統一記憶體模型（unified memory model），意味著矩陣位於共享記憶體中，可跨所有支援裝置執行，毋需來回複製資料。簡而言之，統一記憶體可讓 GPU 與電腦的 RAM 共享其 VRAM。相較於 PC 還得加裝具有大量 vRAM 的 GPU，Mac 僅是基本款機型的 RAM 就能完成所有操作。對於想要靈活執行人工智慧專案的開發人員來說，此功能相當重要。

Apple 開發了 CoreML 和 MLX 框架來協助人工智慧開發人員。CoreML 可輕鬆轉換如 TensorFlow 等開放原始碼的機器學習工具包所訓練的模型，針對 Apple 裝置最佳化。而 MLX 專注於直接在 Apple 硬體上有效地創建和執行機器學習模型，為 Apple 生態系統的創新和開發提供工具。MLX 的基準測試有良好表現。它相容於 Stable Diffusion 和 OpenAI 的 Whisper 等工具。 值得注意的是 MLX 的效率，它在較高 batch size 下產生影像的速度優於 PyTorch。

隨著人工智慧持續快速發展，MLX 代表 Apple 生態系中的一個重要里程碑：它不僅克服技術上的挑戰，更為 Apple 裝置上人工智慧和機器學習研究和開發，開闢了新的可能性。