蘋果「一呼百應」的號召力在機器學習領(lǐng)域似乎也不例外。新版 Mac 推出還不到兩周,谷歌就把專為 Mac 優(yōu)化的 TensorFlow 版本做好了,訓練速度最高提升到原來的 7 倍。
對于開發(fā)者、工程師、科研工作者來說,Mac 一直是非常受歡迎的平臺,也有人用 Mac 訓練神經(jīng)網(wǎng)絡,但訓練速度一直是一個令人頭疼的問題。
上周,蘋果發(fā)布了搭載 Arm 架構(gòu) M1 芯片的三款新 Mac,于是就有人想問:用它們訓練神經(jīng)網(wǎng)絡能快一點嗎?
今天,主流機器學習框架 TensorFlow 發(fā)文表示:我們專門做了一版為 Mac 用戶優(yōu)化的 TensorFlow 2.4 框架,M1 版 Mac 和英特爾版 Mac 都能用。這一舉動有望大幅降低模型訓練和部署的門檻。
此前,在 Mac 上,TensorFlow 僅支持將 CPU 用于訓練,但新的 tensorflow_macos 分支利用蘋果的 ML Compute,能讓 GPU 也被利用起來。蘋果在博客中介紹說:「我們使用了更高級別的優(yōu)化方法,比如熔合層,選擇合適的設備類型,將圖作為原語編譯、執(zhí)行并由 CPU 上的 BNNS 和 GPU 上的 Metal Performance Shader 加速?!?/p>
ML Compute 是蘋果公司今年推出的新框架,可用于在 Mac 上進行 TensorFlow 模型的訓練?,F(xiàn)在,無論新的 M1 版 Mac 還是舊的英特爾版 Mac,其 CPU 和 GPU 都能用來加快訓練速度。
M1 芯片包含新的 8 核 CPU 和最多 8 核的 GPU,并針對 Mac 的機器學習訓練任務進行了優(yōu)化。下面兩張圖表分別展示了針對 Mac 優(yōu)化后的 TensorFlow 2.4 在不同模型訓練中的性能提升:
上圖展示了使用 ML Compute 分別在搭載 M1 和英特爾芯片的 13 英寸 MacBook Pro 上進行機器學習訓練的情況。柱形的高度代表單批次的訓練時長??梢钥闯?,優(yōu)化后的 Mac 版 TensorFlow 2.4 的訓練速度得到了明顯提升。在換成 M1 版的新 MacBook Pro 之后,提升就更為明顯了,訓練速度最高提升了 7 倍。
同樣使用 ML Compute,在搭載英特爾芯片的 2019 Mac Pro 上進行常見模型的訓練,性能提升也相當明顯。
TensorFlow 官方表示,用戶不需要對現(xiàn)有的 TensorFlow 腳本做任何更改,就可以使用 ML Compute 作為 TensorFlow 和 TensorFlow 插件的后端。
Mac 版 TensorFlow 2.4 的詳細入門指南可以參見:https://github.com/apple/tensorflow_macos
M1 版 Mac 對機器學習用戶的影響
蘋果曾在發(fā)布會上介紹說,M1 芯片將蘋果的神經(jīng)網(wǎng)絡引擎引入了 Mac,實現(xiàn)了 15 倍的機器學習任務加速。該神經(jīng)網(wǎng)絡引擎有 16 個核心,每秒運算速度可達 11 萬億次。除此之外,配置了 ML 加速器的 CPU 和強大 GPU(稱霸集顯,媲美部分獨顯)也使得整個 M1 芯片的機器學習能力得到巨大提升。
圖源:https://medium.com/disruptive-nerd/how-is-the-apple-m1-going-to-affect-machine-learning-2d9da1beef86
性能的提升毋庸置疑,但軟件兼容也是一個很大的問題。在 M1 版 Mac 發(fā)布之后,不少開發(fā)者都在問:我的 VS Code/Docker/Juypter Notebook…… 還能在新 Mac 上用嗎?
VSCode:最快月底就能做出來
在蘋果發(fā)布會之后不久,微軟 VS Code 團隊就發(fā)文表示,「VS Code 將支持 ARM 版 Mac,11 月底可能推出首個預覽版?!?/p>
Mac/ARM64 試驗版地址 https://code.visualstudio.com/insiders/#osx
此外,微軟還宣布將發(fā)布一款新的通用版 Mac Office 2019,支持新版蘋果處理器。
Docker:在安排,但還沒準備好
在 11 月 16 日的一篇博客中,Docker 的開發(fā)者表示,他們還沒有準備好讓 Docker 在 M1 版 Mac 上運行,在這之前還需要做很多準備。
Docker 表示,「我們 Docker 的目標是在新的 Mac 上提供與今天在 Docker Desktop for Mac 上同樣出色的體驗,并使這種過渡盡可能地無縫?!埂笧槲覀兊目蛻舸蛟旌线m的體驗意味著在我們推送一個版本之前,要把不少事情做好。雖然蘋果已經(jīng)發(fā)布了 Rosetta 2 轉(zhuǎn)譯器,以幫助將應用程序轉(zhuǎn)移到新的 M1 芯片上,但這并不能讓我們與 Docker Desktop 一路同行?!?/p>
至于 Juypter Notebook 等軟件,目前還沒有官方消息放出。不過,隨著蘋果不斷將生態(tài)打通,正在有越來越多的軟件開發(fā)商表示將開發(fā)適配 M1 版 Mac 的新產(chǎn)品。