macos 跑EXO

A.什麼是EXO?

EXO 在X算是熱門,就是它可以將macOS/linux Cluster 跑大模型,而且是十分簡單就可以實現,跑出來的效果還相當不錯,幾個重點是:

1.使用mac min 暫用空間小

2.花費電力低,溫度也低

3.連接設備簡單,thunderbolt 完成

4.價格不貴,貨源多,一台mac mini 不到4k,已經可以跑.15b,cluster 幾台已經很快

B. 安裝 miniconda

由於exo 需要python 3.12 以上,而且需要很多東西,個人測試後最簡單還是用conda,方法如下,粘貼到終端機執行就可以

mkdir -p ~/miniconda3
curl https://repo.anaconda.com/miniconda/Miniconda3-latest-MacOSX-arm64.sh -o ~/miniconda3/miniconda.sh

bash ~/miniconda3/miniconda.sh -b -u -p ~/miniconda3

rm ~/miniconda3/miniconda.sh

安裝完成後開啟一個新的終端機(其實沒開也是可以的)

conda init --all

這樣miniconda 就完成安裝了,接下來要安裝MLX

C.安裝MLX

要求macOS 是13.5以上

pip install mlx

conda install conda-forge::mlx

D.安裝git

直接使用conda 安裝git就可以,和pip 一樣

conda install git

E.安裝EXO

git clone https://github.com/exo-explore/exo.git

cd exo

pip install -e .

source install.sh

F.執行EXO

exo

vmware macos for amd

記錄一下自己裝vmware macos 的方法,弄了很多次,終於成功了。

很多方法,基本來自http://bbs.weiphone.com/read-htm-tid-1628444.html 這裡,但是基於不同的電腦有不同的問題出現,所以我記錄我的方法。

由於是amd 的機,所以安裝選擇了darwin_snow_legacy.iso 做為引導,然後再換為10.6.3的dmg來安裝,裝前要在disk utility格式化硬盤 ,接下來很順利的安裝完,完成後會顯示錯誤,重啟就是,把光碟換回darwin_snow_legacy.iso選擇macos 就可以順利進入。

接下來就是重點,10.6.3基本沒什麼玩,要裝xcode 最少要10.6.6,因此要升級。進入系統後,先裝vmware tools, 裝完,下載驅動:http://sourceforge.net/projects/vmsvga2/files/

主要是下載audio的,下載完安裝就是,然後下載10.6.6的升級

http://support.apple.com/kb/dl1349

然後下載legacy_kernel-10.6.0.pkg,這個是必須的東西。

東西下載完後,以我個人經驗,先把vmware 的檔案全部備份,為什麼要備份呢?就是避免升級失敗要重新安裝macos,很浪費時間,只要備份了,然後覆蓋一下就還原了。

先安裝combo update, 安裝完會提示重啟,不要按重啟,開啟legacy_kernel 進行安裝(這個應該是破解吧),裝完再重啟。假如沒有安裝legacy_kernel 會出現mouse keyboard無法控制的情況。

雖然以上步驟做了,但我出現的事就是升級後用darwin_snow_legacy引導會出現cpu 無法支援的提示,然後就重啟,我嘗試了把引導換成Rebel EFI.iso,然後macos 就能成功進入,接著就可以裝xcode 4 了。

已經折騰了不少時間,感覺裝vmware macos 比實體機難多了。不過既然成功就算了,我的macbook pro 還沒回來,又想繼續學習object c, 只能這樣了。

最後,本人機子:AMD athlon 7750 32 bit windows 7 , vmware 7.0