Apple Silicon でローカル LLM を動かす
Apple 機を別に並べるのは、ユニファイドメモリが問い自体を変えるからです。収めるべき VRAM 上限はなく、価格と帯域だけが制約になります。
| # | ハードウェア | メモリ | 読み込み tok/s | 電力 | リグ | ローカル $/M | 回収 |
|---|---|---|---|---|---|---|---|
| 1 | Mac Studio M5 Ultra 96 GB | 96 GB | 2,285 | 360 W | $5,499 | $0.097 | 987 日 |
| 2 | MacBook Pro M5 Max 128 GB | 128 GB | 1,310 | 120 W | $6,699 | $0.103 | 1,178 日 |
| 3 | Mac Studio M5 Ultra 256 GB | 256 GB | 2,856 | 360 W | $10,799 | $0.129 | 1,482 日 |
| 4 | Mac Studio M5 Max 64 GB | 64 GB | 518 | 180 W | $3,799 | $0.143 | 1,653 日 |
| 5 | MacBook Pro M5 Max 64 GB | 64 GB | 518 | 120 W | $5,099 | $0.169 | 2,028 日 |
| 6 | Mac Studio M5 Max 128 GB | 128 GB | 518 | 180 W | $5,399 | $0.188 | 2,349 日 |
| 7 | Mac mini M5 Pro 64 GB | 64 GB | 259 | 110 W | $2,899 | $0.207 | 2,691 日 |
| 8 | Mac Studio M4 Max 128 GB | 128 GB | 447 | 145 W | $6,500 | $0.241 | 3,111 日 |
| 9 | Mac Studio M3 Ultra 512 GB | 512 GB | 480 | 330 W | $9,499 | $0.548 | 15,577 日 |
これらのリストが扱わないこと
- ユニファイドメモリは OS とすべてのアプリで共有されるため、実際に使える上限は公称より小さくなります。制約は容量より帯域であることが多いです。
- 数値はすべて単一ワークロードのシングルストリーム実測です。マルチユーザー配信、ファインチューニング、サーバー向け製品は挙動が異なります。