M5 Ultra搭載Mac Studioの512GBメモリ構成、SSD1TBで3973800円、高い。 M5 UltraのSSDはどうやらPCIe Gen 5相当の帯域だそうなのでなるべく内蔵SSDは多く積みたいとすると妥協で4TB、できれば8TBあるとうれしい。 妥協中の妥協案としてはTB5(PCIe Gen 4相当)で外付けするとしたら1TBでも十分？でもさすがに2TBは欲しい。

256GB x2で良い説

同じ36コアCPU・80コアGPU、1TB SSDのままメモリを256GBにすると、合計は1903800円になる。 つまり256GBから512GBに増やすと、さらに207万円。メモリ容量が2倍になると、本体の総額まで約2倍になる。 単純に性能を求めるならGPUの頭数が多い256GBx2で良い。 リセールバリュー込で256GBを1台持っておくという妥協案もありえる。

DGX Spark x4

実はすでにM3 Ultraの512GBメモリ構成を家庭用のメインマシンとして運用しているが、この価格帯になると家庭用のレベルを超えている。 400万〜を検討するのはオフィスでLLMの推論サーバーとして運用する層だと思う。 で、GPU性能という点ではDGX Spark(もしくはその互換機)を複数台組み合わせると複数人でのスループットもよくてprefillが抜群でdecodeってのが有志によって検証されている。 4台構成だったら500万くらいで組めそうなので業務で使いたい人はこちらをおすすめする。