https://pc.watch.impress.co.jp/docs/column/nishikawa/2062248.html
https://asset.watch.impress.co.jp/img/pcw/docs/2062/248/H02_l.jpg
https://asset.watch.impress.co.jp/img/pcw/docs/2062/248/H03_l.jpg
さて肝心の速度であるが、何と120.47tok/s!!! M4 Max 128GBの70tok/sを軽く超えてしまった。動画からも分かるように爆速♪これだけのために10万円は価値があると言える(笑)。
引用元: ・RTX4090のVRAMを24GB→48GBに 工賃約十万円その性能はいかに！？ [618719777]
>>2
どゆこと？
参考までに、RTX PRO 6000 Blackwell(96GB)だと170tok/s以上出るとのこと。さすがに価格だけのことはある。
ファンのノイズに関しては、LLMや1枚程度の画像生成であればGPUへの負荷も少なく全く気にならないレベル。動画生成だと連続作動になるためやはり煩くなる印象。
既にGeForce RTX 3090とGeForce RTX 4090(24GB)を所有しており、加えて+10万円なら何とか……とは思うが、新たに購入しての改造となると約40万円(30万円+10万円)。一気だとかなりの出費になるため、内容の割に安いか？高いか？は状況にもよるといったところか。それ以前に新規の場合、GeForce RTX 4090(24GB)を入手できるのか!? という問題もあるだろう。
以上、24GBのGeForce RTX 4090を48GBに改造した結果などをご紹介した。予想通りLoRAの学習が速くなり、gpt-oss-120bは爆速へ。非常に満足度の高いものとなった。
とはいえこの件については当然メーカー保証は効かなくなり、中古で売れない、ドライバのアップデートで動かなくなる可能性、最悪何かの事故に繋がるパターンもあるだろう。ウルトラハイリスクだが、ハイリターンと言うのが今回の改造となる。筆者も編集部も保証しないので自己責任でお願いしたい。
一時、RTX PRO 6000 Blackwell(約150万円)やRTX PRO 5000 Blackwell(約80万円)も考えたのだが、VRAMは96GBか48GBだ。生成AI画像/動画ではめったに48GB超えは必要ない。LLMだとさらに多い128/256/512GBが欲しくなるところで、それならMac Studio/M3 Ultraで約60/90/150万円という選択肢が生まれるが、今はApple M5 Ultra登場の噂があり、今からApple M3 Ultraを買うのか？という悩みも生まれる。
とは言え、いずれにしても安易に手が出せる価格帯ではなく、これでいったん筆者のGPU増強計画は終わりとしたい。のだが、DGX Spark(互換機)をどうするか……(笑)！？
