LGはExaone大規模言語モデルファミリーを動かすサーバーに同社のRNGD(レネゲード)チップを採用する。RNGDは16ビット精度で256テラFLOPS、8ビット精度で512テラFLOPSの浮動小数点性能を持ち、メモリは48GBのHBM3を2スタック搭載し1.5TB/sの帯域幅を実現する。消費電力は180ワットで、LGの7か月間の厳格な評価では従来のGPUソリューションより最大2.25倍高い電力効率を示した。FuriosaAIのCEOであるJune Paikは、同社が約3か月前にMetaから8億ドルの買収提案を事業戦略や組織構造に関する意見の相違により断ったことを明かした。
LGとの提携により、RNGDは電子、金融、通信、バイオテクノロジー分野の企業向けにExaone 4.0プラットフォームを通じて展開される。
(中略)
一方で、RNGDには技術的な限界も存在します。単体での処理能力は最新のNvidia H100やB200には及ばず、複数チップでの並列処理が前提となります。また、PCIe 5.0を使用した128GB/sの接続では、Nvidiaの独自NVLink(1TB/s以上)と比較して帯域幅の制約があることも事実です。
しかし、専門家は「FuriosaAIが推論市場を主要ターゲットとするのは賢明な戦略」と評価しています。訓練市場がNvidiaとCUDAに支配されているのに対し、推論市場はより多様で競争が開かれているからです。

引用元: ・韓国人、世界最速のGPUに開発に成功、NVIDIA比で2.25倍電力効率、Facebookの買収提案を断りLGから発売 [422186189]
最初から16bitで狙ったのね
コメント