Tweeter Breaking News-ツイッ速!
海外

中国、革命的AI「1ビット脳」を発表、既存GPUはすべてゴミに →??!

中国、革命的AI「1ビット脳」を発表、既存GPUはすべてゴミに →??!
1: hage(茸) [JP] 2024/02/29(木) 08:34:52.48 ID:PRp2fWw60 BE:422186189-PLT(12015)
sssp://img.5ch.net/ico/folder1_03.gif
Microsoftの中国チームがとてつもないLLMをリリースした。それが「BitNet 1.58Bits」だ。

もともとMicrosoftはかねてから「1ビット量子化」の研究を続けて来た。しかし、32ビット浮動小数点での計算が主流な時代にはあまりに野心的で荒唐無稽なプロジェクトに見えていたのは否めない。しかし、現在、大規模言語モデル(LLM;Large Language Model)は8ビット、4ビットで量子化されるのが当たり前になり、量子化しても性能劣化はある程度まで抑えられることも知られるようになった。

昨年10月に発表した「BitNet」は、多くの人々が他のことに気を取られていてほとんど話題にならなかった。
そんな中、満を持して発表された1ビットLLMの性能に関するレポートは、衝撃的と言っていい内容だ。論文のタイトルも堂々と「The Era of 1-bit LLM(1ビットLLMの時代)」としている。

彼らが発表したグラフを引用しよう。

https://wirelesswire.jp/2024/02/86094/

引用元: ・中国、革命的AI「1ビット脳」を発表、既存GPUはすべてゴミに [422186189]

2: hage(茸) [JP] 2024/02/29(木) 08:35:29.27 ID:PRp2fWw60 BE:422186189-PLT(12015)
sssp://img.5ch.net/ico/folder1_03.gif
まず、最近主流になっている70B(700億)パラメータモデルでの比較である。Llamaの70BとBitNetの70Bモデルを比較すると、BitNetは8.9倍のスループットを誇るという。

「速いだけで回答が微妙なのでは」と心配するのが普通だろう。
そこでLlamaモデルとの比較が載っている。

この表によると、BitNetはLlamaよりも3倍高速でしかも高精度ということになる。
PPLは「困惑」の度合いを意味する数値で、低いほど「困惑してない」ことになる。Llamaよりも性能劣化してないどころか性能は上がっている。

また、各種ベンチマークにおいても平均点は同規模のBitNetがLlamaを上回っている。しかもBitNetは規模が大きくなるほどLlamaに対して優位に立つようになっている。

この圧倒的なスピードの秘密は、BitNetが文字通り「1ビットで処理している」からだ。

https://wirelesswire.jp/2024/02/86094/

3: hage(茸) [JP] 2024/02/29(木) 08:36:02.05 ID:PRp2fWw60 BE:422186189-PLT(12015)
sssp://img.5ch.net/ico/folder1_03.gif
通常、LLMをふくむディープラーニングされたニューラルネットは巨大な行列の積和演算(掛け算と足し算)を必要とする。
推論時も学習時もそうだ。

しかし、1ビット、つまり、行列の中身が0か1しかないのであれば、全ての計算を加算演算のみにできる。
加算と乗算では計算速度も負荷も段違いに異なるため、これだけのスピードの差が出ている。また、当然ながらメモリ効率も高い。

このため、この論文では「積和演算に最適化されたGPUではなく、加算処理のみに特化した新しいハードウェアの出現」までもが予言されている。
今現在、世界各国が血眼になってGPUを確保し、囲い込んでいることを考えると、実に痛快な論文だ。

https://wirelesswire.jp/2024/02/86094/

4: hage(茸) [JP] 2024/02/29(木) 08:36:44.19 ID:PRp2fWw60 BE:422186189-PLT(12015)
sssp://img.5ch.net/ico/folder1_03.gif
非常に驚異的なことが書いてあるのだが、残念ながらBitNetによるLLMの実装とモデルはまだ公開されていない。
だから彼らの主張が本当かどうかはまだ誰にもわからないのだが、BitNetTransformerの実装だけは公開されているため、腕に覚えがあるエンジニアなら自分でトレーニングコードを書いて確かめることができる。

いずれにせよ、 この論文が本当だとしたら、とんでもないことが起きることになる。

この業界に居て長いが、本当にいつもいつも、こんなニュースに触れて興奮できるこの時代を生きる我々は幸運としか言えない。
もちろん筆者もBitNetを試してみるつもりだ。

https://wirelesswire.jp/2024/02/86094/

5: hage(茸) [JP] 2024/02/29(木) 08:36:54.21 ID:PRp2fWw60 BE:422186189-PLT(12015)
sssp://img.5ch.net/ico/folder1_03.gif
(抜粋)

6: 名無しさん@涙目です。(庭) [ニダ] 2024/02/29(木) 08:38:05.01 ID:+QXeJQmg0
ちょっと何言ってるか分からない

7: 名無しさん@涙目です。(光) [ニダ] 2024/02/29(木) 08:40:11.33 ID:24+aBEzS0
分かったから早く売れ

コメント

今月の人気記事

pagetop

PAGE TOP

タイトルとURLをコピーしました