本文へスキップ
hdknr blog

BitNet

Microsoft Research が開発した 1-bit LLM 専用の推論フレームワーク。GPU 不要で CPU 上で大規模 LLM を実行できる

概要

Microsoft Research が開発し 2026年にオープンソース(MIT ライセンス)化した 1-bit LLM 専用推論フレームワーク。すべての重みを -1、0、+1 の3値(log2(3) ≒ 1.58bit)で表現し、GPU なしで CPU 上での実用的な LLM 推論を実現する。GitHub では 37,000 以上のスターを獲得している。

主な特徴

GPU 不要の CPU 推論

llama.cpp をベースに 1-bit 推論向けに最適化した C++ フレームワーク(bitnet.cpp)。専用カーネルにより CPU 上で高速に動作する。

省メモリ・省エネルギー

主要モデル:BitNet b1.58 2B-4T

Hugging Face で公開されている初のオープンソースネイティブ 1-bit LLM。2.4B パラメータ、4T トークンで学習。同規模フル精度モデルと同等の性能(MMLU 約 52%)を達成。

他のローカル LLM との比較

項目BitNet 2.4BGemma 4 E4BQwen3.5 4B
メモリ0.4GB約5GB(4bit量子化)約3GB(4bit量子化)
CPU 推論ネイティブ対応llama.cpp 経由llama.cpp 経由
マルチモーダルテキストのみ画像・音声対応画像・音声・動画対応
MMLU約52%69.4%(Pro)79.1%(Pro)

省メモリ・省電力が最優先の場合は BitNet、性能とのバランスを求めるなら Qwen3.5 が適している。

動作環境

関連ページ

ソース記事