https://hdknr.github.io/blogs/tags/gguf/Recent content in GGUF on hdknr blogHugo -- 0.157.0jaThu, 23 Apr 2026 00:00:00 +0000https://hdknr.github.io/blogs/posts/2026/04/unsloth-%E3%81%A7-gemma-4-26b-%E3%82%92%E6%A5%B5%E9%99%90%E3%81%BE%E3%81%A7%E9%87%8F%E5%AD%90%E5%8C%96-1618gb-vram-%E3%81%A7%E5%8B%95%E3%81%8F%E6%9C%80%E5%BC%B7%E3%83%AD%E3%83%BC%E3%82%AB%E3%83%AB-llm/Thu, 23 Apr 2026 00:00:00 +0000https://hdknr.github.io/blogs/posts/2026/04/unsloth-%E3%81%A7-gemma-4-26b-%E3%82%92%E6%A5%B5%E9%99%90%E3%81%BE%E3%81%A7%E9%87%8F%E5%AD%90%E5%8C%96-1618gb-vram-%E3%81%A7%E5%8B%95%E3%81%8F%E6%9C%80%E5%BC%B7%E3%83%AD%E3%83%BC%E3%82%AB%E3%83%AB-llm/<p>Google の最新 MoE モデル <strong>Gemma 4 26B-A4B</strong> を、個人 PC のローカル環境で最高効率で動かせるようになりました。Unsloth が公開した GGUF 量子化版は、精度を維持しながら劇的な軽量化を実現し、2026 年 4 月時点でローカル LLM の最前線に立っています。</p> <h2 id="gemma-4-26b-a4b-とは">Gemma 4 26B-A4B とは</h2> <p>Gemma 4 は Google が 2026 年に公開したモデルファミリーで、E2B・E4B・26B-A4B・31B の 4 サイズが提供されています。</p> <p><strong>26B-A4B</strong> の「A4B」は <em>Active 4B</em>（推論時に活性化するパラメータ数の目安）を意味します。Mixture-of-Experts（MoE）アーキテクチャを採用しており、モデル全体のパラメータ数は 25.2B です。しかし 1 トークン生成ごとに動かすパラメータは 3.8B 相当に絞られるため、推論速度は 4B クラスと同等になります。</p> <table> <thead> <tr> <th>指標</th> <th>26B-A4B (MoE)</th> <th>31B (Dense)</th> </tr> </thead> <tbody> <tr> <td>総パラメータ数</td> <td>25.2B（モデル名は 26B）</td> <td>31B</td> </tr> <tr> <td>推論時アクティブパラメータ</td> <td>3.8B</td> <td>31B</td> </tr> <tr> <td>LMArena スコア (テキスト)</td> <td>1441</td> <td>1452</td> </tr> <tr> <td>必要 VRAM (4-bit)</td> <td>16〜18GB</td> <td>—</td> </tr> </tbody> </table> <p>26B と名乗りながら推論速度は 4B クラスという驚異的な効率を実現しています。</p>