タグ: 推論高速化

"推論高速化" が付いた記事と Wiki ページ

• DFlash

  Apple Silicon 向け MLX フレームワークで動作するブロック拡散型投機的デコード実装。ローカル LLM を最大 4.1 倍高速化