タグ: 推測デコード
"推測デコード" が付いた記事と Wiki ページ
DFlash
Apple Silicon 向け MLX フレームワークで動作するブロック拡散型投機的デコード実装。ローカル LLM を最大 4.1 倍高速化
MacのローカルLLMが4.1倍速に!Apple Silicon向け新技術「DFlash」
"推測デコード" が付いた記事と Wiki ページ
Apple Silicon 向け MLX フレームワークで動作するブロック拡散型投機的デコード実装。ローカル LLM を最大 4.1 倍高速化