https://hdknr.github.io/blogs/tags/%E3%82%B9%E3%83%91%E3%83%BC%E3%82%B9%E3%82%A2%E3%83%86%E3%83%B3%E3%82%B7%E3%83%A7%E3%83%B3/Recent content in スパースアテンション on hdknr blogHugo -- 0.157.0jaFri, 08 May 2026 00:00:00 +0000https://hdknr.github.io/blogs/posts/2026/05/subq-llm-subquadratic-sparse-attention/Fri, 08 May 2026 00:00:00 +0000https://hdknr.github.io/blogs/posts/2026/05/subq-llm-subquadratic-sparse-attention/Subquadraticが発表したLLM「SubQ」の仕組みを解説。Subquadratic Sparse Attention（SSA）により1200万トークン・FlashAttention比52倍高速・コスト$8（従来$2,600）を実現。Claude Opus 4.7超えのベンチマーク結果と、技術レポート未公開・独立検証なしという懐疑論まで網羅。