タグ: llm
"llm" が付いた記事と Wiki ページ
Redis 作者 antirez の "ds4" — DeepSeek V4 Flash 専用ローカル推論エンジンが M3 Ultra 512GB で 26 token/sec を叩き出す
Redis 作者 antirez が公開した DeepSeek V4 Flash 専用ローカル推論エンジン ds4(DwarfStar 4)を解説。Mac Studio M3 Ultra 512GB で 26 token/sec、KV キャッシュのディスク永続化、OpenAI / Anthropic 互換 API、Claude Code からの利用方法、2bit 非対称量子化、Exact Replay 設計まで網羅。
AI は保守コストも削減すべき — 速度向上だけでは5ヶ月で逆効果になる仕組みをJames Shoreが解説
AI エージェントで開発速度が2倍になっても、保守コストが同率で削減されなければ5ヶ月後に生産性向上分が消滅する。James Shore の定量モデルが示す「速度向上率 × 保守コスト削減率 = 1」の必要条件を解説する。
ほとんどの人が知らない Claude Code の 15 設定 — 思考深度デフォルト変更の真相と本来の性能を取り戻す方法
更新日:Karpathy の LLM Wiki — 公開48時間で5000スターを集めた「LLMが維持するパーソナル知識ベース」パターン
Claude Opus超えの新LLM「SubQ」— Subquadratic Sparse Attentionで1200万トークンを実現、コスト1/5に
Subquadraticが発表したLLM「SubQ」の仕組みを解説。Subquadratic Sparse Attention(SSA)により1200万トークン・FlashAttention比52倍高速・コスト$8(従来$2,600)を実現。Claude Opus 4.7超えのベンチマーク結果と、技術レポート未公開・独立検証なしという懐疑論まで網羅。
バイブコーディングとエージェンティックエンジニアリング — AIの進化で崩れる境界線をSimon Willisonが考察
Simon Willisonが考察するバイブコーディングとエージェント開発の境界問題。AIへの信頼と責任の所在、品質評価基準の変化、プロエンジニアの価値について解説。
MacBook Pro M4 + llama.cpp で実現した太平洋横断フライトのオフライン AI ワークフロー
LLM で日本語を使うと英語の 1.48 倍トークンを消費する「言語税」の実態
6社・9言語の比較データが示すLLM日本語コストの実態。日本語は英語より平均1.48倍、Claudeでは約2倍のトークンを消費する「言語税」の仕組みと、プロバイダー選択・プロンプト設計・キャッシュ活用によるコスト削減策を解説。
「ベクトルDB不要」でRAG精度を上げるCorpus2Skill — 文書を階層的スキルに変換してエージェントがナビゲートする新手法
ベクトルDBを使わずRAGの網羅性問題を解決するCorpus2Skill手法を解説。文書コーパスを階層的スキルディレクトリに変換しLLMエージェントがナビゲートすることで、WixQAおよびRAGBench全ベースラインを上回る精度を達成した2026年arXiv論文のまとめ。
コードを1行も読ませずに AI で脆弱性を100%特定する — AST Deep Structure Map アプローチ(理論編)
Python の ast モジュールで生成した Deep Structure Map を LLM に渡す脆弱性検出アプローチを解説。Taint Analysis の理論とともに、AI コードレビューの精度を上げる手法を紹介します。