タグ: llm
"llm" が付いた記事と Wiki ページ
MacBook Pro M4 + llama.cpp で実現した太平洋横断フライトのオフライン AI ワークフロー
LLM で日本語を使うと英語の 1.48 倍トークンを消費する「言語税」の実態
6社・9言語の比較データが示すLLM日本語コストの実態。日本語は英語より平均1.48倍、Claudeでは約2倍のトークンを消費する「言語税」の仕組みと、プロバイダー選択・プロンプト設計・キャッシュ活用によるコスト削減策を解説。
「ベクトルDB不要」でRAG精度を上げるCorpus2Skill — 文書を階層的スキルに変換してエージェントがナビゲートする新手法
ベクトルDBを使わずRAGの網羅性問題を解決するCorpus2Skill手法を解説。文書コーパスを階層的スキルディレクトリに変換しLLMエージェントがナビゲートすることで、WixQAおよびRAGBench全ベースラインを上回る精度を達成した2026年arXiv論文のまとめ。
コードを1行も読ませずに AI で脆弱性を100%特定する — AST Deep Structure Map アプローチ(理論編)
Python の ast モジュールで生成した Deep Structure Map を LLM に渡す脆弱性検出アプローチを解説。Taint Analysis の理論とともに、AI コードレビューの精度を上げる手法を紹介します。
DeepSeek-V4 Preview — Claude Opus 4.6 匹敵・100万トークン対応のオープンソース LLM が無償公開
DeepSeek-V4 Preview は 2026 年 4 月公開のオープンソース LLM。Pro(1.6 兆パラメータ)と Flash の 2 バリアントで 100 万トークンに対応。Codeforces で GPT-5.4 を超え、MIT ライセンスで Hugging Face から無償取得可能。MoE アーキテクチャで推論演算量を 73% 削減。
Claude Code をローカル LLM(vLLM + MiniMax-M2.7)で爆速稼働させる方法
vLLM + MiniMax-M2.7 を使い Claude Code をローカル LLM で動かす方法。4× GPU / 8× GPU 構成のサーバー起動コマンド、環境変数設定、Prefix Caching による高速化、旧バージョン対応まで一通り解説する。
Context Rot(コンテキスト劣化)
会話が長くなるにつれ LLM の性能がトークン数に比例して低下する現象。能動的なセッション管理で防げる
RAGなしでも高精度に動くAgent Harnessの秘密 — コンテキストサイズと「100ファイル」の目安
更新日:AIエージェントの「ハーネス」を巡る混乱 — 同じ言葉が指す異なるスコープ
Abliteration(アブリテレーション)
LLM の安全性制限を再学習なしで除去する技術。拒否方向の特定と重みの直交化により、RLHF で学習された拒否行動を削除する