タグ: Transformer
"Transformer" が付いた記事と Wiki ページ
自然言語処理の基礎をやさしく解説 — Microsoft AI-For-Beginners レッスン 13〜20
Subquadratic Sparse Attention (SSA)
アテンション計算のコストをコンテキスト長の2乗からほぼ線形に削減するスパースアテンション機構。重要なk位置だけに絞ることでO(N²)→O(N×k)を実現
"Transformer" が付いた記事と Wiki ページ
アテンション計算のコストをコンテキスト長の2乗からほぼ線形に削減するスパースアテンション機構。重要なk位置だけに絞ることでO(N²)→O(N×k)を実現