概要
AI はデータから規則性を見つける数学的な手法の集まりで、心配すべきは SF のような反乱ではなく、強力な道具としての誤用である——という立場から、AI を作り使う側が守るべき原則をまとめたもの。AI-For-Beginners のレッスン 24 は Microsoft の 6 原則を扱う。今は原則を並べる段階から、「責任ある AI の標準（Responsible AI Standard、第 2 版は 2022 年 6 月）」や透明性レポート（2026 年版はエージェントの記憶やプロンプトインジェクション対策も扱う）でどう運用するかに重心が移っている。
詳細
6 つの原則
| 原則 | 要点 |
|---|---|
| 公平性 | 偏ったデータで学習するとモデルも偏る（例: 過去の採用データが男性に偏れば男性を優先する） |
| 信頼性と安全性 | モデルは本質的に間違える。適合率・再現率で間違え方を把握し、害を防ぐ。出力は較正されておらず、実際より自信の強い値を出しがち |
| プライバシーとセキュリティ | モデルは学習データの一部を覚える。メンバーシップ推論攻撃や LLM からの学習データ抽出があり、学習に使ってもデータは匿名にならない |
| インクルーシブ性 | Microsoft 公式は「あらゆる人が使えるようにする」アクセシビリティに重心。教材の「人を置き換えずに補う」とは重心が違う |
| 透明性 | AI を使っていることを明らかにし、できるだけ解釈できる AI を使う（エキスパートシステムは典型例） |
| アカウンタビリティ | 判断の責任の所在を明確にし、重要な判断には人間を関与させる |
日本語名は Microsoft 日本語ページの表記（教材の日本語版は「包括性」「説明責任」と訳している）。
道具: Responsible AI Toolbox と個別ライブラリ
- InterpretML（解釈可能性）、Fairlearn（集団ごとの予測の差を測り小さくする）、Error Analysis（間違えやすいデータの傾向）、EconML（因果分析）、DiCE（反実仮想）
- ダッシュボードの
raiwidgetsは最後のリリースが 2024 年 7 月の 0.36.0 で、NumPy 1.26.2 以下・pandas 2 未満・Fairlearn 0.7.0 を要求し、Python 3.12 ではインストールできなかった - 個別の道具は開発が続いている（2026 年 10 月時点: Fairlearn 0.14.0、InterpretML 0.7.8、EconML 0.17.0 は PyWhy 配下、DiCE 0.12）。今から試すなら個別ライブラリを直接使うのが現実的
Fairlearn で採用モデルの偏りを確かめた結果
男性に偏った過去の採用判断を持つ合成データ（1 万人）で学習し、テスト 5,000 人で測った。
| データ・モデル | 女性の採用率 | 男性の採用率 | 差 | 正解率 |
|---|---|---|---|---|
| 過去のデータ | 0.228 | 0.500 | 0.272 | — |
| 性別も特徴量に入れたモデル | 0.173 | 0.504 | 0.331 | 0.821 |
| 性別を外したモデル | 0.330 | 0.425 | 0.095 | 0.795 |
| ThresholdOptimizer | 0.367 | 0.390 | 0.023 | 0.779 |
| ExponentiatedGradient | 0.380 | 0.422 | 0.041 | 0.782 |
- 偏ったデータで学習したモデルは偏りを再現し、強めることもある
- 属性を外しても偏りは消えない — 性別と相関する「経験年数」が**代理変数（proxy）**になる。正解ラベル自体の偏りや代理変数は「データのバランスを取る」だけでは取り除けない
- 偏りを減らす手法には代償がある — 正解率が下がる。ただしその正解率は偏った過去の判断を正解として測ったもの。どこで折り合うかは道具ではなく人間が決める
ThresholdOptimizer は男女でしきい値を変えるため予測時にも性別が必要、ExponentiatedGradient は不要。予測時に属性を使えるかは法律や社内ルール次第なので、実運用ではこの違いも考える。
教材（レッスン 24）を読むときの注意
- 「学習データがモデルに統合されることでプライバシーが高まる」という記述は誤り（実際は危険を生む）
- README は 2022 年 9 月から更新されておらず、クイズのリンクは 404（新サイトの quiz/47・48 が該当）。Microsoft Learn のリンクも転送されてモジュールは消えている
- 日本語版は precision を「精度」、underrepresented を「過小評価されている」と誤訳している
関連ページ
- AI-For-Beginners（Microsoft） — 出典カリキュラム（パート VII）
- AI エージェントによる採用書類スクリーニング — 採用での偏りの実務
- プロンプトインジェクション — 透明性レポートが扱う新しい論点
- シャドーAI — 組織での AI ガバナンス
- 記号的 AI（知識表現とエキスパートシステム） — 解釈できる AI の典型