AIのバイアスとは何か

はじめに — 「客観的」なアルゴリズムが生んだ差別

2019年、Science誌に掲載された1本の論文が医療AI業界に激震を走らせました。米国の医療システムで数百万人の患者に適用されていたリスク予測アルゴリズム（Optum社製）が、同じ健康状態の黒人患者を白人患者よりも系統的に「低リスク」と判定していたのです。

原因は意外にシンプルでした。アルゴリズムが**「医療費」を健康状態の代理指標として使用していたこと。歴史的に医療アクセスが制限されてきた黒人患者は、同じ病気でも医療費が低い傾向にありました。その結果、同じリスクスコアの黒人患者は白人患者より平均26%多くの慢性疾患**を抱えていました。

AIは「数字に基づいて客観的に判断する」と思われがちです。しかし、その数字自体に社会の不公平が刻み込まれている場合、AIは偏見を学習し、増幅します。

バイアスの3つの層

データバイアス — 偏ったデータからは偏った判断しか生まれない

学習データが現実世界の多様性を正確に反映していない場合に生じるバイアスです。

サンプリングバイアス: 学習データが特定の人口集団に偏る。例えば、大学病院のデータだけで学習したAIは、地域のクリニックの患者では性能が低下する可能性がある。

ラベリングバイアス: データにラベルを付ける人間の偏見が反映される。例えば、ある人種の患者の痛みを過小評価する傾向が、トレーニングデータのラベルに反映される。

歴史的バイアス: 過去の不公平な医療実践がデータに残る。Optumアルゴリズムの「医療費＝健康状態」という前提は、この典型例。

アルゴリズムバイアス — 設計の選択が偏りを生む

AIモデルの設計・最適化過程で生じるバイアスです。

• 特徴選択バイアス: 人種や性別など倫理的に問題のある特徴を過度に重視（または間接的に反映する代理変数を使用）
• 最適化バイアス: 多数派の精度を最大化する結果、少数派の精度が犠牲に。データの95%が白人患者なら、AIは白人患者での精度を最大化するように学習する

評価バイアス — 「全体の精度95%」の罠

AIの性能評価の方法自体に含まれるバイアスです。

全体の精度が95%であっても、特定のサブグループで85%に低下していれば、そのグループの患者は不利益を被ります。全体の平均値だけを報告する評価方法は、少数派の性能低下を隠蔽します。

医療AIで実際に起きた事例

バイアスがもたらす影響

患者への直接的影響

• 誤診断: ダークスキンの皮膚がんを見逃す → 治療の遅れ → 予後悪化
• 不適切なトリアージ: 黒人患者のリスクを過小評価 → 必要なケアが提供されない
• 過剰診断: 特定のグループで偽陽性が高い → 不必要な侵襲的検査

医療システムへの影響

• 健康格差の拡大: AIが既存の格差を再生産・増幅
• 信頼の喪失: バイアスが公になれば、医療AIへの信頼が損なわれる
• 法的リスク: 差別的なAIの使用は、訴訟リスクや規制措置につながる

まとめ

AIは「客観的」ではありません。Optumアルゴリズムの事例は、一見合理的に見える設計上の選択（医療費を代理指標として使用）が、社会構造の不公平を再生産しうることを示しました。バイアスはデータ・アルゴリズム・評価の各層に存在し、それらが複合的に作用します。

次のレッスンでは、こうしたバイアスをどのように検出するかを学びます。