AIバイアスと医療における公平性

AIは偏見を持たない客観的な存在だと信じたい。しかし現実のAIは、学習データに含まれる人間社会のバイアスを忠実に再現し、時に増幅する。

バイアスとは何か ― 医療AIの文脈で

バイアス（bias）とは、データ、アルゴリズム、または運用プロセスに内在する系統的な偏りであり、特定の集団に対して不公平な結果をもたらすものである。

医療AIにおけるバイアスは、以下の段階で発生する。

データ収集段階のバイアス

• 選択バイアス：学習データが特定の集団（例：大規模大学病院の患者）に偏っている
• 測定バイアス：データの収集方法自体が偏りを含む（例：パルスオキシメーターの肌の色による誤差）
• ラベリングバイアス：教師データのラベル付けに人間の偏見が反映される

アルゴリズム設計段階のバイアス

• 目的変数の選択：何を「良い結果」と定義するかに価値判断が含まれる
• 最適化の偏り：全体の精度を最大化すると、少数派の精度が犠牲になりうる
• 特徴量の選択：どの変数を使うかが結果に大きな影響を与える

運用段階のバイアス

• 自動化バイアス：AIの出力を無批判に受け入れる傾向
• 確証バイアス：AIの出力が医師の既存の偏見を強化する
• フィードバックループ：バイアスのある出力が新たなデータとなり、バイアスを再強化する

実際に起きたバイアス事例

事例1：Optum社のヘルスケアアルゴリズム（2019年）

Science 誌に掲載された研究（Obermeyer et al., 2019）は、米国の医療システムで広く使用されていたOptum社のアルゴリズムに人種バイアスがあることを明らかにした。

問題の構造： このアルゴリズムは、患者の「ハイリスク」判定に医療費を代理指標として使用していた。しかし黒人患者は、同等の疾患を持つ白人患者よりも医療費が低い傾向がある（アクセスの制約、経済的理由など）。結果として、同等の疾患重症度を持つ黒人患者が、白人患者よりも低いリスクスコアを付与され、追加的なケアから排除されていた。

この事例の教訓は明確である。バイアスは「データの選択」「代理指標の設定」という技術的決定の中に隠れている。

事例2：皮膚科AIの人種バイアス

2018年の JAMA Dermatology に掲載された研究（Adamson & Smith）は、皮膚科AIの学習データが白色系の肌に偏っていることを指摘した。ImageNetやISICなどの主要な皮膚画像データセットは、フィッツパトリック分類のType I-III（白色系の肌）の画像が大半を占めている。

結果：暗い肌色の患者の皮膚病変の検出精度が有意に低く、見落としのリスクが高い。

事例3：パルスオキシメーターの肌色バイアス

2020年の NEJM に掲載された研究（Sjoding et al.）は、パルスオキシメーターが黒人患者のSpO2を過大評価する傾向があることを示した。これはAIそのものの問題ではないが、パルスオキシメーターのデータを入力とするAIに、このバイアスが継承される。

事例4：心不全予測モデルの性別バイアス

心不全の予測AIが、男性の症状パターンを中心に学習されたため、女性の非典型的な症状（疲労感、呼吸困難など）を適切に捉えられないケースが報告されている。

バイアスの数学的定義と公平性指標

医療AIの公平性を評価するためには、定量的な指標が必要である。代表的な公平性指標を以下に示す。

統計的パリティ（Statistical Parity）

異なるグループ間で、AIの肯定的判定率が等しいこと。

例：AIが「ハイリスク」と判定する確率が、黒人患者と白人患者で等しい。

機会の均等（Equal Opportunity）

真にポジティブな対象に対する感度（真陽性率）が、グループ間で等しいこと。

例：実際に疾患を持つ患者に対するAIの検出率が、性別や人種にかかわらず等しい。

予測的パリティ（Predictive Parity）

AIが肯定的判定を下した場合の的中率（陽性適中率）が、グループ間で等しいこと。

日本における医療AIバイアスのリスク

日本の医療AIにおけるバイアスリスクは、米国とは異なる形で存在する。

人種・民族のバイアス

日本は米国ほど人種的に多様ではないが、在日外国人の増加に伴い、日本人中心の学習データで作られたAIが外国人患者に対して精度が低下するリスクがある。特に皮膚科、眼科の画像AIで懸念される。

性別バイアス

日本の医療データには、性別に基づく医療アクセスの差が反映されている。例えば、女性の循環器疾患が過小診断される傾向は、日本でも報告されている。

年齢バイアス

高齢者の医療データが過大に代表され、若年者の疾患パターンが十分に学習されていない可能性がある。逆に、最新のAI研究は若年の技術者によって行われることが多く、高齢者の使用環境が十分に考慮されていない場合もある。

地域バイアス

都市部の大規模病院（特に大学病院）のデータに偏った学習が行われる場合、地方の診療所や中小病院の患者には精度が低下するリスクがある。

社会経済的バイアス

経済的に恵まれない患者は受診頻度が低く、データが少ないため、AIの予測精度が低くなりうる。

バイアス検出と緩和の戦略

検出のアプローチ

緩和のアプローチ

前処理（Pre-processing）：

• 学習データの再サンプリング（過小代表グループのオーバーサンプリング）
• 合成データの生成（GANなどを用いた少数派データの拡充）
• 代理指標の再検討（Optum事例の教訓）

学習中（In-processing）：

• 公平性制約を損失関数に組み込む
• 敵対的訓練（Adversarial Debiasing）
• マルチタスク学習による公平性の同時最適化

後処理（Post-processing）：

• 閾値の調整（グループ別に異なる閾値を設定）
• キャリブレーション（確率推定の校正）
• 出力の監査とフィルタリング

公平性の組織的対策

多様性のあるチーム編成

AI開発チームに、臨床医、倫理学者、患者代表、多様な背景を持つメンバーを含める。技術者だけで公平性を評価することは不十分である。

バイアス影響評価（Bias Impact Assessment）

AI導入前に、そのAIが特定の集団に不均衡な影響を与える可能性を評価する文書を作成する。

継続的モニタリング

導入後も、サブグループ別の性能を定期的にモニタリングし、バイアスの増大を検知する。

患者フィードバック

AI診断に違和感を覚えた場合に、患者がフィードバックを提供できる仕組みを整備する。