医療AIの倫理的基礎

はじめに — ある事件から考える

2015年、Google傘下のDeepMindは英国Royal Free NHS Foundation Trustと契約を結び、急性腎障害の早期発見アプリ「Streams」を開発するために160万人分の患者記録を受け取りました。患者への事前説明はなく、データの範囲も目的に対して過大でした。2017年、英国の情報コミッショナー事務局（ICO）はこの行為がデータ保護法に違反すると裁定しています。

この事件は、「AIが医療を良くする」という期待と、「患者の権利はどこにいったのか」という問いを同時に突きつけました。技術的に可能なことと、倫理的に許されることは違います。

本レッスンでは、医療AIの倫理を考えるための基本的な枠組みを、実際の事例とともに学びます。

医療倫理の4原則

現代の医療倫理は、Beauchamp & Childressが1979年に提唱した4つの原則に基づいています。40年以上経った今も、新しい技術を評価する際の出発点になっています。

自律尊重の原則 (Respect for Autonomy)

患者が十分な情報を得た上で、自分の価値観に基づいて医療の意思決定を行う権利を尊重すること。

AIとの関係で問われるのは、たとえば以下の点です:

• AIが出した診断の根拠を、患者に分かる言葉で説明できるか
• 患者はAI診断を受けるかどうかを自分で選べるか（オプトアウトの権利）
• AIの推奨が、患者の選択を不当に誘導していないか

無危害の原則 (Non-maleficence)

「まず、害をなすなかれ（First, do no harm）」。ヒポクラテスの誓いに由来する原則です。

AIとの関係では:

• AIの誤診や不適切な推奨で患者に危害が及ぶリスク
• 学習データのバイアスが特定の患者グループに不利益をもたらすリスク
• AIシステムへのサイバー攻撃による患者データの漏洩リスク

善行の原則 (Beneficence)

患者にとっての最善の利益のために積極的に行動すること。危害を避けるだけでは不十分で、患者の健康に貢献することが求められます。

• AIは実際に患者のアウトカムを改善しているか
• AI導入で医師がルーチン業務から解放され、患者と向き合う時間は増えたか
• AIの恩恵は社会全体に行き渡っているか、一部の医療機関だけか

正義の原則 (Justice)

医療資源を公平に分配し、すべての人が公正な医療アクセスを得られるようにすること。

• 学習データが特定の人口集団に偏り、他の集団への精度が低下していないか
• 高価なAI医療へのアクセスが経済力で左右されていないか

実際に起きたこと — ケーススタディ

ケース1: IBM Watson for Oncology

ケース2: Google DeepMind と患者データ

倫理的意思決定のフレームワーク

4原則は重要な指針ですが、実際の現場ではこれらが互いに衝突します。プライバシー（自律尊重）を厳格に守れば、AIの学習データは限られ、診断精度（善行）が下がるかもしれない。こうしたジレンマに対して、場当たり的ではなく体系的に考えるための手順があります。

倫理的意思決定の7ステップ:

1. 問題の特定 — 何が倫理的な問題か
2. 事実の収集 — 技術的詳細、法的要件、関係者の意見
3. ステークホルダーの特定 — 影響を受けるすべての人
4. 倫理原則の適用 — 4原則がこの状況でどう関わるか
5. 選択肢の検討 — 各選択肢の長所・短所を評価
6. 決定と実行 — 最も妥当な選択を実行
7. 評価と反省 — 結果から学び、将来に活かす

日本の法的枠組み

医療AIの倫理を考える上で、日本の法制度も押さえておく必要があります。

日本では、AI診断支援ソフトウェアは薬機法上の「プログラム医療機器」として承認審査を受けます。2022年にはアイリス株式会社の「nodoca」が、AIを搭載した新医療機器として初めて承認されました（咽頭画像からインフルエンザの特徴的所見を検出）。PMDAの審査では、アルゴリズムの透明性よりも臨床的妥当性（実際の臨床試験で有効性が示されたか）が重視される傾向にあります。

まとめ

医療AIの倫理は、技術の問題であると同時に「どういう医療を望むか」という社会の価値観の問題です。4原則（自律尊重・無危害・善行・正義）は40年以上前に整理されたものですが、AIという新しい変数が加わることで、これまで想定されていなかった衝突が生まれています。

Watson for Oncologyは「善行」を目指しながら「無危害」を脅かし、DeepMindは「善行」の名のもとに「自律尊重」を軽視しました。こうした実例から学べるのは、原則を知っているだけでは不十分で、具体的な場面で原則同士の優先順位をどうつけるかという判断力が求められるということです。

次のレッスンでは、患者のプライバシーとデータ保護に焦点を当て、HIPAA・GDPR・日本の個人情報保護法の具体的な規定を比較します。