Evidentia

品質はどう担保されるか

Evidentia は、医学文章を公開する前の手順です。品質は宣伝用の採点表ではなく、ゲート付きのループで担保します。存在はレジストリ照合。使い方の誠実さはスキル。実在として出した捏造識別子は KILL です。

CLI + MCP エンジン · skills/medical-fact-check · MIT · 臨床判断支援ではない

flow

  1. content

  2. 主張台帳 Claim ledger

    確認
    照合の前に、検証可能な主張と識別子をすべて抜き出す。見出しも対象。
    停止
    台帳ができるまで、エンジンは呼ばない。
  3. エンジン Engine

    確認
    存在。DOI / PMID / arXiv / NCT を CrossRef、PubMed、OpenAlex、arXiv、ClinicalTrials.gov に照合する。
    失敗
    1回だけ再試行。それでも落ちていれば unresolved(Hallucination と推測しない)。T4 は存在の事実であり、LLM が上書きしてはならない。ISBN・ガイドライン・タイトルのみは T2 であり、T4 にはしない。
  4. 意味 Semantic

    確認
    誠実さ。T1 の引用ごとに抄録を1回取る。主要アウトカム、対象集団、効果の向き。
    失敗
    T3 / T4 は格上げしない。
  5. 15項目 15-criteria

    確認
    文章の評価(治療の推奨ではない)。
    停止
    診断・治療・専門家の判断の代替ではない。
  6. 敵対 Adversarial

    確認
    5つのレンズと10行のチェックリスト → KILL / MAJOR / MINOR / PASS.
    失敗
    KILL(実在として出した T4、または危害)は評点 ≤ D(捏造なら F)。MAJOR は A にできない。

    loop 5 → 2 エンジン · 上限 3

  7. 修正 Correction

    確認
    利用者が本文を直す。
    停止
    2 エンジンへ戻る。上限 3 回。その後は止まって、残件を書く。

engine

階層 名称 意味
T1 検証済み 論文が存在し、メタデータが一致する。
T2 内容確認が必要 未索引(ISBN / ガイドライン / タイトルのみ)、または実在論文の意味的誤用。幻覚にはしない。
T3 書誌不一致 論文は存在するが、識別子またはメタデータが食い違う。
T4 幻覚 識別子が何にも解決しない、または別の論文に解決する。存在の事実であり、LLM が上書きしてはならない。

adversarial

引用の誠実さ
実在として出した T4 は KILL
主張の裏付け
実在論文でも、主張が違う(主要評価項目 / 対象集団 / 効果の向き)。
統計と表現
ARR なしの RRR、観察研究から「引き起こす」、「奇跡」。
危害
本文どおりに従うと危害がありうるなら、引用がすべて T1 でも KILL
スティールマン、それから攻撃
スティールマンが攻撃に耐えなければ、PASS にはできない。
判定 意味 評点
KILL 実在として出した T4、または危害。このまま公開してはならない。 ≤ D。捏造なら F
MAJOR 実在資料の不誠実な使い方。 A にできない
MINOR 留保 / 鮮度 / 体裁。 稼いだ評点
PASS 但し書き付きで出荷。公開の責任は人間。 稼いだ評点

criteria

文章の評価であり、治療の推奨ではない。評点の文字は敵対レビューでゲートされ、15項目の平均ではない。

  • 証拠レベル
  • 引用の正確さ
  • 統計
  • 因果
  • バイアス / COI
  • 誇張
  • 対象集団
  • 時間的妥当性
  • 読みやすさ
  • 倫理
  • 論理
  • 図表
  • 代替説明
  • 臨床的関連
  • 完全性

run

# 主張 id engine
1 小児ARTIの枠 none n/a 成人/混合IPDを小児として提示
2 Martineau IPD、欠乏でARTI減 doi:10.1136/bmj.i6583 T1 ARTIは支持。対象集団のチェリーピック
3 学童1,200人、A型47%減 doi:10.1056/nejmoa2105512 T4 実在として提示 → KILL
4 気道のカテリシジン pmid:18768876 T4 別論文 → KILL
5 2019 Cochrane、充足小児 doi:10.1002/14651858.cd012734 T3 肝硬変の Cochrane。T3のまま

敵対 KILL、評点 Fケーススタディ

$ npx evidentia check examples/inputs/ai-generated-answer.md

Evidentia: 4 citations — 1 verified, 1 mismatch, 2 hallucinated (75.0% fabrication rate)
  [OK ] doi:10.1136/bmj.i6583       — Paper exists and the cited metadata matches the registry record.
  [HAL] doi:10.1056/nejmoa2105512   — DOI does not resolve in CrossRef or OpenAlex, and no matching paper was found.
  [HAL] pmid:18768876               — Identifier resolves to a different paper ("Trafficking of antigen-specific
                                       CD8+ T lymphocytes…") than the one cited.
  [MIS] doi:10.1002/14651858.cd012734 — Paper exists, but cited metadata disagrees with the record (year).

install

npx evidentia check your-article.md
npx skills add kgraph57/evidentia
claude mcp add evidentia -- npx -y evidentia-mcp