Annex 22（EU GMP「人工知能」附属書・意見募集用ドラフト）とFDAのAIガイダンス（ドラフト）における「重要／重要でない」の線引きについて

結論

• 2つの文書は、同じ対象に対して異なる結論を出しているわけではなく、そもそも規律している行為が別です。Annex 22ドラフトはEU GMP下の製造・品質業務でのAI利用、FDAのドラフトガイダンス（2025年1月公表）は医薬品・生物学的製剤の安全性・有効性・品質に関するFDAの規制上の意思決定を支える情報／データをAIで作成する場合を扱っています。したがって「禁止か許可か」という一本の軸で突き合わせる必要はありません。
• 実務上は、用途（何を入力し、何を出力し、誰のどの判断にどの程度使うか）を単位として切り出し、影響度・誤りの検出可能性・可逆性を文書化することが出発点です。そのうえで、GMP業務に該当する部分はEU GMP・コンピュータ化システム管理・データインテグリティ（DI）・品質リスクマネジメント（QRM）の要求で評価し、FDA提出資料等に使う部分はFDAドラフトガイダンスのContext of Use（COU）と信頼性評価（credibility assessment）で別途評価する、という二本立ての評価が整合的です。
• 「重要（critical）」の実質は、①誤った出力が患者安全・製品品質・GMP記録／DIに重大な影響を及ぼし得るか、②その誤りが後工程・人間・他システムによって検出されずに通過し得るかの2点に集約されます。
• ただし重要な注意点として、人間による確認・後段の独立チェック・AI出力を正式記録にしない運用は「リスク低減策」であって、用途の重要性そのものを消すものではありません。正しい言い方は「重要区分から外す」ではなく「管理策を適用した後の残留リスクを、許容可能な水準まで低減できるかを評価する」です。この区別を曖昧にすると、査察・監査で最も突かれやすい論点になります。
• また、Annex 22ドラフトの適用範囲が静的（static）かつ決定論的（deterministic）なモデルに置かれていることは、「適用範囲の切り方」であって、範囲外のAI（生成AI・LLM等）を重要なGMP業務で自由に使ってよいという意味ではありません。範囲外であっても、Annex 11（コンピュータ化システム）や一般GMP要求、DI、変更管理、QRMは適用され得ます。

以下、順を追って解説します。

0. まず用語を揃える（初心者向け）

線引きの議論は、用語の定義が揃っていないために混乱しがちです。本稿では次の意味で用います。

※ 「重要／重要でない」の二分法は実務では扱いづらいため、低・中・高といった段階評価にし、段階ごとに管理強度を決める方式を推奨します。低リスク用途でも、アクセス管理・機密情報の取扱い・記録・教育・サプライヤ管理・変更管理などは必要になり得ます（「重要でない＝管理不要」ではありません）。

1. 2つの文書の位置づけ（土俵の違い）

ご指摘の「Annex 22は重要用途で使うなと言い、FDAはリスクベースと言っている」という印象の差は、主としてこの対象行為の違いから生じていると考えられます。

• Annex 22が念頭に置くのは、日々繰り返し稼働し、工程管理・判定・記録の完全性に直結する本番運用システムです。バリデーションの前提（同じ入力に対して同じ出力が得られ、受入基準との照合ができる）を満たせないモデルには、当然厳しい線が引かれます。
• FDAの枠組みは、ある特定の結論（規制判断を支える根拠）をどれだけ信頼できるかを、案件ごとに評価するためのものです。だからこそ評価の深さを調整する設計になっています。

※ 両文書はいずれも、確認できる範囲ではドラフト（意見募集用／ドラフトガイダンス）です。最終版の発効状況・文言は公表元で必ず最新の状態をご確認ください。以下に示す考え方は確定した規制要件ではなく、ドラフトを踏まえた実務上の整理です。

2. Annex 22ドラフトの読み方で誤解しやすい2点

(1)「適用範囲外」＝「使ってよい」ではない

Annex 22ドラフトが静的・決定論的モデルを適用対象としていることから、「生成AI・LLMはAnnex 22の対象外だから自由に使える」と読むのは危険です。対象外であることと、使用が許容されることは別問題です。範囲外のAI利用であっても、

• Annex 11（コンピュータ化システム）および一般的なGMP要求
• データインテグリティ（ALCOA+：帰属性、判読性、同時性、原本性、正確性ほか）
• 変更管理・逸脱管理
• QRM（ICH Q9(R1)の原則・手法）

は適用され得ます。つまり「Annex 22の枠に入らない＝規制の外」ではなく、別の枠で評価されると理解してください。

(2)「静的・決定論的」であれば適合、でもない

静的・決定論的モデルであっても、それだけで重要用途に使用可能になるわけではありません。意図された用途、訓練・検証・テストデータの妥当性と代表性、受入基準の設定、独立テストデータでの性能、誤りの影響と検出性、運用中の監視、変更時の再評価を、別途評価・文書化する必要があります。

3. FDAの枠組みは「検証の深さ」を決める道具として使う

FDAドラフトガイダンスは、COUを明確に定義したうえで、モデルの影響度と意思決定の結果の重大性からモデルリスクを決め、それに見合った信頼性評価の計画・実施・報告を行う、という段階的アプローチを示しています。

ここで実務上とくに有用なのは、COUの記述粒度の要求です。例えば次のレベルまで書き下します。

特定の逸脱記録について、過去の類似逸脱・CAPA事例の候補を最大10件提示する。利用者は品質保証部の調査担当者であり、提示された候補は必ず原記録と照合したうえで、調査計画立案の参考情報としてのみ用いる。逸脱の重大性分類・CAPAの要否判断にはAI出力を根拠として用いない。

このレベルで書けていれば、重要度判定は自然に定まります。逆に「逸脱管理にAIを使う」という粒度のままでは、どの規制のどの要求が掛かるのかも決まりません。

4. 線引きの実務手順

ステップ1：評価対象を4層に分けて考える

「AIモデルが重要か」だけを見ると評価を誤ります。少なくとも次の4層を分けてください。

1. AIモデル自体の影響（アルゴリズム、訓練データ、出力の性質）
2. AIを含むコンピュータ化システムの影響（接続先のLIMS／MES／QMS／ERP／設備制御系、API、クラウド、データ保存先、監査証跡）
3. 業務プロセス・品質判断への影響（誰がどの判断にどう使うか）
4. 製品・患者・データインテグリティへの最終的影響

ステップ2：用途を「業務単位」ではなく「出力単位」で切り出す

同じ逸脱管理でも、

• 過去類似事例の検索・候補提示 → リスクは比較的低い
• 逸脱の重大性分類の決定 → 重要側

と評価は大きく分かれます。Annex 22ドラフトが求める「意図された用途の明確化」も、まさにこの粒度の記述を求めるものと理解すべきです。

ステップ3：影響の有無を次の問いで洗い出す

1つでも該当すれば、原則として重要側に置いて評価を始めるのが安全です。

1. AIの出力が、ロットの合否・出荷可否・再加工・回収の判断に用いられるか
2. AIの出力が、製造・包装・滅菌・無菌操作等のパラメータや設備動作を直接制御・変更するか
3. AIの出力が、GMP記録そのものになるか（原本・証拠として扱われるか）
4. AIの出力が、逸脱・OOS・不適合の有無や分類、CAPAの必要性を左右するか
5. AIが品質に関わるデータの取捨選択・除外・補完を行うか（DIへの影響）
6. AIの出力の誤りが、後工程・人間・他システムによって検出されずに通過し得るか

6番目が実質的な分水嶺です。誤りがそのまま流れる単一経路（single point of failure）があるかどうかを必ず確認してください。

ステップ4：直接影響だけでなく、間接影響・累積影響も見る

AIが出荷判定を直接行わなくても、逸脱調査の優先順位付け、監査証跡レビューの範囲、トレンドの見落とし、試験結果の解釈に影響し、結果として品質判断を左右することがあります。「直接影響がないから重要ではない」と短絡しないことが大切です。

ステップ5：偽陰性と偽陽性を分けて評価する

• 偽陰性（見逃し）：異常・逸脱・汚染・不適合・データ改変を検出できない → 患者安全・DIへの影響が大きい
• 偽陽性（過検出）：不要な調査・廃棄・再試験・工程停止を誘発 → 製品供給・コスト、さらには「アラート疲れ」による実質的な検出力低下

製品・工程により、どちらが重大かは変わります。受入基準は感度・特異度・偽陰性率などを分けて設定してください。

ステップ6：管理策を適用した後の「残留リスク」を評価して受容判断する

ここが最も誤解されやすい点です。評価順序は次のとおりです。

1. 用途そのものの影響（ステップ3〜5）を評価する
2. 管理策（人間確認、後段の独立チェック、監視、権限制限など）を定義する
3. 管理策の実効性を評価する
4. 残留リスクを評価し、許容基準と比較して受容可否を判断する
5. 判定・根拠・受容者を記録する

管理策を置いたからといって、用途の重要度が自動的に下がるわけではありません。「重要な用途であるが、管理策により残留リスクは許容可能」という結論の書き方が、規制上は最も正確です。

ステップ7：人間確認の「実効性」を疑って評価する

100％の人間確認は、有効な管理策になり得ますが、必要条件であっても十分条件ではありません。次の点が満たされていなければ、実質は自動決定と同じと見なされます。

• 確認者がAI出力に引っ張られていないか（アンカリング）
• 確認者に判断できる専門知識・教育があるか
• 確認者が根拠となる原データにアクセスできるか
• 確認の記録（確認者、日時、修正内容）が残るか
• 確認を省略できない仕組み（手順・システム的強制）があるか

5. 社内評価の段階区分の例

次のマトリクスは、理解のための当社による説明用の例示です。

※ これはAnnex 22またはFDAが定めた正式な分類ではありません。社内のAIガバナンス規程を作る際の出発点としてご覧ください。

• 区分D：Annex 22ドラフトが示す要求（意図された用途の明文化、モデル選択と訓練データの妥当性、テスト／バリデーション、継続的性能監視、人間による監督、変更管理）をフルに適用。ドラフトの適用範囲に照らせば、ここに置けるのは静的・決定論的モデルです。
• 区分A：通常のコンピュータ化システム管理・IT管理（アクセス管理、記録、教育、機密情報管理、サプライヤ評価、変更管理）で足りると判断し得ますが、その判断根拠の文書化は必須です。
• 区分B・C：最も判断に迷う領域です。管理策を設計・実装し、その実効性と残留リスクを評価して受容判断を行います（第6章・第7章）。

6. 用途例と、評価が変わる条件

※ 上表は一般的な考え方の例示であり、実際の評価は製品・工程・運用設計・接続システムにより変わります。必ず自社のQRMで個別に判定してください。

7. 残留リスクを下げるための設計の定石

境界事例をそのまま判定しようとすると必ず議論が長引きます。実務では、境界に来たら設計を変えて残留リスクを下げるのが現実的です。ただし前述のとおり、これは重要性そのものを消す手段ではなく、残留リスクを許容可能な水準に近づける手段です。

1. AIを決定者にしない（Human-in-the-loopの実体化） AIは候補・下書き・優先順位の提示にとどめ、決定と承認は人間が行う。人間が独立に判断した証跡（確認者、日時、修正内容、参照した原データ）を残す。確認の実効性（第4章ステップ7）まで評価して初めて管理策として認められます。
2. AI出力を原本（raw data／GMP記録）にしない 記録となるのは人間が確認・確定した成果物とします。ただし注意点として、正式記録にしないことは「何も残さなくてよい」ことを意味しません。GMP判断に利用したのであれば、利用事実、入力データ、出力、利用者、確認者、判断への寄与を、追跡可能な形で保持すべき場合があります。DIでは「意思決定に影響を与えたデータ」の完全性・追跡可能性・原本性が問われます。
3. 後段に検証済みの独立チェックを置く AIが一次スクリーニングを行っても、最終的な合否は従来のバリデート済み方法で確認する（例：AIがアラートした候補に加え、一定率をランダム抽出して従来手法で確認し、偽陰性率を継続的に実測する）。
4. 網羅性が必要な業務では、AIで「対象範囲を削る」設計にしない 監査証跡レビューやデータレビューなど見落としゼロが求められる業務では、AIは優先順位付け（並べ替え）に使い、レビュー対象の削減には使わない設計が無難です。 もしスクリーニングに使う場合は、検出性能、既知の限界、偽陰性の評価方法、全件レビューとの比較結果、継続的監視、別系統の確認を、あらかじめ定義・実測して文書化する必要があります。「優先順位付け」と称していても、実態として下位を見ない運用になれば偽陰性リスクは残ります。

8. 生成AI・LLMを使う場合に固有の注意点

生成AI・LLMは、低リスク用途であっても次のリスク評価と管理が必要です。

• ハルシネーション（事実と異なる内容の生成）、出典・引用の捏造
• 出力の再現性不足（同じ入力でも出力が変わる → バリデーションの前提が成立しにくい）
• プロンプトインジェクション（入力文書中の指示文に挙動を乗っ取られる）
• 機密情報・個人情報の外部送信、学習への二次利用の可否
• 長文資料の読み落とし、専門用語・単位・剤形名の誤処理
• 提供者側の変更による挙動変化（モデル更新、プロンプト処理やガードレールの変更、検索インデックスやデータ保持条件の変更）

とくに最後の点は、SaaS型AIでは利用者が意図しないタイミングで起こります。変更管理として次を定めてください。

• モデル／サービスのバージョンの特定・可能な範囲での固定
• 提供者からの変更通知の受領ルートの確保
• 変更時の影響評価、再テスト／再バリデーションの要否判断基準
• 旧版との出力比較（回帰テスト）
• ロールバックまたは代替手段の確保
• サービス停止時の業務継続手順

9. 両者を同時に満たすための文書セット（最小構成）

役割分担も明記しておくと実務が回ります。少なくとも、リスク判定の起案者（業務部門）／技術評価（IT・データサイエンス）／セキュリティ・個人情報（情報システム・法務）／最終的な品質リスクの受容者（品質保証責任者・製造管理者等）を分けて定義してください。

10. 日本国内への影響について

• EU GMPの附属書は、過去の経緯からPIC/Sの対応文書に反映されることが多く、日本はPIC/S加盟国であるため、将来的に国内のGMP運用に影響する可能性があります。ただし、PIC/Sが採用するか・いつ採用するかは、PIC/Sの正式な決定で確認する必要があり、EU側の文書公開のみで日本国内の法的要求が変わるわけではありません。この点は予測として扱ってください。

• 現時点の国内対応の基本は、

  • 「医薬品及び医薬部外品の製造管理及び品質管理の基準に関する省令」（GMP省令）およびその改正（2021年8月施行）に基づく品質リスクマネジメント・データインテグリティの考え方
  • 「医薬品・医薬部外品製造販売業者等におけるコンピュータ化システム適正管理ガイドライン」（薬食監麻発第1021第11号、平成22年10月21日発出、平成24年4月1日適用）に基づくカテゴリ分類・リスクアセスメント・バリデーション

  です。AIを使う場合も、まずはこの枠組みの中で「どのシステムの一部として、どのカテゴリ・リスクで管理するのか」を決めることから始めてください。

※ 国内通知・省令の発出番号および適用日については、公表文書で最新の改正状況を併せてご確認ください。

まとめ

1. Annex 22ドラフトとFDAドラフトガイダンスは対象行為が異なるため、同じ「禁止／許可」の軸で読まない。
2. GMP業務に該当する部分はEU GMP・コンピュータ化システム管理・DI・QRMで評価し、FDA提出資料等に用いる部分はCOUと信頼性評価で別途評価する（二本立て）。
3. 「重要」の実質は、患者安全・製品品質・GMP記録／DIへの影響×誤りが検出されずに通過するか。間接影響・累積影響と、偽陰性／偽陽性を分けて見る。
4. 人間確認・後段チェック・AI出力を原本にしない運用はリスク低減策であり、重要性を消すものではない。確認の実効性を評価し、残留リスクを許容基準と比較して受容判断する。
5. Annex 22ドラフトの適用範囲外（生成AI・LLM等）であることは、重要なGMP業務で自由に使えることを意味しない。生成AI固有のリスクと変更管理を別途設計する。
6. 両文書はドラフトであり、最終版の公表時、用途変更時、モデル／サービス更新時、供給者変更時には必ず再評価する。査察・監査で問われるのは判定の結論よりも、判定の根拠と一貫性です。

参考（一次情報）

• EudraLex Volume 4（EU GMPガイドライン。Annex 11改訂ドラフトおよびAnnex 22「Artificial Intelligence」の意見募集用ドラフトを含む公表情報が掲載されています）：European Commission – EudraLex Volume 4
• FDA: Considerations for the Use of Artificial Intelligence to Support Regulatory Decision-Making for Drug and Biological Products — Draft Guidance for Industry and Other Interested Parties（2025年1月7日公表）
• ICH Q9(R1) Quality Risk Management
• 医薬品及び医薬部外品の製造管理及び品質管理の基準に関する省令（GMP省令）
• 医薬品・医薬部外品製造販売業者等におけるコンピュータ化システム適正管理ガイドライン（薬食監麻発第1021第11号、平成22年10月21日）

※ Annex 22ドラフト本体、FDAドラフトガイダンス、ICH Q9(R1)、国内通知については、文書本体ページの正確なURLに確信が持てないため、リンクは付さず文書名・発出番号・公表日のみを記載しています。各当局の公式サイト内の文書名検索でご確認ください（URLの推測掲載はいたしません）。

※ ICH Q9(R1)は、AIの「重要／非重要」を直接分類する文書ではなく、品質リスクマネジメントの原則と手法（リスク特定・分析・評価・低減・受容・レビュー、FMEA等のツール）を提供する文書です。本稿では評価方法論の拠り所として参照しています。

ご検討中の具体的な用途（例：外観検査、逸脱の分類支援、監査証跡レビュー支援、文書作成支援など）をお知らせいただければ、その用途に即したCOUの書き方、リスク判定の論拠づけ、必要な文書とバリデーション範囲の具体案をご提示いたします。

株式会社イーコンプライアンス