EU GMP Annex 22 (AI) 협의 초안 요약, GMP에서 어떤 AI를 쓸 수 있나
제약 GMP의 AI 활용 기준을 다룬 EU GMP Annex 22 협의 초안을 절별로 정리합니다. 적용 대상 머신러닝 모델 조건, 생성형 AI와 LLM의 책임 원칙, 시험 데이터 독립성과 운영 요건을 살펴봅니다.

작성 기준일 2026년 11월 17일. EU GMP Annex 22는 2025년에 공개된 협의 초안이며, 이 날까지 채택되지 않았고 확정 시기도 정해지지 않았습니다. 최종본에서 범위와 요구가 바뀔 수 있습니다.
EU와 PIC/S의 GMP에 AI만 다루는 새 부속서 초안이 나왔습니다. 「Annex 22: Artificial Intelligence」입니다. 의약품과 원료의약품의 제조에서 AI 모델이 환자 안전, 제품 품질, 데이터 완전성에 바로 영향을 주는 중요한 용도에 쓰일 때 무엇을 해야 하는지를 적었고, AI가 들어간 컴퓨터화 시스템에 대해 Annex 11을 보태는 문서라고 스스로 밝힙니다(1절).
범위에 드는 모델과 들지 않는 모델
초안은 데이터로 학습해 기능을 얻은 머신러닝 모델을 다룹니다. 그 가운데서도 두 조건을 붙입니다(1절).
| 모델의 성질 | 초안이 다루나 | 중요한 GMP 용도에 |
|---|---|---|
| 쓰는 동안 성능이 바뀌지 않는 모델(정적) | 다룬다 | 이 초안의 요구를 따라 쓴다 |
| 쓰면서 새 데이터로 계속 배우는 모델(동적) | 다루지 않는다 | 쓰지 않는다 |
| 같은 입력에 늘 같은 출력(결정적) | 다룬다 | 이 초안의 요구를 따라 쓴다 |
| 같은 입력에 다른 출력이 나올 수 있는 모델(확률적) | 다루지 않는다 | 쓰지 않는다 |
| 생성형 AI, 대규모 언어 모델(LLM) | 다루지 않는다 | 쓰지 않는다 |
생성형 AI와 LLM을 중요하지 않은 용도, 곧 환자 안전, 제품 품질, 데이터 완전성에 바로 영향이 없는 곳에 쓴다면, 자격과 교육을 갖춘 사람이 그 출력이 쓰임에 맞는지를 늘 책임져야 한다고 적습니다. 사람이 고리 안에 있는 꼴(human-in-the-loop)이고, 초안의 원칙은 맞는 곳에서 참고할 수 있습니다(1절).

쓰임과 합격 기준을 먼저 정한다
모델이 맡을 일과 입력 데이터의 범위, 드물게 나오는 변형과 한계를 자세히 적고, 그 공정을 아는 전문가(SME)가 그 설명을 책임지고, 설명은 인수 시험 전에 문서로 승인합니다(3.1절). 시험 지표(예: 혼동 행렬, 민감도, 특이도)와 합격 기준도 시험 전에 정하고 승인하며, 합격 기준은 모델이 대신하는 기존 공정의 성능보다 낮아서는 안 됩니다(4절).
일은 공정 전문가, QA, 데이터 과학자, IT가 함께 하고, 저마다 자격과 정해진 책임과 알맞은 접근 권한을 갖춥니다(2.1절). 모델을 공급자가 학습시키고 시험했더라도 그 활동의 문서는 회사가 받아 검토할 수 있어야 합니다(2.2절).
시험 데이터와 그 독립성
시험 데이터는 쓰임의 전 범위를 대표하고, 통계적으로 충분한 크기여야 하며, 정답 표시(라벨)는 아주 높은 정확도로 확인합니다. 생성형 AI로 시험 데이터나 라벨을 만드는 것은 권하지 않습니다(5절). 시험 데이터는 개발, 학습, 검증에 쓰이지 않아야 하고, 접근 통제와 감사 추적으로 지키며, 시험 데이터를 본 사람이 같은 모델의 학습에 들어가지 않게 하고, 그럴 수 없는 조직이라면 보지 않은 동료와 짝을 지어 일하게 합니다(6절). 시험은 미리 승인한 시험 계획(쓰임의 요약, 지표와 합격 기준, 시험 데이터, 시험 스크립트, 지표의 계산법)을 따르고, 계획에서 벗어나거나 합격하지 못하거나 시험 데이터를 다 쓰지 않았다면 문서로 남기고 조사합니다(7절).
설명, 신뢰도, 운영
중요한 용도의 모델은 시험할 때 어떤 특징이 판정에 기여했는지를 SHAP, LIME 같은 기법이나 열지도로 기록하고, 그 특징이 맞는지를 시험 결과 승인에서 검토합니다(8절). 시험할 때는 판정마다 신뢰도 점수를 남기고(9.1절), 알맞은 문턱을 두어 점수가 아주 낮으면 '미정'으로 표시할지를 따집니다(9.2절). 운영에 들어간 뒤에는 변경 관리와 구성 관리, 성능과 입력 데이터의 변화 감시가 이어집니다(10.1~10.4절). 모델, 시스템, 공정, 입력으로 쓰는 물체 가운데 하나라도 바뀌면 다시 시험할지를 평가하고, 다시 시험하지 않기로 했다면 그 까닭을 남깁니다(10.1절).
모델이 사람의 결정에 참고만 주고 그만큼 시험을 줄였다면, 쓰임의 설명에 사람의 책임을 적고 그 사람의 교육과 수행을 다른 수작업처럼 감시하며(3.3절), 그 과정의 기록을 남깁니다(10.5절).
지금 할 수 있는 것
- 회사에서 쓰거나 검토 중인 AI를 모아, 중요한 GMP 용도인지부터 가른다
- 모델이 정적인지, 결정적인지, 생성형인지 공급자에게 확인한다
- 공급자가 학습시킨 모델이라면 학습과 시험의 문서를 받아 볼 수 있는지 계약 전에 확인한다
- 생성형 AI를 쓰는 자리에는 결과를 책임지는 사람과 그 검토의 기록을 정한다
ValidCore에서는
ValidCore는 생성형 모델로 촬영 계획 초안을 제안하며, 사람이 검토하고 전자서명으로 승인하기 전까지 초안으로 남습니다. AI는 승인을 대신하지 않으며 사람의 검토와 승인 이력이 기록됩니다. 사람이 결과를 책임지는 꼴입니다. 자세한 흐름은 Product 쪽에 있습니다.
ValidCore는 2027년 PoC에 참여할 기업을 모집하고 있습니다. 상담을 예약해 주세요.


