본문으로 이동

ISPE GAMP AI 가이드 요약, AI 시스템은 어떻게 검증하나

ISPE GAMP AI 가이드 (2025) 를 바탕으로 AI 컴퓨터화 시스템 밸리데이션이 GAMP 5 2판 원칙 위에서 어떻게 수행되는지 수명주기 네 단계, 학습과 시험 데이터 관리, 사람의 통제 기준을 정리합니다.

글 갬프연구소읽는 데 약 4분

어두운 초록 바탕에 ISPE GAMP AI 수명주기인 개념, 프로젝트, 운영, 폐기 네 상자가 놓이고, 운영에서 프로젝트로 되돌아가는 화살표가 있는 그림

ISPE는 2025년에 「GAMP Guide: Artificial Intelligence」를 냈습니다. AI가 들어간 컴퓨터화 시스템을 GxP 환경에서 어떻게 관리하고 검증할지를 GAMP 5 2판의 틀 위에서 정리한 가이드입니다. ISPE의 라이선스 자료라 이 글은 문장과 도표를 옮기지 않고, 절의 뜻을 갬프연구소의 말로 줄여 적습니다.

규정이 아니라 업계의 지침입니다

가이드는 첫머리의 고지에서 스스로를 규정도, 표준도, 규제 기관의 지침도 아니라고 밝힙니다. 이 가이드대로 관리한 시스템을 규제 기관이 받아들인다고 ISPE가 보증하지도 않습니다. 지켜야 할 요구는 각 나라의 규정에서 오고, 가이드는 그 요구를 실무에서 다루는 좋은 관행을 모은 것입니다. 다루는 대상은 GMP, GCP, GLP, GDP처럼 GxP 규정을 받는 일에 쓰이는, AI가 들어간 컴퓨터화 시스템입니다(1.2절). EU AI Act와의 관계도 다루는데, AI Act의 위험 분류가 GxP의 영향 판단과 같지 않아서 AI Act에서 위험이 낮게 분류된 시스템도 환자 안전, 제품 품질, 데이터 완전성에는 큰 영향을 줄 수 있다고 주의를 줍니다(1.3절).

기존의 틀에 무엇이 더해지나

시스템마다 밸리데이션 계획과 보고서를 쓰고 알맞은 통제를 두는 GAMP의 기본은 AI에도 그대로입니다. 가이드 3.4절이 짚는 차이는 판단의 근거에 있습니다. 모델은 복잡하고 같은 입력에도 출력이 달라질 수 있어, 쓰임에 맞는지를 성능 지표에 크게 기대어 판단하게 됩니다. 위험도 데이터와 모델이 맞물리는 곳에서 새로 생깁니다. 그래서 위험과 비판적 사고(critical thinking)로 수명주기 활동의 깊이를 정하고, 조직의 AI 거버넌스를 검증의 틀 안에 넣으라고 합니다. AI가 자동화된 제조 설비 안에 들어 있다면 컴퓨터 시스템 밸리데이션을 따로 하지 말고 설비 전체의 엔지니어링 안에서 규격과 검증을 하라는 GAMP 5의 원칙도 그대로 가져옵니다(3.4절).

수명주기 네 단계

가이드 4장과 부록 P1~P4는 GAMP의 네 단계를 AI에 맞춰 풉니다.

단계하는 일 (요지)
개념사업상 필요를 AI로 풀지 정한다. 개념 증명(PoC)을 계획하고 평가해 계속할지 정한다
프로젝트계획에서 릴리스까지. 위험, 복잡성, 새로움, 공급자의 역량으로 활동의 깊이를 정하고, 모델의 요구, 데이터 준비, 실험, 릴리스 후보 고르기, 시험, 보고로 간다
운영안전과 효과를 지키면서 모델의 반복 개선을 포함한 변경을 받아들인다. 감시, 사고와 CAPA, 변경과 구성 관리, 주기적 검토가 이어진다
폐기나중에 다시 따져 볼 수 있게 모델의 입력, 모델, 출력의 추적을 남기고 끝낸다

가이드는 이 단계가 처방이 아니라고 말합니다. 회사의 조직과 일에 맞춰 쓰고, 필요하면 앞 단계로 되돌아가되 그 일을 기록해 다음 판단에 쓰라고 합니다(4.1절).

데이터: 시험은 보지 않은 데이터로

모델의 성능은 데이터로 재므로 데이터의 몫이 큽니다. 부록 M6은 모델의 쓰임에 비추어 믿을 만하고, 쓰임에 맞고, 대표성이 있고, 양이 넉넉한 데이터를 쓰라고 하고, M7은 데이터와 모델을 함께 다스리는 거버넌스를 다룹니다. 부록 P2의 데이터 나누기(9.6절)는 시험 데이터를 반복 실험에서 떼어 두어, 모델도 프로젝트 팀도 아직 보지 않은 데이터로 새 데이터에서의 성능을 가늠하게 합니다. 위험에 따라 다른 사이트의 데이터나 합성 데이터로 시험 데이터를 넓힐 수도 있습니다.

AI가 얼마나 스스로 하나

부록 M10은 AI의 성숙도를 두 축으로 봅니다. 하나는 자율성으로, 사람의 확인 대신 시스템 안의 통제에 얼마나 기대는지를 다섯 단계로 나눕니다. 결정에 쓰이지 않고 곁에서 돌기만 하는 단계에서 스스로 고치는 단계까지입니다. 다른 하나는 적응성, 곧 스스로 고쳐 나아지는 정도로 여섯 단계입니다. 두 축의 조합이 통제 전략을 정하고, 사람이 시스템과 주고받은 일은 모두 기록하고, 결과를 받아들이거나 고친 까닭도 남기라고 합니다(21.2절). 도입을 검토한다면 그 AI가 결정에 어디까지 관여하는지와 쓰는 동안 스스로 바뀌는지를 먼저 적어 두면, 시험과 감시의 깊이를 정하기 쉽습니다.

부록 M9의 신뢰할 수 있는 AI는 사람의 자율과 통제를 첫머리에 둡니다. 필요하면 사람이 통제를 되찾을 수 있어야 하고, AI는 사람의 판단을 대신하기보다 돕는 쪽이어야 한다는 것입니다(20.2절).

ValidCore에서는

ValidCore에서는 AI가 촬영 계획 초안을 제안하고 사람이 검토해 전자서명으로 직접 승인합니다. AI가 만든 내용은 승인 전까지 초안으로 남으며 사람의 검토와 승인 이력이 기록됩니다. 자세한 흐름은 Product 쪽에 있습니다.

ValidCore는 2027년 PoC에 참여할 기업을 모집하고 있습니다. 상담을 예약해 주세요.

글 목록으로

우리 회사 프로토콜로 적용 범위를 함께 살펴봅니다

자세한 화면과 단계별 적용 방향은 상담에서 안내합니다. 2027년 PoC 참여 기업도 모집하고 있습니다.