2018년 이후, FDA는 인공 지능(Artificial Intelligence, AI) 기반 의료 기기에 대한 승인을 점차 확대하고 있습니다. 여기에는 임상 검사실에서 사용되거나 임상 검사실 데이터를 활용할 수 있는 다양한 AI 알고리즘이 포함되며, 그 수가 점점 늘고 있습니다.
AI는 기술의 투명성과 설명 가능성에 대한 우려로 인해 규제 당국의 주목을 받고 있습니다. 그러나 AI를 사용하는 모든 보건 의료 제품에 의료적 목적이 있거나, 환자에게 큰 위험을 초래하는 것은 아닙니다. 생명을 구하고 환자 치료 결과를 개선하는 데 도움이 될 수 있는 이러한 제품이 안전하고 적절하게 사용되도록 하려면 위험 기반의 규제 접근 방식이 필요합니다.
세 가지 유형의 AI
AI 기반 알고리즘은 보건 의료 의사 결정에 인간이 개입하는 정도에 따라 보조형, 자동형, 자율형의 세 가지 범주로 나눌 수 있습니다.
- 보조형 AI – 보건 의료 전문가(Healthcare Professional, HCP)가 임상 관리를 안내하거나 주도하도록 지원합니다.
- 자동형 AI – HCP가 AI의 결정을 승인하거나 무시할 수 있는 가능성을 두고 환자를 치료하거나 진단합니다.
- 자율형 AI – HCP의 검토 없이 완전히 독립적으로 환자를 치료하거나 진단합니다.
AI 기반 제품이 점점 더 자율성을 갖추고 더 중대한 질환에 적용됨에 따라 환자 안전에 더 큰 위험을 초래하게 되므로 더 높은 수준의 신뢰가 요구된다고 International Medical Device Regulators Forum(IMDRF)은 밝혔습니다. 의료 기기의 정의를 충족하는 제품의 경우, 더 고위험 제품으로 분류되므로 더 많은 관리와 규제가 필요할 수 있습니다.
IMDRF의 AI 기반 디지털 보건 의료 제품 위험 분류
의료 목적의 AI 기반 제품에 대한 위험 분류와 적격성은 디지털 보건 의료 규제에서 핵심 정책 영역입니다. 따라서 지침과 관행은 끊임없이 변화하고 있으며 이를 면밀히 추적해야 합니다.
임상 검사실의 세 가지 사례
오늘날 임상 검사실에서 사용되는 많은 AI 기반 제품은 의료 기기로 분류되지 않으며, 따라서 의료 기기로 규제되어서는 안 됩니다. 여기에는 워크플로 최적화 및 품질 관리 도구, 저위험 임상 의사 결정 지원(Clinical Decision Support, CDS) 애플리케이션이 포함됩니다.
예를 들어 점점 더 많은 임상 검사실이 공급업체와 함께 원격 서비스 모델을 도입하여 IVD 장비를 더 능동적으로 모니터링하고 지원할 수 있게 하고 있습니다. 운영 데이터는 온라인 연결을 통해 공유되며, AI를 활용해 일부 프로세스를 추가로 자동화하거나 유지 보수 요구 사항을 더 잘 예측하기도 합니다. 그러나 이러한 플랫폼의 AI는 규제 대상 의료 기기로 분류되지 않습니다.
다른 예로, 아시아 태평양 지역의 일부 의료 기관은 다학제 팀의 워크플로를 최적화하기 위해 AI 기반 알고리즘을 활용하는 소프트웨어 플랫폼을 사용하고 있습니다. 이러한 알고리즘은 일반적으로 보조적 성격을 띠며 상대적으로 위험성이 낮기 때문에 큰 규모의 규제 감독을 받지는 않습니다(참고: 의료 기기로 분류되어 환자 안전에 더 큰 위험을 초래할 수 있는 모듈은 별도로 평가되어야 함).
임상 검사실 AI의 규제 요건
위험 범위가 큰 영역에서는 점점 더 많은 보건 의료 기술 기업이 임상 검사실 데이터와 영상 또는 임상 정보 등의 다른 요인을 결합하여 환자 진료를 지원하는 AI 기반 알고리즘을 개발하고 있습니다(예를 들어 중국에서 혈청 종양 표지자의 임상적 활용도를 확장하기 위해 AI를 사용한 최근 사례 연구를 참조할 수 있음). 이러한 알고리즘은 환자 진단 및 분류를 직접 수행할 수 있으므로 더 엄격한 감독과 규제의 대상이 될 수 있습니다.
보건 의료 분야의 AI 규제는 아직 초기 단계지만, 아시아 태평양, 유럽, 미국의 현행 체계에서는 투명성과 설명 가능성이 반복적으로 강조되는 두 가지 원칙입니다. 알고리즘이 스스로 결정을 내릴 수 있는 경우, AI 알고리즘이 특정 결론에 도달한 과정을 사람이 명확히 이해하는 것이 중요합니다. 신뢰 구축 외에도, 작동 과정이 투명한 AI의 경우 사용자가 모델의 문제를 수정하고 지속적으로 그 성능을 향상시킬 수 있게 합니다.
핵심 요점
- 디지털 보건 의료 분야에서 AI의 규제 여부는 해당 기술이 의료 기기로 분류되는지와 환자에 대한 위험 수준에 따라 결정됩니다.
- 임상 검사실에서의 저위험 AI 기반 제품 예시로는 데이터 집계 도구와 원격 장비 유지 관리 도구가 있으며, 이러한 제품은 규제 대상이 아닙니다.
- 보건 의료 분야의 AI는 사용자로부터 신뢰를 얻기 위해 설명 가능하고 투명해야 합니다.
