Từ năm 2018, số lượng hồ sơ phê duyệt của Cục Quản lý Dược phẩm và Thực phẩm Hoa Kỳ (FDA) cho thiết bị y tế dựa trên trí tuệ nhân tạo (AI) đã tăng lên. Điều này bao gồm việc gia tăng các thuật toán AI có thể được sử dụng trong phòng xét nghiệm hoặc tận dụng dữ liệu phòng xét nghiệm.

AI khiến việc xem xét  các quy định kỹ lưỡng hơn do những lo ngại về tính minh bạch và khả năng giải thích liên quan đến công nghệ. Tuy nhiên, không phải mọi sản phẩm chăm sóc sức khỏe sử dụng AI đều có mục đích y khoa hoặc nhất thiết gây rủi ro cao cho bệnh nhân. Cần có cách tiếp cận các quy định dựa trên rủi ro để đảm bảo rằng các sản phẩm này được sử dụng một cách an toàn và phù hợp để có thể giúp cứu sống cũng như cải thiện kết quả cho bệnh nhân.

3 dạng AI

Các thuật toán dựa trên AI có thể được chia thành 3 dạng: hỗ trợ, tự động và tự điều khiển dựa vào mức độ can thiệp của con người trên quyết định chăm sóc sức khỏe.

1. AI hỗ trợ – hỗ trợ nhân viên y tế (HCP) thông báo hoặc đẩy mạnh việc quản lý lâm sàng  
2. AI tự động –   chẩn đoán hoặc điều trị bệnh nhân với sự phê duyệt hay bác bỏ của nhân viên y tế đối với quyết định của AI.
3. AI tự điều khiển –    chẩn đoán hoặc điều trị bệnh nhân hoàn toàn độc lập mà không cần nhân viên y tế đánh giá. 
    

Theo Diễn đàn Cơ quan Quản lý Thiết bị Y tế Quốc tế (IMDRF), khi các sản phẩm tự điều khiển dựa trên AI nhiều hơn  và được áp dụng cho các tình trạng sức khỏe nghiêm trọng, rủi ro sẽ lớn hơn đối với sự an toàn của bệnh nhân và do đó đòi hỏi mức độ tin cậy cao hơn. Những sản phẩm đáp ứng định nghĩa của thiết bị y tế có thể cần nhiều giám sát và quy định hơn vì phân loại rủi ro cao hơn.

Phân loại rủi ro IMDRF của các sản phẩm sức khỏe kỹ thuật số dựa trên AI

Phân loại rủi ro và chứng nhận chất lượng các sản phẩm dựa trên AI có mục đích y khoa là các phần quan trọng trong quy định về chăm sóc sức khỏe kỹ thuật số. Các hướng dẫn và thực hành thay đổi liên tục và phải được theo dõi cẩn thận.

3 ví dụ từ phòng xét nghiệm

Nhiều sản phẩm sử dụng AI trong phòng xét nghiệm ngày nay không được xem như thiết bị y tế và do đó không cần theo quy định. Đó là các công cụ nhằm giúp tối ưu hóa quy trình làm việc và quản lý chất lượng, cũng như các ứng dụng hỗ trợ quyết định lâm sàng (CDS) có rủi ro thấp.

Ví dụ, ngày càng nhiều phòng xét nghiệm đang áp dụng mô hình dịch vụ từ xa của các nhà cung cấp để có thể giám sát và hỗ trợ các thiết bị IVD chủ động hơn. Dữ liệu vận hành được chia sẻ thông qua kết nối trực tuyến và AI có thể được sử dụng để tự động hóa hơn một số quy trình và dự đoán tốt hơn các yêu cầu bảo dưỡng. Tuy nhiên, AI trong các nền tảng này sẽ không được xem là thiết bị y tế theo quy định.

Một ví dụ khác, một số tổ chức chăm sóc sức khỏe ở khu vực châu Á Thái Bình Dương sử dụng những nền tảng phần mềm tận dụng các thuật toán dựa trên AI để tối ưu hóa quy trình làm việc của các nhóm đa chức năng. Các thuật toán này mang tính chất hỗ trợ và do đó rủi ro tương đối thấp, vì vậy không cần việc giám sát theo các quy định quan trọng (lưu ý: bất kỳ mô-đun nào được xem như là thiết bị y tế có nguy cơ cao đối với sự an toàn của bệnh nhân phải được đánh giá riêng).

Các yêu cầu về quy định cho AI trong phòng xét nghiệm

Ở mức độ rủi ro cao hơn, ngày càng nhiều công ty chăm sóc sức khỏe đang phát triển các thuật toán dựa trên AI kết hợp dữ liệu phòng xét nghiệm với các yếu tố khác, chẳng hạn như hình ảnh hoặc thông tin lâm sàng, để hỗ trợ chăm sóc bệnh nhân (ví dụ: một nghiên cứu y khoa gần đây về việc sử dụng AI để mở rộng chỉ định lâm sàng của dấu ấn ung thư trong huyết thanh ở Trung Quốc). Các thuật toán như vậy  có thể trực tiếp chẩn đoán và phân loại bệnh nhân, do đó cần được giám sát và quy định chặt chẽ hơn.

Mặc dù quy định về trí tuệ nhân tạo trong chăm sóc sức khỏe vẫn còn mới mẻ, tính minh bạch và khả năng giải thích là hai nguyên tắc được xem xét định kỳ trong quy trình làm việc hiện tại ở khu vực châu Á Thái Bình Dương, châu  u và Hoa Kỳ. Khi các thuật toán có thể tự đưa ra quyết định, điều quan trọng là con người có thể hiểu rõ ràng làm thế nào thuật toán AI hỗ trợ đưa ra một quyết định cụ thể. Bên cạnh việc xây dựng sự tin cậy, AI hoạt động một cách minh bạch cũng sẽ giúp  người sử dụng giải quyết các vấn đề của mô hình mới này và liên tục cải thiện khả năng của nó.

Các điểm cần nhớ

• Quy định của AI trong lĩnh vực chăm sóc sức khỏe kỹ thuật số được xác định theo định nghĩa của thiết bị y tế và mức độ rủi ro đối với bệnh nhân. 
• Các công cụ tổng hợp dữ liệu và bảo dưỡng thiết bị từ xa là những ví dụ về những sản phẩm dựa trên AI có rủi ro thấp trong phòng xét nghiệm mà không cần có quy định. 
• AI trong lĩnh vực chăm sóc sức khỏe cần minh bạch và có thể giải thích được để tạo sự tin cậy từ người sử dụng.