自2018年以來，FDA對基於人工智慧(AI)的醫療設備的批准一直在上升。這包括越來越多的AI演算法，其可用於臨床實驗室或利用臨床實驗室資料。
由於擔心與該技術相關的透明度及可解釋性，AI吸引了監管審查。然而，並非每個使用AI的健康照護產品都具有醫療目的或必然對患者構成高風險。必須採用基於風險的監管方法，以確保安全適在地使用這些有助於挽救生命和改善患者結果的產品。
AI之三種型別
基於人類參與醫療保健決策之程度，基於AI的演算法可大致分為三類：輔助性、自動化及自主性。
- 輔助性AI -支援專業醫護人員(HCP)告知或推動臨床管理
- 自動化AI -以HCP核准或覆寫AI之決定的可能性來治療或診斷患者
- 自主性AI -在未經HCP審查之情況下完全獨立地行動以治療或診斷患者
國際醫療器材監管機構論壇(IMDRF)指出，隨著基於AI的產品變得更具自主性，並應用於更嚴重的健康狀況，它們對患者安全構成更大的風險，因此需要更高程度的信任。對於符合醫療裝置定義的產品，由於風險分類較高，因此可能需要更多的監督和監管。
基於AI之數位健康產品之IMDRF風險分類
具有醫療目的之基於AI之產品的風險分類及資格鑑定為 數位健康法規中之關鍵政策領域。因此，指南和實踐不斷變化，必須仔細追蹤。
來自臨床實驗室的三個例項
今天在臨床實驗室中使用AI的許多產品不符合醫療設備的資格，因此不應受此類監管。其中包括用於工作流程最佳化和品質管理的工具，以及低風險臨床決策支援(CDS)應用。
例如，越來越多的臨床實驗室正與其供應商一起採用 遠端服務模式 ，以便對IVD儀器進行更主動的監控和支援。操作資料透過線上連線進行共用，AI可用於進一步自動化其中一些流程並更好地預測維護需求。然而，該等平台中之AI不符合受監管醫療設備的資格。
作為另一例項，亞太地區的一些醫療保健組織使用利用基於AI演算法的軟體平台來最佳化多學科團隊的工作流程。這些演算法本質上通常是輔助性的，因此風險相對較低，因此它們不太可能受到顯著的監管監督（注意：任何符合醫療裝置資格並對患者安全構成較高風險的模組都應獨立評估）。
臨床實驗室中AI之法規要求
在風險譜之較高端，愈來愈多之健康照護技術公司正在開發基於AI之演算法，其將臨床實驗室資料與其他因素（諸如影像或臨床資訊）組合以支援患者照護(參見例如 最近有關使用AI 擴展血清腫瘤標籤物於中國之臨床效用的個案研究)。此類演算法可直接診斷及分診患者，因此可能受到更大的監督及監管。
儘管健康AI之監管仍處於起步階段，但透明度及可解釋性為亞太、歐洲及美國當前架構中之兩項重複出現的原則。當演算法可自行做出決策時，人類能夠清楚地瞭解AI演算法如何得出特定決策非常重要。除了建立信任之外，AI在其操作中是透明的，可讓使用者修正模型中的問題並持續改善其能力。
關鍵要點
- 數位健康中AI之規範係由其作為醫療裝置之資格及對患者之風險程度所決定
- 資料聚合工具及遠端儀器維護是臨床實驗室中不需要監管的低風險基於AI之產品的例項
- 醫療保健中的AI應可解釋且透明，以贏得使用者的信任
