Sejak tahun 2018, persetujuan FDA untuk perangkat medis berbasis kecerdasan buatan (AI) mengalami peningkatan. Peningkatan ini termasuk makin beragamnya algoritma AI yang dapat digunakan di laboratorium klinis atau memanfaatkan data laboratorium klinis.
AI menarik perhatian pengawasan regulator karena kekhawatiran seputar transparansi dan penjelasan yang terkait dengan teknologi. Namun, tidak semua produk kesehatan yang menggunakan AI memiliki tujuan medis atau berpotensi menimbulkan risiko tinggi terhadap pasien. Pendekatan regulasi berbasis risiko diperlukan untuk memastikan bahwa produk-produk tersebut, yang dapat menyelamatkan nyawa serta meningkatkan hasil pada pasien, digunakan dengan aman dan tepat.
Tiga jenis AI
Algoritma berbasis AI secara umum dapat dibagi menjadi tiga kategori: asistif, otomatis, dan otonom, berdasarkan tingkat keterlibatan manusia dalam pengambilan keputusan kesehatan.
- AI Asistif – mendukung tenaga kesehatan (HCP) untuk memberikan informasi atau mengarahkan manajemen klinis
- AI Otomatis – mengobati atau mendiagnosis pasien dengan kemungkinan HCP menyetujui atau menolak keputusan AI
- AI Otonom – bertindak sepenuhnya secara independen untuk mengobati atau mendiagnosis pasien tanpa tinjauan HCP
Seiring dengan makin otonom dan diterapkannya berbagai produk berbasis AI pada kondisi kesehatan yang lebih serius, risiko terhadap keselamatan pasien meningkat dan karenanya memerlukan tingkat kepercayaan yang lebih tinggi, menurut International Medical Device Regulators Forum (IMDRF). Untuk produk yang dikategorikan sebagai perangkat medis, pengawasan dan regulasi tambahan mungkin diperlukan karena kategorisasi risikonya lebih tinggi.
Kategorisasi risiko IMDRF untuk produk kesehatan digital berbasis AI
Kategorisasi risiko dan kualifikasi produk berbasis AI yang memiliki tujuan medis merupakan area kebijakan penting dalam regulasi kesehatan digital. Dengan demikian, pedoman serta praktik terus berubah dan harus dipantau secara cermat.
Tiga contoh dari laboratorium klinis
Banyak produk yang menggunakan AI di laboratorium klinis saat ini tidak memenuhi syarat sebagai alat medis sehingga tidak perlu diatur dalam regulasi sebagai perangkat medis. Produk-produk tersebut mencakup alat untuk optimalisasi alur kerja dan manajemen mutu, serta aplikasi pendukung keputusan klinis (CDS) berisiko rendah.
Makin banyak laboratorium klinis yang, misalnya, mengadopsi model layanan jarak jauh dengan vendor mereka untuk memungkinkan pemantauan dan dukungan instrumen IVD secara lebih proaktif. Data operasional dibagikan melalui konektivitas online, dan AI dapat digunakan untuk mengotomatisasi lebih lanjut beberapa proses ini serta memprediksi kebutuhan pemeliharaan dengan lebih baik. Namun, AI dalam platform ini tidak diklasifikasikan sebagai perangkat medis yang diatur dalam regulasi.
Contoh lainnya, sejumlah organisasi kesehatan di wilayah Asia Pasifik menggunakan platform perangkat lunak yang memanfaatkan algoritma berbasis AI untuk mengoptimalkan alur kerja tim multidisipliner. Algoritma tersebut biasanya bersifat asistif dan relatif berisiko rendah sehingga kecil kemungkinan memerlukan pengawasan regulasi yang ketat (catatan: modul yang dikategorikan sebagai perangkat medis dan menimbulkan risiko lebih tinggi terhadap keselamatan pasien harus dievaluasi secara independen).
Persyaratan regulasi AI di laboratorium klinis
Pada tingkat risiko yang lebih tinggi, makin banyak perusahaan teknologi kesehatan yang mengembangkan algoritma berbasis AI yang menggabungkan data laboratorium klinis dengan berbagai faktor lain, seperti pencitraan atau informasi klinis, untuk mendukung perawatan pasien (misalnya, studi kasus terbaru mengenai penggunaan AI untuk memperluas kegunaan klinis penanda tumor serum di Tiongkok). Algoritma semacam ini dapat secara langsung mendiagnosis dan melakukan triase pasien sehingga mungkin memerlukan pengawasan serta regulasi yang lebih ketat.
Meskipun regulasi AI di bidang kesehatan masih dalam tahap awal, transparansi dan keterjelasan merupakan dua prinsip yang konsisten muncul di antara kerangka kerja saat ini di Asia Pasifik, Eropa, serta Amerika Serikat. Apabila algoritma dapat membuat keputusan secara mandiri, penting bagi manusia untuk dapat memahami dengan jelas bagaimana algoritma AI sampai pada keputusan tertentu. Selain membangun kepercayaan, AI yang beroperasi secara transparan memungkinkan pengguna memperbaiki masalah pada model dan terus meningkatkan kemampuannya.
Kesimpulan Utama
- Regulasi AI dalam kesehatan digital ditentukan oleh kualifikasinya sebagai alat medis dan tingkat risikonya bagi pasien
- Alat agregasi data dan pemeliharaan instrumen jarak jauh adalah contoh produk berbasis AI berisiko rendah di laboratorium klinis yang tidak memerlukan regulasi
- AI dalam layanan kesehatan harus dapat dijelaskan dan transparan untuk memperoleh kepercayaan dari penggunanya
