С 2018 года FDA все чаще выдает разрешения на медицинские изделия на основе искусственного интеллекта (ИИ). К ним относится растущее число алгоритмов ИИ, которые можно применять в клинических лабораториях или сами могут использовать данные клинических лабораторий.
ИИ привлекает внимание регуляторных органов из-за опасений по поводу прозрачности и объяснения этой технологии. Однако не каждый медицинский продукт на основе ИИ предназначен для медицинского использования или обязательно представляет высокий риск для пациентов. Чтобы обеспечить безопасное и надлежащее использования этих продуктов, которые могут помочь спасти жизнь и улучшить исходы лечения пациентов, необходим подход к регулированию, основанный на оценке рисков.
Три типа ИИ
Алгоритмы на основе ИИ можно разделить на три категории в зависимости от степени участия человека в принятии решения о медицинском обслуживании: вспомогательные, автоматизированные и автономные.
- Вспомогательный ИИ помогает медицинскому специалисту сообщать информацию о клиническом лечении или управлять им
- Автоматизированный ИИ лечит или диагностирует пациента, при этом медицинский специалист может подтвердить или отменить решение ИИ
- Автономный ИИ действует полностью независимо для лечения или диагностики пациента без участия медицинского специалиста
Согласно Международному форуму регуляторов медицинских изделий (IMDRF), по мере того, как продукты на основе ИИ становятся все более автономными и применяются для лечения более серьезных заболеваний, они представляют все больший риск для безопасности пациентов и поэтому требуют более высокого уровня доверия. Продукты, которые соответствуют определению медицинского изделия, необходимо больше контролировать и регулировать, поскольку категория риска выше.
Классификация рисков, связанных с цифровыми медицинскими продуктами на основе ИИ, согласно критериям IMDRF
Классификация рисков и квалификация продуктов на основе ИИ для медицинского применения составляют ключевые направления политики в области регулирования цифрового здравоохранения. Соответственно, рекомендации и практики постоянно меняются, и за ними необходимо внимательно следить.
Три примера из клинической лаборатории
Сегодня многие продукты на основе ИИ в клинической лаборатории не считаются медицинскими изделиями и, следовательно, не подлежат соответствующему регулированию. К ним относятся инструменты для оптимизации рабочего процесса и управления качеством, а также приложения для поддержки принятия клинических решений (ППКР) с низким уровнем риска.
Например, все больше клинических лабораторий внедряют модели удаленного обслуживания вместе с поставщиками, чтобы обеспечить упреждающий мониторинг и поддержку оборудования для диагностики in vitro. Оперативные данные передаются через интернет, а ИИ может использоваться для дальнейшей автоматизации некоторых из этих процессов и более точного прогнозирования потребностей в техническом обслуживании. Однако ИИ на этих платформах не будет считаться регулируемым медицинским изделием.
Другой пример: в некоторых организациях здравоохранения в Азиатско-Тихоокеанском регионе применяются программные платформы, которые используют алгоритмы на основе ИИ для оптимизации рабочего процесса многопрофильных команд. Эти алгоритмы обычно вспомогательные и, следовательно, характеризуются относительно низким уровнем риска, поэтому вряд ли потребуют значительного надзора со стороны регуляторных органов. (Примечание. Все модули, которые считаются медицинским изделием и создают повышенный риск для безопасности пациентов, подлежат независимой оценке.)
Нормативные требования к ИИ в клинических лабораториях
Если говорить о более высоком уровне риска, все больше компаний из сферы медицинских технологий разрабатывают алгоритмы на основе ИИ, которые объединяют клинические лабораторные данные с другими факторами, такими как результаты визуализационных исследований или клиническая информация, чтобы помочь в оказании помощи пациентам (см. описание недавнего случая использования ИИ для расширения клинической применимости сывороточных опухолевых маркеров в Китае). Такие алгоритмы могут непосредственно диагностировать и выполнять медицинскую сортировку пациентов и, таким образом, требовать большего контроля и регулирования.
Хотя регулирование ИИ в здравоохранении все еще находится в зачаточном состоянии, прозрачность и понятность — это два повторяющихся принципа в существующих нормативных базах в Азиатско-Тихоокеанском регионе, Европе и США. Если алгоритмы могут принимать решения самостоятельно, важно, чтобы люди могли четко понять, как алгоритм ИИ пришел к определенному решению. Помимо укрепления доверия, прозрачный в работе ИИ позволяет пользователям устранять проблемы в модели и постоянно улучшать ее возможности.
Основные тезисы
- Регулирование ИИ в цифровом здравоохранении определяется его квалификацией в качестве медицинского изделия и уровнем риска для пациента
- Инструменты для сбора данных и удаленного обслуживания приборов выступают примерами продуктов на основе ИИ с низким риском в клинической лаборатории, которые не требуют регулирования
- Чтобы завоевать доверие пользователей, применение ИИ в здравоохранении должно быть объяснимым и прозрачным
