ИИ в медицине стандартизировали
Новые стандарты включают в себя несколько гостов. Первый стандарт - ГОСТ Р "Системы искусственного интеллекта. Системы искусственного интеллекта в клинической медицине. Часть 1. Клинические испытания". Он устанавливает общие требования к проведению клинических испытаний и оценки систем искусственного интеллекта (СИИ) для определения уровня безопасности и клинической значимости выходных данных СИИ, общие принципы применения показателей оценки точности СИИ.
Второй стандарт - ГОСТ Р "Системы искусственного интеллекта. Системы искусственного интеллекта в клинической медицине. Часть 4. Оценка и контроль эксплуатационных параметров". Стандарт устанавливает общие требования к оценке и контролю эксплуатационных параметров системы искусственного интеллекта при вводе в эксплуатацию и периодическом контроле, что позволит проводить однозначно интерпретируемую оценку характеристик и параметров СИИ.
Третий стандарт - ГОСТ Р "Системы искусственного интеллекта. Системы искусственного интеллекта в клинической медицине. Часть 5. Требования к структуре и порядку применения набора данных для обучения и тестирования алгоритмов". Стандарт устанавливает общие требования к структуре и порядку применения наборов данных, которые используются для обучения и тестирования систем искусственного интеллекта.
Директор по акселерации по направлению цифровая медицина кластера биомедицинских технологий Фонда "Сколково" Сергей Войнов считает, что Технический комитет по стандартизации №164 был сформирован из хорошей экспертной группы по разработке, доработке и адаптации тех стандартов, которые существовали в мире по применению искусственного интеллекта в медицине.
"Финальная версия этих стандартов, которые были преобразованы в ГОСТ, отражает объективную реальность тех кейсов, которые мы сейчас видим на рынке искусственного интеллекта. Это хороший шаг к гармонизации стандартов применения искусственного интеллекта. И мы здесь занимаем хорошую экспертную позицию: часть нашей группы работает над разработкой стандартов ISO, то есть международных. Также была проведена работа по адаптации этих международных стандартов под реалии российского здравоохранения", - отмечает Сергей Войнов.
Сергей Войнов считает, что стандарты достаточно здравые, с ними можно работать и на них можно ориентироваться. "Конечно, они будут нуждаться в актуализации, потому что технологии искусственного интеллекта - это новая область, и там сейчас постоянно появляются новые продукты, технологические решения, и, соответственно, это затрагивает все более широкий спектр медицинских процессов. В какой-то момент времени накопится достаточное количество технологических кейсов, когда нужно будет эти стандарты обновлять. Но на данный момент, считаю, хорошо, что они вышли, и многим игрокам рынка будет удобно на них ориентироваться", - подчеркивает Сергей Войнов.
Директор по продуктовым технологиям группы "Т1" Александр Рожков отмечает, что о первых федеральных инициативах по использованию ИИ в системах поддержки принятия врачебных решений (в первую очередь в онкологии и неонатологии) в рамках проекта "Электронное здравоохранение" стало известно еще задолго до начала пандемии - в конце 2017 г., а о разработке проекта первого национального стандарта, регулирующего проведение клинических испытаний медицинских систем ИИ в России, стало известно в августе 2020 г.
"Совокупность ряда факторов, таких как пандемия, растущий объем медицинских данных, повышение сложности дата-сетов, зрелость технологий, необходимость сокращения расходов в медицине и др., выступает в качестве драйвера для роста рынка медицинских ИИ-решений. Эксперты прогнозируют, что мировой рынок в этом сегменте будет расти ежегодно на 45% до 2025 г. Таким образом, можно говорить о том, что активизация работы над разработкой стандартов очень актуальна", - считает Александр Рожков.
В соответствии с перспективным планом работы ТК 164, до 2027 г. должно быть разработано около 50 стандартов в области ИИ в здравоохранении, отмечает Александр Рожков.
"Первичными стандартами для такой области, как ИИ, должны быть обзор терминов и классификация технологий. Другими словами, должна быть составлена онтологическая модель ИИ применительно к сфере здравоохранения. По сути, необходимо провести большую научно-исследовательскую работу по изучению существующих практик и перспективных направлений использования ИИ в здравоохранении", - считает Александр Рожков.
"За прошедшие полтора года на рынке появилось множество HealthTech и COVID-Tech стартапов, в решениях которых так или иначе используются технологии ИИ. Большое количество потенциальных направлений, а также уровень зрелости технологий ИИ можно выявить в рамках подробного рассмотрения "дорожной карты" "Хелснет" Национальной технологической инициативы и "дорожной карты" развития "сквозной" цифровой технологии "Нейротехнологии и искусственный интеллект", - отмечает Александр Рожков.
Безусловно, при разработке стандартов необходимо учитывать множество организационно-технологических, этических и юридических аспектов, подчеркивает Александр Рожков.
"В том числе необходимо учитывать стандарты, обозначенные в Концепции регулирования технологий ИИ и робототехники до 2024 г., - доступность дата-сетов и библиотек снимков для обучения нейросетей, самоуправляемые и самообучаемые диагностические модели, приоритет "второго" мнения, ответственность за ошибки в постановке диагнозов, управление рисками, методы оценки эффективности диагностики, встраивание подобных систем в единый цифровой контур здравоохранения, обеспечение кибербезопасности, импортозамещение, сертификация и патентование алгоритмов/систем/сервисов/платформ на основе ИИ, подготовка кадров для работы с системами и т.п.", - отмечает Александр Рожков.
Владелец IT-legal компании "Катков и партнеры" (КИП), член Комитета ТПП РФ по предпринимательству в сфере медиакоммуникаций Павел Катков считает, что было бы неплохо до их применения дать их на оценку профессиональной (и при этом критически настроенной) команде рецензентов, чтобы они выявили недостатки.
"Такая "обкатка в песочнице" помогла бы выявить недостатки до их применения, и это разумнее, ибо выявление недостатков медицинских систем в ходе их применения может создать риск для жизни и здоровья пациентов, если последние зависят от решений ИИ", - отмечает Павел Катков.
