Искусственный интеллект выписал настоящие таблетки
Сервис позволит клиентам российской интернет-аптеки "Сбер Еаптеки" получать поддержку по фармацевтическим вопросам — подбору препаратов, графику приема, противопоказаниям и побочным эффектам. "Цифровой помощник автоматически сформирует ответ на запрос, а оператор контакт-центра оценит качество сформированного ответа и только после проверки отправит его клиенту. Подключение сервиса позволит сократить время ожидания ответа фармацевта, а также снизит нагрузку на сотрудников контакт-центра", - сказано в сообщении ПАО "Сбербанк".
Представитель пресс-службы "Сбер Еаптеки" сообщил корреспонденту ComNews, что ответы модели полностью проверяют фармацевты со специальной подготовкой и соответствуют законодательству: "При этом конечная ответственность за консультацию по препаратам, правилам приема и побочным эффектам останется на стороне фармацевта. Понятие фармацевтического консультирования и того, что в него входит определено в приказе министерства труда и социальной защиты РФ 0Т 31 мая 2021 г. № 349н "Об утверждении профессионального стандарта "Фармацевта".
Руководитель проектов развития ИИ-решений ООО "Директум" (Directum - разработчик систем электронного документооборота) Илья Петухов упомянул о том, что ответственность за консультацию остается на операторе, который должен проверить рекомендации искусственного интеллекта (ИИ) на предмет ошибок и противопоказаний, а также запросить дополнительную информацию у человека, который делает запрос. "С точки зрения требований к операторам, они останутся прежними, так как проверять то, что сформировала машина, нужно в любом случае. При этом ИИ упростит задачу для человека, работа ускорится, и тот же состав специалистов сможет обрабатывать больше обращений", - отметил Илья Петухов.
Научный сотрудник лаборатории "Сильный ИИ в медицине" научно-исследовательского института ИИ (AIRI) Александр Нестеров отметил, что медицинские знания, заложенные в GigaChat, в сочетании с такими приемами построения LLM-систем, как Retrieval Augmented Generation (RAG), позволяют с высокой точностью давать ответы на справочные вопросы, к которым относится подбор препаратов и другая информация подобного профиля: "Из заявления разработчиков следует, что все ответы GigaChat валидируются фармацевтами, что снижает риски потенциальных неточностей. При правильной организации работы LLM-систем консультативного характера возможные риски предотвращаемы, главное для пользователя – не игнорировать рекомендацию и обратиться за дополнительными разъяснениями к врачу в случае ее появления".
Директор департамента контактных центров и роботизированных систем АО "Наумен" (Naumen - российский разработчик программных решений для бизнеса и органов власти) Сергей Попов не считает, что такая разработка снизит уровень компетенции операторов контакт-центров: "Цель цифрового помощника в этой задаче – автоматизировать зону рутинных ответов и освободить время операторов для более сложных и нестандартных вопросов, что, напротив, требует повышения квалификации сотрудников контакт-центра. В процессе контроля качества ответов операторы также остаются вовлеченными в процесс и поддерживают высокий уровень компетенций".
Советник по направлению "Здравоохранение" ООО "Айтентика" (ITentika - разработчик программного обеспечения для бизнеса) Артем Николаев рассказал о том, что на мировом фармрынке за последние полгода произошло много изменений: "Их скорость постоянно растет - важнейшую роль в этом, как раз играют нейросети. Если раньше фармкомпаниям для разработки нового препарата нужны были годы и десятилетия, то теперь благодаря ИИ новые, готовые к клиническим испытаниям субстанции появляются гораздо быстрее".
Артем Николаев упомянул об отечественном рынке, на котором, благодаря импортозамещению и новым импортерам лекарственных средств, появляются те фармсредства, о которых фармацевты могут не успеть прочесть в привычных источниках: "Отдельный интерес, в части скорости изменений, представляет разрабатываемый Минздравом и Роспотребнадзором законопроект, регулирующий биологически активные добавки - скорость разработки который еще выше, чем у лекарственных средств".
Место для опасений
Директор департамента голосовых цифровых технологий ООО "БСС" (BSS - российский разработчик комплексного программного решения) Александр Крушинский отметил, что от таких разработок становится тревожно, особенно в тех случаях, когда ИИ начинает активно участвовать в таких сложных и критичных вещах, как подбор лекарств. "Но прогресс не остановить и появление таких цифровых помощников во всех областях нашей жизни неизбежно. Я предполагаю, что этого помощника делали профессионалы и помимо высокой эффективности для контакт-центра "Сбер Еаптеки" всерьез работали над качеством его рекомендаций", - пояснил Александр Крушинский.
Основатель юридической компании ООО "Футура Лигал" Павел Катков считает, что доверять здоровье искусственному интеллекту - вопрос не столько этики, сколько опыта. "Пока эти сервисы не зарекомендовали себя, люди могут их опасаться. Вместе с тем, если сервис качественно запрограммирован и ведет не интеллектуальную деятельность врача, а просто подбор вариантов схем лечения под симптомы - почему нет, простые случаи вполне будут ему подвластны. В любом случае, организатор сервиса будет нести ответственность за качество услуги независимо от того, оказывает ее ИИ или живой человек. Только в первом случае субъектом ответственности будет не фармацевт, а руководитель организации", - подчеркнул Павел Катков.
Старший юрист юридической фирмы ООО "Верба Лигал" Никита Жемчугов поведал о том, что юридически использование различных систем поддержки не запрещено законом: "При этом фармацевты все равно обязаны соблюдать общие требования, установленные к оказанию фармацевтических консультаций, и будут нести ответственность за оказание консультаций ненадлежащего качества на общих основаниях, включая, например, "Правила надлежащей аптечной практики" и иные применимые нормативно-правовые акты".
