Ошибки и утечки данных - основные риски использования ИИ

Компании сильнее всего беспокоят непредсказуемые последствия ошибок при принятии решений, усиление технологической зависимости и утечка конфиденциальных данных. Опрос экспертов о влиянии ИИ на бизнес проведён в августе в рамках конференции AI IN 2023.

Респонденты отметили наиболее перспективное применение ИИ в анализе данных и составлении прогнозов, клиентском сервисе, цифровых ассистентах, в автоматизации производства и решения рутинных административных задач.

Рамиль Кулеев, директор Института искусственного интеллекта Университета Иннополис: "Мы провели опрос 100 представителей бизнеса, научных и исследовательских организаций из Газпромнефти, Авито, МТС, Яндекса, Сбера, Автоваза, ОАК, НИУ ВШЭ, МФТИ, Сколтеха, TenChat, Тинькофф, Ростелекома, Diginavis, Mind Simulation и других компаний, чтобы оценить степень влияния ИИ на процессы в компаниях, а также риски, ожидания и барьеры при внедрении этой технологии. ИИ не только трансформирует бизнес-модели, но и оказывает заметное влияние на переосмысление деятельности целых отраслей. Вместе с тем, не смотря на все очевидные выгоды от использования этой технологии, мы не должны игнорировать и возникающие вызовы в областях безопасности и этики, которые нуждаются во всесторонней экспертной оценке и общественном дискурсе".

Недостаточная зрелость самой технологии и отсутствие решений специфических задач, по мнению экспертов, является барьером для внедрения ИИ на данный момент.

Самой острой этической проблемой считается делегирование искусственному интеллекту ответственности за принятие сложных решений, включая врачебные и юридические. Также спорными остаются вопросы сбора и обработки больших объёмов персональных данных, в том числе биометрических.

Андрей Рыбинцев, Chief Data Officer Авито: "Искусственный интеллект может быть отличным помощником: благодаря технологиям, бизнес автоматизирует рутину, прогнозирует риски и создает продукты, способные предугадывать и подстраиваться под интересы пользователя. Бизнес ожидает от ИИ повышения продуктивности и экономии времени — здесь алгоритмы уже показывают превосходные результаты. Например, модерация в Авито на 99% автоматизирована:150+ ML-моделей анализируют объявления на соответствие нашим правилам, человек подключается только в сложных вопросах. Ключевым барьером развития остается человеческий фактор: компании отметили нехватку специалистов и недостаток компетенций. Решить это можно созданием среды, в которой даже небольшие бизнесы будут иметь доступ к технологиям ИИ".