Уровень проникновения ИИ в ИБ вырос, но все равно остается небольшим

Такое мнение разделило большинство участников экспертной дискуссии "Инь и ян: ИБ и ИИ", которая прошла в рамках конференции Innopolis AI Conference for business (AI IN 2023). Управляющий директор "Лаборатории Касперского" в России Анна Кулашова при этом назвала сферу ИБ довольно консервативной в плане использования искусственного интеллекта (ИИ), и за счет этого уровень проникновения ИИ в ИБ остается ниже среднего по экономике как в мире, так и в России. Она обратила внимание на такие риски любых систем, использующих искусственный интеллект (ИИ), как слабая устойчивость к манипуляциям с данными, причем эта уязвимость касается возможных действий и внутренних, и внешних нарушителей.

Анна Кулашова напомнила, что широкое использование аналитических технологий создает дополнительные риски для конфиденциальности данных. Не менее серьезной сложностью, по ее мнению, является высокая требовательность к вычислительным ресурсам систем обучения нейросетей, особенно на фоне дефицита комплектующих, в частности графических ускорителей.

Директор по стратегическому развитию InnoStage Андрей Тимошенко привел пример с антивирусным ПО CYLANCE, которое из-за неправильного обучения начало пропускать вредоносный код. При этом, по его оценке, при решении как минимум 70% задач, стоящих перед ИБ, использование ИИ объективно не нужно.

Эксперт OSINT ООО "Интеллектуальная безопасность" (Security Vision) Евгений Кунин назвал серьезным сдерживающим фактором сложность систем, использующих продвинутую аналитику. Он привел пример систем поведенческого анализа пользователей и сущностей (UBA, UEBA), внедрение которых практически всегда представляет собой интеграционный проект. И в целом при внедрении таких систем, как предупредил Евгений Кунин, очень много организационных и технических проблем. Также, по его оценке, очень много нерешенных сложностей с регуляторами, особенно при использовании систем генеративного ИИ, которые требуют подключения к публичному интернету, что является грубым нарушением законодательства по защите критической информационной инфраструктуры (КИИ). Евгений Кунин привел пример недавнего обвинительного приговора, который вынесен ИТ-специалисту за внедрение системы с открытым кодом на объекте КИИ.

Руководитель отдела перспективных технологий ПАО "Группа Позитив" (Positive Technologies) Александра Мурзина, ссылаясь на опыт компании, заявила, что бизнес ограничивается мерами по защите кода, тогда как перечень возможных векторов атак куда шире. Она привела выдержки из исследований профессора Имперского колледжа Лондона Кенга Ли, согласно которым число возможных векторов атак не меньше девяти. Но при этом, сославшись на результаты обследований заказчиков Positive Technologies, Анна Мурзина оценила уровень уязвимости компаний в 96%, когда речь идет о внешних злоумышленниках, а перед внутренними нарушителями уязвимы и вовсе абсолютно все.

При этом сами системы ИИ, как заявил Евгений Кунин, также нуждаются в защите. При этом, по его оценке, модели являются не менее ценным активом, чем данные, особенно для таких отраслей, как розничная торговля и финансовый сектор, где разработка более эффективной модели для скоринга или обработки пользовательского опыта является ощутимым конкурентным преимуществом.

Начальник отдела информационной безопасности ООО "СерчИнформ" Алексей Дрозд обратил внимание, что ИИ активно используют киберпреступники. Однако противостояния защитного ИИ с нападающим, по его мнению, стоит ждать еще год-два. ИИ в ИБ-системах, по оценке Алексея Дрозда, пока используется по большей части для автоматизации рутины при работе с системами мониторинга и корреляции событий (SIEM) и центров мониторинга ИБ (SOC). Однако перспективными, по его оценке, являются системы класса UBA (поведенческий анализ пользователей и сущностей), принцип работы которых состоит в выявлении отклонений от нормы.

Однако, по мнению Анны Кулашовой, без использования ИИ уже невозможно решение целого спектра задач, в частности, связанных с анализом вредоносных приложений, количество которых растет на 400 тыс. за день.

Как заявил Андрей Тимошенко, область применения для ИИ в ИБ уже измеряется десятками сфер, а годовые темпы роста - двузначными числами. По его мнению, основной эффект от внедрения ИИ - снижение реакции на инциденты, прежде всего сотрудников SOC. Такие проекты, как заявил Андрей Тимошенко, уже реализуются, причем массово. Также машинное обучение, по его мнению, широко распространено при решении задач сетевой безопасности и защиты от фрода, мошенничества и разного рода злоупотреблений.

Как заявил директор департамента доверия и безопасности Avito Андрей Рыбинцев, современные системы антифрода без ИИ невозможно представить, особенно если речь идет о сервисах С2С с большим количеством пользователей, таких как Avito. ИИ, по его словам, помогает модерировать объявления, выявлять ботов, фальшивые учетные записи, фишинг.

Пример Avito не является единичным. К примеру, обновление механизмов защиты от фрода позволило клиентам "Яндекса" сохранить 240 млрд руб. рекламных бюджетов за первую половину года, что в пять раз больше, чем в январе-июне 2022 г. "Наши алгоритмы обучаются в том числе на данных о конверсиях, которые мы получаем от бизнеса. Таким образом, совместными усилиями мы решаем одну из самых актуальных проблем на рекламном рынке - проблему роста фродового трафика", - прокомментировал результат обновления сервиса заместитель коммерческого директора "Яндекса" по качеству Алексей Гончаров.

https://www.comnews.ru/content/228225/2023-08-18/2023-w33/antifrod-yand…