Кто обуздает искусственный интеллект

Технологии с применением искусственного интеллекта (ИИ) развиваются гораздо быстрее, чем их нормативное регулирование. Применение ИИ находит самое широкое, в том числе и в сферах, где цена ошибки может быть очень высока. В банковском секторе, например, значительный процент решений по выдаче кредита физическим лицам принимает ИИ. При этом до совершенных алгоритмов ему пока еще далеко, и закономерно возникает вопрос, кто защитит человека от ошибки машины и кто за нее ответит - робот или его хозяин.

За полтора года Сбербанк выдал клиентам крупного и среднего бизнеса кредиты на общую сумму 274 млрд рублей с помощью искусственного интеллекта (ИИ). Об этом в интервью на портале "Будущее России. Национальные проекты" сообщил первый зампред Сбербанка Александр Ведяхин. "За семь минут при помощи искусственного интеллекта принимается решение по кредиту, и клиент получает реальные деньги. Сейчас по этой технологии мы реализуем 32% оборотных сделок крупного и среднего бизнеса", - рассказал Александр Ведяхин. Что касается физлиц, как сообщил первый зампред Сбербанка, уже 100% кредитных решений по ним принимается с участием ИИ, а 95% из них формируется в автоматическом режиме, без участия человека. При этом он отметил, что на достижение искусственным интеллектом человеческого уровня потребуется несколько десятков лет. "По результатам опроса 352 мировых экспертов по машинному обучению, ИИ с вероятностью 50% станет лучше человека в подавляющем большинстве сфер и дисциплин через 45 лет, а с вероятностью 100% - лишь через 125 лет. Так что искусственный интеллект еще долгое время будет хорошим помощником и другом, как были компьютер, калькулятор, счеты", - сказал Александр Ведяхин.

Дейcтвительно, ИИ хороший помощник: с его помощью можно облегчить работу сотрудникам, переложив рутинные операции на машину, увеличить объем обрабатываемых данных в единицу времени, а значит - сократить затраты компании.

Страдают, правда, люди: уже в конце 2019 года в базе рекрутингового онлайн-агентства HeadHunter были размещены резюме от более чем 350 тыс. соискателей, указавших Сбербанк в числе бывших работодателей (такие данные приводит директор департамента аналитических бизнес-решений HeadHunter Наталья Данина). Глава Сбербанка Герман Греф в конце 2017 года сообщал, что банк запустил процесс массовой роботизации, однако заверял, что резкого сокращения рабочих мест из-за нее не будет. В январе 2017 года он говорил, что развитие дистанционного банковского обслуживания приведет к сокращению штата Сбербанка к 2025 году примерно в два раза. По данным промежуточной сокращенной консолидированной финансовой отчетности Сбербанка России, фактическая численность сотрудников (полных штатных единиц) по состоянию на 30 июня 2020 года составила 276 598 человек. По данным такой же отчетности годом ранее, фактическая численность персонала группы "Сбербанк" на 30 июня 2019 года составила 291 726 человек. Таким образом, количество сотрудников банка за последний некалендарный год сократилось на 15 128 человек.

Технологический прогресс не остановить. Слова песенки из фильма времен СССР "Приключения Электроника" - "Вкалывают роботы, а не человек" - наступившая реальность, уже имеющая и сулящая в будущем множество преимуществ как компаниям, так и людям.

Однако только человек в силах определить, каким будет это будущее. Необходимо, чтобы законодательное регулирование не отставало от практики, а уже принятые документы давали четкое понимание, как взаимодействовать человеку с машиной и кто несет ответственность за последствия. Нельзя действовать по принципу: мы выпустим на рынок побольше решений с ИИ, а он как-нибудь сам себя отрегулирует.

До сих пор и без помощи ИИ банки грешили кредитами наименее платежеспособным группам населения - пенсионерам и студентам. Эти категории граждан наиболее уязвимы: денег нет, а кушать (или в кино) хочется. Расплачиваться по таким кредитам зачастую приходится родственникам. Подобные ситуации возникают регулярно, и в прессе хватает заголовков в духе: "Пенсионер оформил кредиты на себя и родственников. Им придется выплачивать почти миллион рублей". По данным исследования Россельхозбанка (на апрель 2020 г.), средний возраст его заемщиков составляет 66 лет. "Наибольшим спросом (63%) у пенсионеров пользуется кредит наличными", - говорится в исследовании.

Кто гарантирует, что новые сущности с технологией искусственного интеллекта не выдают кредиты всем без разбора? А самое главное: если сотрудник банка принимает решение выдать кредит очевидно ненадежному заемщику и банк в итоге теряет деньги, то у такой ошибки "есть имя, фамилия и отчество", и отвечать будет конкретный сотрудник. А кто ответит за последствия, если решение принимал ИИ? И кто будет отвечать, если произойдет технический сбой и пострадают интересы не только банка, но и клиентов финансовой организации? Все это вопросы, которые следовало бы решить до того, как внедрение ИИ в финансовой сфере приняло массовый характер.

Но надо отдать должное, в случае с ИИ регуляторы встрепенулись гораздо раньше, чем это было, например, с интернетом, за регулирование которого государство схватилось, когда уже было откровенно поздно.

Неделю назад (19 августа 2020 г.) правительство РФ утвердило Концепцию регулирования искусственного интеллекта и робототехники до 2024 года (см. новость ComNews от 24 августа 2020 г.). Концепция составлена на 29 листах и устанавливает направления развития регулирования этой сферы до 2024 года. "Концепция определяет принципы, на базе которых будет совершенствоваться регуляторика, чтобы появились благоприятные условия для развития искусственного интеллекта и робототехники и исчезли существующие барьеры в самых разных сферах - от медицины до космоса", - заявил глава правительства Михаил Мишустин на совещании с вице-премьерами. По его словам, нововведения будут приниматься с учетом того, что технологии ИИ и робототехники должны быть безопасны для людей и работать исключительно на благополучие человека. "Это ключевое положение концепции", - подчеркнул премьер.

Слова Михаила Мишустина заслуживают бурных и продолжительных аплодисментов. Но важно, чтобы правильные заявления не остались лишь на бумаге и в электронных СМИ - как это часто бывает с государственными инициативами. И действия от государства нужны быстрые - в противном случае такие мощные участники рынка, как Сбербанк, сформируют правила игры сами, и потом придется "резать по живому". Не стоит забывать и о том, что нормативные акты необходимо постоянно актуализировать, поскольку технологии ИИ меняются быстро. Чтобы миром правили не роботы, а человек, последний должен серьезно отнестись к вопросам взаимодействия разума живого и интеллекта искусственного.