Этику ИИ определит Кодекс
"Технологии искусственного интеллекта постепенно внедряются в самые разные сферы жизни, включая образование, здравоохранение, госуправление. По данным ВЦИОМа, около 48% россиян доверяют ИИ. Это достаточно высокая цифра. Но пока у части общества неоднозначное отношение к таким технологиям, и это то, над чем нам надо работать. Обществу нужен надежный ИИ с вероятностью ошибки ниже, чем у человека. Права и свободы граждан гарантированы Конституцией. Наша обязанность - реализовать механизмы по их защите, независимо от среды, в которой находится человек. Соблюдение этических норм при работе с ИИ позволит предотвратить их нарушение. Поэтому правительство приветствует подписание профессиональным сообществом Кодекса этики ИИ, он позволит повысить уровень доверия граждан к новым технологиям. Опираясь на лучшие практики, Россия входит в десятку стран, для которых этичность развития важнейшей технологии XXI века имеет государственное значение", - отметил заместитель председателя правительства России Дмитрий Чернышенко.
Вице-премьер подчеркнул, что указом президента утверждена Национальная стратегия развития ИИ до 2030 г. и работа над Кодексом шла с учетом ее требований. Кодекс станет частью федерального проекта "Искусственный интеллект" и Стратегии развития информационного общества на 2017-2030 гг. Документ поделен на два раздела, куда входят в том числе такие темы, как стимулирование развития ИИ, повышение осведомленности об этике применения ИИ, идентификация ИИ в общении с человеком и информационная безопасность.
К разработке Кодекса было привлечено свыше 500 экспертов, получено и проработано более 300 различных предложений и замечаний. Организационно активно участие принимали Аналитический центр правительства и Минэкономразвития. Документ охватывает не только разработчиков, но и ученых, потребителей, поставщиков ИТ-решений. Принципы и положения, которые удалось выработать, полностью соответствуют рекомендациям ЮНЕСКО в сфере ИИ и содействуют достижению целей устойчивого развития, определенных ООН.
Событие прошло в рамках I международного форума "Этика искусственного интеллекта: начало доверия".
Пленарная сессия, которая проходила по теме "Национальная концепция этического регулирования искусственного интеллекта", завершилась торжественной церемонией подписания вышеупомянутого Кодекса этики ИИ. С помощью электронной подписи "Госключ" документ подписали Сбер, "Газпром нефть", "Яндекс", VK, МТС и Российский фонд прямых инвестиций, а также представители "Сколково", "Ростелекома", "Росатома", InfoWatch и ЦИАН.
"Сегодня организации-лидеры поставили свои подписи под Кодексом. Ожидаем, что до конца года его подпишут более 100 организаций из государственного, коммерческого и научного секторов. Правительство приложит все необходимые организационные усилия, чтобы этические принципы ИИ нашли практическую реализацию в разных сферах - в госуправлении, здравоохранении, на транспорте, где благополучие людей в приоритете", - заключил Дмитрий Чернышенко, отметив, что система искусственного интеллекта должна быть абсолютно безопасна для человека.
Кодекс этики устанавливает общие этические принципы и стандарты поведения, которыми могут руководствоваться участники отношений в сфере искусственного интеллекта. Он провозглашает человекоориентированный и гуманистический подход при развитии технологий ИИ, принципы недискриминации, безопасности работы с данными и информационной безопасности, идентификации ИИ в общении с человеком и уважения автономии воли человека, ответственности за последствия применения ИИ.
"Многие считают, что технологии искусственного интеллекта неоднозначны: с одной стороны, это мощный драйвер развития для всего человечества, с другой - ИИ обладает некоторой степенью автономности в принятии им решений, и не всегда очевидно, как эти решения принимаются. Поэтому сегодня перед всеми нами стоит большая цель - выработать доверие к технологиям ИИ, а это невозможно без определения правил их этичного применения. Уверен, что принятый Кодекс, в разработке которого активное участие принял Сбер, станет важным шагом в укреплении доверия граждан нашей страны к ИИ и, как следствие, в развитии всей отечественной отрасли искусственного интеллекта", - заявил первый заместитель председателя правления Сбера Александр Ведяхин.
Приверженность Кодексу станет ключевым элементом социальной ответственности компаний, разрабатывающих и внедряющих технологии ИИ в России. Планируется, что Кодекс этики в сфере искусственного интеллекта станет рекомендательным документом по этике для всех участников рынка ИИ - государства, бизнеса, российских и иностранных разработчиков. Кодекс устанавливает общие этические принципы и стандарты поведения, которыми могут руководствоваться участники отношений в сфере искусственного интеллекта.
Президент ПАО "МТС" Вячеслав Николаев отметил, что именно решения на основе технологии искусственного интеллекта уже в ближайшее время могут обеспечить настоящий прорыв в части цифровизации здравоохранения, образования, не говоря уже о решении повседневных задач.
"Вместе с тем искусственный интеллект сегодня можно с уверенностью назвать технологией, которая вызывает наибольшую тревогу в обществе. Поэтому сейчас самое время определить принципы, которые помогут использовать технологии искусственного интеллекта с максимальной пользой для общества. В МТС этическим вопросам при разработке продуктов, в том числе на базе искусственного интеллекта, всегда уделялось повышенное внимание, и мы рады поделиться этим опытом в рамках разработки общероссийского Кодекса этики ИИ", - подчеркнул Вячеслав Николаев.
В пресс-службе МТС добавили, что высокотехнологичные компании, которые руководствуются этическими правилами при создании решений на основе ИИ, получат дополнительное конкурентное преимущество. В компании отметили, что вопрос касается и коммерческой успешности продуктов, особенно в таких чувствительных сферах, как персональные или медицинские данные. Обеспечение бизнесом открытости, связанной с решениями на основе ИИ, станет основой повышения доверия к технологии в целом.
"Данный Кодекс содержит все ключевые направления и необходимые инструменты эффективного этического регулирования: назначение уполномоченного по этике внутри компании, создание национальной комиссии по этике, разработку недискриминационных методик, утверждение лучших практик в сфере ИИ, процедуры этической оценки. Предусмотрено также сотрудничество разработчиков по обмену информацией о выявленных этических уязвимостях, о способах повышения качества и доступности ресурсов, создания условий для развития образования", - отметили в МТС.
"Сам Кодекс, по сути, является моделью угроз, в котором часть угроз попытались оценить и предотвратить. В частности, ответственность за принятие решений должна оставаться за человеком, есть обязательность уведомления человека о том, что в данный момент с ним общается система ИИ", - сообщила генеральный директор Infowatch Наталья Касперская.
Начальник Управления администрации президента РФ по развитию ИКТ и инфраструктуры связи Татьяна Матвеева подчеркнула, что Кодекс открыт для подписания не только российскими компаниями, но и иностранными. По ее словам, тем самым будет сохраняться баланс, ведь Кодекс позволит российским компаниям-разработчикам уверенно себя чувствовать в рамках различных международных площадок, уверенно выводить свои продукты на международные рынки, и продукты, которые соответствуют Кодексу, будут приниматься в том числе и зарубежным сообществом.
"Положения Кодекса этики ИИ с течением времени должны пересматриваться в соответствии с возможными новыми вызовами, которые будут вставать в рамках развития новых технологий", - обозначила один из ключевых факторов Татьяна Матвеева.
В качестве инструмента реализации вышеупомянутых принципов и положений Кодексом предусмотрено создание Национальной комиссии по этике ИИ, назначение уполномоченных по этике, а также возможность создания коллегиальных отраслевых органов по этике. Альянс также займется разработкой методических рекомендаций и свода наилучших практик решения возникающих этических вопросов в жизненном цикле ИИ.
"Формирование и развитие рынка ИИ-технологий требует эффективного взаимодействия его участников. Совместная подготовка, принятие и дальнейшее использование Кодекса этики - важный этап формирования ключевых инструментов инфраструктуры и создания историй успеха для разработчиков, пользователей и инвесторов в сфере искусственного интеллекта. РФПИ вместе с соинвесторами и портфельными компаниями фонда традиционно большое внимание уделяет вопросам этики и репутации, поэтому готов активно делиться собственным и перенимать передовой опыт и практики", - подчеркнул первый заместитель генерального директора Российского фонда прямых инвестиций (РФПИ) Анатолий Браверман.
Архитектор Softline digital Николай Князев отмечает, что Кодекс содержит благие пожелания, подсвечивая вопросы, о которых много говорят во всех странах. Эксперт приводит в пример методы, внедренные в Microsoft Azure, которые проверяют, не обучилась ли модель дискриминации по национальному или религиозному признаку, для чего используются инструменты отслеживания и контроля моделей ИИ. Он добавляет, что работы о контроле самообучения группы OpenAI были одни из самых обсуждаемых несколько лет назад, и обращает внимание, что на центральной конференции разработчиков нейронных сетей NeurIPS оценка социальных последствий - обязательный раздел любой научной статьи.
"Данные пункты Кодекса указывают разработчику модели машинного обучения неочевидные моменты, куда стоит обратить внимание, и это безусловно разумно. Некоторые из пунктов явно инспирированы футурологами, более близкими к книгам, чем к практической науке, например п.2.4. о недопустимости использования систем, где есть возможность причинения вреда имуществу или окружающей среде. Это напоминает правила фантаста Азимова, однако такой подход абсурден, если говорить о прямом применении (любые устройства прямо или косвенно наносят урон окружающей среде). В любом случае в Кодексе поднимаются темы, о которых нужно говорить и искать ответы на поставленные вопросы", - резюмирует Николай Князев, высказав мнение, что стоит уделять больше внимания интерпретируемости моделей, ведь все опасения появляются, когда мы видим в ИИ "черный ящик", и развеиваются, когда мы понимаем, как он принимает решения.
Директор по продуктовой стратегии группы Т1 Сергей Иванов заметил, что вопрос зависимости человеческих жизней и здоровья от итогов работы тех или иных алгоритмов будет заостряться именно по причине отсутствия морали, этики и подобных человеческих качеств в автоматизированных решениях.
"Принятие Кодекса - правильный и во многом неизбежный шаг. Однако документ не имеет обязательного статуса, ограничиваясь только рекомендациями. Кроме того, любая передовая технология развивается и усложняется: зафиксированные сейчас в Кодексе подходы вряд ли будут отвечать вызовам и уровню технологии через 10 лет. Скорее всего, мы увидим достаточно регулярный процесс верификации (актуализации), а не статический свод "правил", - заключил Сергей Иванов.
