Этика и цифра: цифровые технологии делают жизнь комфортной, но могут привести к усилению дискриминации
Ученые, разработчики и представители органов власти обсудили этические аспекты цифровизации в мире и в России
Центр подготовки руководителей цифровой трансформации ВШГУ РАНХиГС выпустил доклад "Этика и "цифра": этические проблемы цифровых технологий". Доклад был представлен на Гайдаровском форуме в рамках дискуссии "Этические проблемы применения цифровых технологий: как искать решение?", которая состоялась 15 января 2020 года. Участники дискуссии обсудили разные аспекты технологического развития, которые ставят перед разработчиками цифровых сервисов, государством и гражданами широкий спектр технических, правовых и философских вопросов.
"Цель доклада — обозначить ключевые для общества и государственного управления проблемы, связанные с развитием цифровых технологий, а также существующие сегодня подходы к их решению. Мы рассуждаем об основных этических вызовах: это вопросы, связанные с персональными данными, с развитием технологий искусственного интеллекта, — рассказывает академический директор Центра подготовки руководителей цифровой трансформации Мария Шклярук, которая выступила модератором дискуссии об этике цифровизации. — Государство сегодня уже не успевает контролировать и защищать персональные данные граждан. Существует достаточно жесткое регулирование, однако его сложно применить на практике. Между тем крупный бизнес быстро наращивает объемы данных, которые пользователи передают в обмен на удобные сервисы, и зачастую подписывают соглашение о персональных данных автоматически, разрешая владельцам сервиса или приложения использовать их на свое усмотрение. Частные компании стараются максимально персонализировать свои цифровые продукты, при этом сами находятся в ситуации законодательной неопределенности".
Еще одна сторона вопроса при обсуждении этики в цифровых технологиях — прозрачность принятия решений системами искусственного интеллекта, в том числе при их возможном применении в государственных сервисах. При этом в России, по мнению Марии Шклярук, люди склонны доверять ИИ в вопросах принятия решений больше, чем в других странах ввиду того, что существующий уровень доверия чиновникам невысок. Кроме того, при принятии ошибочных решений с большой вероятностью пострадают наиболее уязвимые социальные группы — жители удаленных населенных пунктов, люди с низкой цифровой грамотностью, пенсионеры и другие граждане, для которых будет технически сложно оспорить принятые роботом решения.
По мнению руководителя отделения нейрокогнитивных наук и интеллектуальных систем НИЦ "Курчатовский институт", вице-президента Российской ассоциации искусственного интеллекта Валерия Карпова, вопросы этики в сфере искусственного интеллекта уже сегодня перешли в область технического регулирования и стандартизации: в мире и в России разрабатываются технические стандарты, которые будут определять свойства системы, которая должна принимать важные решения. По его словам, такие системы не могут быть черным ящиком и должны уметь "объяснить", почему то или иное решение было принято определенным образом. Этичность таких систем будут зависеть от того, какие императивы будут вложены в них разработчиком.
Обсуждая этические аспекты создания государственных цифровых сервисов, директор Департамента развития цифрового государства Министерства цифрового развития, связи и массовых коммуникаций Российской Федерации Алексей Горобцов отметил: "Говоря о цифровизации госуправления и разработке соответствующих платформ, важно понимать, что быстро и полностью "уйти в цифру" нельзя: у людей должны оставаться разные каналы для общения с государством, даже если цифровые сервисы объективно более удобны. При этом и аналоговые, и цифровые способы общения гражданина и государства должны быть одинаково быстрыми и комфортными, потому что полный переход "в цифру" не будет мгновенным: даже в тех областях, где можно оцифровать все услуги (например, финтех и авиаперевозки), сегодня остается "стойка для клиента", куда можно подойти и задать вопросы".
По словам Алексея Горобцова, при создании государственных суперсервисов эта вариативность сохранится. Разница с нынешним положением будет в том, что даже при сохранившейся возможности прийти в МФЦ и получить услугу очно у оператора сама услуга "на стороне государства" будет осуществляться уже с использованием современных технологий. При этом задача государства будет состоять в том, чтобы защищать персональные данные людей и сделать сервисы максимально удобными для пользователей.
На основе данных доклада "Этика и цифра" Мария Шклярук перечислила основные этические вопросы, которые сегодня волнуют людей ввиду быстрого развития цифровых технологий: это вездесущность (невозможность скрыться от систем наблюдения), проблема идентификации (нельзя определить, наблюдают за вами в данный момент или нет), непредсказуемое поведение (отсутствие предупреждения о видеосъемке и иных системах сбора данных в публичных пространствах). При этом многие ставшие привычными страхи, такие, например, как массовое чипирование, уже сегодня можно считать неактуальными: существуют и стремительно развиваются технологии, которые позволяют получать данные человека с помощью более совершенных технических средств.
Одна из спикеров дискуссии, научный сотрудник Центра STS, доцент факультета социологии и философии Европейского университета в Санкт-Петербурге Лилия Земнухова считает, что большая часть этических и социальных проблем цифровизации относятся не к технологической сфере, и не могут быть решены техническими средствами:
"Например, если отношения государства и граждан не налажены, то цифровизация не станет решением, — считает Земнухова. — Основная проблема цифровизации в том, что она может обострить уже существующие социальные проблемы, которые должны решаться прежде всего на управленческом уровне. По мнению Лилии Земнуховой, самые острые социальные проблемы в контексте цифровизации — это неравенство доступа к технологиям, низкая цифровая грамотность и недостаточное техническое обеспечение, особенно в регионах.
