Депутат предложил контролировать AGI-технологии с помощью системы госмониторинга

Антон Немкин отмечает, что, усовершенствуя технологию AGI и используя ее на мощностях отечественной ИТ-инфраструктуры, Россия повысит экспортный потенциал ИТ-отрасли на 5-7% уже в ближайший год. "Эта технология обеспечит прорывное развитие страны, так как она крайне востребована во всех отраслях экономики, в том числе потому, что позволит повысить производительность наших компаний, анализировать и проверять программный код, многократно ускорить практически все бизнес-процессы. Подобные технологии будут рады купить правительства всех дружественных стран, у которых нет возможностей приступить к реализации столь высокотехнологичного проекта", - сказал Антон Немкин.

Он предложил, помимо регулирования, разработать национальную системы государственного мониторинга и контроля применения AGI различными организациями. "Необходимо сделать превентивные шаги по законодательному регулированию совершенно новой для человечества реальности. Нам необходимо широкое обсуждение законодательных инициатив и совместная работа компаний-разработчиков, ученых, занимающихся проблематикой развития AGI, ведущих юристов в области цифрового права и даже философов и психологов, настолько сложна и многогранна эта сфера. Принятие превентивных законодательных норм поможет защитить общество от злоупотреблений новой технологией и даст четкие ориентиры для развития в реалиях совершенно новой индустрии 5.0 - времени ИИ, который превосходит человека", - заявил Антон Немкин.

Эксперты рынка и юристы отмечают ряд возможных проблем, связанных с применением AGI. Так, и.о. директора Института конкурентной политики и регулирования рынков НИУ ВШЭ, партнер КА "Муранов, Черняков и партнеры" Олег Москвитин говорит, что международное регулирование правоотношений в области AGI совершенно отсутствует и современное состояние международного права не дает оснований для оптимизма и надежд на скорую и скоординированную работу по стандартизации деятельности ИИ.

Ведущий юрисконсульт юридической компании ЭБР Анна Сарбукова рассказала о намерении профессионального сообщества подготовить пакет административных мер, в том числе разработать законодательную инициативу по установлению нормативно-правовой базы для использования AGI. "Это так называемый сильный искусственный интеллект, который по уровню интеллекта будет соизмерим с интеллектом человека. Уже сейчас созданы подобные модели - например, модели Narrow AI. Главное отличие AGI заключается в том, что такой интеллект не просто сможет обучаться и делать самостоятельные выводы на основе доступной информации. OpenAI уже задумываются, как минимизировать все риски, связанные с программой, которая сможет принимать самостоятельные решения. Сформулированные еще в 1942 г. Айзеком Азимовым три закона робототехники слабо применимы на практике. Принятие федерального закона, в котором может быть установлен порядок применения AGI различными субъектами правоотношений, их права и обязанности при использовании AGI, станет действенным выходом из сложившейся ситуации", - считает Анна Сарбукова.

Она предлагает ввести норму, что любой гражданин, использующий AGI, должен в обязательном порядке уведомлять остальных субъектов правоотношений, что им при создании контента был использован AGI. "Для компаний - разработчиков моделей ИИ можно установить обязательства по обучению модели таким образом, чтобы она не могла быть использована в военных или иных целях, опасных для человека, и не могла причинить вред людям. Для организаций, занимающихся вопросами здравоохранения, имеет смысл установить обязательства дополнительно проводить экспертную проверку диагнозов, поставленных AGI, силами врачей-людей", - добавила она и предложила на уровне федерального закона ввести ограничения доступа к AGI. "Его смогут получить только компании, которые прошли соответствующую проверку или сертификацию. Условия такой сертификации следует установить на уровне подзаконных нормативных актов - в рамках постановления правительства или акта ведомства, ответственного за контроль над применением AGI", - предложил юрист.

Старший юрист коллегии адвокатов Pen & Paper Виктор Рыков считает, что регулирование искусственного интеллекта наиболее остро стоит в сфере гражданско-правовой ответственности. "Проблема возникает в связи с некоторым смешением субъекта - программиста или ученого, создающего и тренирующего AI модели, - и объекта - итогового AI-решения, используемого в самых различных сферах человеческой деятельности. Наиболее адекватным решением является переосмысление подхода к AI на уровне базовых норм авторского права в гражданском законодательстве", - считает Виктор Рыков. По его мнению, должны быть проработаны общие принципы гражданской ответственности, связанные с использованием AI. "Это позволит создавать более адресные нормы по отдельным сферам, будь то медицина, транспорт или финансовые услуги", - объяснил юрист. По его мнению, создание дополнительных систем государственного мониторинга вряд ли поможет росту рынка AI и защите частных лиц и компаний. "По крайней мере, создание такой системы мониторинга в отсутствие базовых правовых инструментов видится мало полезным. В целом государство уже имеет самые разнообразные инструменты контроля и мониторинга в отношении разнообразных ИT-решений. Это касается, например, персональных данных (требования Роскомнадзора) или кибербезопасности (сертификация ФСБ). Следовательно, использование AI можно безболезненно встроить в существующую систему регулирования, без создания новых государственных структур", - заключил Виктор Рыков.

Заместитель генерального директора группы Т1 по технологическому развитию Антон Якимов считает, что законодательное регулирование технологии AGI на этапе ее зарождения может привести к ограничению ее развития. "Административные барьеры снизят общий потенциал развития этой области, так как очень часто научные достижения коммерциализируются в разных областях, а не только в той, для которой они изначально создавались. Кроме того, сама суть технологии AGI ограничивает возможность ее регулирования - AGI призвана быть универсальным инструментом для решения задач в различных областях", - считает Антон Якимов. Он добавил, что примеры, когда текущие ИИ-инструменты писали дипломы и сдавали экзамены за людей, не станут массовыми. "Напротив, они могут стать прародителями будущих полезных инструментов, например, будут автоматически генерировать те самые задания для экзаменов. Именно таким методом проб и ошибок возможен поиск применения технологий на благо общества. Чтобы регулировать данную технологию, сначала необходимо исследовать и реализовать ее реальные возможности", - уверен он.

Заместитель генерального директора по работе с клиентами компании BSS Василий Жилов считает, что технология AGI какое-то время будет проходить этап тестирования и поиска применения и только после этого можно будет говорить о значимой роли использования. "Например, у Gartner есть целый раздел отображения зрелости технологии и процесса, через который проходит любой инновационный продукт или бизнес-модель. Так вот, сейчас, скорее всего, это точка, где целевая аудитория присматривается к возможностям технологии AGI. Понятно, что, кто первый начнет использовать и найдет нишу применения с достаточными бизнес-выгодами, тот и будет на вершине успеха", - считает Василий Жилов. По его мнению, учитывая, что спрос на AI и его применение в России демонстрирует устойчивый рост, перспективы у технологии однозначно есть.

Руководитель AI/ML проектов iTentika Дмитрий Ходыкин отметил, что AGI-интеллект применяется в пилотировании автомобилей, и в России есть как минимум одна компания, которая достигла значительных успехов в этом. "Для этого ИИ должен уметь распознавать и сегментировать объекты вокруг себя в режиме реального времени. Генерация текста и видеоизображений - также популярная сфера применения нейросетей. В России один из лучших поисковиков в мире, который также использует сильные алгоритмы. Другими словами, при помощи нейросетей мы пытаемся опосредовать общение людей и машин. Для этого они должны видеть, слышать, обрабатывать естественный язык не хуже нас", - объяснил он. По его мнению, AGI необходимы правила игры. "Например, что вы будете делать с автомобилем, которому не требуется водитель. Если этот автомобиль нарушит правила движения, то кто понесет ответственность? Или если человек, используя технологию Deep Fake, обманет биометрические датчики банковской системы и похитит деньги, то кто и как обезопасит человека, личность которого подделали? Вопросов масса, на них нужно отвечать законодательно", - отметил он. По его словам, для того чтобы регулировать AGI, нужен другой AGI, который приспособлен для этого.

Юрист, экономист, член Комитета ТПП РФ по предпринимательству в сфере медиакоммуникаций Павел Катков отмечает, что регулируют обычно уже какие-то сложившиеся общественные отношения, а не создают регулирование заранее, когда ожидают появления будущих. "Между тем это может приносить и негативные результаты. Например, принимать антипиратский закон было уже сложно - контентное пиратство, контрафакция в отдельных сегментах достигали 80-90%, в этом росли многие формально легальные бизнесы, и законопроекту было оказано мощное GR-противодействие. Но рациональное зерно в заблаговременном принятии есть", - говорит Павел Катков. По его словам, законопроект, возможно, стоит принять, однако он с большой долей вероятности будет дорабатываться и дополняться по мере развития правоотношений в обществе с участием и применением инструментов технологии AGI.