ChatGPT пугает не всех
Ранее издание РБК опубликовало материал, посвященный открытому письму Илона Маска, Стива Возняка, Эвана Шарпа и других экспертов, в котором содержится оценка влияния ChatGPT на мировое сообщество. Авторы письма высказывают опасение, что столь стремительное развитие искусственного интеллекта грозит человечеству потерей контроля над цивилизацией, и призывают правительства ввести временный мораторий на разработки систем мощнее, чем GPT4 (последняя версия программы от OpenAI). Пока процесс совершенствования ИИ будет заморожен, у властей будет возможность создать протоколы безопасности, а также принять законы, регулирующие применение таких систем.
Президент НИЦ "Курчатовский институт" Михаил Ковальчук рассматривает последствия применения нейросетей в аспекте их влияния на энергетическую отрасль. "У него (ChatGPT - прим. ComNews) 200 млн подписчиков. Если станет 400 млн, то всей выработки электроэнергии в США не хватит, чтобы обслужить этот один чат-бот", - заявил Михаил Ковальчук на Конгрессе молодых ученых Белоруссии и России, открывшемся 29 марта в Минске. По его словам, несмотря на выросший объем генерации электроэнергии, государства уже находятся в энергетическом кризисе, так как, по его мнению, потребление растет быстрее, чем производство.
Он отметил, что, несмотря на увеличение в 3 млн раз объемов электрогенерации в мире за последние 80 лет, государства находятся в энергокризисе, так как потребление энергии растет быстрее ее производства.
"В основе [развития и распространения этих технологий] лежит энергетика, поэтому такая злоба по отношению к нам [России как обладателю энергоресурсов]. Потому что завтра закончится все, если не будет ресурсов. Цифровизация - это резкое увеличение энергозатрат", - добавил Михаил Ковальчук. Не обошел ученый стороной и вопрос зависимости от сетевых ресурсов, подчеркнув, что одним движением руки можно лишить человечество сервисов, на которые большинство людей привыкли полагаться.
Ни один опрошенный ComNews эксперт и представитель российского ИТ-рынка не согласен с мнением Ковальчука, что распространение программ на базе нейросетей ChatGPT может привести энергетические системы США к кризису.
К утверждению о влиянии ChatGPT на энергетическую систему нельзя относиться серьезно, заявил главный редактор SPTC.RU, участник клуба экспертов Intel Владислав Бояров. "Google обрабатывает более 40 млрд запросов в месяц, у сервиса YouTube 2 млрд пользователей. Причем если к ChatGPT эпизодически обращаются, то YouTube запускают на длительное время. Кроме YouTube, есть Netflix с 220 млн подписчиков. Думаю, если взять суммарное энергопотребление всех облачных сервисов, то долей ChatGPT - около 100 млн пользователей - можно смело пренебречь", - пояснил он.
Комментируя утверждение Михаила Ковальчука о возможности быстрого и тотального отключения интернета, Владислав Бояров заявил, что Сеть потрясающе живуча и утрата любого ее сегмента не приведет к полной потере функционирования. "Доступ к интернету может быть утрачен только на отдельных клиентских устройствах, в худшем случае - на отдельных сегментах сети вследствие серьезных аварий, вызванных, к примеру, ядерными бомбардировками", - подчеркнул он.
Распространение систем по типу ChatGPT не влияет напрямую на темпы роста энергопотребления, уверен пресейл-архитектор платформы "Сфера" (Группа Т1) Дмитрий Чувиков. "Процессы, связанные с обслуживанием и развитием модели GPT, могут привести к увеличению количества серверов и дата-центров по обработке данных, которые используются для поддержки этой технологии. Однако развитие "железа" также не стоит на месте: производители стремятся к увеличению мощности и снижению потребления. Так что общее энергопотребление в секторе информационных технологий не должно выйти за нестандартные рамки", - считает он.
По его словам, работа ChatGPT, который представляет собой программное обеспечение на базе ИИ и хранится на серверах в дата-центрах, требует гораздо меньшей мощности, чем майнинг, еще недавно вызывавший похожие опасения в части угрозы энергодефицита.
Вопрос о том, реальна ли угроза, о которой пишут Маск и Возняк, Дмитрий Чувиков считает открытым. С одной стороны, риски, которые гипотетически при нарушении этического кодекса могут создавать автономные интеллектуальные системы, игнорировать не стоит, с другой, по его словам, - на данные момент такие опасения преждевременны. "На текущий момент ChatGPT напоминает не мощный ИИ, способный объяснять решения, а продвинутую функцию T9, обученную на большом корпусе данных. Система может придумывать не только факты, но и источники ссылок, дезинформируя и вводя пользователей в заблуждение, - поясняет Дмитрий Чувиков. - При увеличении модели ChatGPT вряд ли начнет мыслить, формулировать выводы и обретать "собственное я", поэтому систему стоит воспринимать как продвинутый инструмент поиска".
Однако он не исключает, что угрозу может представлять само содержимое корпуса данных - то, на чем обучена модель. "OpenAI при анонсе GPT-4 сообщили, что чат будет закрытой моделью, обосновав это условиями конкурентной среды и безопасностью. Это затрудняет исследования методов защиты от угроз, которые может представлять ИИ", - подвел итог Дмитрий Чувиков.
ChatGPT не представляет угрозы для энергетических систем, так как существуют способы оптимизации энергопотребления моделей машинного обучения, убеждена директор по маркетингу и прямым продажам ICL Services Лилия Алеева. "Использование специализированного оборудования, а также таких методов, как сокращение моделей и квантование, может значительно снизить энергопотребление ChatGPT, сохраняя при этом его производительность", - утверждает она.
Отвечая на вопрос корреспондента ComNews относительно потенциальной опасности искусственного интеллекта, Лилия Алеева согласилась, что опасения Маска, Возняка и их коллег имеют под собой определенную почву, но ставить их в один ряд с проблемами энергопотребления моделей машинного обучения не имеет смысла.
Аналитик практики "Стратегия трансформации" "Рексофт Консалтинг" Дмитрий Груднев пояснил, что ПО с использованием ИИ действительно потребляет больше энергии, чем "обычное", но только на этапе обучения ИИ-модели, которое требует значительных вычислительных и, как следствие, энергетических затрат. При эксплуатации таких программ, когда модель преобразует данные по уже определенным алгоритмам, напротив, потребляется меньшее количество энергии. "Однако очень многое зависит от характеристик ПО и условий его использования. В частности, от типа размера и сложности модели, объема данных и длительности обучения, количества пользователей и прочего", - добавил он.
Крах энергетической системы США и ЕС следует расценивать как благо для России, и в нашей стране следует не запрещать развитие систем ИИ, а всячески его поддерживать, считает специалист по продукции компании ASUS в СНГ и автор ряда книг о компьютерной технике Сергей Пахомов. Он согласился с оценкой негативного влияния ИИ на человечество, но лишь в аспекте социальном. "Вряд ли стоит представлять текущую ситуацию с развитием нейросетей более производительных, чем GPT4, как начало апокалипсиса. В свое время широкое распространение калькуляторов привело к тому, что большинство детей разучились считать и попросту стали тупее. Развитие интернета и появление смартфонов, как средства мобильного доступа в интернет, где можно найти решение любой задачи, - это своего рода вторая волна отупения. Следующая - развитие нейросетей, и это неизбежно. Но отупение или регресс человеческого развития - это и есть тот самый сдерживающий фактор прогресса. В конце концов нейросети с неба не падают - их должен кто-то создавать и обучать, а при массовом отупении это просто невозможно. И как это ни парадоксально, любой прогресс контролируется регрессом, который этот прогресс и вызывает", - пояснил Сергей Пахомов.
