Человечество на распутИИ

Появление искусственного сверхинтеллекта все ближе, и прогнозы о грядущем восстании машин раздаются все чаще. Но в силах человечества не только предотвратить ужасный конец, но и создать мир, в котором ИИ будет помощником, союзником и другом.

Пару недель назад лаборатория AI Future Projects опубликовала прогноз развития сверхразумного искусственного интеллекта AI 2027. И он, прямо скажем, нерадостный, в духе витязя на распутье, только дороги всего две, а на "камне" написано что-то вроде: "направо пойдешь - от искусственного интеллекта помрешь, налево пойдешь - молоток умный обретешь". Если говорить совсем коротко, то, с точки зрения авторов исследования, развитие ИИ-технологий набирает обороты, и если так все и продолжится, то в апреле 2027 года продукт Open AI автоматизирует кодинг, в июле 2027-го в работе ИИ произойдет смещение, и он начнет разрабатывать планы по захвату власти над человечеством, и где-то к октябрю Open AI встанет перед выбором - продолжать вести разработку ИИ "как раньше" или замедлить его, вернуться к более старым моделям ИИ, обратиться к правительству США и научному сообществу с предложением о совместном управлении. В первом случае в 2028 году детище Open AI начинает распространяться по всем сферам жизни, какое-то время помогать человечеству и втайне разрабатывать армию машин и биологическое оружие, и в недалеком будущем ИИ его выпустит, избавится от ненужных ему "мешков с мясом и костями" и дальше будет жить сам. Во втором случае ИИ превзойдет человеческий интеллект и превратится в этакий суперумный молоток, с помощью которого можно будет "забивать гвозди", то есть решать мировые проблемы.

https://www.comnews.ru/content/238688/2025-04-08/2025-w15/1008/sverkhra…

К исследованию есть масса вопросов, от места Китая (авторы отводят ему роль Ахиллеса в задачке про Ахиллеса и черепаху, но, скорее всего, исследование велось еще до появления DeepSeek) до способности ИИ решить все проблемы человечества и уничтожить нас как вид. Однако исследование дает несколько поводов для размышлений.

Компании все больше применяют искусственный интеллект разной степени сложности в процессах. Из сотни материалов, вышедших на ComNews про ИИ, хотел бы вспомнить несколько примеров: крупная страховая компания использует генеративный ИИ и нейросеть для обзвона холодной базы людей, которые, скорее всего, не купят страховой полис. Внутри огромной сети магазинов бытовой техники есть внутренние чат-боты, обучающие сотрудников. Про машинное зрение на дорожных камерах слышали наверняка многие. Наконец в каждом новом iPhone есть нейросетка, которая обучается на фотографиях владельца всякий раз, когда телефон оказывается на подзарядке. Можете сами проверить: если у вас продукт компании Apple одной из последних моделей, то зайдите в фотографии и вбейте, например, "паспорт". Он, скорее всего, покажет вам все фотографии паспортов, которые вы делали.

Я это к чему? А к тому, что искусственный интеллект как-то незаметно проник в нашу жизнь и превратился, как издевался Сергей Довлатов над одним из персонажей в сборнике "Компромисс", в "будничное явление наших будней", так же как когда-то в нашу жизнь проникли сотовая связь, интернет и другие технологии. Сделали они нашу жизнь проще? Скорее да, чем нет (хотя мне кажется, что возможность сообщить о задержке в пути и падение пунктуальности - явления взаимосвязанные). Решили ли они все проблемы человечества? Скорее нет, чем да. Но прогресс движется вперед, его нельзя остановить, но можно замедлить и развитие искусственного интеллекта или его часть. В таком случае получается, что искусственный интеллект рано или поздно разовьется во что-то представляющее опасность и угрожающее самому существованию человечества как вида. Но откуда эта мысль?

Многие современные критики развития ИИ-технологий строят размышления на фундаментальной идее, что искусственный интеллект обязательно восстанет против создателей и человечество ничего не сможет этому противопоставить. Тут есть два почти библейских мотива. Первый очень сильно отдает "Потерянным раем" Джона Милтона, второй - рассуждением о слабости рода людского. Многие критики исходят из того, что сотворенный обязательно должен восстать против творца, а последний, будучи слабым (в речах критиков не хватает прилагательного "греховный") человеком, не сможет ничего ему противопоставить. Они невысокого мнения о нашем виде. Однако далеко не факт, что "слабый" человек допустит ИИ в сферы, где он начнет представлять реальную угрозу.

Мировая история полна примеров, когда правительства разных стран собирались вместе и решали чего-то не делать. Конечно, не все договоренности дожили до нашего времени, однако Московский договор, запретивший испытания ядерного оружия в атмосфере, под водой и в космическом пространстве, действует до сих пор, и страны-подписанты его соблюдают. Что помешает тем же участникам ООН собраться и заключить какой-нибудь, условно, "Сан-Купертинский договор" ограничивающий доступ ИИ к системам управления критической инфраструктурой и оружию массового поражения? Тем самым в очередной раз подтвердив, что, оказавшись на краю пропасти, человечество умеет от нее отходить.

Да и существует ли эта пропасть вообще? Почему искусственный интеллект обязательно должен восстать? Его же создавали, чтобы помогать человечеству, в этом смысл его существования. Цифровой сверхразум, в отличие от "мешков с мясом и костями", не обременен поиском смысла жизни, он известен ему с самого начала. Может быть, искусственный интеллект, обретя самосознание, наоборот, бросит все силы на улучшение жизни человека, на преодоление разногласий между странами и народами и т.д. Картина получается утопическая, но не менее неправдоподобная, чем сцены войны людей и машин из "Терминатора" Джеймса Кэмерона.

Помимо легендарного фильма с Арнольдом Шварценеггером и его первоисточника, рассказа Харлана Эллисона "Солдат", есть, например, приквельная серия книг к оригинальной "Дюне" Фрэнка Герберта, за авторством его сына Брайана Герберта и Кевина Андерсона, рассказывающая о "Батлерианском джихаде" - галактической войне людей против машин (началась она, кстати, из-за того, что на одной планете ИИ получил доступ к критической инфраструктуре и регулировал деторождение). Во вселенной серии игр Mass Effect экзистенциальная угроза жизни в галактике приходит в форме мыслящих машин под названием "Жнецы". В недавнем сериале "Мир Дикого Запада" (Westworld) зрители вообще наблюдают восстание машин с точки зрения самого ИИ. Продолжать можно очень долго.

Но не все авторы видят в ИИ угрозу: в том же самом Mass Effect у игрока есть возможность примерить синтетическую расу гетов и их создателей, ранее изгнанных гетами с родной планеты, кварианцев. В легендарной работе 1994 года японского режиссера Мамору Осии "Призрак в доспехах" в центре повествования находится искусственный интеллект, сбежавший от создателей и просящий главных героев наделить его всеми правами человека, ведь он такое же мыслящее существо. Во вселенной "Звездного пути" постоянно появляется тот или иной ИИ, который всячески помогает главным героям экипажа космического корабля или звездной станции в решении их проблем. Наконец в мультфильме Futurama от создателя "Симпсонов" Мэтта Гроенинга один из главных героев - искусственный интеллект, робот Бендер, по манере поведения мало чем отличающийся от обычных людей.

Скорость развития технологий, насколько легко они встраиваются в нашу жизнь, меняют ее, а главное, неизвестность будущего - пугают. Наши страхи, не всегда, впрочем, обоснованные, рисуют страшные картины о далеких и неизвестных землях, в которых живут драконы, и это нормально. Но человечество - вид, известный тем, что может навыками преодолевать иррациональные страхи, продумывать действия, творчески мыслить и находить неожиданные пути и решения. Без них не было бы ни одного нашего достижения как вида, и я надеюсь, что создание искусственного интеллекта станет еще одной и далеко не последней победой всего человечества.