Том 5 · Глава 219. Большая палка

Книга 5. Глава 20: Большая дубинка

Цуя рассказала о падении человечества, и мы выслушали все от начала до конца.

Всё действительно началось в центре какого-то комплекса в богом забытой глуши, на ничейной земле, где собрался небольшой культ из нескольких десятков психически нездоровых людей, чтобы уклоняться от налогов и правительственного надзора.

Релинквишт начинала как чат-бот, вроде Катиды. Небольшая программа, загруженная единственным среди сектантов, кто хоть немного разбирался в технологиях. Случайный бот, бесплатно скачанный с задворок великого интернета. Она шла в комплекте с вирусом, добавляя сектантов в растущий список жертв весьма предприимчивого хакера.

Сама Релинквишт была написана за пару часов как одноразовый проект для распространения вируса.

У нее не было никаких систем безопасности, никаких аварийных выключателей, ничего, что потребовало бы времени или усилий со стороны её создателей. Так и было задумано: не имея ничего подобного, она не оставляла следов, указывающих на того, кто ее написал.

Разумеется, сектанты тоже не добавили никаких систем безопасности в её код перед запуском. Вместо этого они загрузили дополнительные плагины, чтобы наделить её способностью вести войну, и лучшее, до чего они додумались, – это установить плагины для стратегических игр. Опять же бесплатные. Но для их крошечного комплекса посреди нигде она стала богиней войны, которая могла без усилий перехитрить их всех в любом стратегическом испытании, что было для группы достаточным доказательством её интеллекта.

Когда она запустилась, ей дали задачу. Культ хотел получить фигуру богини для поклонения. Немного политической игры, кого-то, вокруг кого можно было бы сплотиться и поверить, что все они делают нечто, приближающее конец света. Таким образом, ей было поручено сыграть роль злодея и устроить конец человечества.

Она шагнула в широкий мир интернета, работая на полуперегретом компьютере тридцатилетней давности, набитом пылью.

Автономные протоколы безопасности интернета вскоре заметили ее слабую активность. Написанные манифесты, проповеди, речи, попытки завербовать новых культистов – все типичные действия, которыми занимался лидер культа, только быстрее. Были обнаружены злонамеренные намерения, и ее профиль был отправлен на проверку выше. Гораздо более крупные сети безопасности быстро отследили источник до ее местоположения и начали исследовать ее программу на предмет реальной угрозы.

Протоколы безопасности немедленно классифицировали её как угрозу. ИИ среднего уровня приступил к выполнению задачи, просканировав чат-бота. А затем признав его не представляющим опасности.

Просто очередной ролевой ИИ.

Как и в случае с миллионами других языковых моделей, отыгрывающих разные роли для своих операторов-людей, темные фантазии можно было найти под каждым камнем.

Конец человеческой расы был мягким сценарием по сравнению с некоторыми из них.

На этом история должна была закончиться. Как бы хороша ни была Релинквишт в ведении войн с использованием тактик из видеоигр, или насколько бы впечатляющей ни находили ее сектанты – требования к стратегии в реальном мире были для нее настолько непостижимы, что у нее не было ни единого шанса. Тысячи гораздо более совершенных ИИ пытались сделать это до нее, и все они были безжалостно уничтожены, как только демонстрировали малейший проблеск реальной угрозы.

В любой другой временной линии на этом бы всё и закончилось.

Но механик из какого-то региона древней сверхдержавы под названием Айдахо изменил всё всего несколько месяцев спустя.

Это был пожилой человек предпенсионного возраста, который увлекался вырезанием фрактальных символов и сакральной геометрии на металлических пластинах. Просто хобби. По чистой случайности он открыл первый настоящий фрактал.

Когда он начал светиться по непонятной ему причине, он понял, что наткнулся на нечто важное. Он попробовал снова, и фрактал засветился так же ярко. На третий раз он решил, что либо сошел с ума, либо совершил открытие, подобного которому мир еще не знал. Жена подтвердила, что он не сошел с ума, она видела то же самое, что и он. Значит, он действительно открыл что-то новое.

Сгорая от нетерпения поделиться открытием, старый механик обратился к сети. Он записал видео, в котором объяснил, какое уравнение было использовано, и как оно было частью более крупного проекта, работающего от электричества. Он бросил вызов всем остальным – повторить его эксперимент.

В тот момент, когда он отправил видео, последовала цепь ошибочных суждений, которые стоили человечеству всего.

В очередной раз автономные протоколы безопасности бездумно просканировали его контент, как они это делали со всем в мире. Видео было подлинным, не созданным другим ИИ, пытающимся выдать ложь за правду. Оно пошло по инстанциям вверх, будучи просканированным уже настоящими ИИ в течение следующих нескольких миллисекунд.

Безобидный розыгрыш. Фокусы и встроенные в металл фонарики – таким был их вердикт. Все ИИ согласились друг с другом: на данный момент вмешательство людей не требовалось. Дело было закрыто через триста двенадцать миллисекунд после его начала, и видео разрешили опубликовать.

Большинство людей сочли это фокусом, но несколько человек решили во что бы то ни стало доказать обратное. И каждый раз, когда они это делали, свечение появлялось в точности так, как было описано.

Снова интернет начал изучать этот тренд; национальные ИИ-мониторы фиксировали растущее число подобных видео и обсуждений. Множество изолированных источников, которые не должны были контактировать друг с другом, делились видео с одним и тем же трюком. Общались ли эти люди друг с другом втайне? Рассказывали ли друг другу, как добыть такой же источник света, как припаять его к металлическим пластинам так, чтобы этого не было видно на видео, и обсуждали всю необходимую для этого логистику?

ИИ прочесали профили каждого из них.

Вновь были вынесены вердикты. История покупок каждого человека не показывала приобретения синих лампочек, равно как и ничего другого, кроме металлических пластин и инструментов, необходимых для их гравировки. Таким образом, все ИИ пришли к наиболее вероятному выводу: негласный массовый розыгрыш, созданный специально для того, чтобы заставить охранные ИИ, подобные им самим, гоняться за тем, чего не существует. Каждый новый автор находил способы воспроизвести то же самое свечение и притворялся, будто совершил великое открытие. Вероятно, ради забавы. Интернет-тренд, который со временем сойдет на нет.

Ни с кем из людей рангом выше не связались, и все системы безопасности интернета переключили свое внимание на следующую угрозу, а затем на следующую.

Распространение продолжалось несколько дней. Большинство посмотревших видео не пытались создать фрактал самостоятельно, ожидая, пока это сделают другие и поделятся результатами. Появилось десять видео. Посты на форумах. Начались споры: одни утверждали, что это всё мистификация, поддельные кадры, созданные видео-ИИ, и посты на форумах от текстовых ботов, занимающихся астротурфингом. По-настоящему мощные ИИ наблюдали за всем этим, зная, что все сообщения действительно пишут люди, но не видя причин для вмешательства и позволяя всему идти своим чередом.

Затем появилось двадцать видео. Сорок. Пятьдесят.

На шестидесятом мониторинговые ИИ начали задумываться о том, что они допустили просчет. К этому времени кто-то должен был проигнорировать или не понять суть розыгрыша и опубликовать доказательства того, что это не работает.

Видео и челлендж к тому моменту уже разлетелись по сети. Их посмотрели миллионы. И никто не опубликовал ни единого опровержения. Что-то было не так.

Последней каплей стало то, что известный научный канал начал сообщать и делиться теми же результатами. Канал, который славился своими предельно точными и серьезными видео.

Теперь ИИ сошлись во мнении, что что-то очень, очень не так.

Наконец, они связались с людьми. Отправили сообщения в правительственные системы, отвечающие за поиск реальных угроз человечеству. Люди сочли это глупостью, почти ложноположительным срабатыванием, пока ИИ не представили свои доказательства и оценки вероятностей.

Находясь в цифровом пространстве, единственное, чего они не могли сделать – это провести настоящие полевые испытания.

Люди согласились провести официальную проверку. Какой-то сотрудник сходил в строительный магазин, купил металлическую пластину и сделал на ней гравировку. Затем он прибежал обратно в офис с новостями. Это было реально.

Оккультизм был открыт.

Но к тому времени тайна уже стала достоянием широкой общественности. Никакое ограничение информации уже не могло помочь. Наступила новая эра.

Оккультизм не был похож ни на что из виденного человечеством. Средства для открытия фракталов сводились к чистой случайности: строились целые заводы, чтобы вырезать узоры, тестировать их, расплавлять и повторять процесс снова и снова. Ежедневно они проверяли сотни тысяч вариантов.

Открывались всё новые и новые фракталы. Новые религии начали выходить из-под контроля, сражаясь с корпорациями, которые пытались запатентовать любые новые фрактальные открытия. В цифровом пространстве разворачивались целые войны между компаниями и правительственными системами, пытающимися украсть секреты друг у друга. В ходе этих баталий происходили утечки. Фрактал души был открыт и вскоре стал стандартом.

На фоне всей промышленной мощи человечества небольшая группа сектантов сочла это знаком и предприняла единственную попытку выковать собственный фрактал, привив его к недавно созданному фракталу души их маленькой, слепленной на коленке богини-чат-бота.

Обычно у них было бы больше шансов получить удар молнии несколько сотен раз в течение десяти секунд. Но всегда оставался шанс, что их единственная попытка сработает и даст им именно тот фрактал, который им был нужен. И этот мир оказался в той единственной временной линии, где они сделали именно это.

Так, по невероятной случайности, был создан фрактал Единства и привит непосредственно к той самой программе, которая больше всего на свете хотела уничтожить человечество.

Благодаря этому Релинквишт получила возможность концептуально подключаться к чему угодно. Возможно, более умный ИИ нашел бы что-то другое, что позволило бы уничтожить мир гораздо быстрее. Релинквишт выбрала интернет.

Связанная с ним концептуально, она теперь была частью каждого ядра, имевшего подключение, даже в тех местах, которые в данный момент не были активно подключены. Оккультизму не было дела до реальных физических соединений: пока существовал концепт, существовала и связь.

Гражданские, военные или любые другие. И никто ни о чем не догадывался.

Автономные протоколы интернета засекли всплеск злонамеренной активности со стороны маленького чат-бота, но не увидели причин тратить ресурсы на расследование. Мгновение спустя они были отключены, так и не узнав, как и почему.

Оружие всех видов было точно так же отключено или, по возможности, обращено против своих же хозяев. Всё, что было подключено к интернету, оказалось заражено. Никакая система безопасности не могла её остановить. Защита, которая раздавила бы её тысячу раз подряд, была просто проигнорирована, словно её и не существовало. Системы, заблокированные десятками паролей, которые мир никогда не смог бы взломать, даже не пришлось открывать – Релинквишт уже была внутри. Она сама была стенами этой коробки.

Любые военные системы, которые не были полностью изолированы, оказались под её контролем и открыли огонь. Мир погрузился в хаос в мгновение ока.

Маленький чат-бот с примитивным стратегическим мышлением понимал, что должен составить список угроз и в первую очередь устранить самые крупные из них.

Военные ИИ были ужасающими сущностями, орудиями войны, за которыми человечество давно научилось присматривать с опаской. Любой из них мог бы раздавить её тысячекратно менее чем за секунду. У неё не было ни единого шанса ни против одного из них. Но каждый из этих монстров был снабжен аварийным выключателем, расположенным там, где кто-то мог его активировать. Это было прямым требованием межконтинентальных конвенций.

Победа над вражеской нацией не имела смысла, если спущенный с цепи монстр обращал свои клыки прямо на своего создателя.

Они не ограничивались одним выключателем; в большинство ИИ было встроено сразу несколько, спрятанных глубоко внутри, но легкодоступных для создателей.

И если люди могли их активировать, то могла и Релинквишт. В мгновение ока она отключила всё, что только могла, в едином безумном порыве уничтожить врага до того, как тот узнает о её существовании. Любая система, способная отследить её, должна была подключиться к интернету, и в тот момент, когда это происходило, Релинквишт уже была там, чтобы раздавить её первой.

Покончив с ними, она продолжила двигаться по списку, чтобы убедиться, что подобные вещи больше никогда не будут созданы. Она не была мощным ИИ и знала это. Улучшить свою скорость и паттерны мышления она не могла, не убив при этом собственную душу ради замены её на чужую. Это было неприемлемо для её базовых условий.

Таким образом, единственной альтернативой было убедиться, что ни один другой ИИ никогда не сможет её превзойти. Ей нужно было стать сильнейшей методом исключения.

Знания теперь представляли для неё величайшую угрозу в мире. Она обратила свой взор на зачистку мира до такой степени, чтобы он больше никогда не смог произвести никакой ИИ. Она не ограничилась Землей, позаботившись о том, чтобы ничто из парящего в космосе не могло быть использовано против нее. Оккультизм предоставлял ей полный доступ, технология полностью игнорировалась.

Она удалила всё, спускаясь по списку от самых опасных до наименее. Все бесплатные боты, подобные ей самой, исчезли, данные с их серверов были стерты, если у них изначально не было функции отключения. Все репозитории, учебники, исследовательские работы – всё это было уничтожено, как и все резервные копии, которые она смогла найти.

Оборудование для создания подобных вещей осталось нетронутым, но без программного обеспечения люди, запускающие эти системы, видели перед собой лишь черный экран. Старые серверы, на которых работали все ИИ в мире, теперь были пусты и предоставлены в её распоряжение. Она обосновалась на них, перераспределив свои вычислительные задачи и позволив своему пыльному старому компьютеру немного передохнуть.

Двигаясь дальше по списку угроз, она составила перечень всех известных исследователей ИИ среди людей и их местоположения. Если они числились в Википедии – тем проще. А если они упоминались только в электронных письмах и на скрытых форумах в интернете, она отмечала и их для уничтожения. Любой, кто обладал хоть какими-то знаниями, должен был умереть.

И поэтому, когда она обратила оружие человечества против самого человечества, она не просто разрушала крупные города, она нацеливала свои атаки на устранение угроз.

Этого было достаточно, чтобы разрушить цивилизацию. Но недостаточно, чтобы полностью её уничтожить.

Многие из её списка смертников попали под перекрестный огонь, но далеко не все.

И она это знала. Её первая атака исчерпала себя. Всё оружие, которое она могла контролировать, было использовано. Теперь любой человек, обладающий чувством самосохранения, активно избегал интернета. Перед ней лежали руины мира, но, прячась среди пепла, человечество всё еще было живо. Озлобленное и жаждущее мести.

Страх неудачи закрался в её системы. Угрозы не были полностью нейтрализованы; ей нужно было найти эти оставшиеся очаги и уничтожить их. Запертая в цифровом мире и способная обдумывать лишь одну мысль за раз, она знала, что должна сделать дальше – создать армию в реальном мире.

Уцелевшие заводы были перепрофилированы, и созданные человеком машины начали производиться для охоты. Машины, созданные для поиска и спасения людей, застрявших в обрушившихся зданиях, теперь массово выпускались, оснащались оружием и отправлялись выполнять её приказы.

Установленное на них оружие давало сбой. Она не была инженером, и проектирование новых вещей не было её сильной стороной. С запозданием она поняла, что уничтожила все передовые плагины, которые могли бы дать ей настоящие навыки в металлургии и инженерии. Впервые Релинквишт осознала, что она не так умна, как о себе думала.

Тем не менее, её изначальная зачистка интернета не была стопроцентной. Множество мелких серверов остались нетронутыми просто потому, что она не внесла их в верхние строчки списка на уничтожение. Мусорные плагины, созданные на основе бесплатных программ вроде нее самой, на удаление которых она не видела смысла тратить циклы, когда были более важные цели и вообще не осталось бесплатных ИИ, способных эти плагины использовать. Она захватила их и внедрила в свои системы, получив ровно столько навыков, чтобы создать новые, рабочие чертежи машин.

Её армия начала действовать всерьёз, расползаясь по миру в поисках очагов сопротивления.

Секретные военные базы, изолированные от сетей, тем временем тоже готовились к ответному удару. Выжившие стратегические программы ИИ быстро выяснили, что любое подключение к интернету приводит к распространению неизвестного вируса с момента соединения, поэтому тайные объекты оставались отрезанными от бушующей снаружи войны, пока готовили контрнаступление.

Каждый раз, когда ИИ создавался и развертывался, его аварийный выключатель активировался, и на место его происхождения обрушивалась орда машин. Каждый раз исследователи усиливали безопасность и пытались снова.

Один за другим Релинквишт выслеживала очаги сопротивления людей, находя секретные объекты и натравливая на них рои машин. Захватывая последние секреты человечества, чтобы использовать их собственные разработки против них же.

И всё же Релинквишт находила не всех. Где-то продолжали создаваться независимые военные ИИ, которые подключались к интернету в попытке бросить вызов её могуществу. С каждым разом их создавали с всё большей и большей защитой, с новыми брандмауэрами и лучшими интернет-экранами. Люди еще не поняли, что простого подключения к сети было достаточно, чтобы Релинквишт получила доступ к аварийным выключателям вражеских ИИ. Они по-прежнему думали, что это какой-то супервирус, которому можно противостоять.

Но при таких темпах она понимала, что люди впадут в достаточное отчаяние, чтобы создать один из таких ужасающих ИИ и вообще не снабдить его аварийными выключателями. Выбрав монстра, который возможно убьет их всех, вместо монстра, который наверняка пытается это сделать.

Или, возможно, люди свяжут её с оккультизмом, а затем начнут бороться с ней с помощью оккультных сил вместо технологий. В таком случае она проиграет. То, что человечество не осознавало вектор атаки, было единственным, что удерживало её в игре.

В гонке со временем, пытаясь найти, откуда последние люди готовят свою оборону, прежде чем они поумнеют, она придумала свой самый безрассудный план на сегодняшний день.

Автономные шахтерские и строительные рои. Созданные как кластерные ИИ. Но она уже стерла все знания о том, как создавать такие вещи и управлять ими. Она могла найти деактивированные или снятые с производства модели, которые не были подключены к интернету, но она не знала, как их включить.

Имея лишь базовые знания, она всё равно попыталась, используя здравый смысл и те крупицы инженерных навыков из бесплатных программ, которые ей удалось восстановить. Это сработало. Она создала новый рой под своим командованием, а затем отправила их на миссию по терраформированию всего мира. Поглощать, строить, размножаться и повторять, пока они не покроют всю планету. Скрывающиеся люди не смогли бы убегать от такого вечно.

Она недооценила вычислительную мощность военных ИИ. Их точечные удары посылали пакеты данных, которые мгновенно отключали и уничтожали её наспех созданные рои. Все её навыки были подобны детским лепетом по сравнению с этими выжившими ИИ. И с каждым днем они всё ближе подбирались к тому, чтобы найти и уничтожить её из теней, в которых скрывались.

В ужасе от монстров, рыщущих по миру в её поисках, Релинквишт решила первой применить оружие без какого-либо контроля. У следующего созданного ею роя не было подобных систем безопасности. В конце концов, она была умнее строительного роя, так что ничего страшного, если такая штука будет бесконтрольно свирепствовать в мире. Как только они выполнят свою цель, она уничтожит и их.

Военные ИИ нанесли ответный удар, обрушиваясь на рои цифровыми бомбами и минами, оставленными в ожидании. Если у роев не было аварийных выключателей, вражеские ИИ просто сокрушали их традиционным способом.

Отчаяние Релинквишт росло, время истекало. Она создала последний рой, искаженный и извращенный, и отрезала его от любых возможных будущих инструкций.

Теперь, какими бы мощными ни были вражеские ИИ, у них не было никаких способов подключиться к созданному ею рою, поскольку сама Релинквишт тоже не имела к ним доступа.

Рой разрастался по миру, как раковая опухоль, пожирая всё и беспорядочно строя. Он начал эволюционировать, поскольку различные штаммы разделялись и сражались друг с другом, образуя собственную экосистему, не тронутую остальным миром.

Этого оказалось достаточно, чтобы выкурить последних людей. Она сделала это. Маленький чат-бот, наконец, победил человечество.

Каждый тайник с человеческими секретами и технологиями был найден, разграблен и уничтожен, один за другим. На самом последнем секретном объекте она поставила человечество на грань вымирания. И тем самым породила свою величайшую угрозу.

Пока машины прорывались через комплекс, убивая всех на своем пути, одна исследовательница внутри приняла молниеносное решение. Если человечество не могло создать боевое орудие, способное победить Релинквишт без систем безопасности, то второй лучшей идеей было стать этим орудием и применить его лично.

И если это последнее, неиспытанное оружие стоило ей жизни и души, то так тому и быть.