Я слышу, как мои сын и дочь извергают содержимое желудка в отдельных ванных комнатах. Несколько минут назад я заглядывал к ним, проверял, как дела. Оба были смертельно бледны. Я видел, что они испуганы, поскольку знают, что я тоже испуган. Я еще не рассказал им о Джулии. Они не спрашивали. Сейчас им слишком плохо, чтобы задавать какие-то вопросы.
Больше всего я беспокоюсь за малышку – но я должен был дать вирус и ей. Это ее единственная надежда. Сейчас с ней Эллен, но Эллен тоже тошнит. Малышка только сплевывает, а не срыгивает по-настоящему. Не знаю, хорошо это или плохо. У маленьких детей может быть совсем другая реакция, не такая, как у взрослых.
Со мной как будто все в порядке – по крайней мере пока. Я смертельно устал. Наверное, время от времени я ненадолго засыпаю, потом просыпаюсь снова. Сейчас я сижу у окна, смотрю на задний двор и жду Мае. Она перелезла через изгородь в дальнем конце двора и, наверное, осматривает склон холма уже за пределами моего участка – там тоже стоят поливальные установки. Мае показалось, что где-то под холмом виднеется бледно-зеленый свет. Я сказал ей, чтобы она не ходила туда одна, но я слишком устал и не мог пойти вместе с ней. Если бы она подождала до утра, сюда приехали бы солдаты с огнеметами и выжгли бы все дотла – что бы это ни было.
Армия попыталась замолчать всю эту историю, как будто ничего такого никогда и не было. Но у меня дома остался ноутбук Джулии, и у нее на жестком диске сохранилась вся переписка с Пентагоном. Я вынул жесткий диск из компьютера – просто на всякий случай. Скопировал его и положил оригинал в надежный банковский сейф в городе. Но на самом деле я не очень волновался из-за армии. Гораздо больше меня беспокоил Ларри Хэндлер и другие из «Ксимоса». Они понимали, что это дело грозит им кошмарными обвинениями в суде. Компания «Ксимос» уже объявила о банкротстве, но это не освобождает их от обвинений в уголовных преступлениях. Особенно Ларри. Я не стану лить слезы, если его посадят за решетку.
Мы с Мае сумели найти объяснение почти всем непонятным событиям, которые произошли за последние несколько дней. Раздражение у Аманды было вызвано гамма-ассемблерами – микророботами, которые собирали конечные молекулы из фрагментарных компонентов. Гамма-ассемблеры были на одежде Джулии, когда она вернулась домой из лаборатории. Джулия подозревала, что такое возможно. Поэтому она всегда принимала душ сразу же, как только возвращалась домой. В самой лаборатории процедура обеззараживания была достаточно надежна, но Джулия контактировала с роем и за пределами лаборатории. И она понимала, что это опасно.
Как бы то ни было, в ту ночь она случайно занесла гамма-ассемблеры в детскую Аманды. Гамма-ассемблеры изначально рассчитаны на то, чтобы вырезать фрагменты из силикона, но, встретившись с такой податливой субстанцией, как кожа, они только щипали ее. Это довольно болезненно и вызывает микротравмы, подобных которым врачи еще никогда не видели. Никто даже не подозревал, что такое вообще возможно. Неудивительно, что у Аманды началась лихорадка. Но инфекции у нее не было. Лихорадку вызвали наночастицы, которые покрывали кожу девочки и больно жалили ее. Мощное магнитное поле в аппарате для магниторезонансного исследования мгновенно вылечило Аманду. При первом же импульсе все ассемблеры унесло с кожи ребенка. (Очевидно, то же самое произошло и с тем экологом в пустыне. Он каким-то образом наткнулся на группу ассемблеров. Эколог поставил палатку всего в миле от производственного комплекса «Ксимоса»).
Джулия знала, что происходит с Амандой, но она никому ничего не сказала. Вместо этого она вызвала из «Ксимоса» команду зачистки, которая побывала у нас в доме посреди ночи, пока я сидел с Амандой в больнице. Их видел только Эрик – и теперь я тоже знаю, что именно он видел. Потому что та же самая команда приезжала сюда несколько часов назад, чтобы вычистить мой дом. Это были те же люди, которых я видел в белом фургоне на месте аварии.
Они носили полностью закрытые серебристые комбинезоны из антимагнитного материала и походили в них на привидения. Из-за серебристых дыхательных масок казалось, что у них нет лиц. Сначала команда осмотрела участок вокруг дома, потом они пропылесосили и вычистили все в доме. Я сказал Эрику, что ему все это приснилось, но он на самом деле их видел. Они оставили под кроватью Аманды один из своих детекторов – специально, чтобы определить, не осталось ли в доме гамма-ассемблеров после зачистки. Это был не сетевой фильтр, прибор просто был сконструирован так, что выглядел как сетевой фильтр.
Когда я наконец узнал все это, я страшно разозлился на Джулию за то, что она мне ничего не говорила. За то, что заставляла меня волноваться. Но, конечно, она была уже больна. И все равно теперь бессмысленно на нее злиться.
Плеер Эрика вывели из строя тоже гамма-ассемблеры – точно так же, как повредили они машины в пустыне и аппарат для магниторезонансного исследования. По какой-то неясной причине гамма-ассемблеры разрушали только чипы памяти, а главный процессор не трогали. Мне пока так и не удалось понять почему.
В ночь, когда случилась авария, у Джулии в машине был рой. Она привезла его с собой из пустыни. Не знаю – случайно или намеренно. Рой способен сжаться буквально в ничто – поэтому Эрик и не увидел ничего, когда осматривал машину. И я не был совершенно уверен, что именно видел в машине у Джулии, когда она уезжала. Впрочем, это как раз понятно. Наверное, рой отразил солнечные лучи необычным образом. Мне запомнилось, что рой выглядел как Рики. Но это вряд ли – в то время рои еще не настолько эволюционировали, чтобы принимать человеческий облик. А может, я увидел просто какую-то неясную фигуру и в приступе ревности вообразил, что это человек. Мне самому не казалось, что я что-то выдумываю, но такое тоже не исключено. Эллен думает, что я мог домыслить недостающие детали.
Когда машина Джулии попала в аварию, она снова вызвала бригаду для зачистки. Поэтому я и видел их на дороге той ночью. Они ждали, когда можно будет спуститься вниз, в овраг, и зачистить местность. Я не знаю, что стало причиной самой аварии, имеет ли рой какое-то отношение к аварии, или это был просто несчастный случай. И уже не у кого спросить, что тогда произошло на самом деле.
Производственный комплекс в пустыне полностью уничтожен. В лаборатории скопилось столько метана, что при взрыве получился огненный шар с температурой выше двух тысяч градусов по Фаренгейту. Такой температуры более чем достаточно, чтобы уничтожить любое вещество биологического происхождения. Но я по-прежнему беспокоюсь. В развалинах не нашли ни одного трупа. Не осталось даже скелетов.
Мае отвезла бактериофаги в свою старую лабораторию в Пало-Альто. Я надеюсь, Мае смогла доходчиво разъяснить коллегам, насколько это отчаянная ситуация. Она была очень спокойна в отношении их реакции. Я думал, что они поселят фаги в какое-нибудь водохранилище, но Мае сказала, что хлорирование воды убьет фаги. Наверное, будет разработана специальная программа вакцинации. Насколько мы сейчас знаем, фаги убивают рои.
Время от времени у меня начинает звенеть в ушах. Это плохой признак. А иногда я ощущаю вибрацию в груди и в животе. Не знаю, может быть, у меня просто паранойя. А может, со мной действительно что-то происходит. Я стараюсь держаться молодцом перед детьми. Но, конечно, детей обмануть невозможно. Они знают, что я испуган.
Последняя загадка, которую осталось объяснить, – почему рои постоянно возвращались к лаборатории. Для меня это никогда не имело никакого смысла. И меня это беспокоило, потому что цель была выбрана совершенно нерационально. Такая цель не соответствовала формулировкам программы «Хи-Доб». Ну зачем хищнику постоянно возвращаться к какому-то определенному месту?
Конечно, в ретроспективе возможно только одно нормальное объяснение. Рои специально запрограммировали так, чтобы они возвращались. Программисты сами, намеренно, определили эту цель.
Но зачем кому-то понадобилось программировать такую цель?
Я узнал это несколько часов назад.
Рики показывал мне совсем не тот код, который они на самом деле использовали в наночастицах. Рики не мог показать мне настоящий код, потому что я бы сразу догадался, что они там натворили. Рики так и не сказал мне правду. Никто не сказал мне правду.
Больше всего меня беспокоило письмо, которое я сегодня днем нашел в электронной переписке, сохранившейся на диске у Джулии. Письмо было от Джулии Рики Морсу, копия отослана Ларри Хэндлеру, главе компании «Ксимос». В письме Джулия описывала процедуры, направленные на обучение роя-камеры работе при сильном ветре. Джулия планировала специально выпустить рой в окружающую среду.
Именно это они и сделали.
Они подали дело так, как будто утечка роя произошла случайно – из-за отсутствия воздушного фильтра на одном из вентиляторов. Ради этого Рики и устроил мне длительную экскурсию по всей фабрике, с песнями и плясками про негодников-подрядчиков и вентиляционную систему. Но все, что рассказывал мне Рики, было неправдой.
Они выпустили рой специально.
Так было задумано с самого начала.
Когда им не удалось заставить рой-камеру работать при сильном ветре, они попытались отыскать какое-нибудь инженерное решение. Из этого ничего не получилось. Частицы были слишком маленькие и легкие, а возможно, и недостаточно умные. В них с самого начала имелись дефекты конструкции, и «Ксимос» не мог их исправить. Весь многомиллионный оборонный проект улетал коту под хвост – потому что «Ксимос» не мог решить проблемы с роем.
И тогда в «Ксимосе» додумались заставить рой решать эти проблемы самостоятельно.
Они поменяли конфигурацию наночастиц, снабдили их микрочипом памяти и солнечным электроэлементом. Они переписали базовую программу для частиц, добавив туда генетический алгоритм. И выпустили рой, чтобы он размножался и эволюционировал. Они собирались проверить, сможет ли рой самостоятельно выжить в окружающей среде.
На этот раз эксперимент удался.
Это было так глупо, потрясающе глупо. Я не понимал, как могли они взяться за такое, даже не подумав о возможных последствиях. Как и все остальное, что я видел в «Ксимосе», этот план слепили на скорую руку, кое-как, по-быстрому – только для того, чтобы как-то уладить насущную проблему, и совершенно не учитывая отдаленные последствия, не думая о будущем. Наверное, это очень типично для корпоративного мышления, когда приходится все время бежать наперегонки с конкурентами. Но когда имеешь дело с подобными технологиями, это чертовски опасно.
Но, конечно, на самом деле все происходило гораздо сложнее. Эта технология сама подталкивает к определенной модели поведения. Распределенные системы агентов работают самостоятельно и сами собой управляют. Так они устроены. В этом-то весь смысл – ты их программируешь, настраиваешь и отпускаешь – дальше все происходит само собой. Если ты занимаешься этим постоянно, то постепенно привыкаешь так делать. Привыкаешь обращаться с системами агентов именно таким образом. Ведь главное их достоинство – автономность.
Но одно дело – выпустить в память компьютера популяцию виртуальных агентов, чтобы они решили какие-то проблемы. И совсем другое – выпустить реальные агенты в реальный мир.
Они в «Ксимосе» просто не поняли разницы. Или не позаботились о том, чтобы эту разницу поискать.
И выпустили рой на волю.
«Самооптимизация» – технический термин, которым это обозначается. Рой эволюционировал самостоятельно, менее успешные агенты погибали, более успешные воспроизводились в следующих поколениях. Через десять или сто поколений эволюционирующий рой приблизился к наилучшему решению. К оптимальному решению.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61
Больше всего я беспокоюсь за малышку – но я должен был дать вирус и ей. Это ее единственная надежда. Сейчас с ней Эллен, но Эллен тоже тошнит. Малышка только сплевывает, а не срыгивает по-настоящему. Не знаю, хорошо это или плохо. У маленьких детей может быть совсем другая реакция, не такая, как у взрослых.
Со мной как будто все в порядке – по крайней мере пока. Я смертельно устал. Наверное, время от времени я ненадолго засыпаю, потом просыпаюсь снова. Сейчас я сижу у окна, смотрю на задний двор и жду Мае. Она перелезла через изгородь в дальнем конце двора и, наверное, осматривает склон холма уже за пределами моего участка – там тоже стоят поливальные установки. Мае показалось, что где-то под холмом виднеется бледно-зеленый свет. Я сказал ей, чтобы она не ходила туда одна, но я слишком устал и не мог пойти вместе с ней. Если бы она подождала до утра, сюда приехали бы солдаты с огнеметами и выжгли бы все дотла – что бы это ни было.
Армия попыталась замолчать всю эту историю, как будто ничего такого никогда и не было. Но у меня дома остался ноутбук Джулии, и у нее на жестком диске сохранилась вся переписка с Пентагоном. Я вынул жесткий диск из компьютера – просто на всякий случай. Скопировал его и положил оригинал в надежный банковский сейф в городе. Но на самом деле я не очень волновался из-за армии. Гораздо больше меня беспокоил Ларри Хэндлер и другие из «Ксимоса». Они понимали, что это дело грозит им кошмарными обвинениями в суде. Компания «Ксимос» уже объявила о банкротстве, но это не освобождает их от обвинений в уголовных преступлениях. Особенно Ларри. Я не стану лить слезы, если его посадят за решетку.
Мы с Мае сумели найти объяснение почти всем непонятным событиям, которые произошли за последние несколько дней. Раздражение у Аманды было вызвано гамма-ассемблерами – микророботами, которые собирали конечные молекулы из фрагментарных компонентов. Гамма-ассемблеры были на одежде Джулии, когда она вернулась домой из лаборатории. Джулия подозревала, что такое возможно. Поэтому она всегда принимала душ сразу же, как только возвращалась домой. В самой лаборатории процедура обеззараживания была достаточно надежна, но Джулия контактировала с роем и за пределами лаборатории. И она понимала, что это опасно.
Как бы то ни было, в ту ночь она случайно занесла гамма-ассемблеры в детскую Аманды. Гамма-ассемблеры изначально рассчитаны на то, чтобы вырезать фрагменты из силикона, но, встретившись с такой податливой субстанцией, как кожа, они только щипали ее. Это довольно болезненно и вызывает микротравмы, подобных которым врачи еще никогда не видели. Никто даже не подозревал, что такое вообще возможно. Неудивительно, что у Аманды началась лихорадка. Но инфекции у нее не было. Лихорадку вызвали наночастицы, которые покрывали кожу девочки и больно жалили ее. Мощное магнитное поле в аппарате для магниторезонансного исследования мгновенно вылечило Аманду. При первом же импульсе все ассемблеры унесло с кожи ребенка. (Очевидно, то же самое произошло и с тем экологом в пустыне. Он каким-то образом наткнулся на группу ассемблеров. Эколог поставил палатку всего в миле от производственного комплекса «Ксимоса»).
Джулия знала, что происходит с Амандой, но она никому ничего не сказала. Вместо этого она вызвала из «Ксимоса» команду зачистки, которая побывала у нас в доме посреди ночи, пока я сидел с Амандой в больнице. Их видел только Эрик – и теперь я тоже знаю, что именно он видел. Потому что та же самая команда приезжала сюда несколько часов назад, чтобы вычистить мой дом. Это были те же люди, которых я видел в белом фургоне на месте аварии.
Они носили полностью закрытые серебристые комбинезоны из антимагнитного материала и походили в них на привидения. Из-за серебристых дыхательных масок казалось, что у них нет лиц. Сначала команда осмотрела участок вокруг дома, потом они пропылесосили и вычистили все в доме. Я сказал Эрику, что ему все это приснилось, но он на самом деле их видел. Они оставили под кроватью Аманды один из своих детекторов – специально, чтобы определить, не осталось ли в доме гамма-ассемблеров после зачистки. Это был не сетевой фильтр, прибор просто был сконструирован так, что выглядел как сетевой фильтр.
Когда я наконец узнал все это, я страшно разозлился на Джулию за то, что она мне ничего не говорила. За то, что заставляла меня волноваться. Но, конечно, она была уже больна. И все равно теперь бессмысленно на нее злиться.
Плеер Эрика вывели из строя тоже гамма-ассемблеры – точно так же, как повредили они машины в пустыне и аппарат для магниторезонансного исследования. По какой-то неясной причине гамма-ассемблеры разрушали только чипы памяти, а главный процессор не трогали. Мне пока так и не удалось понять почему.
В ночь, когда случилась авария, у Джулии в машине был рой. Она привезла его с собой из пустыни. Не знаю – случайно или намеренно. Рой способен сжаться буквально в ничто – поэтому Эрик и не увидел ничего, когда осматривал машину. И я не был совершенно уверен, что именно видел в машине у Джулии, когда она уезжала. Впрочем, это как раз понятно. Наверное, рой отразил солнечные лучи необычным образом. Мне запомнилось, что рой выглядел как Рики. Но это вряд ли – в то время рои еще не настолько эволюционировали, чтобы принимать человеческий облик. А может, я увидел просто какую-то неясную фигуру и в приступе ревности вообразил, что это человек. Мне самому не казалось, что я что-то выдумываю, но такое тоже не исключено. Эллен думает, что я мог домыслить недостающие детали.
Когда машина Джулии попала в аварию, она снова вызвала бригаду для зачистки. Поэтому я и видел их на дороге той ночью. Они ждали, когда можно будет спуститься вниз, в овраг, и зачистить местность. Я не знаю, что стало причиной самой аварии, имеет ли рой какое-то отношение к аварии, или это был просто несчастный случай. И уже не у кого спросить, что тогда произошло на самом деле.
Производственный комплекс в пустыне полностью уничтожен. В лаборатории скопилось столько метана, что при взрыве получился огненный шар с температурой выше двух тысяч градусов по Фаренгейту. Такой температуры более чем достаточно, чтобы уничтожить любое вещество биологического происхождения. Но я по-прежнему беспокоюсь. В развалинах не нашли ни одного трупа. Не осталось даже скелетов.
Мае отвезла бактериофаги в свою старую лабораторию в Пало-Альто. Я надеюсь, Мае смогла доходчиво разъяснить коллегам, насколько это отчаянная ситуация. Она была очень спокойна в отношении их реакции. Я думал, что они поселят фаги в какое-нибудь водохранилище, но Мае сказала, что хлорирование воды убьет фаги. Наверное, будет разработана специальная программа вакцинации. Насколько мы сейчас знаем, фаги убивают рои.
Время от времени у меня начинает звенеть в ушах. Это плохой признак. А иногда я ощущаю вибрацию в груди и в животе. Не знаю, может быть, у меня просто паранойя. А может, со мной действительно что-то происходит. Я стараюсь держаться молодцом перед детьми. Но, конечно, детей обмануть невозможно. Они знают, что я испуган.
Последняя загадка, которую осталось объяснить, – почему рои постоянно возвращались к лаборатории. Для меня это никогда не имело никакого смысла. И меня это беспокоило, потому что цель была выбрана совершенно нерационально. Такая цель не соответствовала формулировкам программы «Хи-Доб». Ну зачем хищнику постоянно возвращаться к какому-то определенному месту?
Конечно, в ретроспективе возможно только одно нормальное объяснение. Рои специально запрограммировали так, чтобы они возвращались. Программисты сами, намеренно, определили эту цель.
Но зачем кому-то понадобилось программировать такую цель?
Я узнал это несколько часов назад.
Рики показывал мне совсем не тот код, который они на самом деле использовали в наночастицах. Рики не мог показать мне настоящий код, потому что я бы сразу догадался, что они там натворили. Рики так и не сказал мне правду. Никто не сказал мне правду.
Больше всего меня беспокоило письмо, которое я сегодня днем нашел в электронной переписке, сохранившейся на диске у Джулии. Письмо было от Джулии Рики Морсу, копия отослана Ларри Хэндлеру, главе компании «Ксимос». В письме Джулия описывала процедуры, направленные на обучение роя-камеры работе при сильном ветре. Джулия планировала специально выпустить рой в окружающую среду.
Именно это они и сделали.
Они подали дело так, как будто утечка роя произошла случайно – из-за отсутствия воздушного фильтра на одном из вентиляторов. Ради этого Рики и устроил мне длительную экскурсию по всей фабрике, с песнями и плясками про негодников-подрядчиков и вентиляционную систему. Но все, что рассказывал мне Рики, было неправдой.
Они выпустили рой специально.
Так было задумано с самого начала.
Когда им не удалось заставить рой-камеру работать при сильном ветре, они попытались отыскать какое-нибудь инженерное решение. Из этого ничего не получилось. Частицы были слишком маленькие и легкие, а возможно, и недостаточно умные. В них с самого начала имелись дефекты конструкции, и «Ксимос» не мог их исправить. Весь многомиллионный оборонный проект улетал коту под хвост – потому что «Ксимос» не мог решить проблемы с роем.
И тогда в «Ксимосе» додумались заставить рой решать эти проблемы самостоятельно.
Они поменяли конфигурацию наночастиц, снабдили их микрочипом памяти и солнечным электроэлементом. Они переписали базовую программу для частиц, добавив туда генетический алгоритм. И выпустили рой, чтобы он размножался и эволюционировал. Они собирались проверить, сможет ли рой самостоятельно выжить в окружающей среде.
На этот раз эксперимент удался.
Это было так глупо, потрясающе глупо. Я не понимал, как могли они взяться за такое, даже не подумав о возможных последствиях. Как и все остальное, что я видел в «Ксимосе», этот план слепили на скорую руку, кое-как, по-быстрому – только для того, чтобы как-то уладить насущную проблему, и совершенно не учитывая отдаленные последствия, не думая о будущем. Наверное, это очень типично для корпоративного мышления, когда приходится все время бежать наперегонки с конкурентами. Но когда имеешь дело с подобными технологиями, это чертовски опасно.
Но, конечно, на самом деле все происходило гораздо сложнее. Эта технология сама подталкивает к определенной модели поведения. Распределенные системы агентов работают самостоятельно и сами собой управляют. Так они устроены. В этом-то весь смысл – ты их программируешь, настраиваешь и отпускаешь – дальше все происходит само собой. Если ты занимаешься этим постоянно, то постепенно привыкаешь так делать. Привыкаешь обращаться с системами агентов именно таким образом. Ведь главное их достоинство – автономность.
Но одно дело – выпустить в память компьютера популяцию виртуальных агентов, чтобы они решили какие-то проблемы. И совсем другое – выпустить реальные агенты в реальный мир.
Они в «Ксимосе» просто не поняли разницы. Или не позаботились о том, чтобы эту разницу поискать.
И выпустили рой на волю.
«Самооптимизация» – технический термин, которым это обозначается. Рой эволюционировал самостоятельно, менее успешные агенты погибали, более успешные воспроизводились в следующих поколениях. Через десять или сто поколений эволюционирующий рой приблизился к наилучшему решению. К оптимальному решению.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61