Сборка могла происходить автономно, прямо в пустыне. И, очевидно, именно это и произошло.
Чтобы проверить, что я все понял правильно, я решил просчитать все этапы пошагово.
– Первичная сборка начинается с бактерий. Они видоизменены так, что способны питаться чем угодно, вплоть до мусора, и, значит, вполне могли найти в пустыне какую-нибудь питательную среду.
– Правильно.
– Это означает, что бактерии начали размножаться и производить молекулы, которые самостоятельно складывались друг с другом, образуя новые, более крупные молекулы. И вскоре из них получились ассемблеры, которые начали выполнять заключительную работу – собирать новые микроагенты.
– Да, правильно.
– А это означает, что рои действительно размножаются в буквальном смысле.
– Да. Они размножаются.
– И каждый отдельный агент обладает памятью.
– Да. Небольшой, но обладает.
– А много им и не нужно – в этом-то и смысл распределенного разума. Разум у них коллективный. Таким образом, они обладают разумом. А поскольку у них есть память, они способны обучаться на собственном опыте.
– Да.
– А программный модуль «Хи-Доб» помогает им решать задачи. Кроме того, эта программа генерирует достаточно случайных элементов, чтобы позволить им изобретать и применять новшества.
– Да, правильно
Голова у меня раскалывалась от боли. Теперь я представлял себе все последствия случившегося, и они были очень нехорошие.
– Значит… – с трудом произнес я, – из того, что ты мне сказал, следует, что этот рой воспроизводит сам себя, способен к самостоятельному существованию, обучается на основе приобретенного опыта, обладает коллективным разумом и может находить новые способы решения задач.
– Да.
– Это означает, что по всем практическим критериям этот рой – живой.
– Да, – Дэвид кивнул. – По крайней мере, он ведет себя как живой. Функционально он живой, Джек.
Я сказал:
– Это чертовски поганые новости…
– То-то и оно, – согласился Брукс.
– Хотел бы я знать, почему эту штуку не уничтожили в самом начале, давным-давно?
Дэвид промолчал. Он только теребил свой галстук и смущенно мялся.
– Ты ведь понимаешь, – сказал я, – что речь идет о механической чуме. Вот что вы тут сотворили, Дэвид. Это то же самое, что бактериальная или вирусная чума, только еще хуже. Потому что ее возбудители – механические организмы. Вы создали чертову рукотворную чуму.
Он кивнул.
– Да.
– И она эволюционирует.
– Да.
– И она ничем не ограничена, в отличие от биологической эволюции. Наверное, она развивается гораздо быстрее.
Дэвид кивнул.
– Да, они эволюционируют намного быстрее.
– Насколько быстрее, Дэвид?
Брукс вздохнул.
– Чертовски быстро, Джек. Сегодня вечером, когда они вернутся, они уже будут другими.
– А они вернутся?
– Они всегда возвращаются.
– А почему они возвращаются? – спросил я.
– Они пытаются пробраться внутрь.
– Но почему?
Дэвид поерзал на стуле, явно чувствуя себя неуютно.
– Мы можем только предполагать, Джек.
– И что же вы предполагаете?
– Одно из возможных объяснений – вопрос территории. Ты же знаешь, в исходном варианте программа «Хи-Доб» включала в себя концепцию ареала – территории, на которой хищник охотится. А внутри ареала выделялось нечто вроде домашней базы, которая, как мог предположить рой, находится внутри фабрики.
Я спросил:
– И ты в это веришь?
– Вообще-то нет. – Поколебавшись еще немного, он сказал: – Почти все мы думаем, что они возвращаются потому, что ищут твою жену, Джек. Они ищут Джулию.
День шестой. 11:42
Вот поэтому я, с раскалывающейся от боли головой, сел за телефон и позвонил в больницу в Сан-Хосе.
– Пригласите, пожалуйста, Джулию Форман, – сказал я оператору и по буквам произнес имя и фамилию.
– Она в отделении интенсивной терапии.
– Да, я знаю.
– Прошу прощения, но прямые звонки пациентам отделения интенсивной терапии запрещены.
– Тогда соедините меня с дежурной медсестрой.
– Минуточку, оставайтесь на линии…
Я подождал. Трубку долго не поднимали, я снова позвонил оператору и наконец дозвонился на пост дежурной медсестры. Медсестра сказала, что Джулия сейчас на рентгеноскопии и когда вернется – неизвестно. Я сказал, что она уже давно должна была вернуться. Медсестра раздраженно возразила, что прямо сейчас смотрит на кровать Джулии и может меня заверить, что Джулии там точно нет.
Я сказал, что перезвоню позже, положил трубку и повернулся к Дэвиду.
– Какое отношение ко всему этому имеет Джулия?
– Она помогала нам, Джек.
– Не сомневаюсь. Но как именно она вам помогала?
– В самом начале она пыталась приманить рой обратно, – сказал он. – Нам нужно было, чтобы рой держался поближе к зданию – чтобы мы могли управлять им по рации. И вот Джулия помогала нам удерживать рой поблизости.
– Как?
– Ну, она его развлекала.
– Она – что?
– Развлекала… Думаю, это можно назвать именно так. Очень быстро стало понятно, что рой обладает зачаточным разумом. И Джулии пришла в голову идея обращаться с ним, как с ребенком. Она выходила наружу и брала с собой яркие, разноцветные кубики, игрушки. Всякое такое, что любят маленькие дети. И рой как будто реагировал на ее присутствие. Джулия была в восторге от этого.
– Тогда находиться рядом с роем было безопасно?
– Да, совершенно безопасно. Это было просто облако микрочастиц, – Дэвид пожал плечами. – Как бы то ни было, на второй или третий день Джулия решила пойти дальше и протестировать рой по всем правилам. Знаешь, как детские психологи обычно тестируют детей.
– Ты имеешь в виду, что она решила начать обучение? – спросил я.
– Нет. Она хотела только протестировать.
– Дэвид, рой обладает коллективным разумом. Это же чертова сеть. Он может обучаться на чем угодно. Тестирование – это обучение. Что именно она с ним делала?
– Ну, знаешь, просто играла в игры. Она выкладывала на земле рядком три цветных кубика, два синих и один желтый, и смотрела, выберет ли рой желтый кубик. Потом делала то же самое, только с треугольниками и квадратами. Ну, в этом роде.
– Но, Дэвид, – сказал я, – вы же знали, что это нарушение всех правил – развитие вне стен лаборатории. Неужели никто не додумался, что надо пойти и уничтожить этот чертов рой?
– Конечно. Мы все хотели его уничтожить. Но Джулия не позволила.
– Почему?
– Она хотела его сохранить.
– И никто не переубедил ее?
– Джек, она – вице-президент компании. Она была уверена, что этот рой – счастливая случайность, что мы натолкнулись на что-то действительно важное, что это сможет со временем спасти компанию, – и поэтому мы не должны уничтожать рой. Она была… Ну, я даже не знаю – по-моему, она действительно очень увлеклась этой идеей. Я хочу сказать, она гордилась этим. Как будто этот рой – ее собственное изобретение. Все, чего ей хотелось, – это просто «держать его в узде». Это ее собственные слова.
– Да. Понимаю. И давно она это говорила?
– Вчера, Джек, – Дэвид пожал плечами. – Ты же знаешь, она улетела отсюда только вчера днем.
Я не сразу осознал, что он прав. Прошел всего один день с тех пор, как Джулия была здесь, а потом она попала в аварию. И за это время рои, по всей видимости, эволюционировали с невероятной скоростью.
– Сколько роев здесь было вчера?
– Три. Но мы видели только два. Я думаю, третий прятался, – Дэвид покачал головой. – Знаешь, один из роев был у Джулии вроде любимчика. Он был поменьше других. Всегда дожидался, когда Джулия выйдет из здания, и держался рядом с ней. Иногда, когда она выходила, рой начинал кружиться вокруг нее, как будто был рад ее видеть. А она разговаривала с ним – ну, как разговаривают с собакой.
Я сжал виски ладонями.
– Она разговаривала с ним… – повторил я. Господи боже! – Только не говори мне, что рои обладают и слуховыми сенсорами тоже.
– Нет. Слуховых сенсоров у них нет.
– Значит, разговоры Джулии прошли впустую…
– Ну вообще-то… Мы думаем, облако находилось достаточно близко от нее, чтобы дыхание Джулии отклоняло некоторые частицы роя. Ритмично отклоняло.
– Так что весь рой был одной гигантской барабанной перепонкой?
– В некотором смысле да.
– А поскольку это сеть, он обучился…
– Да.
Я вздохнул.
– Наверное, ты собираешься сказать мне, что рой что-то говорил ей в ответ?
– Нет, но он начал издавать странные звуки.
Я кивнул. Я слышал эти странные звуки.
– Каким образом он это делает?
– Мы точно не знаем. Бобби думает, что они повторяют в обратной последовательности вибрации, которые услышали. Частицы согласованно вибрируют и образуют звуковую волну. Примерно так, как мембрана динамика.
Да, наверное, там в самом деле происходит что-то вроде этого. Даже несмотря на то, что рой вряд ли способен на такое. Ведь, в сущности, рой – это облако пыли, состоящее из множества миниатюрных частиц. И эти частицы не обладают ни достаточной массой, ни энергией для того, чтобы генерировать звук.
Мне вдруг пришла в голову одна мысль.
– Дэвид, – сказал я, – а вчера Джулия выходила наружу, к роям?
– Да, утром. Все было нормально. Это уже потом, несколько часов спустя после того, как Джулия улетела, они убили змею.
– А до этого они кого-нибудь убивали?
– Ну… может быть, койота – несколько дней назад. Я точно не знаю.
– Значит, возможно, змея была не первой их жертвой?
– Возможно…
– А сегодня они убили кролика.
– Да. Так что они теперь прогрессируют очень быстро.
– Спасибо тебе, Джулия… – сказал я.
Я был совершенно уверен, что тот быстрый прогресс в развитии, который мы наблюдаем у роев, является результатом предыдущего обучения. Это характерно для распределенных систем – и, если уж на то пошло, для эволюции в целом, которую в принципе тоже можно рассматривать как процесс обучения. В любом случае это означает, что в развитии системы есть долгий, медленный начальный период, за которым следует быстрое и постоянно ускоряющееся развитие.
Именно по такой схеме происходило, например, развитие жизни на Земле. Первые живые существа появились около четырех миллиардов лет назад, и это были одноклеточные организмы. В течение последующих двух миллиардов лет ничего особенно не менялось. Потом в клетках возникло ядро. И развитие начало ускоряться. Всего несколько миллионов лет спустя уже появились многоклеточные организмы. Еще через несколько миллионов лет после этого живые организмы внезапно стали очень многообразными. Потом – еще более многообразными. Пару сотен миллионов лет назад на Земле росли огромные растения, среди которых бродили громадные, сложно организованные животные – динозавры. Человек появился довольно поздно – четыре миллиона лет назад впервые появились прямоходящие обезьяны. Два миллиона лет назад – первые прямые предшественники человека. Тридцать пять тысяч лет назад – наскальные рисунки в пещерах.
Впечатляющее ускорение развития. Если сжать всю историю жизни на Земле до двадцати четырех часов, то многоклеточные организмы появились в последние двенадцать часов, динозавры – в последний час, первобытные люди – в последние сорок секунд, а современный человек – меньше секунды назад.
Первым примитивным организмам понадобилось два миллиарда лет на то, чтобы внутри них возникло ядро – первый шаг к усложнению. Но чтобы эволюционировать до многоклеточных организмов, им понадобилась всего десятая часть этого времени – двести миллионов лет. И всего четыре миллиона лет отделяет тупых обезьян с их грубыми костяными орудиями от современного человека и генной инженерии. Вот насколько стремительно ускоряется темп эволюции.
Подобная картина наблюдается и в поведении агентно-базированных систем. Довольно много времени уходит на то, чтобы агенты прошли подготовительную стадию обучения, «заложили фундамент» опыта и освоили первичные навыки. Но, как только этот этап завершается, последующий прогресс может быть очень быстрым.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61
Чтобы проверить, что я все понял правильно, я решил просчитать все этапы пошагово.
– Первичная сборка начинается с бактерий. Они видоизменены так, что способны питаться чем угодно, вплоть до мусора, и, значит, вполне могли найти в пустыне какую-нибудь питательную среду.
– Правильно.
– Это означает, что бактерии начали размножаться и производить молекулы, которые самостоятельно складывались друг с другом, образуя новые, более крупные молекулы. И вскоре из них получились ассемблеры, которые начали выполнять заключительную работу – собирать новые микроагенты.
– Да, правильно.
– А это означает, что рои действительно размножаются в буквальном смысле.
– Да. Они размножаются.
– И каждый отдельный агент обладает памятью.
– Да. Небольшой, но обладает.
– А много им и не нужно – в этом-то и смысл распределенного разума. Разум у них коллективный. Таким образом, они обладают разумом. А поскольку у них есть память, они способны обучаться на собственном опыте.
– Да.
– А программный модуль «Хи-Доб» помогает им решать задачи. Кроме того, эта программа генерирует достаточно случайных элементов, чтобы позволить им изобретать и применять новшества.
– Да, правильно
Голова у меня раскалывалась от боли. Теперь я представлял себе все последствия случившегося, и они были очень нехорошие.
– Значит… – с трудом произнес я, – из того, что ты мне сказал, следует, что этот рой воспроизводит сам себя, способен к самостоятельному существованию, обучается на основе приобретенного опыта, обладает коллективным разумом и может находить новые способы решения задач.
– Да.
– Это означает, что по всем практическим критериям этот рой – живой.
– Да, – Дэвид кивнул. – По крайней мере, он ведет себя как живой. Функционально он живой, Джек.
Я сказал:
– Это чертовски поганые новости…
– То-то и оно, – согласился Брукс.
– Хотел бы я знать, почему эту штуку не уничтожили в самом начале, давным-давно?
Дэвид промолчал. Он только теребил свой галстук и смущенно мялся.
– Ты ведь понимаешь, – сказал я, – что речь идет о механической чуме. Вот что вы тут сотворили, Дэвид. Это то же самое, что бактериальная или вирусная чума, только еще хуже. Потому что ее возбудители – механические организмы. Вы создали чертову рукотворную чуму.
Он кивнул.
– Да.
– И она эволюционирует.
– Да.
– И она ничем не ограничена, в отличие от биологической эволюции. Наверное, она развивается гораздо быстрее.
Дэвид кивнул.
– Да, они эволюционируют намного быстрее.
– Насколько быстрее, Дэвид?
Брукс вздохнул.
– Чертовски быстро, Джек. Сегодня вечером, когда они вернутся, они уже будут другими.
– А они вернутся?
– Они всегда возвращаются.
– А почему они возвращаются? – спросил я.
– Они пытаются пробраться внутрь.
– Но почему?
Дэвид поерзал на стуле, явно чувствуя себя неуютно.
– Мы можем только предполагать, Джек.
– И что же вы предполагаете?
– Одно из возможных объяснений – вопрос территории. Ты же знаешь, в исходном варианте программа «Хи-Доб» включала в себя концепцию ареала – территории, на которой хищник охотится. А внутри ареала выделялось нечто вроде домашней базы, которая, как мог предположить рой, находится внутри фабрики.
Я спросил:
– И ты в это веришь?
– Вообще-то нет. – Поколебавшись еще немного, он сказал: – Почти все мы думаем, что они возвращаются потому, что ищут твою жену, Джек. Они ищут Джулию.
День шестой. 11:42
Вот поэтому я, с раскалывающейся от боли головой, сел за телефон и позвонил в больницу в Сан-Хосе.
– Пригласите, пожалуйста, Джулию Форман, – сказал я оператору и по буквам произнес имя и фамилию.
– Она в отделении интенсивной терапии.
– Да, я знаю.
– Прошу прощения, но прямые звонки пациентам отделения интенсивной терапии запрещены.
– Тогда соедините меня с дежурной медсестрой.
– Минуточку, оставайтесь на линии…
Я подождал. Трубку долго не поднимали, я снова позвонил оператору и наконец дозвонился на пост дежурной медсестры. Медсестра сказала, что Джулия сейчас на рентгеноскопии и когда вернется – неизвестно. Я сказал, что она уже давно должна была вернуться. Медсестра раздраженно возразила, что прямо сейчас смотрит на кровать Джулии и может меня заверить, что Джулии там точно нет.
Я сказал, что перезвоню позже, положил трубку и повернулся к Дэвиду.
– Какое отношение ко всему этому имеет Джулия?
– Она помогала нам, Джек.
– Не сомневаюсь. Но как именно она вам помогала?
– В самом начале она пыталась приманить рой обратно, – сказал он. – Нам нужно было, чтобы рой держался поближе к зданию – чтобы мы могли управлять им по рации. И вот Джулия помогала нам удерживать рой поблизости.
– Как?
– Ну, она его развлекала.
– Она – что?
– Развлекала… Думаю, это можно назвать именно так. Очень быстро стало понятно, что рой обладает зачаточным разумом. И Джулии пришла в голову идея обращаться с ним, как с ребенком. Она выходила наружу и брала с собой яркие, разноцветные кубики, игрушки. Всякое такое, что любят маленькие дети. И рой как будто реагировал на ее присутствие. Джулия была в восторге от этого.
– Тогда находиться рядом с роем было безопасно?
– Да, совершенно безопасно. Это было просто облако микрочастиц, – Дэвид пожал плечами. – Как бы то ни было, на второй или третий день Джулия решила пойти дальше и протестировать рой по всем правилам. Знаешь, как детские психологи обычно тестируют детей.
– Ты имеешь в виду, что она решила начать обучение? – спросил я.
– Нет. Она хотела только протестировать.
– Дэвид, рой обладает коллективным разумом. Это же чертова сеть. Он может обучаться на чем угодно. Тестирование – это обучение. Что именно она с ним делала?
– Ну, знаешь, просто играла в игры. Она выкладывала на земле рядком три цветных кубика, два синих и один желтый, и смотрела, выберет ли рой желтый кубик. Потом делала то же самое, только с треугольниками и квадратами. Ну, в этом роде.
– Но, Дэвид, – сказал я, – вы же знали, что это нарушение всех правил – развитие вне стен лаборатории. Неужели никто не додумался, что надо пойти и уничтожить этот чертов рой?
– Конечно. Мы все хотели его уничтожить. Но Джулия не позволила.
– Почему?
– Она хотела его сохранить.
– И никто не переубедил ее?
– Джек, она – вице-президент компании. Она была уверена, что этот рой – счастливая случайность, что мы натолкнулись на что-то действительно важное, что это сможет со временем спасти компанию, – и поэтому мы не должны уничтожать рой. Она была… Ну, я даже не знаю – по-моему, она действительно очень увлеклась этой идеей. Я хочу сказать, она гордилась этим. Как будто этот рой – ее собственное изобретение. Все, чего ей хотелось, – это просто «держать его в узде». Это ее собственные слова.
– Да. Понимаю. И давно она это говорила?
– Вчера, Джек, – Дэвид пожал плечами. – Ты же знаешь, она улетела отсюда только вчера днем.
Я не сразу осознал, что он прав. Прошел всего один день с тех пор, как Джулия была здесь, а потом она попала в аварию. И за это время рои, по всей видимости, эволюционировали с невероятной скоростью.
– Сколько роев здесь было вчера?
– Три. Но мы видели только два. Я думаю, третий прятался, – Дэвид покачал головой. – Знаешь, один из роев был у Джулии вроде любимчика. Он был поменьше других. Всегда дожидался, когда Джулия выйдет из здания, и держался рядом с ней. Иногда, когда она выходила, рой начинал кружиться вокруг нее, как будто был рад ее видеть. А она разговаривала с ним – ну, как разговаривают с собакой.
Я сжал виски ладонями.
– Она разговаривала с ним… – повторил я. Господи боже! – Только не говори мне, что рои обладают и слуховыми сенсорами тоже.
– Нет. Слуховых сенсоров у них нет.
– Значит, разговоры Джулии прошли впустую…
– Ну вообще-то… Мы думаем, облако находилось достаточно близко от нее, чтобы дыхание Джулии отклоняло некоторые частицы роя. Ритмично отклоняло.
– Так что весь рой был одной гигантской барабанной перепонкой?
– В некотором смысле да.
– А поскольку это сеть, он обучился…
– Да.
Я вздохнул.
– Наверное, ты собираешься сказать мне, что рой что-то говорил ей в ответ?
– Нет, но он начал издавать странные звуки.
Я кивнул. Я слышал эти странные звуки.
– Каким образом он это делает?
– Мы точно не знаем. Бобби думает, что они повторяют в обратной последовательности вибрации, которые услышали. Частицы согласованно вибрируют и образуют звуковую волну. Примерно так, как мембрана динамика.
Да, наверное, там в самом деле происходит что-то вроде этого. Даже несмотря на то, что рой вряд ли способен на такое. Ведь, в сущности, рой – это облако пыли, состоящее из множества миниатюрных частиц. И эти частицы не обладают ни достаточной массой, ни энергией для того, чтобы генерировать звук.
Мне вдруг пришла в голову одна мысль.
– Дэвид, – сказал я, – а вчера Джулия выходила наружу, к роям?
– Да, утром. Все было нормально. Это уже потом, несколько часов спустя после того, как Джулия улетела, они убили змею.
– А до этого они кого-нибудь убивали?
– Ну… может быть, койота – несколько дней назад. Я точно не знаю.
– Значит, возможно, змея была не первой их жертвой?
– Возможно…
– А сегодня они убили кролика.
– Да. Так что они теперь прогрессируют очень быстро.
– Спасибо тебе, Джулия… – сказал я.
Я был совершенно уверен, что тот быстрый прогресс в развитии, который мы наблюдаем у роев, является результатом предыдущего обучения. Это характерно для распределенных систем – и, если уж на то пошло, для эволюции в целом, которую в принципе тоже можно рассматривать как процесс обучения. В любом случае это означает, что в развитии системы есть долгий, медленный начальный период, за которым следует быстрое и постоянно ускоряющееся развитие.
Именно по такой схеме происходило, например, развитие жизни на Земле. Первые живые существа появились около четырех миллиардов лет назад, и это были одноклеточные организмы. В течение последующих двух миллиардов лет ничего особенно не менялось. Потом в клетках возникло ядро. И развитие начало ускоряться. Всего несколько миллионов лет спустя уже появились многоклеточные организмы. Еще через несколько миллионов лет после этого живые организмы внезапно стали очень многообразными. Потом – еще более многообразными. Пару сотен миллионов лет назад на Земле росли огромные растения, среди которых бродили громадные, сложно организованные животные – динозавры. Человек появился довольно поздно – четыре миллиона лет назад впервые появились прямоходящие обезьяны. Два миллиона лет назад – первые прямые предшественники человека. Тридцать пять тысяч лет назад – наскальные рисунки в пещерах.
Впечатляющее ускорение развития. Если сжать всю историю жизни на Земле до двадцати четырех часов, то многоклеточные организмы появились в последние двенадцать часов, динозавры – в последний час, первобытные люди – в последние сорок секунд, а современный человек – меньше секунды назад.
Первым примитивным организмам понадобилось два миллиарда лет на то, чтобы внутри них возникло ядро – первый шаг к усложнению. Но чтобы эволюционировать до многоклеточных организмов, им понадобилась всего десятая часть этого времени – двести миллионов лет. И всего четыре миллиона лет отделяет тупых обезьян с их грубыми костяными орудиями от современного человека и генной инженерии. Вот насколько стремительно ускоряется темп эволюции.
Подобная картина наблюдается и в поведении агентно-базированных систем. Довольно много времени уходит на то, чтобы агенты прошли подготовительную стадию обучения, «заложили фундамент» опыта и освоили первичные навыки. Но, как только этот этап завершается, последующий прогресс может быть очень быстрым.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61