Марсианское путешествие (сборник), стр. 3
Повторяю свой основной и главный вывод: задача человечества — создать Искусственный Разум, который станет управлять людьми.
Голос из зала:
— Какой смысл в этой исторической замене, Миллер?
Миллер:
— Думаю, что в соответствии с нынешним состоянием науки и техники ответа на этот вопрос вам никто пока не даст. Видимо, это одна из величайших загадок космоса. Сегодня я могу только высказать некоторые соображения. Как вам хорошо известно, жизнь на Земле закончится намного раньше, чем угаснет Солнце. Если взглянуть на нашу планету из космоса, то можно увидеть, как следом за ней тянется длинный газовый шлейф. Все время Земля теряет воздух, процесс этот происходит весьма интенсивно, во всяком случае он протекает намного быстрее процесса затухания Солнца. По этой же причине вокруг Марса почти нет атмосферы. Можно предположить, что до тех пор, пока на Земле исчезнет атмосфера, человечеством будет создан совершенный Искусственный Разум, которому, как вы сами понимаете, атмосфера не понадобится.
Голос из зала:
— Признать над собой власть машин — это безумие, Миллер… Это значит, что вы призываете нас добровольно залезть в капкан, из которого никогда не выбраться.
Миллер:
— Вот видите: даже вы, лучшие представители технократии, не хотите да и не желаете поверить в ту реальную ситуацию, которую я вам честно и объективно показываю. А что же тогда мы можем требовать от простых людей, от гуманитариев?.. Поверьте, еще большим безумием будет, если вы не прислушаетесь к моим логическим выводам. Предложите мне что-либо лучшее, и я сразу же, на ваших глазах, разорву на клочки свой доклад.
Голос из зала:
— Как вы считаете, Миллер, какие задачи стоят перед Искусственным Разумом?
Миллер:
— Я не могу ответить на этот вопрос. Опять же, пока что я могу лишь высказать свою гипотезу. Возможно, человечество является одной из подсистем намного более сложной цивилизации, задачи и деятельность которой нам неизвестны. Пока что перед нами поставлена ближайшая задача, которую мы сейчас отчетливо видим: создать Искусственный Разум. Как только создадим Искусственный Разум, наша задача будет исполнена и мы в таком случае…
Возглас из зала:
— Что, погибнем?
Миллер:
— Будем смотреть правде в глаза: не исключена и такая возможность. На первом этапе мы просто переходим в подчинение Искусственного Разума. Так же, как отдельная живая клетка — а она, как вам известно из школы, является замкнутой живой системой — выполняет определенную функцию и совсем не знает да и не может знать о задачах человека, а тем более — всего человечества, так и мы, слабые, смертные люди, не можем знать задач, стоящих перед высшими цивилизациями и тем же Искусственным Разумом.
Голос человека, ранее крикнувшего: «Это безумие…»
— О-о, Миллер!.. Не кажется ли вам, что вы замахиваетесь на фундаментальное нарушение воззрения всего человечества как на свою природу, так и на весь космос. Сказав а, вы заставляете всех нас молча думать об известном б. По-вашему получается, что мы — всего лишь подопытные существа, белые мыши в викарии медицинского института. Старая, давно всем надоевшая песня.
Миллер:
— Нет. Вы неправильно меня поняли. Мы выполняем определенные исторические задачи и обязательно выполним. В космосе никаких экспериментов нет и не проводится. В космосе, как и на Земле, существуют определенные закономерности, которые мы изучаем, согласно которым живем и которые никому не дано нарушать. Если человек не свободен в своем рождении, то и все человечество не свободно в своем появлении и развитии.
Голос из зала:
— Почему мы не можем объявить войну Искусственному Разуму, пока не поздно?
Миллер:
— Что значит — объявить войну Искусственному Разуму? С кем и за что вы собираетесь воевать? Вы что, полагаете, люди добровольно откажутся от того, что дал и продолжает давать им Искусственный Разум? В нынешней сложной и, подчеркиваю, безысходной ситуации он просто возьмет все человечество под свою опеку.
Председатель заседания:
— Коллеги, я вижу, что доклад доктора Миллера вызвал у вас заинтересованность. И все же прошу вас: дайте ему возможность закончить свое выступление. Пожалуйста, Миллер, продолжайте.
Миллер:
— Как вы понимаете, мое выступление необходимо засекретить. Если у вас, специалистов-технократов, возникают сомнения в достоверности моих выводов, то у простых людей этих мучительных сомнений будет намного больше, могут возникать нежелательные эксцессы, которые проявятся в различных террористических актах против кибернетических машин и систем, против нас, технократов. Кстати, что-то подобное в истории человечества уже происходило, когда люди начинали ломать станки и машины. Поэтому свой доклад я закончу следующим предложением.
Как вам известно, сейчас планируется первая космическая экспедиция. Десять космических кораблей мы направляем на Марс, где планируем основать марсианскую цивилизацию. Прошу вас разрешить Искусственному Разуму взять руководство жизнью колонии. Чтобы в колонии не возникли нежелательные эксцессы, наподобие террористических, предлагаю будущих колонистов набирать только из числа добровольцев, которых надо заранее предупредить о предстоящих условиях жизни на Марсе.
Все, я закончил выступление. Можете задавать вопросы. (В зале тишина).
3
Да, это я подтверждаю сейчас, сначала кто-то отчаянно зааплодировал, один из тех, кто всегда отчаянно аплодирует после любого доклада, а затем этот кто-то, удивленно оглянувшись, замолк, и в огромном зале воцарилась непривычная тишина. Присутствующие поняли: аплодировать после доклада Миллера — это значит признать над собой власть Искусственного Разума.
В перерыве участники конференции перешли из зала заседаний в фойе Дворца Конгрессов, где, разбившись на группки, стали обсуждать выступление Миллера, кто шутя, а кто всерьез.
Если бы с таким докладом, который сделал Миллер, выступил какой-нибудь невежда-гуманитарий, присутствующие, вероятнее всего, посмеивались бы, однако сейчас, когда с таким ответственным заявлением выступил выдающийся Миллер, все участники понимали, что его заявление означает новый переломный этап в мышлении человечества.
Конечно, как журналист, а не математик и кибернетик я не знал всех тонкостей проблемы, о которой громко беседовали и спорили между собой ученые мужья, но меня, дилетанта от науки, удивило, что ученые говорили об Искусственном Разуме как о чем-то реальном, что можно увидеть и потрогать… Слушая их споры, глядя на озабоченные лица, я вдруг подумал: сколько веселых шуток, едких афоризмов, а то и просто анекдотов появилось бы в среде родной журналистской братии, доведись им услышать доклад Миллера.
Видимо, я не совсем точно передаю мысли, не дававшие мне покоя, когда я ходил от одной группки ученых к другой и, вслушиваясь в специфические слова и термины, пытался уловить то общее настроение, ту атмосферу, которую журналист всегда чувствует в перерывах между любыми заседаниями, когда это атмосфера равнодушия, когда — заинтересованности, а когда — растерянности…
На сей раз равнодушных не было, все ученые, а точнее, почти все спорили между собой. На моих глазах участники конференции разделялись на две враждебные партии, одни были — за Миллера, другие — против.
К какой партии относить себя — я не знал… Я стремился сохранить, как говорят, полный нейтралитет. Единственное, что я понимал, Искусственный Разум — это что-то намного серьезнее, чем отдельные кибернетические машины и даже системы машин, и его во всяком случае нельзя увидеть…
Не знаю, что думали после доклада Миллера ученые-кибернетики, а для меня понятие Искусственного Разума постепенно наполнялось загадочным мистическим смыслом. Но я знал и то, что Искусственный Разум создан самим человеком. У меня возникали различные ассоциации, на ум пришла известная сказка о злом джине, который до поры до времени был упрятан в глиняный кувшин…