Мегабитовая бомба, стр. 46

Вышеприведенный отрывок скопирован из моей «Суммы технологии», он был написан в середине 1963 года. С точки зрения сегодняшней ситуации это слишком сильное упрощение дороги, которую необходимо пройти до имитации описанной мною цели. Мы уже предполагаем, что «сознание» и «интеллект» — это, в определенном смысле, разные сути бытия. Мы знаем, что существуют разные состояния сознания, даже если их шкала находится между сном и реальностью. Но и сновидения могут быть насыщены разнообразными событиями, имитирующими реальность, сознательно переживаемую наяву. В свою очередь, каждый человек, даже если он не является ни психологом, ни психиатром, по собственному опыту знает, что сознание наяву тоже может иметь различные состояния. Человек в состоянии болезненного жара может осознавать, что его сознание нарушено. Различные химические вещества могут самым разным образом формировать человеческое сознание. Кроме того, есть множество действий, которые человек делает машинально: например, сознание шофера «не успевает» за его реакциями в ситуациях с неожиданной последовательностью событий. Вместе с тем машинально можно делать и глупости, — чаще всего мы их называем «поступками по рассеянности».

Все это сказано в отношении моего текста тридцатипятилетней давности, в котором я задумался над «ростками» сознания в машине, и делал я это потому, что мне казалось, будто люди сильно отличаются друг от друга умственными способностями, а сознание всем дано примерно одинаковое.

Дороги напрямик, по прямой и восходящей линии, от полного автомата, каковым является компьютер, к машине, которой можно было бы приписать сознание, нет. Вместе с тем о работе нашего мозга мы уже знаем столько, чтобы понимать, что так называемая каллотомия, или рассечение большой белой спайки, соединяющей полушария мозга, не ликвидирует сознание, но создает в разделенных полушариях две его разновидности. Кроме того, мы знаем, что мозг является системой, построенной из огромного количества функциональных модулей, которые в отдельных областях мозга создали среду, формирующую сознание. Поясню сказанное примером. В коре мозга есть зона, отвечающая за цветовое зрение. Ее повреждение приводит к тому, что человек видит всё без цвета, как в черно-белом кино. Чем лучше мы разбираемся в функциональной ориентации модулей мозга, тем больше удивляемся тому, как, с точки зрения инженерной экономии, хаотично устроен мозг, хотя при осознании самих себя мы не отдаем себе в этом отчета. Сегодня нам кажется, что мы уже можем конструировать отдельные модули, функционально похожие на модули мозга. Обычно это псевдонейронные сети различной сложности. Вместе с тем мы еще не умеем ни создать их в достаточном количестве, ни соединить таким образом, чтобы созданное произведение могло имитировать сознание. Следовательно, прямой дороги от бездумного автомата к сознательно мыслящей машине нет. Есть, однако, много сложных дорог, которые в будущем приведут нас к цели и, возможно, эту цель превзойдут. О такой возможности я написал книгу «Голем XIV».

…Ползучим способом, то есть очень медленно, расширяются фронты внедрения так называемого искусственного интеллекта. Об этих успехах несколько дней назад сообщила на первой странице английская газета «International Herald Tribune», заявив в заголовке, что то science fiction становится реальностью. Если же присмотреться к тому, на что этот искусственный интеллект уже способен, оказывается, что речь идет не об интеллекте, тождественном человеческому, а скорее о большой области усовершенствованных автоматов. Множество офисных функций, таких как банковские, включая функции кассиров, уже могут быть полностью компьютеризованы, или «обезлюднены».

Автоматизацией охватывается также деятельность, требующая деликатных исследований, включая психиатрическую медицину и хирургические операции. Но в этом я не вижу ни следа интеллекта, понимаемого личностно, индивидуалистически, эмоционально и целеустремленно. Это означает, что ошибка при хирургической операции может повлечь за собой исправление операционной программы, но не станет поводом привлечь механическое устройство к суду.

Несмотря на все усилия ученых, еще не родился Некто, заменяющий человека, а появился лишь очень исполнительный, но тоже подверженный ошибкам Никто. Границу этого большого прогресса в самостоятельности устройств, построенных людьми, я описал когда-то в одном из романов как ситуацию, в которой искусственно усовершенствованная среда становится более интеллектуальной, нежели обитающие в ней люди. Нечто подобное нам пока не грозит, но движение в этом направлении уже заметно.

Текст представляет собой фрагмент статьи из еженедельника «Przekroj», №29/2001

Дорога без возврата

Эссе написано в сентябре 1998 г.

Я долго противился собственной компьютеризации. Но когда компьютер наконец появился, его понадобилось оснастить печатающим устройством. Затем потребовался модем. Следом появился факс, как-то по необходимости и мимоходом… Это, собственно, и есть дорога, с которой нет возврата. Начало невинно и приносит с собой новые удобства. Продолжение не является входом в ад, но если ад существует, то он наверняка компьютеризован.

Новый компьютер устаревает столь быстро, что через несколько лет он уже рухлядь. Поколения новых компьютеров сталкивают в неизвестную пропасть сконструированные ранее и расхваливаемые при покупке. Американцы, любители статистических подсчетов, говорят, что жизнь компьютера коротка: от трех до пяти лет. Популяция этих устройств, о которых полвека назад никто даже не мог подумать, насчитывает сегодня в мире сотни миллионов экземпляров. Естественным образом, по крайней мере мне, приходит в голову вопрос: что происходит с миллионами устаревших компьютеров. Умирают ли они? Имеют ли свои кладбища? Или завершают путь на свалках? Где можно найти их останки? Складов для умерших компьютеров, скорее всего, нет.

Должен признаться, что в моем подвале стоит, укутанный почти как мумия, компьютер Apple 1984 года, купленный для сына, посещавшего тогда American International School в Вене. В свое время компьютер работал хорошо, но не смогу вспомнить, какую имел производительность и информационную емкость. Ему, можно сказать, повезло. Его никто никуда не выбросил. Прошло немного лет, и по отношению к современному поколению обычных средних компьютеров он представляется тем же, чем телеграфный ключ Морзе по отношению к спутниковым передатчикам.

Однако хочу повторить вопрос: что происходит с компьютерами, вытесняемыми новым поколением? Из американской прессы можно узнать, что их судьба складывается по-разному: одни попадают в магазины, другие — в подвалы, на чердаки, но не «каннибализируются». Все-таки они устаревают. Сердцем компьютера является жесткий диск, а его кровеносной, или скорее нервной системой, — процессоры. Однако сравнивать эти центры с человеческим мозгом или мозгом животных — значительное преувеличение.

Здесь моя мысль делает мгновенный и неожиданный даже для меня поворот. Каждый знает, что осознанное отравление или заражение мыслящей системы, каковой является мозг, карается. В то же время можно заразить вирусами компьютер, причем коварно и чаще всего не опасаясь суда или тюрьмы, если только речь не идет о действии, признаваемом преступлением или хотя бы поступком, угрожающим значительным общественным ценностям, хранилищем которых является любой банк или генеральный штаб. Выслеживанием хакеров, способных, находясь в одном полушарии Земли, поражать память компьютеров в другом, занимаются исключительно службы специального назначения. Сейчас широко распространилось и значительно развилось искусство шифрования информации, пересылаемой из одного компьютера в другой, — не просто как ветвь криптографии, а скорее как выросший из нее настоящий баобаб. Пока одни трудятся над программированием антивирусных заграждений, другие стараются выследить различных вирусоманов, особенно в сетях, передающих важную информацию, искажение или утрата которой чревата негативными финансовыми последствиями.