Мегабитовая бомба, стр. 26

Потенциальная сила, которую таит в себе информация, названная «метаинформацией», — это оторванная от итерационных, поступательных и линейных процессов самоорганизация, которая уже не настолько зависит от своего носителя, как жизнь в природе или как компьютерные модели, созданные программистами. Жизнь сама создавала свои программы, и к этой суверенной, комплексной виртуализации наши потомки должны прийти таким образом, что их «метаинформационные махины», «КОМПЬЮТЕРОВЕЙНИКИ», окажутся только зародышами, колыбелью, только «началом, направленным в бесчисленные, возможно, усилия самопроростков», — это только покажет, что биоэволюция была одной из частных, отдельных дорог, что могут возникать другие формы жизни, не основанные ни на углероде, ни на белке, ни на том или ином металле, — но здесь я уже стою над пропастью воображения, поскольку для тех явлений, что могут возникнуть, мне сейчас не хватает названий. «Метаинформационность» означает отказ от программ, устанавливаемых нашими программистами, в пользу программ-ИНИЦИАТОРОВ, программ, которые будут только СТАРТЕРАМИ развития, ограниченными в какой-то мере определенными условиями, но не обязательно жестко нацеленными на ожидаемый результат «освобожденного развития» информации, «высвобожденной» из неволи ее конкретных носителей. При этом, возможно, будет множество преждевременных ходов и выходов, и таких «переходов», которые ничего нового не создадут, но, вместе с тем, во всем этом множестве скрывается шанс получения ответов на некоммерческие вопросы: как возникла жизнь на Земле, почему все шло от катастрофы к катастрофе, является ли возрастание сложности «неотъемлемым показателем процессов, носящих характер скопления ИГР НА ВЫЖИВАНИЕ», и так далее. С такого высокого уровня свободной эволюции мы увидим то, к чему ни одна необходимость не приведет. Это только шанс, гарантом которого должен стать наш разум.

Теория эволюции по А. Донде

…Посмотри на эволюцию жизни. Миллиарды лет назад возникли праамебы, не правда ли? Что они умели? Повторяться. Каким образом? Благодаря устойчивости наследственных черт. Если бы наследственность на самом деле была безошибочной, на этой планете до сих пор не было бы никого, кроме амеб. Что же произошло? Да, начались ошибки. Биологи называют это мутациями. Но чем же является мутация, если не слепой ошибкой? Недоразумением между родителем-отправителем и потомком-получателем. По образу и подобию своему — да… но небрежно! Неточно! И так как подобие постоянно портилось, возникли трилобиты, гигантозавры, секвойи, козы, обезьяны и мы. Вследствие небрежности, промахов — но ведь именно так сложилась и моя жизнь… Недооценили мы историческую роль ошибки как фундаментальной категории бытия. Не думай по-манихейски! По мнению этой школы, Бог создает гармонию, которой Сатана постоянно подставляет ножку. Это не так! Если достану табак, то допишу в книге философских течений недостающий последний раздел, а именно онтологию апостазы, или теорию бытия, которое на ошибке основано, ошибку ошибкой исправляет, ошибкой возвращается, ошибками творит так, что случайность становится судьбой Мира…

Фрагмент рассказа «Профессор А. Донда. Из воспоминаний Ийона Тихого», 1974 г.

Искусственный разум?

Эссе написано в мае 1997 г.

В одной из партий Гарри Каспарова с Deep Blue компьютер, вопреки ожиданиям партнера-человека, не тронул легкую для взятия фигуру и через довольно большое количество ходов одержал победу. Каспаров тогда говорил, что почувствовал в действиях машины интеллект (по крайней мере ему так показалось): затаенный замысел в стратегическом ходе.

После победы Deep Blue журналисты не раз спрашивали меня, можно ли вообще подозревать компьютер в обладании интеллектом, на что я всегда отвечал отрицательно. Чтобы, строго говоря, получить некоторую «квинтэссенцию утверждения», то есть, насколько возможно, избавить машину от несущественного для сути, следует ввести понятия РАЗУМА, или РАЗУМНОСТИ, потому что одного «интеллекта» недостаточно. Но почему? Ведь «интеллект» более «безличностный», чем «разум». Артефакт (каким может быть компьютер) мог бы казаться «интеллектуальным», но не обязательно одновременно и «разумным». Прежде всего потому, что и непроизвольно можно вести себя ИНТЕЛЛЕКТУАЛЬНО, но непроизвольно вести себя РАЗУМНО, скорее всего, нельзя, так как импликацией разумности является ее осознание. Правда, социальное поведение насекомых, особенно живущих общественно, таких как пчелы или муравьи, управляется «врожденными инстинктами», однако можно легко признать, что они ближе к «интеллекту», особенно к коллективному, чем к разуму. И ведь неслучайно множество людей бьется над «добыванием интеллекта» из нечеловеческих устройств, тогда как «разум» будто бы никем не планируется и не проектируется. Почему?

Это очень трудный вопрос, поскольку речь идет о понятиях, которые имеют «размытое дефиниционное поле», и более того, можно сказать, употребляя современную терминологию, что это термины из группы, называемой «Fazzy Sets». Deep Blue мог произвести на человека-противника такое впечатление, будто в нем «мерцает» искра интеллекта, потому что «он видел дальше», чем противник, то есть был способен предвидеть, какое множество ходов, возможных в рамках шахматных правил, таит в себе будущее. Это существенно: обращение к будущим возможностям ЯВЛЯЕТСЯ одной из составляющих разума, но также может быть всего лишь показателем чисто неразумного инстинкта, который присущ насекомым или другим живым существам (которым мы не можем приписывать разум). Управляемое инстинктом поведение роднит с «интеллектом» прежде всего то, что оно обращено положительным результатом в будущее и обладает чертами ТЕЛЕОЛОГИЧЕСКИМИ. С определенной целью. Понятно, что Deep Blue должен был иметь такого рода целенаправленность (встроенную программистами), иначе он не стремился бы поставить Каспарову мат.

Здесь напрашивается следующее замечание. Deep Blue, некоторым образом, был модулем (субагрегатом), созданным технически, как бы вынутым из мозга выдающегося шахматиста-человека. Это, конечно, упрощение, ибо компьютер обладал вычислительной мощностью (200 млн. операций в секунду), коей ни один человек обладать не может, но людям недостающую производительность заменяет интуиция — насколько таинственная, настолько и обманчивая. (И чрезмерно растягивая отступление, в скобках добавлю, что, по мнению 99% самых выдающихся математиков, так называемая великая теорема Ферма не была доказана французским ученым; иначе говоря, интуиция подвела его, когда он написал на полях книги, что нашел доказательство, но не может его изложить за недостатком места.) Короче говоря, интуиция не обязательно бывает точной, и мы по-прежнему не знаем, «как она это делает», так как она действует вне сознания и ведет себя как отличник, который подсказывает правильные ответы товарищу, отвечающему экзаменатору: товарищ повторяет, но то, что он повторяет, ему не обязательно понимать… Разумный же ответ он сам, своей «разумностью», должен понимать. Хотя Deep Blue и весил около полутора тонн, функционально его можно рассматривать как ОДИН модуль — а мозг человека состоит из огромного количества модулей, большинство которых nota bene [Обратите внимание (лат.)] вообще функционально не занято чем-либо, что не происходит в самом организме (в теле) и за его пределами. Большинство модулей мозга служит телу, происходящим в нем процессам. Но только «меньшинство» может активно проявлять «экстерриториальную разумность». Тогда, например, все «экспертные программы», от геологических до медицинских, — это другие модули, а загвоздка в том, что эти вместилища выборочно сформированной информации, по существу актуальной и в этом смысле оптимальной, являются как бы дистиллятами современного состояния наших лучших знаний с одним, но чрезвычайно важным недостатком: они — модули «для себя» и для нашего использования (когда «призываются» для этого), но они «не понимают друг друга», и пока мы не знаем, что сделать, дабы соединить их более или менее аналогично тому, как это происходит в нашем мозгу. Составлять модули мы уже научились, но дать им способность самопроизвольно влиять на себя — еще не умеем, и в этом главная проблема Artificial Intelligence [Искусственный интеллект (англ.)]. Люди, увлеченные AI, как Марвин Мински (Marvin Minsky), по-прежнему уверены, что можно сконструировать искусственный интеллект, — так же как и философы, например, Даниэл Деннет (Daniel Dennet), который, пожалуй, раз сто объяснил («выяснил»), на чем основывается сознание, и «окончательно сорвал маску и решил» загадку сознания. Такие люди живут с ощущением, что от работающего Artificial Intelligence нас отделяет шаг или пара шагов. Однако я опасаюсь, что это не так просто. То, что целостную работу мозга составляет совместная деятельность отдельных модулей, мы сегодня знаем наверняка (если мы вообще что-то знаем наверняка).