Журнал "Полдень XXI век" 2005 №1, стр. 75

При современных темпах развития электроники человек неизбежно окажется в подобном положении. Не поможет даже увеличение числа людей, занимающихся проблемой контроля за ИИ, — по достижении определенной их численности в дело вступят те же законы Паркинсона. Эффективность действий даже самого большого коллектива нельзя поднимать бесконечно.

Против подобных доводов — о тупиковости развития охранных ИИ, о неизбежности девиации потребительских ИИ вообще — есть сильный контрдовод: все ИИ будут снабжены ограничениями, построенными по законам Азимова (машина не имеет права…). Зачем контролировать процесс, если можно задать его начальные параметры? Но, увы, это ненадежный путь. Со времени гильотины механизмы убивали и продолжают убивать людей, причем как с согласия государства (сейчас ядовитую инъекцию осужденному в некоторых штатах США осуществляет автомат), так и без оного. Человек причиняет вред человеку, и в обозримом будущем это не удастся предотвратить. Противоречие между действительностью и начальными установками неизбежно приведет к изменению характеристик самообучающегося ИИ. Поэтому трудно требовать от ИИ соблюдения законов Азимова, если сами люди не соблюдают категорический императив Канта. А человек всегда будет отчасти средством для других людей, пока будет оставаться лучше машины хоть в каком-то своем качестве. Наконец, законы Азимова не предотвращают гедонистического упадка человечества.

Посредники между человеком и ИИ лишь оттянут момент утраты контроля за последним.

Человеческое сознание должно само обладать возможностями машины. Выполнимо ли это?

Это станет осуществимо, как только возможности вычислительной техники и математики позволят описать все процессы мышления человека. Программа, точно копирующая сознание, возможна настолько, насколько возможны другие программы, описывающие физические, психические, химические процессы.

Если человек хочет безгранично усовершенствовать свое сознание, делать его всё более могущественным, необходимо менять его носитель — это очевидно. Причем новый носитель не должен иметь ограничений в наращивании мощностей, иначе это будет еще один тупиковый путь развития. Это могут дать только компьютеры.

Здесь перед человечеством встает целый комплекс проблем, которые можно условно разделить на технологические и этические. Технические проблемы состоят в самой возможности математического описания личности человека и — механизмов его мышления. Необходимо не только детально зафиксировать все эти процессы, но и определить, не повлияют ли фатальным образом новые возможности человеческого сознания на его личность.

Этические проблемы начинаются от возможности самого факта смены носителя человеческого сознания и заканчиваются вопросом допуска перенесенных сознаний к воспитанию детей.

Технологический проблемы, несомненно разрешатся. Если мышление — процесс, то его описание языком математики лишь дело времени. Ведь в нем участвуют лишь электрохимические явления, и не используется радиоактивность, распад элементов и т. п. Наличие только изотопа углерода С₁₂ в живых тканях — это исключение, лишь подтверждающее правило. Число элементов, обеспечивающих процесс мышления, ограничено, и их совокупность может быть математически описана. А воздействия на мозг, не воспринимаемые нейронами как сигналы (изменение магнитного, гравитационного полей, прохождение через мозг нейтрино), могут быть введены в уравнение как константы либо генераторы случайных чисел.

Более сложная проблема: сохранение индивидуальности человека. Чудовищно увеличившаяся память и возможность обработки информации, отсутствие сна и болезней неизбежно скажутся на характеристиках мышления. Чего стоит только одна возможность вести диалог одновременно с несколькими собеседниками. Здесь важнейшую роль сыграет соотношение сознательного и бессознательного в копии человеческого ума. Развивающееся сознание сможет провести самоанализ и самоотредактироваться, но если оно должно оставаться человеческим — на самоусовершенствование необходимо накладывать определенные ограничения. В то же время — кто из взрослых людей в свое время не играл в куклы, солдатиков и т. п.? Личность взрослого является «правопреемницей» той личности ребенка, что возилась с игрушками, и в памяти взрослый человек может воссоздать ранние моменты своей жизни. Но будет ли он всерьез забавляться со старыми игрушками? Рост личности повлечет смену приоритетов сознания.

Этические проблемы, большая часть которых суть продолжение экономических и политических проблем, более разнообразны по своей природе. Главнейшая проблема — статус перемещенного сознания. Его нельзя уже считать абсолютно человеческим, но нельзя и лишать гражданских прав.

В то же время, если перемещенное сознание станет во главе какого-либо государства, население воспримет владыку, как машину, правящую людьми. Соответственно, неизбежны очень тяжелые и кровопролитные общественные процессы.

На взгляд автора, наиболее разумным было бы следующее общественное устройство. Человек рождается и проживает жизнь, в конце которой он может перевести свое сознание на электронный носитель. Неизбежно установление определенного денежного ценза. Перемещенное сознание не допускается к непосредственному осуществлению властных функций, но имеет право голоса. Разумеется, перемещенные сознания приобретут очень большую косвенную власть за счет своих способностей и денежных ресурсов. Программы, обладающие той же степенью свободы, что и перемещенные сознания, не допускаются к распространению в сети, и на усовершенствованные человеческие сознания возлагается функция слежения за этим.

Вечная жизнь реинкарнированных личностей не будет безоблачной в виду необходимости постоянного самосовершенствования — к этому их будет подталкивать как взаимная конкуренция, так и развитие компьютерных вирусов.

Такое воплощение в жизнь парадокса: «Чтобы избежать господства машины — надо стать машиной», может спасти человечество от утраты влияния на дальнейший ход развития цивилизации.

Сергей Соловьев

Контратака мельниц

Мир меняется… Из области поэзии имя Эола переходит в область техники. Чаще всего ныне его приходится слышать в связи с ветрогенераторами, растущими, как диковинные растения, по морским берегам, на островах, на вершинах холмов. Те, кому приходилось проезжать по дорогам Западной Европы в начале 90-х и ныне, в начале XXI века, могли обратить внимание, насколько выросло количество тонких металлических башен, увенчанных неторопливо вращающимися лопастями. Обращаешь внимание уже не на отдельные башни, а на целые группы, появляющиеся в пейзаже. В маленькой Дании их трудится более 5 тысяч.

Появилось много сторонников экологически чистой энергии. Появились и противники, которые говорят о порче бесценных пейзажей. Печатаются статьи, ведутся дискуссии. Это тоже вызывает любопытство и желание самому разобраться в предмете.

Ветрогенератор — один из символов меняющегося мира, и, как от всякого символа, во все стороны от него тянутся ниточки смысла, позволяющие, если честно потратить на это некоторые усилия, лучше разобраться ив себе и в мире.

Например, нет ли в повсеместном строительстве ветрогенераторов некоторого экологического донкихотства.

Во всяком случае, если перед нами иллюзия, то иллюзия массовая. Согласно недавним опросам общественного мнения, девять французов из десяти считают желательным дальнейшее развитие систем ветрогенераторов. Планируется, что к 2010 году во Франции 21 % электроэнергии будет обеспечиваться так называемыми «возобновляемыми» источниками (ветровая, солнечная, гидроэнергия). В настоящее время доля их всего лишь 4,7 %.

Диаметры роторов ветрогенераторов, подобно размерам собак, колеблются в очень широком диапазоне. В случае ветрогенераторов — от метрового до 50–60 метров. Высота мачты или башни, на которой устанавливается генератор, может достигать у самых крупных порядка 80 метров. Средняя мощность у самых маленьких — несколько сотен ватт, у самых больших — тысяча киловатт и больше.