Выбор по Тьюрингу, стр. 62

– Вы в этом уверены? – спросила она с сомнением.

– Безусловно. Потому что именно так функционирует сознание. А это значит, что мне придется еще много поработать над критериями оценки. Потому-то и оказались неудачными столько прежних вариантов Робина. Проблема в оценке последствий – мы об этом уже говорили. На самом деле схема «возбудитель—реакция—вознаграждение» для обучения не годится: таким способом можно решать только простые задачи, дающие непосредственный результат. Нет, нужно добиваться масштабного мышления, надо обдумывать долгосрочные последствия, выяснять, какие стратегии действительно были эффективными, а какие заводили в тупик, какие ходы, казавшиеся полезными, на самом деле ничего не дали.

– У вас получается, что сознание – это что-то вроде… вроде луковицы.

– Ну да. – Он улыбнулся этому сравнению. – Хорошая аналогия. Слой за слоем, и все соединены между собой. Человеческая память не просто ассоциативна, она не ограничивается сопоставлением ситуаций, реакций на них и результатов. Это еще и прогноз. Возникающие ассоциации тоже должны включать долгосрочные цели и планы. Вот почему так важна разница между краткосрочной и долговременной памятью. Почему требуется примерно час, чтобы запомнить что-то надолго? Потому что должен быть какой-то буферный период, чтобы решить, какое поведение на самом деле достаточно полезно, чтобы занести его в память.

Внезапно он ощутил усталость. Кофе остыл, голова начинала болеть, надвигалась депрессия. Шелли заметила это и дотронулась до его руки.

– Пора спать, – сказала она. Он вяло кивнул и с трудом поднялся со стула.

Глава 26

19 июня 2024 года

Беникоф постучал, и Шелли открыла ему дверь.

– Брайан только что пришел, – сказала она. – Я как раз достала для него пива. Вам тоже?

– Если не трудно.

– Заходите, взгляните, как я устроилась, – в конце концов, оплатили все это вы.

Она ввела его в гостиную, где были тщательно вытравлены все следы казармы. Окно обрамляли шторы от пола до потолка из яркой ткани ручной работы. Темно-оранжевый ковер был подобран в тон их рисунку, с ним гармонировали и изящные линии датской мебели из тикового дерева, а почти целую стену занимало красочное пятно посткубистской картины.

– Прекрасно смотрится, – сказал Бен. – Теперь я понимаю, почему бухгалтерия была в истерике.

– Вовсе не из-за этого. Ткань и ковер – это израильский дизайн и арабская работа, стоили они не так уж дорого. Картину дала мне на время художница, моя подруга, она надеется, что кто-нибудь ее купит. Большая часть денег пошла на кухню – она оборудована по последнему слову техники. Хотите посмотреть?

– Сначала пиво. Мне нужно к этому подготовиться.

– Не хотите ли вы раскрыть тайну этого приглашения на таиландский обед? – спросил Брайан, уютно развалившийся в мягком кресле. – Вы же знаете, что мы с Шелли здесь, в «Мегалоуб», на положении пленников, пока вы не выловите убийц. Как мы можем отправиться в этот ваш таиландский ресторан?

– Если вы не можете отправиться в Таиланд, Таиланд может прийти к вам. Когда вы сказали, что хотите ввести меня в курс вашей работы над искусственным интеллектом, я подумал, что это надо отпраздновать. Спасибо, Шелли.

Бен сделал большой глоток холодного «Текате» и вздохнул:

– Хорошее пиво. Все началось на прошлой неделе с проверки, которую проводит служба безопасности. Я вхожу в состав комиссии из военной разведки – она проверяет каждого солдата, которого предполагается перевести сюда. Таким способом я и узнал, что рядовой Лэт Фроа завербовался в армию, только чтобы не работать в отцовском ресторане. Он заявил, что ему невмоготу стоять у плиты и хочется отведать настоящей жизни. Однако после года армейской кормежки он более чем счастлив приготовить настоящий таиландский обед на здешней кухне, если я достану все нужные приправы. Я их достал. Повара ничего против не имеют, а для личного состава это долгожданное разнообразие. С двух часов столовка в полном нашем распоряжении. Мы выступаем в качестве морских свинок: если нам понравится, Лэт пообещал вечером накормить всех остальных.

– Мне не терпится попробовать, – сказала Шелли. – Не то чтобы здесь так уж плохо кормили, но хочется чего-нибудь необычного.

– А как идет расследование? – спросил Брайан, который никогда о нем не забывал. Бен хмуро уткнулся в свой бокал.

– Рад был бы сообщить какую-нибудь хорошую новость, но мы, кажется, зашли в тупик. Мы достали послужной список Алекса Тотта. Пилот он был выдающийся, об этом говорит множество отзывов. Но сильно пил – на грани алкоголизма, и характер у него был скверный. После войны от него избавились при первой же возможности. По адресу, который он тогда оставил, мы не нашли никаких его следов. Его пилотские права еще действительны, ФБР проследило по ним, где он работал. Но сам он исчез – и след простыл. История, которую рассказал Дасти Родс, подтвердилась. Его впутали в это дело, а потом предоставили выпутываться, как сможет. Происхождение денег, переведенных на его счет, выяснить невозможно.

– А что будет с Родсом? – спросила Шелли.

– Теперь – ничего. Остаток денег, которые он от них получил, реквизирован и передан в фонд помощи жертвам преступлений, а он дал подробные показания обо всем, что произошло и что он делал. Теперь он будет вести себя паинькой, иначе ему придется отвечать сразу по многим статьям. Мы хотим, чтобы вокруг этого дела не было никакого шума, пока не закончится расследование.

Шелли кивнула и повернулась к Брайану:

– Расскажите мне о ваших успехах. Удалось вам заставить работать этот мозг Б?

– Знаете, удалось, и иногда он работает на удивление хорошо. Но не настолько часто, чтобы на него можно было положиться. Там то и дело происходят какие-то необычные и очень любопытные сбои.

– Неужели? Я думала, что с помощью «ламы-5» отыскивать дефекты станет проще.

– Так оно и есть. Но я думаю, тут дело больше в конструкции. Вы знаете, что мозг Б должен контролировать мозг А и вмешиваться, когда надо, чтобы он не сбивался с толку. Теоретически это должно получаться лучше, когда мозг А не знает, что происходит. Но похоже, что у Робина мозг А до того поумнел, что научился замечать такое вмешательство, – и попытался найти способ возвращаться в прежнее состояние. Кончилось тем, что между ними началась борьба за власть, за управление.

– Напоминает шизофрению у человека – расщепление личности.

– Точно. Безумие человека отражается в сумасшествии машины, и наоборот. А почему бы и нет? Когда мозг начинает барахлить, одни и те же причины будут приводить к одним и тем же симптомам – что у машины, что у человека.

– Должно быть, это не слишком приятно – когда ничего не можешь поделать с полоумным мозгом в металлическом корпусе.

– Да нет, я бы не сказал. Это даже ободряет! Чем больше сбои у робота напоминают то, что случается с человеком, тем ближе мы к созданию человекоподобного машинного интеллекта.

– Но если все хорошо, то чем вы так обеспокоены?

– А что, это видно? Ну, возможно, дело в том, что я уже добрался до конца тех заметок, которые мы привезли. Проделал почти все, что в них описано. Значит, теперь я отправляюсь в плавание по неведомому морю.

– А разве обязательно, чтобы этот ваш искусственный интеллект был таким же, как тот, который похитили?

– В общем, да, если не говорить о мелочах. Дело в том, что в нем уж слишком много дефектов – боюсь, не застряли ли мы на второстепенной вершине.

– Что это значит? – спросил Бен.

– Простая аналогия. Исследователь похож на слепого альпиниста. Он лезет в гору и в конце концов добирается до вершины – дальше подниматься некуда. Но поскольку он ничего не видит, он не может догадаться, что поднялся не на главную вершину, а на соседнюю, пониже, и что это тупик. Цели ему здесь не достигнуть – для этого надо снова спуститься вниз и искать другой путь к главной вершине.

– В этом есть смысл, – сказал Бен. – Значит, ты хочешь сказать, что искусственный интеллект, который ты только что построил, – видимо, почти такой же, как тот, что похитили, – это, возможно, всего лишь второстепенная гора, а не главная вершина?