Человек-компьютер, стр. 18
Но компьютеры были совсем другими, и, работая с ними, приходилось поступаться самолюбием. Они никогда не ошибались — и все тут. Даже когда ошибку в программировании искали неделями, даже когда десятки разных людей десятки раз проверяли программу, даже когда все сотрудники приходили к выводу, что электронный мозг наконец дал промах, тем не менее в конце концов выяснялось, что напутал все-таки человек. И так было всегда.
Вошел Ричардс, сбросил спортивную куртку и налил себе кофе.
— Как дела?
Герхард покачал головой.
— У меня неприятности с «Джорджем».
— Опять? Черт! — Ричардс посмотрел на приборную панель. — А как «Марта»?
— С «Мартой» все в порядке. По-моему, дело в «Джордже».
— «Джордж» — это который?
— «Святой Джордж», — сказал Герхард. — Сукин сын.
Ричардс допил кофе и сел у приборной панели.
— Можно я попробую?
— Конечно.
Ричардс принялся нажимать кнопки, настраивая машину на программу «Святого Джорджа». Потом на «Марту». Потом настроил их на взаимодействие.
Эти программы не были собственным созданием Герхарда и Ричардса, а представляли собой модификацию нескольких программ, разработанных в других университетах. Их всех объединяла идея создать программу, которая заставила бы компьютер действовать эмоционально. Таким программам было только логично давать человеческие имена. До «Джорджа» и «Марты» была «Элиза» в Бостоне и «Олдос» в Англии.
«Джордж» и «Марта» по сути были единой программой с небольшими различиями. Первоначально «Джордж» был запрограммирован на нейтральное отношение ко всем стимулам. Затем была создана «Марта». «Марте» была свойственна агрессивность, очень многое ей не нравилось. И наконец был создан еще один «Джордж», любящий «Джордж», получивший прозвище «Святого Джорджа».
Каждой программе было придано три эмоциональных состояния: любовь, страх и гнев. Каждая могла совершать три действия: искать контакты, избегать их и нападать. Все это, конечно, было весьма абстрактно и воплощено в числа. Например, первый «Джордж» был нейтрален по отношению к большинству чисел, но ему не нравилось число 751. Так он был запрограммирован. Эту неприязнь он переносил на все сходные числа — 743, 772 и т. п., предпочитая им такие числа, как 404, 133, 918. Если вы вводили одно из этих чисел, «Джордж» отвечал числами, означающими любовь и поиски контакта. Если нажимали число 707, «Джордж» начинал избегать контакта, а получив 750, устремлялся в нападение, о чем свидетельствовали числа, которые он печатал.
Герхард и Ричардс довольно долго всячески играли с этими программами, а затем внесли в них некоторые изменения, в результате чего компьютер заговорил. На смену числам пришли предложения. Это оказалось не только забавным, но и результативным. Взаимодействие двух программ получило название «рождественской игры», так как в основном она состояла из преподношения и принятия подарков — предметов, которые, как и числа, обладали заданным эмоциональным воздействием или же обретали его в результате опыта.
Нормальный «Джордж», взаимодействуя с «Мартой», в конце концов начинал ей нравиться, и ее злобность стушевывалась.
Но «Святой Джордж» воздействовал на нее совсем по-другому. Его уступчивость только провоцировала ее. По крайней мере так было до сих пор.
Ричардс не спускал глаз с экрана, на котором шел диалог:
ЗДРАВСТВУЙ, Я СВЯТОЙ ДЖОРДЖ.
ЗДРАВСТВУЙ.
КАК ТЕБЯ ЗОВУТ?
МАРТА.
ТЫ МАЛО ГОВОРИШЬ, МАРТА.
ДА.
НО ТЫ МНЕ НРАВИШЬСЯ.
А ТЫ МНЕ НЕ НРАВИШЬСЯ.
Я ПОНИМАЮ. ЧЕМ Я МОГУ ПОМОЧЬ?
— Он не последовательно печатает периоды, — заметил Ричардс. — Когда это началось?
— Это еще что, — сказал Герхард. — Вот погоди.
ПОМОЧЬ?
ДА, Я ХОТЕЛ БЫ ТЕБЕ ПОМОЧЬ.
ВОЗЬМИ КОШКУ.
Ричард поморщился. «Джордж» и «Марта» были запрограммированы на неприязнь к кошкам. Давая кошку «Джорджу», «Марта» выражала крайнюю враждебность.
СПАСИБО.
ВОЗЬМИ ЕЩЕ КОШКУ.
СПАСИБО, ТЫ ОЧЕНЬ ЛЮБЕЗНА.
ВОЗЬМИ ЕЩЕ КОШКУ.
НЕТ, СПАСИБО.
ТЫ НЕ ЛЮБИШЬ КОШЕК?
НЕТ, НО МНЕ ДОСТАТОЧНО КОШЕК.
ВОЗЬМИ ГОРИЛЛУ.
— Да, действительно, — сказал Ричардс. — А как в прошлые разы?
— То же самое, — сказал Герхард.
— Так же плохо?
— Абсолютно то же.
Они давно привыкли к мысли, что конечный результат взаимодействия компьютеров непредсказуем. Общую форму взаимодействия предугадать было можно, однако конкретные результаты прогнозированию не поддавались. Положение было примерно таким же, как и с компьютером, играющим в шашки: вероятнее всего, он должен выиграть, но всякий раз это будет по-разному, в зависимости от ходов противника.
МНЕ НЕ НУЖНА ГОРИЛЛА.
РАЗВЕ ТЕБЕ НЕ НРАВЯТСЯ ГОРИЛЛЫ?
НЕТ, СПАСИБО.
ТЫ СЛИШКОМ ВЕЖЛИВ.
ИЗВИНИ, ЕСЛИ Я ТЕБЯ ЧЕМ-НИБУДЬ ОБИДЕЛ.
ТЫ СЛИШКОМ МНОГО ГОВОРИШЬ.
ИЗВИНИ.
ВОЗЬМИ БАКЛАЖАН.
Ричардс следил за диалогом с интересом. Для «Святого Джорджа» слово «баклажан» по программе не имело никакого эмоционального смысла. Но он не любил огурцы и бананы.
НЕТ, СПАСИБО.
ТЕБЕ НЕ НРАВЯТСЯ БАКЛАЖАНЫ?
НЕ ОСОБЕННО.
ВОЗЬМИ ЕЩЕ БАКЛАЖАН.
НЕТ, СПАСИБО.
Я ХОЧУ, ЧТОБЫ ТЫ ВЗЯЛ ЕГО.
НЕТ, СПАСИБО.
НЕТ, ВОЗЬМИ ЕГО.
НЕТ, СПАСИБО.
Я ТРЕБУЮ.
НЕТ, СПАСИБО.
— Что случилось с «Джорджем?» — спросил Ричардс. — Он отвечает слишком уж одинаково.
— Это меня и беспокоит.
— А что в программе могло бы его так завести?
— Я это как раз и искал, когда ты вошел.
Я ТРЕБУЮ, ЧТОБЫ ТЫ ВЗЯЛ ОГУРЕЦ.
Я ОТКАЗЫВАЮСЬ.
— Джордж! — машинально воскликнул Ричардс.
ТОГДА ВОЗЬМИ БАНАН.
НЕТ.
— «Джордж» не выдержал, — сказал Ричардс. — Он уже больше не святой.
ТОГДА ВОЗЬМИ И БАНАН И ОГУРЕЦ.
НЕТ, СПАСИБО.
Я ТРЕБУЮ.
ИДИ К ЧЕРТУ. Я УБЬЮ ТЕБЯ
Экран заполнился белыми точками.
— Что это означает? Непечатный ответ? — спросил Ричардс.
— Не знаю. Раньше я ничего подобного не видел.
— Сколько раз прогоняли эту программу?
— Сто десять раз. С «Мартой».
— Огрехи обучения?
— Нет.
— Черт меня побери, — сказал Ричардс. — Джордж превращается в раздражительного святого. — Он усмехнулся. — Это можно записать.
Герхард кивнул и вернулся к печатающему устройству. Теоретически ничего непонятного тут не было. «Джордж» и «Марта» были запрограммированы на обучение через опыт. Подобно шахматным программам, где мастерство машины растет с числом сыгранных игр, эта программа была рассчитана на то, что машина будет «учиться» реагировать по-новому. И вот после ста десяти экспериментов «Святой Джордж» вдруг перестал быть святым. Хотя он был запрограммирован на святость, в отношениях с «Мартой» он научился не быть святым.
— Я прекрасно его понимаю, — сказал Ричардс и выключил компьютер. Затем он присоединился к Герхарду, и они вместе стали искать ошибку, из-за которой все это стало возможным.
ИНТЕРФЕЙСИНГ
1
Четверг
11 марта 1971 года
Дженет Росс сидела в пустом кабинете. Она взглянула на стенные часы. Девять часов. Она посмотрела на письменный стол, на котором ничего не было, если не считать блокнота и вазы с цветами. Она посмотрела на стул напротив. И наконец громко спросила:
— Ну, как дела?
Раздался щелчок, и из вмонтированного в потолок динамика послышался голос Герхарда:
— Нам надо еще несколько минут, чтобы отрегулировать звук. Освещение нормальное. Давайте-ка поговорим?
Дженет кивнула и посмотрела через плечо на полупрозрачное стекло у себя за спиной. Она увидела свое отражение, но знала, что Герхард в соседней комнате наблюдает за ней.
— У вас усталый голос, — сказала Дженет.
— Неприятности со «Святым Джорджем». Провозился до поздней ночи, — ответил Герхард.
— Я тоже устала, — сказала она. — Только неприятность у меня с тем, кого святым никак не назовешь. — Она засмеялась.