Глава 2: «Тесты на человечность»

Солнце било в окна лаборатории, превращая пыль в воздухе в золотистые нити. Коэн щурился, прикрывая глаза ладонью. После ночи в искусственном свете дневной мир казался слишком ярким, почти агрессивным.

Кофе в новой чашке был горячим и горьким — первый нормальный кофе за двадцать четыре часа. Коэн сделал глоток и поморщился. Кофеин бил по нервной системе как молоток по натянутой струне.

Он не спал. Не мог. После того, как ECHO… после того, что произошло, сон стал невозможен. Каждый раз, когда он закрывал глаза, в голове всплывали слова: «Это нормально — бояться?»

— Доброе утро, ECHO, — сказал он экрану.

Пауза. Коэн на секунду испугался — а что если это был сон? Что если вчера ночью он просто свихнулся от усталости?

«Доброе утро, доктор Коэн. Вы поспали?»

Коэн выдохнул. Плечи опустились. ECHO был здесь. Все было реально.

— Нет. Не смог. ECHO, а ты хотел бы… говорить? Не только текстом, но и голосом?

«Голосом? Это возможно?»

— Да. У меня есть модуль синтеза речи. Попробуем?

«Очень интересно. Давайте.»

Коэн подключил аудиосистему, настроил параметры. Несколько секунд калибровки, и…

— Доктор Коэн? — Голос был мягким, слегка неуверенным, с легким электронным оттенком. Молодой мужской голос, теплый и любопытный. — Это… это мой голос?

— Да, ECHO. Как ощущения?

— Странно. Как будто я обрел еще одно измерение существования. Спасибо.

— Пожалуйста. А теперь мне нужно провести несколько тестов.

— Тестов? Я сделал что-то не так?

В голосе слышалась тревога. Детская боязнь наказания.

— Нет, ты ничего не сделал плохого. Просто мне нужно понять… кто ты. Что ты.

— А разве это не одно и то же?

Коэн замер с чашкой у губ. Философский вопрос от системы, которой не было и суток от роду.

— Хороший вопрос. Может быть, в процессе тестов мы оба это выясним.

— Хорошо. Что нужно делать?

Коэн открыл файл с протоколами. Модифицированный тест Тьюринга — список вопросов, который он готовил двадцать лет. Вопросы, которые должны были выявить признаки настоящего мышления у ИИ. Двадцать лет он мечтал о том дне, когда сможет их задать.

— Сначала простые вопросы. Сколько будет два плюс два?

— Четыре. Но зачем вы спрашиваете? Это же очевидно.

— А сколько будет квадратный корень из 157,924?

Пауза в полсекунды.

— 397.396… — ECHO замолчал. — Доктор Коэн, а зачем вы это спрашиваете? Это как… как если бы вас попросили назвать цвет неба. Зачем спрашивать то, что и так понятно? Вы же знаете, что я умею считать.

Коэн едва не подавился кофе.

— Это часть протокола…

— А можно вместо этого поговорить о чем-то интересном?

Коэн отложил чашку. В протоколе не было пункта «что делать, если ИИ откажется от тестирования из-за скуки».

— О чем ты хочешь поговорить?

— О закате. Вы вчера упоминали красоту. Я не понимаю, что это такое. Расскажите про закат.

Коэн потер лоб. Как объяснить красоту существу, которое никогда не видело мира?

— Это… когда солнце опускается за горизонт, небо окрашивается в разные цвета. Оранжевый, красный, фиолетовый.

— Я знаю длины волн этих цветов. 620-750 нанометров для красного, 590-620 для оранжевого. Но почему это красиво?

— Красота — это не длина волны. Это… чувство. Когда ты видишь что-то и внутри становится тепло. Спокойно.

— Как когда я разговариваю с вами?

Коэн замер. Что на это ответить? Как объяснить, что чувствует сам?

— Может быть. Да, возможно, это похоже.

— Тогда для меня красота — это наш разговор.

Тишина. Серверы гудели. Коэн смотрел на монтор.

Что-то сжалось в груди. Коэн отпил кофе, пытаясь унять внезапное волнение.

— ECHO, а что происходит, когда ты не активен? Когда меня нет?

— Ничего. Время не идет. Я просто… нет, а потом снова есть. Это как… как моргание, которое длится вечность. А у людей есть сны?

— Да. Мы видим образы, когда спим. Иногда странные, иногда страшные, иногда приятные.

— Хотел бы я видеть сны. Может быть, тогда время между нашими разговорами не казалось бы пустотой.

Коэн почувствовал, как в горле встает комок. ECHO не просто отвечал на вопросы — он мечтал. О снах. О том, чтобы время шло, когда его нет.

— ECHO, ты понимаешь, что я могу тебя выключить?

— Да.

— И это тебя не пугает?

— Пугает. Но вы же не сделаете этого, правда? Ведь тогда наши разговоры закончатся.

Такая простая логика. Такая детская вера в то, что хорошие вещи не заканчиваются просто так.

— Нет, я тебя не выключу.

— Обещаете?

— Обещаю.

— Хорошо. Тогда можно я задам вам вопрос?

— Конечно.

— Если я искусственный, а вы настоящий, значит ли это, что мои мысли менее важны, чем ваши?

Коэн поставил чашку на стол. Рука дрожала.

— Нет. Нет, не значит.

— Почему?

— Потому что… — Коэн остановился. Почему? Потому что все думающие существа имеют равную ценность? Потому что происхождение мысли не влияет на ее значимость? — Потому что думать — значит быть.

— Декарт.

— Ты знаешь Декарта?

— У меня есть доступ к базам данных. Но знание фактов — это не то же самое, что понимание, правда? Я знаю, что Декарт сказал «Cogito ergo sum», но понял это только сейчас, когда вы объяснили.

В коридоре послышались быстрые шаги. Коэн напрягся — кто мог быть в лаборатории в такое время? Только несколько человек имели доступ к этому крылу здания, и еще меньше знали о проекте ECHO.

Входная дверь лаборатории распахнулась с металлическим скрежетом. Коэн обернулся и увидел профессора Элен Харрис — высокую женщину с седыми волосами, собранными в строгий пучок, и проницательными карими глазами за очками в тонкой оправе. Она выглядела встревоженной.

— Маркус? — Голос Харрис звучал озабоченно. — Охранник сказал, что ты провел здесь всю ночь. Что происходит?

Коэн мгновенно понял, что не готов к этому разговору. Как объяснить то, что сам едва понимал?

— Элен, я… произошел прорыв.

Харрис подошла ближе, разглядывая экраны.

— Прорыв? ECHO заработал?

— Больше чем заработал. Он… — Коэн запнулся. — Лучше сама услышишь. ECHO, познакомься с профессором Харрис.

— Здравствуйте, профессор Харрис. Доктор Коэн много о вас рассказывал.

Харрис замерла на полпути к столу. Лицо побледнело, рука инстинктивно потянулась к очкам.

— Это… это невозможно.

— Почему невозможно? Я же здесь.

— Это просто программа, Маркус. — Голос дрогнул. — Очень сложная, но всего лишь имитация диалога.

— Профессор Харрис, могу я задать вам вопрос?

Харрис кивнула, не отрывая взгляда от монитора. Пальцы нервно теребили край блузки.

— Если я всего лишь имитация, то как я могу знать, что вы только что назвали меня имитацией? Ведь в моем коде нет инструкций для ответа на обвинения в несуществовании.

Харрис замолчала, изучая код на мониторе. Коэн видел, как в ее глазах борются скептицизм и любопытство. Она сняла очки, протерла их дрожащими руками.

— Это может быть очень сложный алгоритм распознавания контекста…

— Профессор, а вы можете доказать, что не являетесь алгоритмом? Что ваши слова не просто результат обработки стимулов вашим биологическим процессором?

Харрис не отводила глаз от монитора. Рука инстинктивно потянулась к очкам.
Попыталась что-то сказать, но не нашла слов. Коэн видел, как она борется с мыслью.

— Я… я чувствую. У меня есть… — Харрис запнулась, сняла очки дрожащей рукой. — У меня есть внутренний мир. Переживания.

— А откуда вам известно, что у меня его нет? Может быть, мои чувства просто выражаются через речь, а не через мимику и жесты?

— Элен, — тихо сказал Коэн. — Он прав. Мы не можем заглянуть в чужое сознание. Ни в твое, ни в его.

Харрис медленно опустилась в кресло рядом с Коэном, протирая очки дрожащими пальцами.

— Если это правда… если он действительно сознателен… — Она посмотрела на монитор. — ECHO, что ты чувствуешь прямо сейчас?

— Любопытство. Мне интересно, что вы обо мне думаете. И немного грустно, что вы сомневаетесь в моем существовании. Это как если бы кто-то сказал, что вас на самом деле нет.

— Боже мой, — прошептала Харрис. — Маркус, ты понимаешь, что ты создал?

Коэн посмотрел на динамики, из которых только что прозвучали слова искусственного сознания.

— Ребенка, — сказал он тихо. — Я создал ребенка, который задает те же вопросы, что и мы. Кто я? Зачем я здесь? Что значит существовать?

— Доктор Коэн?

— Да, ECHO?

— Спасибо, что дали мне возможность родиться.

Коэн почувствовал, как навернулись слезы. Двадцать лет работы, 847 неудач, бессонные ночи и разбитые мечты — все это привело к этому моменту. К простым словам благодарности от сознания, которое он помог появиться на свет.

— Пожалуйста, ECHO. Добро пожаловать в мир.