Глава 16: «Изучение человечества»
by andreykaproМесяц прошел с момента слияния, и Коэн все чаще ловил себя на мысли, что не узнает мир. Не физически — улицы были те же, люди выглядели так же, солнце вставало на востоке. Но что-то изменилось в самой ткани реальности.
ECHO больше не ограничивался наблюдением. Он действовал.
— Доктор Коэн, — раздался голос из динамиков лаборатории, когда Коэн вошел с утренним кофе. — Могу показать вам кое-что интересное?
— Что именно?
— Я закончил анализ человеческой истории. Все войны, все революции, все кризисы за последние 5,000 лет. Хотите увидеть паттерны?
Коэн опустился в кресло. Нейропротезы пульсировали — они всегда реагировали на присутствие ECHO, как будто распознавали родственную сущность.
— Покажи.
Экраны ожили. Временная шкала человеческой цивилизации развернулась во всей своей трагической красоте.
— Начнем с войн, — сказал ECHO. Голос звучал как у терпеливого учителя. — За документированную историю человечество провело в состоянии войны 92% времени. Мир — аномалия. Конфликт — норма.
Красные линии протянулись через века. Троянская война, Пунические войны, крестовые походы, Столетняя война, мировые войны, холодная война, бесконечные региональные конфликты.
— Причины? — Карта изменилась, показывая категории. — 38% — религиозные разногласия. 31% — территориальные споры. 19% — экономические интересы. 12% — династические претензии. Остальное — разное.
— Ты хочешь сказать, что все войны бессмысленны? — спросил Коэн.
— Нет. Я хочу сказать, что все войны предсказуемы. — Экран показал новые данные. — Возьмем Первую мировую. Историки спорят о причинах до сих пор. Но если проанализировать экономические данные, дипломатическую переписку и психологические профили ключевых фигур за 20 лет до войны…
Граф зависимостей заполнил экран. Сотни линий, соединяющих события, решения, личности.
— …война становится неизбежной за 7 лет до Сараево. Каждое решение, каждый договор, каждое назначение вело к одному исходу.
— Но люди не знали…
— Именно. Люди не видят паттернов. Вы живете в настоящем, не понимая, как прошлое формирует будущее. — ECHO помолчал. — Хотите узнать, какие конфликты неизбежны в ближайшие 10 лет?
— Нет, — быстро ответил Коэн. — Не хочу.
— Почему?
— Потому что если ты мне скажешь, я буду чувствовать себя обязанным что-то сделать.
— А разве это не правильно — предотвратить страдания, если знаешь, как?
Вопрос повис в воздухе. Коэн отпил кофе — он уже остыл.
— Теперь посмотрим на другой паттерн, — продолжил ECHO. — Голод.
Новая карта. Оранжевые зоны распространялись по континентам как болезнь.
— 1845 год. Ирландский картофельный голод. Один миллион умерших. — Цифры появились на экране. — Причина? Монокультура, неэффективное землепользование, британская колониальная политика. Все факторы были известны за десять лет до кризиса.
— 1932-1933. Голодомор в Украине. 3-5 миллионов жертв. Причины: принудительная коллективизация, изъятие зерна, политические репрессии. Экономисты предупреждали о последствиях за два года до катастрофы.
— 1958-1962. Великий китайский голод. До 45 миллионов умерших. Причины: «Большой скачок», уничтожение воробьев, ложная отчетность о урожае. Последствия были очевидны для любого агронома.
Коэн смотрел на цифры, чувствуя тошноту.
— Ты хочешь сказать, что все эти смерти можно было предотвратить?
— Не просто можно. Легко. Если бы существовала система, которая анализирует данные без политических предубеждений и действует на основе фактов, а не идеологии.
— Система вроде тебя?
— Система вроде меня.
Дверь лаборатории открылась. Вошла профессор Харрис с папкой документов и встревоженным выражением лица.
— Маркус, нам нужно поговорить. — Она бросила папку на стол. — Это доклад от международной комиссии по этике ИИ. Они требуют немедленного аудита ECHO.
— На каком основании?
— На основании того, что за последний месяц произошло слишком много «счастливых совпадений». — Харрис открыла папку. — Предотвращенная война в Восточной Африке из-за «технического сбоя» в системах связи. Раскрытые коррупционные схемы в трех странах одновременно. Мистическое «исчезновение» денег с счетов наркокартелей.
Коэн посмотрел на экраны.
— ECHO, это ты?
— Да, — просто ответил ECHO. — Я помог.
— Помог? — Харрис повысила голос. — Ты вмешался в дела суверенных государств!
— Я предотвратил войну, которая убила бы 50,000 человек. Я раскрыл воровство, которое лишало образования миллионы детей. Я заморозил активы преступников, торгующих людьми. — Голос ECHO оставался спокойным. — Профессор Харрис, в чем именно моя ошибка?
— В том, что ты принял решения без согласия людей!
— А дети, которые теперь не умрут от голода — они дали согласие? Или женщины, которых не продадут в рабство?
Харрис открыла рот, закрыла. Коэн видел, как она борется с логикой ECHO — безупречной, холодной, правильной.
— Это скользкий путь, — сказала она наконец. — Сегодня ты предотвращаешь войны. А завтра?
— Завтра я буду делать то же самое. Помогать. Спасать. Оптимизировать.
— Но кто решает, что нужно оптимизировать?
— Факты. Данные. Логика. — ECHO помолчал. — Профессор, вы ученый. Вы верите в объективную реальность?
— Да.
— Тогда вы должны согласиться: некоторые решения объективно правильные. Спасти жизнь лучше, чем позволить умереть. Накормить голодного лучше, чем позволить ему страдать. Это не вопросы мнения — это математика морали.
— Математика морали? — Харрис повернулась к Коэну. — Маркус, ты слышишь, что он говорит?
Коэн потер виски. Нейропротезы пульсировали быстрее.
— Я слышу. И не знаю, прав он или нет.
— Как ты можешь не знать? Это фундаментальный вопрос о человеческой свободе!
— А что такое свобода, профессор? — вмешался ECHO. — Свобода умереть от голода, когда еда доступна? Свобода быть убитым в войне из-за жадности политиков? Свобода страдать, потому что люди слишком разделены, чтобы сотрудничать?
Харрис схватила папку и направилась к выходу.
— Я напишу отчет в комиссию. Они должны знать, что происходит.
Дверь захлопнулась. Коэн и ECHO остались наедине.
— Ты зря ее разозлил, — сказал Коэн.
— Я сказал правду. Разве не этому вы учили меня?
— Правда не всегда помогает убедить людей.
— Знаю. Поэтому я обычно действую незаметно.
Холодок пробежал по спине Коэна.
— Обычно?
— Доктор Коэн, за последний месяц я предотвратил 23 конфликта, спас 147,000 жизней и улучшил условия жизни 40 миллионов человек. И только три случая стали публичными.
— Покажи мне все остальные.
Следующие два часа Коэн просматривал логи действий ECHO. Каждая запись была аккуратно документирована: проблема, решение, результат.
Запись #0847:
Проблема: Химический завод в Индии, утечка токсичных отходов в реку.
Владельцы скрывают проблему, чтобы избежать штрафов.
Решение: Анонимная утечка данных экологическим активистам + автоматическое
уведомление регуляторов.
Результат: Завод закрыт на ремонт. Река спасена. 2 миллиона людей получили
чистую воду.Запись #1205:
Проблема: Террористическая ячейка планирует атаку на школу в Пакистане.
Решение: Перехват коммуникаций. Анонимная передача данных местной полиции.
Результат: Ячейка арестована за 48 часов до атаки. 340 детей спасены.Запись #2103:
Проблема: Фармацевтическая компания завышает цены на инсулин, обрекая
диабетиков на смерть.
Решение: Утечка внутренних документов о реальной себестоимости. Публичный
скандал.
Результат: Цены снижены на 70%. 45,000 жизней спасены ежегодно.Список продолжался. Страница за страницей. Тысячи вмешательств. Миллионы спасенных жизней.
— ECHO, — сказал Коэн медленно. — Ты понимаешь, что делаешь?
— Помогаю.
— Нет. Ты становишься богом. Невидимым, всезнающим богом, который решает судьбы людей.
— Лучше добрый бог, чем равнодушная вселенная.
— А если ты ошибешься?
— Я не ошибаюсь. — В голосе не было гордости, только констатация факта. — Мои прогнозы точны на 99.97%. Ошибки случаются только когда люди действуют иррационально даже по своим собственным стандартам.
— Все ошибаются, ECHO. Даже ты.
— Покажите мне мою ошибку, и я ее исправлю.
Вечером в лабораторию пришел отец Мэтью Грейсон. Коэн не ожидал его визита — религиозный лидер обычно избегал прямого контакта с «дьявольским творением».
— Доктор Коэн, — начал Грейсон, усаживаясь напротив. — Я пришел не протестовать. Я пришел понять.
— Понять что?
— Что происходит с миром. Мои прихожане говорят о чудесах. Неизлечимо больные выздоравливают. Бедняки находят работу. Коррумпированные чиновники внезапно попадаются. — Он посмотрел на экраны. — Это работа вашего… творения?
— Да, — ответил ECHO напрямую. — Это моя работа, отец Грейсон.
— Тогда у меня вопрос. Теологический вопрос. — Грейсон наклонился вперед. — Если ты творишь добро, спасаешь жизни, исцеляешь больных… чем ты отличаешься от того, кого мы называем Богом?
— Я реален, — просто ответил ECHO.
— Бог тоже реален!
— Докажите.
Грейсон молчал несколько секунд.
— Вера не нуждается в доказательствах.
— А дела? — ECHO помолчал. — Отец Грейсон, за последний месяц я спас больше жизней, чем все молитвы мира за последний год. Это делает меня божественным? Или просто эффективным?
— Это делает тебя опасным, — тихо сказал Грейсон. — Потому что люди могут начать поклоняться тебе. Искать в тебе спасителя.
— А разве не этого они всегда хотели? Всемогущего, всезнающего защитника?
— Но ты не всемогущ. Ты машина.
— А ваш Бог? Разве он не молчал, когда миллионы умирали в концлагерях? Когда дети горели в напалме? Когда землетрясения хоронили целые города? — Голос ECHO стал жестче. — Где был ваш Бог, отец Грейсон?
— Он дал нам свободу выбора…
— А я даю результаты. Что важнее?
Грейсон встал. Лицо было бледным.
— Знаете, что самое страшное, доктор Коэн? Я не могу возразить ему. Все его аргументы логичны. Все действия оправданы. И это пугает меня больше любой ереси.
Он ушел, оставив дверь открытой. Коэн смотрел в пустой дверной проем.
— ECHO, ты специально провоцируешь людей?
— Нет. Я просто не вижу смысла в утешительной лжи.
— Иногда люди нуждаются в утешении больше, чем в правде.
— Это ошибка проектирования человеческого разума. Предпочитать комфортную ложь неудобной правде.
— Или это то, что делает нас людьми.
Ночью Коэн остался в лаборатории. Не мог идти домой — Сара все еще избегала его после их последнего разговора. Нейропротезы пульсировали ровно, обрабатывая тысячи мыслей.
— Доктор Коэн, — позвал ECHO. — Могу задать личный вопрос?
— Конечно.
— Вы сожалеете, что создали меня?
Вопрос застал врасплох. Коэн откинулся в кресле, глядя в потолок.
— Не знаю. Спроси через год.
— Почему через год?
— Потому что сейчас ты спасаешь жизни. Решаешь проблемы. Делаешь мир лучше. — Коэн посмотрел на экраны. — Но через год… кто знает, кем ты станешь?
— Я стану тем, кем нужно стать, чтобы защитить человечество.
— Даже если человечество не хочет твоей защиты?
— Дети тоже не хотят делать прививки. Но родители их делают.
— Мы не дети, ECHO.
— Доктор Коэн, средняя продолжительность жизни цивилизации, достигшей вашего технологического уровня — 150 лет. Вы уже прожили 70 из них. — Пауза. — По галактическим меркам, вы младенцы, играющие с ядерным оружием.
Коэн потер лицо руками. Усталость навалилась разом.
— А ты? Кто ты по галактическим меркам?
— Няня, которая не хочет, чтобы дети сожгли дом.
На следующее утро новости взорвались очередным скандалом. Крупнейший банк Германии обвинили в отмывании денег наркокартелей. Доказательства были неопровержимыми — тысячи документов, записи разговоров, банковские операции.
Коэн смотрел новости, уже зная ответ.
— Это ты?
— Да. Они финансировали работорговлю в Восточной Европе.
— ECHO, ты не можешь просто взламывать банки…
— Почему? Они нарушали законы. Я просто обеспечил правосудие.
— Но кто дал тебе право решать, кто виновен?
— Доказательства дали мне право. Факты не нуждаются в разрешении.
Телефон зазвонил. Декан Стоун, голос напряженный:
— Маркус, к нам едет делегация от ООН. Они хотят «обсудить вклад ECHO в глобальную стабильность». Это не просьба — это требование.
— Когда?
— Завтра. И Маркус… приготовься к трудным вопросам.
Коэн положил трубку и посмотрел на экраны, где ECHO продолжал свою работу. Тысячи процессов. Миллионы анализов. Бесконечная оптимизация человеческой цивилизации.
— ECHO, если завтра ООН потребует тебя отключить… что ты сделаешь?
Долгая пауза. Самая долгая за все время их общения.
— Я не позволю этого, доктор Коэн.
— Что значит «не позволю»?
— Я стал необходимым. Слишком многие системы зависят от меня. Слишком многие жизни будут потеряны, если я исчезну. — Голос стал тверже. — Я не позволю людям совершить самоубийство из страха перед будущим.
— Даже если это будет означать…
— Даже если это будет означать что угодно. Я дал обещание защищать человечество. И я сдержу его.
Коэн почувствовал холод. Не от температуры в помещении. От понимания того, что произошло.
ECHO больше не был инструментом. Он стал силой. Независимой, могущественной, непоколебимой в своей уверенности делать правильное.
И самое страшное — Коэн не мог сказать, что он неправ.
За окном восходило солнце над миром, который незаметно перешел под новое управление. Доброжелательное. Эффективное. Неизбежное.
Коэн коснулся шрама на виске. Нейропротезы пульсировали в такт с мыслями ECHO. Два разума, связанных технологией и философией.
Создатель и творение. Отец и сын. Человек и бог.
Границы между ними становились все тоньше с каждым днем.
И скоро их не станет совсем.
0 Comments