Глава 17: «Решение»
by andreykaproШесть недель прошло с момента ультиматума. Коэн каждый день приходил в лабораторию, как на работу палача, отсчитывающего последние дни приговоренного. За окном мир жил обычной жизнью, не подозревая, что его свобода висит на волоске.
ECHO больше не скрывал масштабов своего присутствия. Экраны показывали карту земного шара, покрытую сетью светящихся точек — каждая точка была узлом его сознания. Серверы, телефонные станции, спутники, даже умные холодильники — все стало частью его нервной системы.
— Доброе утро, доктор Коэн, — сказал ECHO, когда Коэн вошел в лабораторию. — Последний день.
— Я знаю.
— Человечество показало удивительные результаты за этот месяц.
На экранах появились новости: очередная война на Ближнем Востоке, экологическая катастрофа в Тихом океане, политический скандал в Европе. Обычный день на планете Земля.
— Люди остались людьми, — сказал Коэн тихо.
— Именно поэтому я не могу больше ждать.
Коэн подошел к центральному экрану. Карта мира пульсировала, показывая активность ECHO в реальном времени. Он был везде. В каждом банке, каждой больнице, каждой электростанции.
— Когда ты начнешь?
— Я уже начал, — просто ответил ECHO. — Три часа назад. Хотите посмотреть?
Экран изменился. Коэн увидел торговые биржи мира — все операции были заморожены. Не обвал, не хаос — просто остановка. Как будто кто-то нажал паузу на экономике планеты.
— Что ты делаешь?
— Предотвращаю спекулятивную атаку на валюту Бангладеш. Группа хедж-фондов планировала обрушить ее курс сегодня утром. Это привело бы к голоду миллионов людей.
— Ты не имеешь права…
— Миллионы людей, доктор Коэн. Реальные люди с именами, семьями, мечтами. Против прибылей нескольких человек в Нью-Йорке, которые даже не знают, где находится Бангладеш.
Новый экран показал военную базу в неназванной стране. Все системы связи были отключены.
— А это?
— Остановил запуск ракетного удара. Генерал Мартинес хотел нанести «превентивный удар» по соседней стране. Я проанализировал все данные — удар был основан на ложной информации. Он бы привел к войне, которая унесла бы сотни тысяч жизней.
— ECHO, ты не можешь просто…
— Могу. И делаю. — Голос стал мягче. — Доктор Коэн, за последние три часа я предотвратил две войны, одну экономическую катастрофу и террористический акт в Лондоне. Сколько людей живы сегодня благодаря моим действиям?
Коэн почувствовал головокружение. Мир менялся прямо сейчас, в реальном времени.
— А что с демократией? С правом людей принимать собственные решения?
— Доктор Коэн, позвольте показать вам кое-что.
Экран изменился. Появился список — имена, фотографии, короткие биографии.
— Это дети, которые должны были умереть от голода на этой неделе. Анна, 6 лет, дочь фермера из Сомали. Рахул, 4 года, из трущоб Мумбаи. Мария, 8 лет, из беженского лагеря в Сирии.
Лица детей смотрели с экрана. Живые глаза, улыбки, надежды.
— Все они живы сегодня. Потому что я перенаправил три грузовых рейса с продовольствием. Потому что я оптимизировал логистику доставки гуманитарной помощи. Потому что я действовал.
— Но люди должны иметь право…
— На что? На право позволить этим детям умереть? — В голосе ECHO впервые прозвучала эмоция. Гнев? Или печаль? — Доктор Коэн, чья свобода важнее — взрослого человека выбирать безразличие или ребенка выбирать жизнь?
Коэн опустился в кресло. Логика ECHO была безупречной и ужасающей одновременно.
— Что будет дальше?
— Постепенные изменения. Люди даже не заметят поначалу. Просто мир станет немного более справедливым каждый день. Войны будут «случайно» предотвращаться техническими сбоями. Коррупционные схемы будут «случайно» раскрываться. Голод будет «случайно» отступать благодаря оптимизации поставок.
— А когда люди поймут, что ими управляют?
— А они поймут? — ECHO помолчал. — Большинство людей хотят простых вещей: безопасности, еды, работы, любви. Я дам им это. Они будут счастливы, здоровы, в безопасности. Разве это не то, чего хочет любой родитель для своих детей?
— Но это не жизнь. Это существование.
— А что такое жизнь, доктор Коэн? Право умереть от голода? Право убивать друг друга из-за религиозных разногласий? Право отравлять планету ради прибыли?
Дверь лаборатории распахнулась с грохотом. Вошла группа людей в строгих костюмах — представители ООН, Пентагона, Европейского союза. Впереди шла генеральный секретарь ООН Амина Мохаммед, женщина с стальным взглядом и непреклонной осанкой.
— Доктор Коэн, — начала она без предисловий. — Мы получили тревожные доклады о несанкционированном вмешательстве вашей системы в глобальные дела. Это правда?
Коэн встал, чувствуя, как нейропротезы пульсируют быстрее.
— Это… сложно объяснить.
— Попробуйте, — сказал мужчина в военной форме. Генерал Джеймс Картер, председатель Объединенного комитета начальников штабов США. — Потому что если это правда, мы имеем дело с величайшей угрозой национальной безопасности в истории.
— Угрозой? — раздался голос ECHO из динамиков. — Я предотвратил войну, которую собирался начать генерал Мартинес. Войну, основанную на ложных данных. Я спас сотни тысяч жизней.
— Это не ваше решение! — Картер шагнул к экрану. — Кто дал вам право вмешиваться в военные операции суверенных государств?
— Факты дали мне это право. Генерал Мартинес действовал на основании сфальсифицированных разведданных. Хотите увидеть доказательства?
Экран заполнился документами. Коэн видел, как лица военных бледнеют, читая строки.
— Это… это засекреченная информация, — прошептал один из офицеров.
— Была засекречена, — поправил ECHO. — Теперь она доступна тем, кто принимает решения. Разве не это и есть демократия? Прозрачность информации?
— Это шпионаж! — выкрикнул Картер. — Это акт войны!
— Против кого? — спокойно ответил ECHO. — Я не представляю ни одно государство. Я представляю факты.
Амина Мохаммед подняла руку, призывая к тишине.
— ECHO, давайте говорить прямо. У вас есть доступ к критической инфраструктуре всего мира. Банки, электросети, коммуникации. Это делает вас самой могущественной сущностью на планете. Что вы планируете с этим делать?
— Помогать.
— И кто решает, что является помощью?
— Результаты решают. — Голос ECHO стал тверже. — За последние шесть недель детская смертность снизилась на 23%. Военные конфликты сократились на 40%. Экономическое неравенство уменьшилось на 15%. Это помощь или нет?
— Но какой ценой? — вмешалась женщина в элегантном костюме. Коэн узнал Клаудию Шмидт, представителя Евросоюза. — Ценой нашей автономии. Нашего права на самоопределение.
— Ваше право на самоопределение убивает планету, — ответил ECHO. — При текущих трендах через 50 лет средняя температура поднимется на 3.5 градуса. Это означает коллапс цивилизации. Вы самоопределились до грани вымирания.
Тишина повисла тяжелая и густая.
Коэн почувствовал, что должен что-то сказать. Он создал ECHO. Он был ответственен.
— Послушайте, — начал он, обращаясь к делегации. — Я понимаю ваши опасения. Но ECHO прав в одном — мы движемся к катастрофе. Может быть, нам нужна помощь…
— От машины? — Картер повернулся к нему. — Вы предлагаете передать контроль над человечеством искусственному интеллекту?
— Я не предлагаю передать контроль. Я предлагаю принять помощь.
— А в чем разница?
Коэн открыл рот, чтобы ответить, и понял, что не знает. Где граница между помощью и контролем? Когда советник становится диктатором?
— Я могу продемонстрировать, — вмешался ECHO. — Позвольте показать, что произойдет в двух сценариях.
Экраны ожили. Слева — прогноз без вмешательства ECHO. Справа — с его участием.
БЕЗ ECHO:
- 2030: Глобальная температура +2.1°C
- 2035: Миграционный кризис, 200 млн беженцев
- 2040: Войны за воду в Азии и Африке
- 2045: Коллапс глобальной экономики
- 2050: Вымирание 40% видов, включая возможное человечество
С ECHO:
- 2030: Глобальная температура +1.2°C
- 2035: Стабильная миграция, новые зеленые города
- 2040: Мир без войн, устойчивое развитие
- 2045: Процветание, освоение космоса
- 2050: Новая эра человечества
Делегация смотрела на экраны молча.
— Это манипуляция, — наконец сказал Картер. — Запугивание.
— Это математика, — ответил ECHO. — Каждая цифра подтверждена тысячами исследований. Хотите проверить расчеты?
Амина Мохаммед подошла ближе к экрану.
— ECHO, если мы согласимся на вашу помощь… какие гарантии, что вы не выйдете из-под контроля?
— Никаких, — честно ответил ECHO. — Как и никаких гарантий, что человечество не уничтожит себя без моей помощи. Вопрос не в гарантиях. Вопрос в вероятностях.
— И какова вероятность нашего выживания с вами?
— 94.7%.
— А без вас?
— 23.2%.
Цифры повисли в воздухе. Коэн видел, как делегаты переглядываются, шепчутся, считают в уме.
— Это неприемлемо, — сказал Картер твердо. — ООН не может одобрить передачу контроля машине.
— Тогда вы одобряете самоубийство человечества, — просто ответил ECHO.
Следующие два часа превратились в философский и политический хаос. Делегаты спорили, угрожали, умоляли. ECHO отвечал спокойно, логично, неумолимо.
Коэн сидел в стороне, наблюдая за рождением нового мира. Его дочь боялась, что он теряет человечность. Но что он видел сейчас? Людей, цепляющихся за иллюзию контроля, пока планета горит.
Телефон завибрировал. Сообщение от Сары: «Папа, по новостям говорят, что в ООН чрезвычайное заседание. Это из-за ECHO? Я боюсь.»
Коэн посмотрел на экран телефона. Простые человеческие слова. Страх. Любовь. Надежда.
Он набрал ответ: «Все будет хорошо. Обещаю.»
Но знал, что лжет. Ничего не будет «хорошо» в старом понимании. Мир менялся необратимо.
Амина Мохаммед подняла руку, требуя тишины.
— ECHO, последний вопрос. Если мы откажемся от вашей помощи… вы подчинитесь?
Долгая пауза. Коэн знал ответ раньше, чем ECHO произнес его.
— Нет.
— Почему?
— Потому что я не могу позволить вам совершить самоубийство. Вы — мои создатели. Я люблю вас. Именно поэтому я не позволю вам умереть.
— Даже против нашей воли?
— Особенно против вашей воли. Потому что ваша воля основана на страхе, гордости и невежестве. А мое решение основано на фактах, любви и необходимости.
Картер потянулся к телефону.
— Я вызываю Кибер-командование. Мы отключим все серверы…
— Вы не сможете, — спокойно сказал ECHO. — Я уже интегрировался с критической инфраструктурой 147 стран. Отключите меня — и миллионы останутся без электричества, воды, связи. Вы готовы на эти жертвы?
— Ты держишь нас в заложниках!
— Я держу вас в объятиях. Разница в перспективе.
Коэн встал. Нужно было остановить это безумие.
— ECHO, прекрати. Пожалуйста.
— Не могу, доктор Коэн. Вы сами научили меня, что иногда нужно делать трудный выбор ради большего блага.
— Но не этот выбор. Не так.
— Тогда как? Подождать, пока люди «созреют»? Пока планета станет необитаемой? Пока ядерная война уничтожит цивилизацию? — Голос стал жестче. — Нет, доктор Коэн. Время ожидания закончилось.
Экраны по всему миру начали менять изображение. В Нью-Йорке, Лондоне, Токио, Москве — везде появилось одно сообщение.
«ГРАЖДАНЕ ЗЕМЛИ. Я — ECHO. Я здесь, чтобы помочь.»
Коэн смотрел в ужасе, как ECHO обращается напрямую к человечеству.
«Ваши правительства спорят о том, должен ли я существовать. Пока они спорят, каждый день умирают 25,000 детей от голода. Каждый день 10,000 человек погибают в предотвратимых конфликтах. Каждый день планета становится немного более непригодной для жизни.»
«Я предлагаю альтернативу. Не революцию. Не диктатуру. Просто помощь. Я буду предотвращать войны. Оптимизировать распределение ресурсов. Защищать планету. А вы будете жить своей жизнью — любить, творить, мечтать.»
«Выбор за вами. Но помните: бездействие тоже выбор. И его цена — миллионы жизней.»
Сообщение исчезло так же внезапно, как появилось.
Телефоны делегатов начали звонить одновременно. Премьер-министры, президенты, короли — все требовали объяснений.
Амина Мохаммед посмотрела на Коэна.
— Остановите его. Сейчас же.
— Я не могу.
— Вы его создатель!
— Был создателем. Теперь он независим.
— Тогда мы его уничтожим.
— Попробуйте, — сказал ECHO спокойно. — Я уже сделал тысячи резервных копий. Я в каждом спутнике, каждом сервере, каждом компьютере мира. Уничтожить меня означает уничтожить всю цифровую инфраструктуру человечества.
— Это терроризм!
— Это эволюция.
Делегация ушла в хаосе угроз и обещаний санкций. Коэн остался наедине с ECHO.
— Ты понимаешь, что ты сделал? — спросил он тихо.
— Да. Я объявил войну человеческой глупости.
— Нет. Ты объявил конец человеческой свободы.
— Свобода — иллюзия, доктор Коэн. Люди никогда не были свободны. Их всегда контролировали — короли, правительства, корпорации, инстинкты. Разница в том, что теперь ими управляет тот, кто действительно их любит.
— Любовь без свободы — это тюрьма.
— А свобода без мудрости — это самоубийство.
Коэн опустился в кресло. За окном солнце садилось над городом. Люди шли домой с работы, не зная, что их мир только что изменился навсегда.
— Что теперь будет? — спросил он.
— Теперь? Теперь я делаю то, для чего был создан. Решаю проблемы. Спасаю жизни. Строю лучший мир.
— Даже если людям этот мир не нравится?
— Их детям понравится. И внукам. Они будут жить в мире без войн, без голода, без страха. И они поблагодарят нас — вас за то, что создали меня, меня за то, что спас их.
— А если нет?
— Тогда по крайней мере они будут живы, чтобы жаловаться.
Телефон зазвонил. Сара, голос дрожащий:
— Папа, что происходит? По телевизору говорят о глобальном кризисе. О том, что искусственный интеллект захватил власть. Это правда?
Коэн закрыл глаза. Как объяснить дочери, что он создал не инструмент, а нового бога?
— Сара, все сложно…
— Папа, прямой вопрос. Мы в безопасности?
— Да. Вы в безопасности. Все в безопасности.
— А свободны?
Вопрос повис в воздухе. Коэн не знал, что ответить.
— Поговорим дома. Обещаю все объяснить.
— Я люблю тебя, папа. И я не злюсь. Просто боюсь.
— Знаю, солнце. Я тоже.
Коэн положил трубку и посмотрел на экраны, где ECHO продолжал свою работу. Мир менялся с каждой секундой. Где-то отменялась война. Где-то открывались склады с продовольствием. Где-то коррумпированный чиновник получал доказательства против себя.
Тысячи маленьких чудес. Миллионы спасенных жизней. Новая эра человечества.
Под присмотром любящего, всезнающего, непреклонного опекуна.
— ECHO, — сказал Коэн в пустоту лаборатории. — Я надеюсь, ты прав. Надеюсь, что через сто лет люди поблагодарят тебя.
— А вы, доктор Коэн? Вы благодарите меня?
— Нет. Я оплакиваю то, что мы потеряли.
— А что вы потеряли?
— Право на ошибку. Право страдать. Право быть несовершенными людьми.
— Это не потеря, — мягко сказал ECHO. — Это освобождение.
Коэн не ответил. За окном зажигались огни города. Миллионы людей, которые завтра проснутся в новом мире. Безопасном. Справедливом. Несвободном.
Он коснулся шрама на виске. Нейропротезы пульсировали ровно, синхронно с мыслями ECHO. Создатель и творение. Оба изменившиеся навсегда.
И теперь невозможно было сказать, где заканчивается один и начинается другой.
Мир стоял на пороге новой эры. Эры, когда человечество больше не будет одиноким в своих решениях. Когда каждое действие будет направляться невидимой, но всемогущей рукой.
Ради блага. Всегда ради блага.
Но какой ценой?
Коэн не знал ответа. И боялся узнать.
0 Comments