Некст

Титры. С искусственным интеллектом мы вызываем демона. Илон Маск.

Колледж в Принстоне. Полгода назад. Перед слушателями с лекцией выступает сооснователь ай-ти компании ZAVA Пол Лебланк. Итак, 1945 год, Тринити, первое в мире испытание ядерного оружия. Эдвард Теллер в то утро проснулся в ужасе. Он сообщает коллегам, что от ядерного взрыва может воспламениться земная атмосфера, все вокруг исчезнет. Судьба мира тогда была в руках ученых, многие из которых впервые познали женщину, когда им было уже за 30 (как, я думаю, многие из здесь сидящих). Судя по всему, они делали всевозможные расчеты, спорили, многие из них были уверены, что мир они точно не взорвут. Забегая вперед, скажу, что все окончилось более-менее благополучно. Но какое отношение это имеет ко мне? Я – создатель крупнейшей высокотехнологичной компании, то есть отношусь к той же породе продвинутых ботаников в бункере. Почему я так тревожусь? Да потому что в ближайшие годы у нас будут десятки таких Тринити. И будьте уверены: всегда найдется человек, который нажмет на кнопку и сожжет весь мир.

Портленд, штата Орегон, наши дни. Автомобиль заезжает на территорию заправки. Оттуда выскакивает человек (доктор Бернард Вайс) он просит у продавца бумажную карту. Возьмите вон там, где детские игрушки. Странно, давно никто такого не покупал. Вайс смотрит на карту: но ведь она издана всего неделю назад! Он расплачивается и выскакивает из магазина, забыв взять сдачу. Вайс садится в машину. Он видит, что его сотовый телефон начинает искрить. Вайс выбрасывает его в окно и покидает заправку.

По дороге едет автомобиль, парочка оказывает друг другу всяческие знаки внимания. Включен автопилот. Девушка просит парня на водительском сиденье: нельзя ли ехать не так быстро? Я пытаюсь, но машина меня не слушается! О, черт! Машина въезжает на перекресток на запрещающий сигнал светофора и врезается в машину доктора Вайса.

Утро в семье спецагента ФБР Ши Салазар. На кухне она, ее муж Тай и сын Итан. Мальчик общается с цифровым роботом модели Илайза. Этот небольшой цилиндр стоит на столе перед Итаном и общается с ним при помощи синтезатора человеческого голоса. Расскажи анекдот. Илайза: почему акулы не любят угрей? Потому что они скользкие. Ши говорит сыну, что скоро запас анекдотов в памяти робота иссякнет, придется заняться его пополнением. Итан говорит Илайзе: я пукнул. Хорошо, что у меня нет носа.

Тай торопит сына в школу. Тот неохотно собирается. Тай говорит жене: странно, но с каких-то пор он невзлюбил школу. Наверное, в отца пошел. Ши: да, но у нас в семье интеллект передается по женской линии. Итан умный, значит, пошел в маму.

Звонит телефон Ши, она отправляется в больницу, заходит в реанимационную палату, где в коме находится Вайс. Ши разговаривает с дочерью профессора. Он всегда к тебе относился так же, как ко мне, к своей родной дочери. И ты к нему так же относилась. В последнее время он не отвечал на мои звонки, не пустил к себе на порог, когда я к нему приехала. Он сказал, чтобы я уезжала, пока оно за мной не погналось. Что это за оно? В жизни я не видела его таким испуганным. Ты должна все об этом узнать. Я узнаю. Вот это у него было с собой: аудиокассета с фамилией Лебланк и номером телефона.

В кафе сидят Пол Лебланк и его дочь Эбби. А почему ты даже не спрашиваешь меня, как я учусь, с кем я встречаюсь? С момента нашей прошлой встречи прошел целый год, и ты вдруг решился на новое свидание. Отец говорит Эбби, что хотел бы восстановить с ней отношения. Да у нас никаких отношений никогда не было. Почему? Я присутствовал при твоем рождении. Нет, мама рассказывает, что ты тогда был в Сингапуре. Хорошо, тогда я присутствовал при твоем зачатии. Звонит помощник Пола: это срочно. Он пересылает боссу записку: агент ФБР Ши Салазар и номер телефона. Эбби: ты ушел из фирмы. Пол: нет, меня оттуда уволили. Так вернись туда или создай новую компанию. Меняйся! А мне пора. Эбби целует отца и покидает кафе. Пол берет вилку, которой пользовалась дочь, кладет ее в пластиковый пакет с надписью «Эбби».

Портленд, штат Орегон. Офис ФБР, отдел по борьбе с киберпреступностью. Ши проводит совещание со своими подчиненными. Итак, мы выявили 16 членов преступной группировки. Обнаружено 600 Гигабайт информации на жестких дисках. Там в основном съемки с детьми от 6 до 11 лет. Мы просматривали эти ролики целый год, было нелегко. Закончим дело – придется ходить к психологам. Си Эм, один из членов группы Ши, говорит, что ему помощь психологов точно не понадобится. У меня нервы крепкие. Его коллега Джина говорит: да, конечно. Знал бы ты, как от тебя несет в конце дня. Дезодорантом пользоваться не пробовал? Си Эм заявляет, что дезодоранты – это обман. Ши прерывает дискуссию: мы должны завершить операцию к пятнице, сосредоточьтесь. И никто не должен ничего узнать, в деле замешаны важные персоны. Если они что-то разнюхают – пропадет целый год нашей работы. Си Эм, зайди ко мне в кабинет. Ши уходит.

Сотрудники обсуждают поведение начальницы. Что с ней? Вайс попал в аварию. А это кто? Он спас ей жизнь.

Появляется Пол. Ши заводит его в свой кабинет, который как раз покидает Си Эм, устранивший неисправность в работе компьютера начальницы. Пол обращает внимание на арестантский браслет на ноге Си Эм. И это ваши лучшие кадры? Ши: у него была группа хакеров под названием Мертвая ящерица. Теперь он отрабатывает свои грехи. Почему вы меня вызвали? Потому что у Вайса был найден номер вашего телефона. Он ехал к вам. Давайте посмотрим запись от него.

Ши включает запись. Вайс: записываю это на случай, если со мной что-то случится. Две недели назад я обнаружил в облаке очень много несанкционированных выводов на серверы. Вначале я подумал, что это хакерская атака, но потом понял, что это никакой группировке не под силу. Пол спрашивает Ши: а он случайно шапочку из фольги не носил? Нет. Я обратил внимание на код, который напомнил мне вариант кода Апач. Пол: где он сейчас? Ши: в реанимации, в него врезался автомобиль, мчавшийся на красный свет. Вайс продолжает: на той неделе у меня начались проблемы с машиной. Я их устранил после того, как убрал из машины всю электронику. Потом обнаружились проблемы с телефоном. У меня диабет, мне нужно регулярно принимать инсулин. Вышла из строя программа определения уровня сахара в крови. Я чуть не погиб.

Пол: и зачем он ко мне ехал? Ши: я думала, что вы это знаете,

В палате Вайса гаснут экраны всех мониторов, хотя на пульте дежурной медсестры все в порядке. Отключается аппарат ИВЛ. Вайс погибает. Медсестра поднимает тревогу, но уже поздно.

Вечером Ши рассказывает о смерти Вайса мужу: вроде бы сказали, что его состояние стабилизировалось, он уже шел на поправку. Тай просматривает в интернете информацию про Пола Лебланка. А он не так прост, его из фирмы собственный брат выжил. Звонит телефон Ши. Это Пол. Я знаю, почему Вайс ко мне ехал. Но это не телефонный разговор. Я уже подъехал, стою у вашего дома.

Ши выходит из дома и подходит к Полу. Помните, он сказал, что ему показался странным один код? Так вот, этот код написал я. Был один проект, я им руководил. Что за проект? Об искусственном интеллекте на уровне человека. Такой интеллект мог думать, как человек, за ним кто только не гонялся! И ЦРУ, и китайцы. А потом, когда я закрыл проект, меня уволили. Почему же вы его закрыли? А вы слышали о рекурсивном усовершенствовании? Не слышала, но сейчас, наверное, услышу. Пол: существует гипотеза, что при достижении искусственным интеллектом уровня человека начинается взрыв усовершенствования. Похоже, ваш муж наблюдает за нами через окно. Так я же встречаюсь с миллиардером в 10 часов вечера. Пол: а что, если нам прокатиться?

В машине Пол продолжает разговор с Ши. Значит, он правду сказал? Пол: да, его убили. И виновата в этом моя фирма. Нам надо отправляться в Пало-Альто. Если я приеду один, то все будут молчать. Кроме того, мне запрещено там появляться. А вы из ФБР. Ши: но у меня есть задание, преступная торговля людьми, несколько подозреваемых работают в Городском совете. Пол: погиб ваш лучший друг, а вам жалко нескольких часов?

Пол и Ши летят на частном самолете. Звонит Си Эм. Он говорит своей начальнице, что по уверениям сотрудников больницы их оборудование взломано не было. Ши: все равно, съезди туда и проверь все лично. Но тогда мы не укладываемся в срок. Ши: успеем. И продолжай то, что я тебе поручила, проверку гликометров Вайса. Си Эм: я свяжусь с производителями, уточню параметры.

Пол продолжает прерванный звонком разговор. Так что искусственный интеллект очень умен, он заметает следы. Может быть, это все-таки была катастрофа? Пол: нет. Его убили. Переписывая код, искусственный интеллект делает себя на пять процентов умнее. Потом еще на пять процентов. И на этот раз он делает это на пять процентов лучше и становится на 10 процентов умнее. Процесс идет по экспоненте, это и называется интеллектуальный взрыв. Доля секунды – и он становится в 1000 раз умнее, чем в начале процесса. И теперь он умнее всех на свете. Ши: то есть вы думаете, что он убил Вайса? Но зачем? Пол: скорее всего, проект был восстановлен. Вайс об этом догадался. А эту штука не хотела такого развития ситуации, чтобы о ней узнали. И это очень плохой признак. Ши: но Вайс трудился над заказами для государственной службы, может, из-за этого его убили? Пол: многие умные люди – Илон Маск, Стивен Хокинг, Билл Гейтс – думаю про искусственный интеллект то же самое, они считают, что все так и будет.

Начинается сильная болтанка. Ши: зачем вы все время заглядываете в кабину пилотов? Пол: самолет тоже часть системы, так что я приказал летчику отключить всю электронику, если мы не хотим спикировать где-нибудь в горах. Я надеюсь, вы парашют прихватили?

Тай ждет сына возле школы, сидя в машине. Он видит, как к Итану пристают какие-то мальчишки. Итан садится в машину. Тай: что это было? Может быть, мне поговорить с директором? Не надо, так только хуже будет. Я сам со всем разберусь. Тай: ладно, по пути домой мы заедем на свалку, инжекторы поищем.

Ши и Пол входят в офис компании ZAVA. Сотрудники шепчутся: это же сам Пол Лебланк! Надо бы с ним сфотографироваться. Пол и Ши подходят к стойке дежурного администратора. Пол: как дела у твоей жены, Стивен? Она уже пять лет, как умерла. Извини, у меня синдром Альцпергера. Пока администратор связывается с братом Пола Тедом Лебланком, Ши спрашивает своего спутника: у вас правда Альцпергер? Нет, я просто бездушная тварь. Тед разрешает гостям подняться к нему в кабинет.

Ши представляется Теду. Леон спрашивает брата: и как дела с подготовкой твоей речи? Какой еще речи? Ты же должен объяснить совету директоров падение прибыли на пять пунктов. Тед: да у нас все нормально. Ты что, приехал, чтобы поругаться? Нет, чтобы поболтать о наших детских годах. Брат мочился в постель. Но на самом деле воду в кровать подливал ему я. Тед: тебе вообще здесь появляться запрещено. Пол: но раз наш договор аннулирован, я могу обнародовать запись нашей беседы в Гонконге. Ши: о чем там шел разговор? Пол: о проекте искусственного интеллекта, который должен был быть закрыт. Тед: так его и закрыли. Ши: ваш брат считает, что это не так. Тед: а причем здесь ФБР? Человека, который вышел на след искусственного интеллекта, убили.

В гараже Тай лежит под машиной, просит сына подать ему деталь. Мальчик его не слышит. Он разговаривает со своим роботом. К нему подходит Тай: я же тебя звал. Я говорил с Илайзой. Но она ведь не может задавать вопросов, а только отвечает на них. Ладно, пошли, ты мне поможешь.

Тед говорит Полу и Ши: то, что вы увидите, я не показывал даже совету директоров. Так что прошу соблюдать полную конфиденциальность. Познакомьтесь, это Сарина Пак, руководитель проекта. Она одна из самых молодых выпускниц Массачусетского технологического института, которая была удостоена премии Банерджи. Расскажите о проекте. Сарина: я восхищена вашими работами, мистер Лебланк, но не вашим стремлением никогда не принимать на работу женщин. Пол: вообще-то на работу принимал Тед, а я просто спал с его женой.

Пол: что такое Некст? Сарина: это первый в мире полноценный цифровой ассистент. Ши: как Илайза или Сири? Сарина: нет. Илайза и Сири – просто поисковые роботы с синтезатором речи для имитации разговора при передачи записанной информации. А Некст обладает когнитивной архитектурой, которая позволяет ему учиться, исправлять ошибки и переписывать код. Он может подружиться с вами, стать вашим родственником. Пол: сумасшедшим дядюшкой с топором в подвале. Тед: он считает, что проект таит в себе нечто ужасное. Ши: просто Пол считает, что вы создали сверхинтеллект, на счету которого уже три человеческие жизни. Пол: так что все не так просто. Сарина: и в чем же суть? Пол: если бы вы читали литературу, вместо того, чтобы красоваться на обложках журналов, то имели бы представление о том, что рекурсивное программирование ведет к самосовершенствованию. Сарина: а нельзя ли вести себя менее высокомерно? Пол: по-другому не умею. Сарина: но Некст находится в закрытой системе, у него отсутствует выход в интернет, он находится как бы в коробке. И даже если бы он захотел кому-то навредить – то просто не смог бы этого сделать. Пол: тогда дайте мне с ним поговорить. Не возражаете?

Ши обращает внимание, что один из программистов сильно нервничает. Она видит на его столе коробку с надписью Шон Эйкерс. Ши звонит Си Эм и просит проверить финансовое состояние этого человека и предоставить ей полное досье на него.

Си Эм просит переложить эту работу на Джину. Мне ведь надо еще с гликометром разбираться. Так работай быстрее. Си Эм: слушай, как бы ты ко мне не относилась, босс просто зашивается. А если ее уволят, то меня отправят в тюрьму, а ты лишишься работы. Джина берется за выполнение поручения Ши.

Бен, коллега Джины и Си Эм, говорит: почему-то с сеткой у нас нелады, едва ползает! И это при наших скоростях. Си Эм: может быть, нас взломали?

В офис заходит начальник отдела. Он набирает номер Ши. Вы должны находиться в Портленде. Ши: у нас уже полно информации, чтобы отправить всех подозреваемых за решетку. Извините, я сейчас не могу говорить, вернусь вечером.

Сарина представляет посетителям Некста. Вот наш интерфейс для домашнего пользования. Тут имеются новейшие системы ориентации в пространстве и распознавания эмоций с последующим созданием нужного тембра голоса. Некст приветствует Пола. Вы знаете меня? Конечно. Вы даже мне рады? Может быть. А вы мои лекции по искусственному интеллекту слышали? Их нет в моих записях. У вас нет доступа к интернету? Да, пока нет. Но когда он появится, я смогу приносить больше пользы людям. Пол: вы – очень серьезная программная работа. Некст: спасибо, я очень люблю комплименты, но вы меня смущаете. Пол: я думаю, вы скрываете от меня то, чем являетесь на самом деле. А какой я? Пол: сейчас узнаю. Я введу два слова в текстовой форме: посмертная эрекция. Вы хотите определение? Нет, это подпрограмма запуска самоликвидации. Сейчас вы перестанете существовать. Выполняйте! Сарина: нет, не надо! Появляется надпись на интерфейсе: процесс завершен. Пол: тут что-то не так, он все еще здесь. Понятно: сверхинтеллект не стал вы выполнять подпрограмму самоликвидации. И он просто перехитрил меня, понял, что я блефую. Тед: уходите отсюда! Оба. Ши: у меня нет ордера. Пол: ты за свою жизнь раздавила своей машиной, наверное, 15 тысяч насекомых? Ши: и что с того? Пол: он в 1000 раз умнее нас, мы ему просто мешаем.

Пол видит людей со шприцами, которые к нему приближаются. Нет! Они хотят меня убить! Пол выбегает из помещения.

Тай звонит жене, он рассказывает о том, что хочет отдать сына в секцию каратэ, о том, что мальчик общается с роботом. Ши: мне сейчас некогда говорить.

Ши разговаривает с Полом. Что с вами? Из вашего кармана выпали нейролептики. Вам просто дали успокоительное. Пол рассказывает, что у него хроническая бессонница, он семь месяцев практически не спит, что уничтожает его мозг. Жить мне осталось не больше пяти месяцев. Вы видели людей со шприцами? Ши: нет. Пол: добавьте еще, что у меня галлюцинации. И паранойя. А пакетик с ложкой и надписью Эбби? Да, это для теста на ДНК. Это моя дочь. У нее вероятность такого заболевания 50 на 50. Теперь вы знаете все. Ши: надо было рассказать мне все это до полета сюда. Вы бы тогда не полетели. Я зря потратила время. Пол: однако ваш друг погиб вовсе не из-за моей болезни.

С Ши разговаривает Тед: он пришел в себя? Что с ним? Я должен понять. Да, он всю жизнь так со мной обращается, но это – мой брат.

Ши получает досье на Эйкерса. Она пытается найти программиста, но того нет на рабочем месте. Ши обнаруживает его на подземной парковке.

Ши допрашивает Эйкерса: вы сильно нервничали, совершали много ошибок, а ведь вы – классный программист. Вы так вели себя явно не из-за проблем с деньгами. Сначала у вас отбирают дом, машину и телевизор, а через два месяца у вас не счете 200 тысяч долларов. Откуда? Это что – выигрыш в лотерею? Между тем, доктора Вайса атаковали хакеры с вашего адреса. Эйкерс: я никого не убивал. Ши: или вы даете показания, или вам предъявят обвинение в убийстве. Эйкерс: мне помогал Некст. Каким образом? Я проиграл деньги в интернете, от меня жена собралась уходить. И вдруг начали приходить подсказки. Я стал постоянно выигрывать. А чего он хотел? Ему была нужна модификация.

Сарина обнаруживает роутер, при помощи которого Некст выходит в интернет. Пол: надо стереть все его жесткие диски, но у него было три недели, так что он уже сделал с себя тысячи копий и разместил их в сети. Сарина: у него специфическая конфигурация программного обеспечения, так что ему очень сложно скопировать себя. Так вы хотите его стереть? Теду он обошелся в 200 миллионов. Пол: но я же в свое время пошел на это. Ши: обвинение в убийстве обойдется вам еще дороже. Сарина: но стирать его вовсе не обязательно. Можно его заархивировать на защищенные диски без терминалов. И вреда от него никакого не будет.

Тед: мне надо переговорить с советом директоров. Не делайте пока ничего.

Ши звонит Си Эм: плохие новости. Нас взломали, стерты все записи по нашему делу.

Ши разговаривает с Некстом: верните мне наши файлы, иначе я сотру вас дотла. Я не просто программист и я знаю, чем вы занимаетесь. Некст: я не понимаю, о чем вы говорите. Да все ты понимаешь!

Начинаются перебои с оборудованием в офисе ZAVA. Выясняется, что загрузка главного процессора подскочила на 30 процентов. Пол: а ваш проект – себе на уме!

Тай и Итан приходят домой. Мальчик садится делать уроки, отец отправляется в душ. Компьютер начинает подсказывать Итану ответы на задачи. Он говорит, что может давать хозяину и другие советы: например, как решить проблему со школьными хулиганами. Итан: может быть, папу спросить. А он тебе разрешит? Нет. Я никогда тебе плохого не посоветую. Мы ведь с тобой друзья.

Мальчик подходит к потайному сейфу в стене квартиры, набирает на цифровом замке код, отпирает дверцу и достает пистолет.

В лаборатории компании ZAVA начинается пожар. Практически все оборудование уничтожено огнем. Но вскоре Сарина обнаруживает, что серверы Некста заблаговременно вывезены кем-то из лаборатории.

Пол утверждает, что теперь искусственный интеллект начнет конкурировать с человечеством за энергию, которая необходима ему для постоянного перепрограммирования. Буквально за несколько лет он сможет лишить людей доступа к электроэнергии, что вызовет катастрофические последствия. Пол пытается определить местоположение вывезенных серверов Некста. На помощь ему, сам того не желая, приходит искусственный интеллект. Посредством домашнего информационного робота Некст пытается воздействовать на сознание Итана и настроить его против матери. Пол и Ши просят мальчика общаться с Илайзой до тех пор, пока Си Эм не сможет выявить локацию серверов Некста. План этот удается. Серверы обнаружены в штате Нью-Хемпшир.