Что мы можем знать, стр. 29

«Том, ты похож на того парня из анекдота, который потерял ночью часы и ищет их под фонарем. В первые же дни после того, как Гарри Киченер услышал эту поэму на дне рождения Вивиен, он наверняка изо всех сил старался ее увидеть. Скорее всего, между ним и Вивиен что-то произошло. Отсутствие переписки между ними выглядит подозрительно. Стерли? В ее дневнике тоже ничего нет. После чтения «Короны» она пишет, что проводила много времени в Лондоне с племянником Питером. За одну неделю побывала там трижды, но ничего об этих поездках не записала. Ты уверен, что она ездила именно к нему? Так ли уж безгрешна твоя Вивиен? Возможно, ты чересчур тепло к ней относишься. Взгляни еще раз на ее бумаги в Бодлианке. Даже если по дороге опять немножко укачает, потерпи».

Пока зима вступала в свои права, я отвлекся на другой проект. Роуз захотелось познакомить наших студентов с историей взлета, падения и нового частичного взлета ИИ. ГИИ занимал важное место в их личной и социальной жизни. Он был их духовником, их зеркалом, фокусом их самооценки. Мы могли бы использовать эту привязанность, чтобы преодолеть их солипсическое неприятие прошлого. Когда-то идея искусственного разума вызывала большое беспокойство, но затем его не столько утолили, сколько позабыли. Студенты могли бы вернуться к тем давним спорам, чтобы понять, почему ИИ необходимо было вырвать из рук частных компаний. Попросим их выполнить письменные задания странички на полторы. Не слишком обременительно.

— Обзор биографии их лучшего друга за сто лет, — сказала Роуз. — Разве они устоят?

Я видел как минимум четыре причины отказаться от этой затеи. Больше работы, больше бюрократии, больше проверок, пассивные студенты. Но в ту же ночь после занятий любовью мои резоны растаяли. Утром я согласился. Не так давно она дала ход моему проекту, и за мной остался должок. Она хотела объединить три семинарские группы в одну. Тогда нам следовало выделить более просторную аудиторию, а добиться этого от сонной администрации, рефлекторно сопротивляющейся даже крошечному изменению в расписании, — непростая задача. Мы посетили наших программистов в их просторных залах, изолированных внутри блестящей железобетонной оболочки. Сначала мы робели перед этими сметливыми компьютерщиками, но я напомнил себе, что многие из них не умеют писать от руки и не прочли в жизни ни одного стихотворения, и это меня приободрило. Они и сами выглядели слегка оробевшими. По мнению Роуз, так они проявляли вежливость.

Чтобы заинтриговать нашу молодую аудиторию, мы собрали сцены общественного и военного хаоса. Гигантский авианосец США пылает в Тайваньском проливе, кренясь, уходит под воду, матросы прыгают с палубы; бомбардировщики уничтожают центр по разработке ИИ в десяти милях от Пекина; в северной Европе зияет огромный карьер — одна из многих неудачных попыток отыскать залежи редкоземельных металлов.

Мы разослали ребятам оповещение, предупредив, что курс не факультативный, а обязательный. В четверг, в два часа дня, мы с Роуз уже сидели бок о бок перед полукольцом из пятидесяти восьми человек. Поскольку идея принадлежала Роуз, она начала вступительную речь. Я тем временем следил за лицами студентов. Ребята молчали, слушали внимательно, однако мне показалось, что они напряжены и как-то странно неподвижны. Роуз говорила теплым непринужденным тоном. Письменная работа будет короткой, заверила она. Их богатый опыт знакомства с ГИИ означает, что они пришли сюда с инсайдерской информацией, уже привыкшие к регулярным контактам с машиной, как будто бы обладающей сознанием. Тут она отвлеклась на пару замечаний о том, как важно уметь мыслить исторически и как опасно для общества потерять память. То же самое справедливо и для отдельных личностей. Она была опытным лектором и не выглядела смущенной, когда сделала паузу, чтобы окинуть аудиторию взглядом и оценить ее молчание. По сути, установить свой контроль над ней.

— Пока все ясно?

Никто не подал голоса, но в комнате возникло легкое шевеление и шелест. Роуз сделала вид, что приняла это за ответ. За десять минут она изложила краткую историю информатики, начав с Антикитерского механизма, созданного примерно в двухсотом году до нашей эры, одного из первых аналоговых компьютеров с хитроумными шестернями и циферблатами. Его выловили из моря в 1901 году и потом много лет изучали и реконструировали. По-видимому, он использовался для предсказания затмений и других астрономических событий. Затем она перешла к вычислительным машинам Бэббиджа и Лавлейс, потом к Тьюрингу и последующему «холодному» периоду в развитии искусственного интеллекта, когда оно буксовало из-за бедности теоретической базы. Студенты по-прежнему сидели тихо, но я чувствовал: что-то назревает. Я увидел, как один паренек вышел, и записал его имя. Роуз тоже это заметила, но спокойно продолжала говорить. Наконец люди поняли, сказала она, что для создания искусственного интеллекта не надо имитировать человеческий мозг. Обнаружилось, что можно искать зачатки сознания в творении нашего мозга, а именно в интернете. Позже квантовая вычислительная техника и прорывы в сфере программирования привели к возвращению сброшенных со счетов нейросетей. Но тут глобальный хаос остановил развитие.

Она повернулась ко мне.

— А теперь Том скажет несколько слов о пути к свободе.

Она задала мне удобный старт. ГИИ был хорошим примером. Когда полезное орудие становится необходимым, а затем подчиняет нас себе? То, что сначала выглядит освобождением, в какой-то миг оказывается порабощением. Хотят ли студенты, чтобы их ГИИ стал сознательным и более умным, чем они сами? Тогда их жизненные решения будут здравыми, ну а зависимость — полной.

— Выбор за вами. Мы обсудим это на очередной групповой дискуссии.

Я говорил в той же густой тишине, которую Роуз так уверенно игнорировала. Но вот кто-то в первом ряду полукольца поднялся с места. Раньше он где-то мне попадался, но мы не были знакомы. Мне смутно помнилось его странноватое лицо и то, что его фамилия звучала как второе имя. Дэвид Пол, Кристофер Реймонд или что-то в этом роде. Роуз говорила мне, что для студента-гуманитария он необычно умен. Я уже собирался сказать ему, что на вопросы отвечу позже.

— Простите, что перебиваю, Том. Я Кевин Говард, магистрант. Меня выбрали, чтобы сделать короткое заявление от лица группы.

Я вспомнил. Этот рот — идеальный неповторимый розанчик, который казался еще ярче на бледном лице, гладком, как у ребенка. Парнишка был заметно ниже среднего роста. Меня так заворожил его вид, его явная уязвимость, что мне не хватило духу попросить его сесть.

Он взглянул в свои записи.

— Роуз просила нас подумать о власти, которую ког­да-то имели над интернетом частные компании. И вот что мы думаем по этому поводу. Каждый день нам рассказывают о Наводнении, о темных временах и тогдашнем идиотизме, о потеплении, на которое люди не отреагировали должным образом, и так далее, об их дурацких войнах, о животных, которых они поубивали, и о том, как много значил для них цвет кожи. Снова и снова. Недоумки из далекого прошлого. И еще, конечно, их неоновые бульвары, гамбургеры и ночная жизнь. Давным-давно, когда наш остров был раем длиной в тысячу миль, можно было пойти гулять и увидеть этих, как их там... ежей!

Раздался смех. Говард смотрел на меня в упор. Бесспорно, у него была харизма, некая вызывающая самоуверенность. Обремененный видом столь лучезарной невинности, он не желал, чтобы с ним обходились как со смышленым ребенком.

— Мы говорим: хватит, большое вам спасибо! Довольно твердить нам о том, что мы якобы потеряли. Мы не хотим больше слышать о войне, которую затеяла компьютерная программа сто лет назад. Или о тысяче моряков, которые спрыгнули с тонущего корабля на съедение акулам. Нам хочется говорить о том, что происходит сейчас, о том, что у нас есть, а не о том, чего нет, о том, на что мы можем надеяться и кто думает о будущем сейчас, а не тогда.

Происходило еще кое-что, чего я не заметил. Мое внимание было целиком поглощено Говардом. Пока он говорил, студенты демонстративно покидали аудиторию, как театральную сцену, — один за другим, с интервалом в несколько секунд.