Джеймс Брайдл

Новые темные века

Посвящается Навин

Серия «Философия – Neoclassic»

James Bridle

THE NEW DARK AGE

Перевод с английского Н. Остроглазовой

Печатается с разрешения издательства Verso, an imprint of New Left Books и литературного агентства Andrew Nurnberg.

© James Bridle, 2018

© Школа перевода В. Баканова, 2021

© Издание на русском языке AST Publishers, 2023

Глава 1

Пропасть

«Если бы только существовала технология для связи с вами в чрезвычайной ситуации», – вновь и вновь повторял мой компьютер.

Когда в 2016 году в США объявили результаты президентских выборов, я, возможно, под влиянием коллективного разума соцсетей, вместе с несколькими знакомыми в приступе безнадежной ностальгии стал пересматривать сериал «Западное крыло». Облегчения это не принесло, но у меня вошло в привычку, когда я оставался один, смотреть по одному-два эпизода по вечерам или в самолете. После свежих апокалиптических исследовательских статей об изменении климата, тотальной слежке и сложной политической ситуации в мире неолиберальная камерная постановка с приветом из нулевых была не худшим средством отвлечься. И вот я уже на середине серии из третьего сезона, в которой Лео Макгерри, глава администрации президента Бартлетта, жалеет о том, что пропустил начало чрезвычайной ситуации из-за собрания анонимных алкоголиков.

«И что бы вы сделали полчаса назад, чего еще сделано не было?» – спрашивает президент.

«Я бы на полчаса раньше знал то, что знаю сейчас, – отвечает Макгерри. – Именно поэтому я больше не буду посещать собрания – это роскошь».

Бартлетт иронизирует: «Если бы только существовала технология для связи с вами в чрезвычайной ситуации! Какое-нибудь устройство вроде личного телефона, на который при необходимости можно позвонить. – Он достает мобильный из кармана Лео. – Возможно, оно выглядело бы как-то так, мистер Моторолла!»

Этот эпизод я так и не досмотрел. Картинка на экране двигалась, но ноутбук завис и повторял одно и то же предложение: «Если бы только существовала технология для связи с вами в чрезвычайной ситуации! Если бы только существовала технология для связи с вами в чрезвычайной ситуации! Если бы только существовала технология для связи с вами в чрезвычайной ситуации!»

Эта книга о том, чтоˊ в чрезвычайной ситуации нам стараются сообщить технологии. А еще книга о том, как и что мы знаем и чего знать не можем.

За последние сто лет стремительное развитие технологий изменило планету, общество, самих нас, при этом наше миропонимание осталось прежним. Объяснить тому причины, как и предложить решения, сложно во многом из-за того, что мы полностью опутаны технологическими системами, влияющими на наше мышление и поведение. Мы не можем выйти из этой среды, исключить ее из своего сознания.

Технологии причастны к самым острым проблемам современности: вышедшая из-под контроля экономическая система с растущим разрывом между богатыми и бедными; невозможность глобального политического и социального консенсуса и, как следствие, подъем национализма, социальное разделение, этнические конфликты и гибридные войны; опасное для человечества потепление климата.

В науке и обществе, в политике и образовании, в войне и торговле новые технологии не просто повышают наши способности, но и активно воздействуют на них, хорошо это или плохо. Все острее необходимость научиться по-другому, критически воспринимать новые технологии, чтобы сознательно подходить к происходящим изменениям, направлять их. Если мы не поймем, как функционируют сложные технологии, как взаимосвязаны технологические системы и как взаимодействуют суперсистемы, собранные из систем поменьше, тогда мы, находясь в самом их центре, будем беспомощны, а эгоистичным элитам и бесчеловечным корпорациям будет проще оборачивать технологический потенциал по своему усмотрению. Мы застряли в непонятном сплетении технологий, и, помимо практических аспектов функционирования, важно разобраться, как они появились и как им удается оставаться незаметными. Нужна грамотность.

Истинная грамотность в отношении систем включает в себя гораздо больше аспектов, чем простое понимание. Контекст и следствия видны, только если выйти за пределы практического использования технологий. Нужно перестать считать панацеей какую-то одну систему – любое единственное решение всегда ограниченно. Грамотность подразумевает владение метаязыком систем, на котором они говорят о себе и общаются друг с другом. Настоящая грамотность, и это важно, способна как критиковать, так и отвечать на критику.

Люди плохо разбираются в технологиях? Надо улучшить технологическое образование, по-простому – научиться программировать. К этому часто призывают политики, ученые, аналитики, лидеры бизнеса. Их аргументы откровенно прагматичны и ориентированы на рынок: информационной экономике не хватает программистов, а молодежи нужны рабочие места. Идея неплоха, но навыков программирования недостаточно – можно уметь починить раковину, не имея представления о сложной взаимосвязи между грунтовыми водами, политической географией, изнашиванием инфраструктуры и социальной политикой, от которых зависят системы жизнеобеспечения. Мало понимать функционал систем, не зная их истории и не задумываясь о возможных последствиях. Откуда появились эти системы, кто и для чего их придумал, какой в них заложен потенциал?

Вторая опасность сугубо функционального понимания технологий заключается в том, что я называю вычислительным мышлением. Вычислительное мышление коренится в так называемом солюционизме – вере в то, что все можно решить с помощью вычислительных технологий. С какой бы практической или социальной проблемой мы ни столкнулись – для нее найдется специальное приложение. Однако сами технологии предостерегают нас от подобного заблуждения. Более того, из вычислительного мышления (часто на бессознательном уровне) следует, что мир действительно такой, каким он представляется солюционистам, а значит, невозможно думать и говорить о нем в не поддающихся вычислению терминах. Это мышление очень распространено, оно стоит за худшими общественными и поведенческими тенденциями, и ему должна противостоять настоящая системная грамотность. Если философия занимается тем, чего не могут объяснить другие науки, то системная грамотность – это мышление, признающее влияние компьютерных технологий, но имеющее дело с миром, не поддающимся вычислению.

«Навыки программирования» не заменяют понимание систем – не нужно звать сантехника, чтобы воспользоваться туалетом или чтобы не жить в страхе, что в канализации таится опасность. Хотя списывать со счетов вероятность того, что из труб может вылезти нечто смертельно опасное, тоже нельзя; сложные вычислительные системы составляют большую часть инфраструктуры современного общества, и, если в них действительно таится опасность, одно знание об этом нас не спасет.

В этой книге мы уделим внимание техническим аспектам, не забывая, однако, о тех, кто от них далек. Им тоже нужно понимать: нужно жить, даже когда не все понятно. Нам бывает сложно постичь и описать масштаб новых технологий, даже помыслить их проблематично. Необходимы новые метафоры – метаязык, чтобы описать мир, созданный сложными системами. Нужны новые условные обозначения, чтобы, признавая реальность мира, в котором люди, политика, культура и технология полностью сцеплены, попытаться в нем разобраться. Между всеми нами всегда существовала связь: хаотичная, но всеохватывающая и неизбежная. В Сети же эта связь очевидна и неоспорима, нужно это осознать и научиться по-новому с ней работать. Таинственный Интернет и прочие «бестелесные» технологии, лишающие нас субъектности, не изолированы, а образуют Сеть. Под «Сетью» я подразумеваю большую систему, бурлящий котел, объединяющий технологии и людей, человеческое и нечеловеческое, субъектность и понимание, знание и незнание. Пропасть лежит не между нами и технологиями, а в самой Сети, и именно через Сеть мы об этом узнаём.

И наконец, системная грамотность дает возможность критиковать и отвечать на критику. Системы, которые мы будем обсуждать, слишком важны, чтобы их могли понять, спроектировать и привести в действие лишь немногие избранные, особенно если эти немногие слишком легко присоединяются к старым элитам и властным структурам или подчиняются им.

Существует конкретная причинно-следственная связь между сложностью систем, их туманным описанием и глобальными проблемами неравенства, насилия, популизма и фундаментализма. Слишком часто говорится, что новые технологии, по сути, открывают нам новые возможности. Хотя это само по себе – пример свойственного всем вычислительного мышления. Некритичный подход опасен и для тех из нас, кто приветствовал новые технологии, радовался открывшимся возможностям и, часто наивно, выступал за их распространение. Однако, критикуя, мало ссылаться на угрозу личной безопасности или выступать от имени непривилегированных или незнающих. В Сети одного индивидуализма или эмпатии недостаточно. Выживание и солидарность должны быть возможны по умолчанию, даже без полного понимания.

Мы не понимаем и не способны понять всего, но мы можем об этом думать. Способность мыслить, не претендуя на полное понимание и даже не ставя его своей целью, является ключом к выживанию в новые темные века, потому что, как мы увидим, понять его зачастую невозможно. Технологии, если не полагаться на них всецело, могут помочь в этом мышлении: компьютеры нужны не для того, чтобы давать ответы, а чтобы ставить вопросы. Как мы еще не раз увидим в этой книге, глубокое и системное понимание технологии позволяет подстраивать ее метафоры под иные способы мышления.

Начиная с 1950-х годов инженеры-электрики стали изображать на своих схемах новый символ – неровный круг, в итоге закрепившийся в форме облака. Смысл в том, что к облакам можно было подсоединить что угодно, а сами они могли символизировать всё – от энергосистем до компьютерных сетей. Облако использовалось для упрощения – позволяло сосредоточиться на текущей задаче и не думать об остальном. По мере того, как сети разрастались и становились все более взаимосвязанными, росла и значимость облака. Малые системы определялись своим отношением к облаку, тем, насколько быстро они могли обмениваться с ним информацией, и тем, что они могли из него извлечь. Облако набирало вес, становилось многофункциональным ресурсом. Облако могло быть мощным и умным. Само слово приобрело популярность в деловых кругах, его использовали как «фишку» для увеличения продаж. Из условного обозначения, которым пользовались инженеры, облако превратилось в метафору.

Сегодня облако – центральная метафора Интернета, глобальная система великой силы и энергии, которая, тем не менее, сохраняет ауру чего-то трансцендентного и сверхъестественного, чего-то запредельного. Мы подключаемся к облаку, работаем в нем, храним или находим там информацию, думаем с его помощью. Мы платим за него, но замечаем его только в случае неполадок. Мы постоянно испытываем его влияние, не понимая по-настоящему, что это такое и как работает. Мы приучаем себя полагаться на него, имея при этом самые смутные представления, что и чему мы на самом деле вверяем.

Облако критикуют за случающиеся сбои, тогда как его главный недостаток в том, что это никудышная метафора. Облако не невесомо, не аморфно, не невидимо, если знать, куда смотреть и где искать. Облако – это не какое-то волшебное место из водного пара и радиоволн, где все работает само по себе. Это физическая инфраструктура из телефонных линий, оптоволокна, спутников, глубоководных кабелей, бесконечных рядов компьютеров, потребляющих огромные объемы воды и энергии и находящихся в юрисдикции государственных и коммерческих структур. Облако – это новая всепоглощающая отрасль. Облако не просто отбрасывает тень, оно оставляет след. Облако вобрало в себя многие, некогда вполне осязаемые, объекты: магазины, банки, места отдыха и общения, библиотеки и избирательные участки. Скрытые в нем, они почти незаметны, и их сложнее критиковать, исследовать, поддерживать и регулировать.

Другая линия критики заключается в том, что наше недопонимание не случайно. На то, чтобы скрывать содержимое облака, есть веские причины – от национальной безопасности и коммерческой тайны до всевозможных должностных преступлений. Если что и «испаряется», так это субъектность и право собственности. Ваши электронные письма, фотографии, обновления статуса, деловые документы, данные из библиотеки и информация о голосовании, медицинские записи, кредитная история, поставленные лайки, воспоминания, опыт, личные предпочтения и невысказанные пожелания хранятся в облаке, внутри чужой инфраструктуры. Google и Facebook не зря строят центры обработки данных в Ирландии (низкие налоги) и Скандинавии (дешевая энергия и охлаждение). Неспроста мировые, якобы постколониальные империи держатся за клочки спорных территорий, таких как Диего-Гарсия или Кипр – в этих местах облако соприкасается с землей и можно воспользоваться сомнительным правовым статусом этих регионов. Облако зависит от географического распределения могущества и влияния и, в свою очередь, служит их укреплению. Облако – это борьба за власть, просто большинство людей этого не осознают.

Вся эта критика справедлива, и один из способов лучше разобраться в облаке – проследить, куда падает его тень; площадки центров обработки данных и подводные кабели показывают, как сегодня распределяется власть. Облако можно профильтровать, выжать и заставить говорить. По мере того, как дымка рассеивается, на свет наверняка выйдут кое-какие секреты. Разобравшись в том, как облако используется для сокрытия реального функционирования технологии, мы сможем понять, как маскируется субъектность технологий: непрозрачные машины, непостижимый язык программирования, физическая отдаленность, юридические конструкты. Следовательно, сможем узнать, как действует сама власть, привыкшая к скрытности задолго до того, как обзавелась укрытиями в виде облаков и черных ящиков.

Помимо этого – опять же функционального – видения, помимо «заземления», можем ли мы еще раз развернуть облако, чтобы получить новую метафору, которая отразит не только нашу неспособность понять, но и наше осознание такого непонимания? Можем ли мы заменить базовое вычислительное мышление облачным, которое вбирает в себя непонимание и проливается плодотворным дождем? В XIV веке неизвестный христианский мистик написал трактат «Облако неведения» – это облако отделяет мир людей от Бога, воплощения добра, справедливости и праведности. Это облако нельзя пронзить мыслью, напротив, нужно отказаться даже от попыток постичь его умом. Субъектность, возможность действовать возникает, если сосредоточиться на текущем моменте, на «здесь и сейчас», а не на предугаданном, вычисленном будущем. «Стремитесь не познать, а прочувствовать, – призывает автор. – Из-за гордыни знание может часто обманывать, но это нежное, любящее чувство не обманет. Знание взращивает тщеславие, а любовь – созидает. Знание полно труда, но любовь полна покоя» (1). Это и есть то облако, которое мы безуспешно хотели постичь вычислением. Облачное мышление, восприятие незнания, может помочь нам уйти от вычислительного мышления, и к этому нас подталкивает сама Сеть.

Самое потрясающее свойство Сети – это отсутствие у нее единственного и неизменного предназначения. Никто не планировал создать Сеть и ее самый яркий образец – Интернет. С течением времени система накладывалась на систему, культура на культуру, они соединялись через общественные программы и частные инвестиции, через личные взаимоотношения и технологические протоколы, воплощались в стали, стекле и электронах, в физическом пространстве и в пространстве сознания. В Сети нашли отражение как самые базовые инстинкты, так и высочайшие идеалы; Сеть вобрала в себя и обострила наиболее обыденные и радикальные желания, что стало неожиданностью для самих создателей, для всех нас. Она возникла не в качестве решения некой проблемы, а, напротив, появилась неумышленно в результате наших коллективных действий по созданию инструментов для несознательного поколения. Сеть демонстрирует неадекватность вычислительного мышления, всеобщую и безграничную взаимосвязь. Она настаивает на необходимости постоянно переосмысливать себя: систему сдержек и противовесов, общественное предназначение и недостатки, роли, обязательства, предрассудки и возможности. Все или ничего – вот чему нас учит Сеть(2).

Наша глубочайшая ошибка в том, как мы до последнего времени думали о Сети, какие имманентные свойства ей приписывали и от этого полагали, что то или иное функционирование неизбежно. Под имманентным я имею в виду то, что они возникли из ниоткуда – из ранее созданного нами, но без нашего содействия. Под неизбежным я подразумеваю веру в прямолинейность и неотвратимость технологического и исторического прогресса. Такую веру десятилетиями критиковали, но не искоренили, социологи и философы. Напротив, эта вера воплотилась в самих технологиях: в машинах, которые, как считается, реализуют заложенные в них желания. Мы смирились с линейностью прогресса и угодили в пропасть вычислительного мышления.

Последние несколько веков мощнейшим двигателем прогресса служила центральная идея Просвещения: чем больше знаний – больше информации, – тем лучше решения. «Лучше» каждый волен трактовать по своему разумению. Несмотря на звучавшую в период современности и постмодерна критику, этот основной принцип стал определять не только то, что уже реализовано современными технологиями, но даже то, что только считается возможным. На заре Интернета его часто называли «информационной магистралью», проводником знания, который в мерцающем свете оптоволоконных кабелей просвещает мир. Любой факт, любой объем информации доступен одним нажатием клавиши, по крайней мере, мы в это поверили.

Мы подключились к обширному хранилищу знаний и вместе с тем так и не научились мыслить. Верно обратное: то, что должно было просветить мир, на практике погрузило его во тьму. Изобилие информации и множественность мировоззрений доступных нам сегодня через Интернет приводят не к согласованности и консенсусу, а к реальности, раздираемой фундаменталистским упорством упрощенных нарративов, теорий заговора и политики постправды. Именно это противоречие заложено в идее новых темных веков, когда ценность знания теряется из-за изобилия этого прибыльного товара, и нам нужно оглядываться по сторонам в поисках нового миропонимания. В 1926 году Говард Филлипс Лавкрафт писал:

«Величайшее милосердие мироздания, на мой взгляд, заключается в том, что человеческий разум не способен охватить и связать воедино всё, что наш мир в себя включает. Мы обитаем на спокойном островке невежества посреди темного моря бескрайних знаний, и вовсе не следует плавать на далекие расстояния. Науки, каждая из которых уводит в своем направлении, пока что причиняют нам не очень много вреда; но однажды объединение разрозненных доселе обрывков знания откроет перед нами такой ужасающий вид на реальную действительность, что мы либо потеряем рассудок от этого откровения, либо постараемся укрыться от губительного просветления под покровом нового Средневековья»(3).

То, как мы мыслим и понимаем свое место в мире, а также наши отношения друг с другом и с машинами в конечном итоге определят, будет ли безумие или покой там, куда заведут нас технологии. Темнота, о которой я пишу, не буквальна, и она не означает отсутствие знаний или помеху на пути к ним, как принято думать о темных веках Средневековья. Это не выражение нигилизма или безысходности. Скорее речь о природе текущего кризиса и вытекающих из него возможностей: очевидная неспособность ясно видеть то, что находится прямо перед нами, действовать осмысленно, активно и справедливо, и через признание этой темноты искать новые способы увидеть все в ином свете.

18 января 1915 года, в самый беспросветный час Первой мировой войны, Вирджиния Вульф отметила в дневнике, что «будущее темно, и, я полагаю, так и должно быть». Вот комментарий Ребекки Солнит: «Это парадоксальное заявление, что неизвестное не должно становиться известным через ложные предсказания или проецирование мрачных политических или идеологических нарративов; это праздник тьмы, желание (на что указывает «я полагаю») быть неуверенным даже в своем собственном утверждении»(4).

Донна Харауэй отмечает, что Вульф снова высказывала эту мысль в «Трех гинеях», опубликованных в 1938 году(5):

«Мы обязаны думать. Давайте думать в офисах, в омнибусах, наблюдая в толпе на площади церемонию коронации или инаугурацию лорд-мэра; давайте думать, проходя мимо кенотафа, в суде; давайте думать на крещениях, свадьбах и похоронах. Давайте не переставать думать, что такое наша «цивилизация»? Что это за церемонии и почему мы должны принимать в них участие? Что это за профессии и почему они приносят нам деньги? Если коротко, куда нас ведет процессия отпрысков ученых мужей?»(6)

Класс и социальные конфликты, исторические иерархии и несправедливости, на которые намекает Вульф, говоря о процессиях и церемониях, сохранились по сей день, хотя некоторые места, где предлагалось о них размышлять, изменились. В 1938 году, чтобы посмотреть на парад в честь лорд-мэра или по случаю коронации, толпы выходили на улицу, а сейчас все транслируют по Сети. Галереи и мемориалы также переместились в центры обработки данных и подводные кабели. Мы не можем исключить Сеть из мышления; единственное, что нам доступно, – думать в ней и через нее. Мы можем прислушаться, когда она обращается к нам в случае чрезвычайной ситуации.

Здесь нет аргументов против технологии – это был бы аргумент против нас самих. Скорее я призываю к более вдумчивому использованию технологий, вкупе с радикально иным пониманием того, что можно помыслить и знать о мире. Вычислительные системы как инструменты подчеркивают один из наиболее сильных аспектов человечества: нашу способность действовать эффективно и менять мир по своему желанию. При этом, раскрытие и формулирование этих желаний, обеспечение того, чтобы они не унижали, не подавляли, не предавали забвению и не отменяли желания других, остается нашей прерогативой.

Технология не просто создает и использует инструменты, она генерирует метафоры. В инструменте мы воплощаем в жизнь определенное миропонимание, которое, будучи овеществленным, способно воздействовать на мир. Инструмент, хотя мы редко это осознаем, становится еще одним активным элементом нашего понимания. То есть речь о скрытой метафоре, когда конкретная мысль или образ переносятся на инструмент, а дальше запускаются без всякого мыслительного импульса. Чтобы начать думать иначе, нам нужно по-новому настроить инструменты. Настоящее описание является лишь первым шагом, попыткой такого переосмысления, при этом перенастройка необязательна, важнее – сознательный и вдумчивый подход.

Говорят, когда в руках молоток, все выглядит как гвоздь. Главное – не думать о молотке. При правильном понимании молоток можно использовать по-разному. Можно вбить им гвоздь, а можно вытащить; можно ковать железо, обрабатывать дерево или камень, осуществлять раскопки, закреплять анкеры для альпинистских веревок. Можно вынести вердикт, призвать к порядку, помериться силой на аттракционе. Молот в руках бога, например Мьельнир Тора, вызывает гром и молнию. На основании этих мифов появились амулеты в виде молота, дарующие защиту от божьего гнева или – благодаря похожей на крест форме – от насильственного обращения в христианство. Много поколений спустя, поднятые из-под земли землепашцами доисторические молоты и топоры называли громовыми камнями, и считалось, что они падали с неба во время грозы. Так эти таинственные объекты стали магическими; когда стерлась изначальная идея, они обрели новое символическое значение. Нам нужно перенастроить, «зачаровать» свои инструменты, чтобы они походили на орудия не плотника, а бога, стали похожи на громовые камни.

Технология не была создана людьми из ничего, у нее есть материальное начало. Она зависит от окружающих объектов так же, как наше существование немыслимо без бактерий, животных, пищевых культур, строительных материалов, одежды. Инфраструктура высокочастотного трейдинга (его мы рассмотрим в главе 5) и экономическая система, которую она ускоряет и характеризует, состоит из кремния и стали, мчится с невероятной скоростью сквозь стекло, сквозь туман, мимо птиц и белок. Технологии наглядно показывают, что субъектностью, способностью влиять обладают не только люди. Субъектность можно найти везде – от камней до жуков, когда они мешают или позволяют нам проложить линии связи или энергии, прогрызают их или приводят к замыканию.

Всеобщая взаимосвязь, при правильном понимании, свидетельствует о присущей технологии нестабильности: ее вреˊменного и временноˊго соединения или резонанса с окружающей средой, неопределенными и изменчивыми свойствами объектов и живых существ. Если коротко, всеобщая взаимосвязь – это облачность. К примеру, рассмотренное в 3-й главе изменение возможностей материалов для компьютеров под воздействием окружающей среды: в разное время вещества ведут себя неодинаково. За технологиями закрепилась репутация неизменности, и однажды зафиксированные в конструкциях идеи кажутся устойчивыми и неопровержимыми, но при правильном использовании «молотков» их можно снова разбить. По-новому настроив несколько инструментов, мы сможем увидеть бесчисленное множество проявлений этого свойства в нашей повседневной жизни. При этом «откровения» об «истине» мира – а на самом деле простое (или попросту отрезвляющее) переосмысление этого мира – нужно всегда держать под рукой или хотя бы на расстоянии вытянутой руки. Действительно, протянутая рука – это очень актуальный жест, который вдобавок может указывать на что-то вдали, на что-то еще незамеченное, что-то многообещающее.

Одна из главных мыслей этой книги в том, что, подобно изменению климата, воздействие технологий уже касается всего земного шара и всех сторон нашей жизни. Оно потенциально может привести к катастрофе, а возникает из-за нашей неспособности понять работу собственных изобретений, нестабильных и связанных в единую сеть. Созданные нами, они нарушают естественный, как принято считать, порядок вещей и требуют радикального переосмысления мира. Однако посыл книги также в том, что еще не все потеряно: если мы действительно сможем думать по-новому, то переосмыслим мир, поймем его и будем жить в нем по-другому. Нынешнее миропонимание основано на научных открытиях, его нужно поставить под сомнение, переосмыслить с учетом технологических изобретений, в которых проявляется сложность и противоречивость мира. Наши технологии – это продолжение нас самих. Через знания и действия технологии закодированы в машины и инфраструктуру, и если как следует в них разобраться, они покажут, каков наш мир в действительности.

Мы привыкли считать, что во тьме кроется опасность, возможно, даже смертельная. Но тьма означает и свободу, возможность, равенство. Для многих обсуждаемое здесь будет очевидным, потому что они всю жизнь провели в этой тьме, что так пугает тех, кому больше повезло в жизни. Нам предстоит многое узнать о незнании. Неуверенность может быть продуктивной, даже возвышенной.

Последняя и наиболее страшная пропасть – та, что разверзается между людьми, когда нам не удается прийти к согласию, договориться по поводу настоящего положения дел. Не заблуждайтесь, некоторые аспекты новых темных веков представляют собой непосредственную угрозу существованию, из наиболее очевидного – потепление климата планеты и разрушение ее экосистем. Недостижимость консенсуса, научные провалы, ограниченные горизонты планирования, коллективная и индивидуальная паранойя – все это проявления несогласованности и агрессии с далекоидущими последствиями. А неравенство в доходах и в понимании смертельно опасно уже в ближайшем будущем. Всё взаимосвязано. Всё из-за того, что мы не думаем и не говорим.

Рассказывать о новых темных веках, даже если я могу скрасить описание сетевым оптимизмом, неприятно. Приходится говорить то, о чем лучше бы промолчать; думать о том, о чем лучше не думать. Подобное занятие опустошает, приводит в отчаяние. И все же не сделать этого – значит не увидеть мир таким, какой он есть, и дальше жить в фантазиях и абстракциях. Я вспоминаю, чтоˊ мы с друзьями откровенно говорим друг другу, и как нас это пугает. Откровенный разговор о насущном невозможен без чувства стыда и глубокой уязвимости, но это не должно мешать нам думать. В этот раз мы просто не имеем права друг друга подвести.

Глава 2

Компьютеризация

В 1884 году искусствовед и социальный мыслитель Джон Рёскин прочитал в Лондонском институте серию лекций «Грозовые облака XIX века». В течение двух вечеров, 14 и 18 февраля, он подробно разбирал изображения неба и облаков, представленные в работах классического и европейского искусства, в рассказах альпинистов о любимых им Альпах, а также делился собственными многолетними наблюдениями за небом Южной Англии.

В своих лекциях Рёскин развивает идею о том, что появился новый вид облаков, которые он именует грозовыми или иногда «чумными»:

[их] не видел еще никто из живших на земле… У древних наблюдателей я не нашел ни одного описания. Ни Гомер, ни Вергилий, ни Аристофан, ни Гораций не сообщают о таком облаке среди прочих облаков, порожденных Юпитером. О них молчит Чосер, молчат Данте, Мильтон и Томсон. Из более современных – Скотт, Вордсворт и Байрон словно и не знают об их существовании; и самый наблюдательный и умеющий дать всему детальное описание де Соссюр о них безмолвствует(1).

«Постоянное пристальное наблюдение» за небом привело Рёскина к убеждению, что в Англии и на континенте появился новый «чумной» ветер, принесший с собой новую погоду. Ученый ссылается на цитату из своего дневника от 1 июля 1871 года:

Небо затянуто серым облаком, не обычным дождевым, а серо-черной вуалью, сквозь которую не пробиться ни лучу солнца; оно рассеянно, как легкий туман, достаточный, чтобы лишить четкости далекие объекты, но неощутимый, бесформенный и бесцветный…

Для меня это в новинку и очень страшно. Мне уже за пятьдесят, и с пяти лет лучшие моменты своей жизни в погожие весенние дни или летним утром я проводил, глядя в небо, и никогда раньше такого не видел. До этого момента.

А ученые, как труженики-муравьи, всё исследуют солнце, луну и звезды, и я уверен, им уже всё известно о движении и составе этих тел.

Мне же нет дела до двух металлических дисков, до того, из чего те состоят и как двигаются. Я не могу ни сдвинуть их, ни улучшить. Но я бы очень хотел и дорого дал бы за знание, откуда приходит этот резкий ветер и из чего он сделан(2).

Далее он приводит другие схожие наблюдения: от возникающих из ниоткуда сильных ветров до темных туч, заволакивающих солнце в самый разгар дня, и угольно-черных дождей, погубивших его сад. И хотя он делает ремарку, за которую позднее ухватились защитники окружающей среды, что эти наблюдения сделаны им в промышленных регионах, где небо все сильнее коптят бесчисленные трубы, его больше заботит этическая сторона такого облака и то, что оно, по всей видимости, берет начало на полях сражений и в местах социальных волнений.

«Вы спрашиваете меня, что же нам делать? Ответ очевиден. Даже когда невозможно повлиять на небесные знамения, можно повлиять на знамения времени»(3). Метафоры, через которые мы пытаемся описать мир, так же, как чумное облако Рёскина, формируют и меняют само наше понимание мира. Сегодня другие облака, зачастую возникающие там, где имеет место протест и противоборство, определяют то, как мы воспринимаем мир.

Рёскин подробно остановился на различиях в качестве света при воздействии на него грозового облака, поскольку свет тоже обладает моральными качествами. В своих лекциях он утверждал, что fiat lux, момент в книге Бытия, когда Бог говорит: «Да будет свет», – это также fiat anima, сотворение жизни. Он настаивал на том, что свет «управляет разумом так же, как и зрением». То, что мы видим, формирует не только мысли, но и способ мышления.

Всего за несколько лет до этого, в 1880 году, Александр Грэм Белл впервые продемонстрировал устройство под названием фотофон. Фотофон появился вскоре после изобретения телефона и позволил осуществить беспроводную передачу человеческого голоса. Принцип работы заключался в том, что луч света отражался от зеркальной поверхности, вибрирующей от звука человеческого голоса, и улавливался примитивным фотоэлектрическим элементом, который снова превращал световые волны в звук. В ходе эксперимента, проходившего на крышах в Вашингтоне в округе Колумбия, Белл смог с помощью одного лишь света передать свою речь на расстояние в 200 метров.

До появления эффективного электрического освещения фотофон полностью зависел от погоды. Для четкой передачи сигнала требовался яркий свет, а атмосферные явления могли ухудшить производимый звук и испортить результаты. Белл взволновано писал отцу: «Я услышал четкую речь благодаря солнечному свету! Я слышал, как солнечный луч смеялся, кашлял и пел! Я смог услышать тень, уловить слухом движение облака по солнечному диску»(4).

Первоначальная реакция на изобретение Белла была весьма сдержанной. Комментатор из New York Times саркастично интересовался, подвесят ли «линии солнечного света» к телеграфным столбам и нужна ли им изоляция? В газете говорилось, что «пока мы не увидим, как рабочий с мотком солнечных лучей № 12 крепит их к столбам, нас не покинет ощущение, что фотофон Белла испытывает на прочность человеческую доверчивость»(5).

Сегодня мы совершенно определенно видим, как по всему земному шару протянулись линии солнечного света. В изобретении Белла свет впервые использовался для передачи сложной информации, но, как неожиданно точно подметил газетный комментатор, необходима была изоляция, чтобы по этим линиям информация преодолевала невероятные расстояния. Сегодня лучи света Белла в виде глубоководных оптоволоконных кабелей упорядочивают данные, а с ними и коллективный мировой разум. Они соединяют обширные вычислительные инфраструктуры, которые организуют нашу жизнь и управляют всеми нами. В Сети воплощается принцип Рёскина fiat lux как fiat anima — свет творит жизнь.

Мышление посредством машин предшествует самим машинам. Существование математических вычислений доказывает, что некоторые проблемы решаемы в теории еще до того, как будет доступно их практическое решение. Если рассматривать историю как одну из таких проблем, то ее можно превратить в уравнение, решить и таким образом определить будущее. Так думали первые адепты вычислительного мышления в XX веке, и это убеждение, некритическое и даже бессознательное, сохраняется по сей день – вот о чем данная книга. История вычислительного мышления, олицетворенного в цифровом облаке, начинается с погоды.

В 1916 году британский математик Льюис Фрай Ричардсон попал на Западный фронт. Он был квакером, а значит убежденным пацифистом, и, отказавшись от военной службы по соображениям совести, поступил добровольцем в отделение Санитарной службы Друзей, куда также вошли художник Роджер Пенроуз и философ и научный фантаст Олаф Стэплдон. В течение нескольких месяцев в перерывах между вылазками на линию фронта и периодами отдыха в неотапливаемых сельских домиках во Франции и Бельгии Ричардсон провел подробный математический расчет погодных условий – первый вычисленный прогноз погоды, выполненный без электронной вычислительной машины.

До Первой мировой войны Ричардсон работал управляющим обсерватории Эскдаламвайр, метеорологической станции в тихом уголке на западе Шотландии. Среди бумаг, которые он взял с собой, когда отправился на войну, были подробные метеорологические записи, составленные 20 мая 1910 года сотнями наблюдателей со всего Европейского континента. Ричардсон считал, что, применив ряд сложных математических операций к многолетним данным о погоде, можно будет усовершенствовать вычислительные наблюдения и предсказывать изменения погодных условий на ближайшие часы. Для этого он разделил континент на серию равноудаленных точек наблюдения и несколько недель составлял расчетные таблицы, учитывавшие температуру, скорость ветра, давление и другую информацию. Все расчеты проводились вручную на бумаге, а рабочим местом служила охапка сена на полу холодной квартиры, где размещались на постой санитары-добровольцы(6).

Когда прогноз наконец был закончен, Ричардсон сверил его с данными фактических наблюдений и обнаружил, что полученные им значения оказались сильно преувеличенными. Тем не менее, метод доказал свою полезность: если разбить мир на секторы и применить различные математические методы, можно решить атмосферные уравнения для каждого из этих участков. Не хватало только технологии, которая не уступала бы масштабу и скорости самой погоды.

В книге «Прогнозирование погоды с помощью численного процесса», опубликованной в 1922 году, Ричардсон проанализировал и резюмировал свои расчеты и предложил небольшой мысленный эксперимент для их более эффективного достижения с помощью современных технологий. Роль «компьютеров» по-прежнему исполняли люди, а то, что мы сейчас понимаем под цифровым вычислением, он абстрактно сформулировал с помощью архитектурной метафоры:

Можем ли мы после стольких напряженных рассуждений немного пофантазировать? Представьте себе большой зал, похожий на театр, за исключением того, что ярусы и галереи проходят через все пространство, в том числе обычно занимаемое сценой. Стены этого зала представляют собой карту земного шара. На потолке разместились северные полярные регионы, Англия – в галерее, тропики – в бельэтаже, Австралия – в партере, а Антарктика – в оркестровой яме.

Мириады компьютеров обрабатывают погоду в своей части карты, но каждый компьютер занимается только одним уравнением или частью уравнения. Работу каждого региона координирует управляющий. Множество маленьких светящихся знаков отображает мгновенные значения, и соседние компьютеры могут их прочитать. Таким образом, каждое число отображается в трех смежных зонах, чтобы поддерживать связь с северными и южными соседями на карте.

От пола ямы высокий столб поднимается на половину высоты зала. На его вершине находится большая кафедра. Здесь в окружении нескольких помощников и посыльных сидит человек, отвечающий за весь «театр». Одна из его обязанностей – поддерживать одинаковую скорость вычислений во всех частях земного шара. В этом отношении он подобен дирижеру оркестра из логарифмических линеек и счетных машин. Но вместо дирижерской палочки у него световая указка, и он направляет розовый луч на любую область, которая опережает остальных, или голубой луч – на тех, кто отстает.

Четыре старших клерка на центральной кафедре по мере поступления расчетов о будущей погоде собирают и отправляют их пневматическим транспортером в отдельную комнату. Там информацию кодируют и передают на радиостанцию. Посыльные уносят груды использованных расчетных форм на склад в подвале.

В соседнем здании есть отдел разработки возможных улучшений. Прежде чем вносить какие-либо изменения в сложную рутину компьютерного «театра», необходимо провести множество экспериментов в небольшом масштабе. В подвале исследователь наблюдает водовороты жидкости в огромной вращающейся чаше, но пока арифметика дает лучшие результаты. В другом здании располагаются обычные финансовые, корреспондентские и административные офисы. Здание «театра» окружают игровые поля, дома, горы и озера, чтобы те, кто вычисляет погоду, были ближе к природе(7).

В предисловии к своей книге Ричардсон пишет:

«Возможно, когда-нибудь в туманном будущем удастся производить вычисления быстрее, чем меняется погода, и с меньшими затратами, чем получаемая за счет этой информации экономия. Но это – мечта»(8).

До осуществления мечты оставалось еще 50 лет. В конечном итоге она станет явью путем применения военных технологий, которые сам Ричардсон отвергнет. После войны он присоединится к метеорологическому управлению, намереваясь продолжить свои исследования, но в 1920 году, когда его передадут министерству авиации, уйдет в отставку. Исследования в области цифрового прогнозирования погоды на долгие годы застопорились, пока их не подтолкнул взрывной рост вычислительных мощностей, возникший в результате еще одного мирового конфликта. Вторая мировая война высвободила огромные объемы научного финансирования, показала безотлагательность проведения исследований и вместе с тем создала сложные проблемы: огромный, сметающий все поток информации, образовавшийся в только что связанном единой сетью мире, и быстро расширяющуюся систему производства знаний.

В эссе «Как мы сможем мыслить», опубликованном в журнале The Atlantic в 1945 году, инженер и изобретатель Вэнивар Буш писал:

«Гора исследований растет. Но появляется все больше свидетельств того, что сегодня мы увязаем в растущей специализации. Исследователя поражают открытия и выводы тысяч других исследователей. Он не успевает, не может их осознать, не говоря уже о том, чтобы запомнить. Тем не менее, специализация становится все более необходимой для прогресса, следовательно, усилия по наведению мостов между дисциплинами поверхностны»(9).

Во время войны Буш работал директором Управления научных исследований и разработок США – локомотива военных исследований и разработок. Он был одним из основоположников Манхэттенского проекта, сверхсекретной исследовательской программы военного времени по разработке американской атомной бомбы.

Пытливым умам были доступны невероятные объемы информации, а научные исследования приводили ко все более разрушительным последствиям. В качестве решения этих проблем Буш предложил устройство, которое назвал «мемексом»:

«Мемекс – это устройство, в котором человек хранит все свои книги, записи и сообщения, и которое механизировано так, что выдает нужную информацию с достаточной скоростью и гибкостью. Оно увеличивает и дополняет возможности человеческой памяти. Хотя мемексом, предположительно, можно управлять на расстоянии, это, в первую очередь, предмет мебели, рабочая поверхность. Сверху расположены наклонные полупрозрачные экраны, на которые можно проецировать материал для удобного чтения. Есть клавиатура, кнопки и рычаги. В остальном он выглядит как обычный стол»(10).

Оглядываясь назад, мы понимаем, что, по сути, Буш описал электронный сетевой компьютер. Гениальность его идеи заключалась в том, чтобы в одном устройстве объединить открытия из разных дисциплин – достижения в области телефонии, станкостроения, фотографии, хранения данных и стенографии. Включение в эту матрицу временноˊго элемента сегодня мы назвали бы гипертекстом: способность связывать вместе коллективные документы и создавать новые ассоциации между областями сетевого знания. «Появятся совершенно новые формы энциклопедий, включающие сеть ассоциативных следов, энциклопедии, которые можно будет закинуть в мемекс и, таким образом, сделать их еще эффективнее»(11).

Такая доступная всем энциклопедия не только усилит научное мышление, но и сделает его цивилизованным.

* * *

Наука помогла человеку построить хороший дом со всем необходимым и учит его жить в нем здоровой жизнью. Наука стравливает людей и дает им в руки жестокое оружие. Она может позволить человеку по-настоящему усвоить уроки истории и извлечь мудрость из полученного опыта. Прежде чем люди научатся обращать этот опыт себе во благо, они могут погибнуть в конфликтах. Однако в процессе применения науки для удовлетворения потребностей и желаний человека наверняка наступит особенно неприятный момент, когда процесс прекратится или исчезнет всякая надежда на благоприятный исход(12).

Одним из коллег Буша по Манхэттенскому проекту был ученый Джон фон Нейман, который разделял схожие опасения по поводу огромных объемов информации, производимой наукой и необходимой для научных исследований того времени. Его также увлекала идея предсказывать и даже контролировать погоду. В 1945 году он наткнулся на работу «Краткое изложение предложения о погоде» Владимира Зворыкина, исследователя компании RCA Laboratories. Во время войны фон Нейман выступал консультантом на Манхэттенском проекте, часто посещал секретную лабораторию в Лос-Аламосе в Нью-Мексико и в июле 1945 года стал свидетелем первого взрыва атомной бомбы под кодовым названием «Тринити». Он был главным сторонником имплозивного метода взрыва, примененного в «Тринити» и в сброшенном на Нагасаки «Толстяке», и помог спроектировать взрывные линзы для фокусировки ударной волны.

Зворыкин, как и Вэнивар Буш, осознавал, что возможности нового вычислительного оборудования по сбору и извлечению информации вместе с современными системами электронной связи позволяют одновременно анализировать огромные объемы данных. Но вместо того чтобы сосредоточиться на получении общечеловеческих знаний, он предвидел влияние новых технологий на метеорологию. Объединив отчеты многочисленных метеостанций из разных уголков мира, можно будет построить точную модель погодных условий в любой конкретный момент. Совершенная машина такого типа могла бы не просто отображать метеорологическую информацию, но и предсказывать ее, основываясь на ранее выявленных закономерностях. Следующим логическим шагом, по мысли Зворыкина, было практическое внедрение.

Наша конечная цель – это международное изучение погоды как глобального явления и управление погодой в мире, чтобы, насколько это возможно, минимизировать ущерб от катаклизмов и улучшить климатические условия. Такая международная организация будет способствовать миру во всем мире, объединяя разрозненные интересы для решения общей проблемы и направляя научную энергию на мирные цели. Ожидается, что в конечном итоге долгосрочное благотворное воздействие на мировую экономику может внести вклад в дело мира(13).

В октябре 1945 года фон Нейман написал Зворыкину: «Я полностью с вами согласен». Высказанная Зворыкиным идея соответствовала тому, что фон Нейман узнал из масштабной исследовательской программы Манхэттенского проекта, основанной на сложном моделировании физических процессов для предсказания реальных результатов. Он фактически сформулировал главный принцип вычислительного мышления: «Все стабильные процессы мы будем предсказывать. Все нестабильные – контролировать»(14).

В январе 1947 года фон Нейман и Зворыкин выступили в Нью-Йорке на совместной конференции Американского метеорологического общества и Института авиационных наук. За докладом фон Неймана «Будущее использование высокоскоростных вычислений в метеорологии» последовало «Обсуждение возможности управления погодой» Зворыкина. На следующий день в газете New York Times под заголовком «Погода на заказ» вышла статья о конференции, в которой отмечалось, что «если доктор Зворыкин прав, то изобретатели вычислительных машин – создатели погоды будущего»(15).

В 1947 году изобретателем вычислительных машин по преимуществу был сам фон Нейман, двумя годами ранее запустивший в Принстоне проект «Электронный компьютер». Этот проект должен был основываться на аналоговом компьютере Вэнивара Буша (дифференциальный анализатор Буша, разработанный в Массачусетском технологическом институте в 1930-х годах) и на творении самого фон Неймана – первом универсальном компьютере, электронном числовом интеграторе и вычислителе, или ЭНИАК. Днем создания ЭНИАК считается 15 февраля 1946 года, когда о нем официально объявили в Университете Пенсильвании. Изначально ЭНИАК разрабатывался в военных целях для расчета таблиц артиллерийской стрельбы для Лаборатории баллистических исследований армии США, в первые годы его в основном использовали для расчетов постоянно растущей мощности первого поколения термоядерных атомных бомб.

Позднее фон Нейман, как и Буш, глубоко обеспокоился опасностями ядерной войны и контроля над погодой. В 1955 году в эссе «Можем ли мы пережить технологии?» для журнала Fortune он писал: «Ужасы возможной ядерной войны в настоящее время могут уступить место другим, еще более пугающим. Когда станет возможным глобальный контроль климата, все наши нынешние действия в отношении погоды покажутся ничтожными. Мы не должны обманываться: как только такие возможности станут реальностью, ими тут же воспользуются»(16).

ЭНИАК, созданный при участии фон Неймана, воплотил фантазии Ричардсона о математических вычислениях. В 1948 году ЭНИАК перевезли из Филадельфии в Лабораторию баллистических исследований на Абердинском полигоне в Мэриленде. К этому времени он занимал уже три из четырех стен исследовательской лаборатории и включал в себя примерно 18 000 электронных ламп, 70 000 резисторов, 10 000 конденсаторов и 6000 переключателей. Оборудование разделялось на сорок две панели с диагональю 60 сантиметров и глубиной 90 сантиметров. Панели были уложены друг на друга до высоты в 3 метра. Гигантский компьютер потреблял 140 киловатт энергии и вырабатывал столько тепла, что пришлось устанавливать специальные потолочные вентиляторы. Чтобы его перепрограммировать, требовалось вручную повернуть сотни десятиполюсных переключателей. Операторы перемещались между штабелями оборудования, соединяли кабели и проверяли сотни тысяч спаянных вручную соединений. Работой операторов руководила Клара Дан фон Нейман, жена Джона фон Неймана, которая также написала боˊльшую часть метеорологического кода.

В 1950 году группа метеорологов собралась в Абердине для составления первого автоматизированного суточного прогноза погоды, как и предлагал Ричардсон. Для этого проекта континентальную часть Соединенных Штатов разбили на сетку из пятнадцати строк и восемнадцати столбцов. Программа машинных вычислений включала шестнадцать последовательных операций, каждая из которых была тщательно спланирована и записана на перфокарты. В результате проведенных операций создавалась новая колода перфокарт, которые необходимо было воспроизвести, сопоставить и отсортировать. Метеорологи совместно с программистами работали сменами по восемь часов, и все же для осуществления полного цикла потребовалось почти пять недель непрерывной работы, 100 000 перфокарт IBM и миллион математических операций. Но руководитель эксперимента фон Нейман изучил лабораторные журналы и обнаружил, что фактическое время вычислений составляло всего двадцать четыре часа. «Есть основания надеяться, – писал он, – что мечта Ричардсона о вычислениях, которые будут проводиться быстрее, чем меняется погода, может скоро осуществиться»(17).

Математик Гарри Рид, работавший над ЭНИАК в Абердине, позднее вспоминал о личном опыте проведения таких крупномасштабных вычислений: «ЭНИАК, как это ни странно, был весьма персональным компьютером. Теперь мы считаем персональным компьютер, который можно носить с собой, а ЭНИАК был компьютером, внутри которого вы как бы жили»(18). На самом деле, сегодня мы все живем внутри такого компьютера – огромного вычислительного механизма, охватывающего весь земной шар, а через сеть спутников – даже космическое пространство. Именно эта машина, придуманная Льюисом Ричардсоном и реализованная Джоном фон Нейманом, сегодня так или иначе управляет всеми аспектами нашей жизни. И, пожалуй, самое поразительное в этой вычислительной системе то, что она остается почти незаметной.

Можно с большой точностью определить момент, когда из нашего поля зрения ускользнули милитаризованные вычисления, вместе с верой в обещанные и реализованные ими предвидение и контроль. Для посвященных ЭНИАК был удобочитаемой, понятной машиной. Различным математическим операциям соответствовали электромеханические процессы, и по характерным толчкам и смене перфокарт операторы метеорологического эксперимента могли определить, когда компьютер входит в ту или иную фазу(19). Даже случайный наблюдатель видел, как на стенах лаборатории мигают лампочки, обозначающие различные операции.

Напротив, электронный калькулятор выборочной последовательности IBM (ЭКВП), установленный в Нью-Йорке в 1948 году, не поддавался такому легкому считыванию. Он был назван калькулятором, потому что в 1948 году вычисления по-прежнему в основном осуществлялись людьми, и президент IBM Томас Дж. Уотсон хотел убедить общественность в том, что его продукты их не заменят(20). IBM построила машину в качестве конкурента ЭНИАК, хотя оба были потомками более раннего компьютера фон Неймана «Mark I», задействованного в Манхэттенском проекте. ЭКВП был установлен на виду у публики за стеклянной витриной бывшего магазина женской обуви. (В этом здании, расположенном рядом с офисом IBM на Пятьдесят седьмой восточной улице, в настоящее время находится центральный офис компании – производителя товаров роскоши LVMH.) Беспокоясь о внешнем виде, Уотсон распорядился снести привлекавшие внимание опорные колонны, а когда это не удалось, для рекламных фотографий использовали аэрографию, так что в газетах компьютер выглядел так, как хотел Уотсон(21).

Для зевак, толпившихся у стеклянной витрины, даже несмотря на уродливые колонны, ЭКВП был образцом ультрасовременного стиля. Эстетически он восходил к компьютеру «Mark I», спроектированному Норманом Белом Геддесом, дизайнером знаменитого павильона «Футурама» на Всемирной выставке 1939 года в Нью-Йорке. ЭКВП размещался в компьютерном зале, где, чтобы скрыть неприглядные кабели, впервые использовался фальшпол (сегодня так делают во всех центрах обработки данных). Сидя за большим столом, вычислительной машиной управляла главный оператор Элизабет «Бетси» Стюарт из научного отдела IBM.

Чтобы соответствовать написанному на стене компьютерного зала воззванию Уотсона о том, что машина «помогает ученым в правительстве, учебных заведениях и промышленности исследовать последствия человеческой мысли для самых отдаленных пределов времени, пространства и физических условий», первый запуск ЭКВП был посвящен расчету положения луны, звезд и планет для будущих полетов NASA. Однако полученные данные так и не были использованы. Вместо этого, по прошествии первых двух недель работы, ЭКВП переориентировали на сверхсекретные вычисления для моделирования первой водородной бомбы в рамках проекта, над которым работала команда Джона фон Неймана в Лос-Аламосе(22).

Создание сверхсекретной программы заняло почти год, а когда она была готова, то запускалась в ЭКВП непрерывно, двадцать четыре часа в сутки, семь дней в неделю, в течение нескольких месяцев. Результатом расчетов стало, по крайней мере, три полных моделирования взрыва водородной бомбы. Расчеты проводились на виду у публики на оживленной улице Нью-Йорка, но никто из прохожих даже не подозревал, что происходит за стеклянной витриной. Первые полномасштабные американские термоядерные испытания, основанные на расчетах ЭКВП, были проведены в 1952 году, а сегодня водородные бомбы есть уже у всех крупных ядерных держав. Жестокость, разрушительность, невообразимая финансовая и когнитивная затратность вычислительного мышления выпали из поля зрения. Именно тогда вычислительное мышление стало неоспоримым и непререкаемым, и остается таким по сей день.

Как мы увидим, растущая неспособность технологий предсказывать будущее, будь то колебания на цифровых фондовых биржах, результаты и возможное применение научных исследований или усиливающаяся нестабильность глобального климата, напрямую проистекает из этих заблуждений относительно нейтральности и понятности машинных вычислений.

Мечта Ричардсона и фон Неймана о том, чтобы «производить вычисления быстрее, чем меняется погода», осуществилась в апреле 1951 года, когда в Массачусетском технологическом институте появился первый цифровой компьютер «Whirlwind I», способный выводить данные в реальном времени. «Whirlwind» родился из попытки создать авиасимулятор для военно-воздушных сил, но по мере развития проекта проблемы сбора и обработки данных в реальном времени привлекли внимание заинтересованных сторон, занятых в разных областях – от первых компьютерных сетей до метеорологии.

Чтобы лучше воспроизвести реальные условия, с которыми могут столкнуться пилоты, одной из основных функций «Whirlwind I» было моделирование аэродинамических и атмосферных колебаний. Эта система прогнозирования погоды работала не только в реальном времени, но и, по необходимости, могла подключаться к Сети датчиков, радаров и метеостанций и получать данные от них. Молодые специалисты Массачусетского технологического института, которые работали над этой задачей, сформировали ядро Управления перспективных исследовательских проектов министерства обороны США, прародителя Интернета, и компании Digital Equipment Corporation, которая первой произвела доступный бизнес-компьютер. Все современные вычислительные технологии являются следствием попыток военных предсказывать и контролировать погоду и, таким образом, управлять будущим.

На дизайн «Whirlwind» сильно повлиял ЭНИАК, а сам он заложил основу для системы полуавтоматического наведения «SAGE», обширной компьютерной системы, на которую с 1950-х до 1980-х годов опиралось командование воздушно-космической обороны Северной Америки. Четырехэтажные центры управления были установлены в двадцати семи командно-диспетчерских пунктах по всей территории Соединенных Штатов, а их двойные терминалы – один для работы и один для резервного копирования – включали в себя световую пушку для обозначения целей (она напоминала световой пистолет компании Nintendo) и встроенные в консоль пепельницы. Система «SAGE» легла в основу параноидальной эстетики компьютерных систем времен «холодной войны», ярко показанных в кино: от фильма Стэнли Кубрика «Доктор Стрейнджлав, или Как я научился не волноваться и полюбил атомную бомбу» (1964) до известного своим слоганом «Единственный выигрышный ход – не играть» блокбастера «Военные игры» (1983), в котором рассказывается история компьютерного интеллекта, неспособного отличить реальность от симуляции.

Чтобы привести в действие такую сложную систему, была написана самая большая в истории компьютерная программа, над которой трудились 7000 инженеров IBM, и было проложено 25 000 выделенных телефонных линий, соединивших различные локации(23). Несмотря на кропотливую работу создателей, система «SAGE» запомнилась своими ошибками: включенные накануне программы симуляции вводили в заблуждение тех, кто заступал на дежурство, и стаи перелетных птиц ошибочно принимали за приближающиеся советские бомбардировщики. В истории информационных технологий такие неудачи считаются нормальным этапом. По сей день развитие вычислительных проектов идет методом проб и ошибок, не прекращается цикл устаревания, пересмотра и отбрасывания неэффективных идей: амбициозные проекты по созданию программного обеспечения или государственные инициативы в сфере информационных технологий, если они не достигают заявленных целей, заменяются новыми, более совершенными системами. Но что, если в этой череде неудач и заключается подлинная история компьютеризации: хроническая неспособность отличить симуляцию от реальности и разглядеть концептуальную пропасть, лежащую в основе вычислительного мышления и нашего миропонимания?

Нас приучили верить, что компьютеры делают мир более понятным и эффективным, упрощают сложные задачи, помогают найти лучшие решения стоящих перед нами проблем и позволяют действовать во все расширяющемся поле возможностей. Но что, если это совсем не так? При внимательном изучении истории компьютерных технологий обнаруживается, что непрозрачность информационных технологий постоянно увеличивается в результате концентрации власти в узкоспециализированных областях. Когда существующие проблемы решаются за счет не подлежащей обсуждению архитектуры вычислительных технологий, текущие проблемы превращаются в абстрактные, неразрешимые дилеммы; внимание зацикливается на внутренних ограничениях конкретных математических и материальных загадок, а не на более широких вопросах подлинно демократического и эгалитарного общества.

Превращая попытку дать приближенное представление о мире в симуляцию, первосвященники вычислительного мышления заменяют реальность ошибочными моделями и получают контроль над миром. Как только стало очевидно, что система «SAGE» абсолютно бесполезна в предотвращении ядерной войны, после короткой встречи между президентом авиакомпании American Airlines и торговым представителем IBM «SAGE» превратилась в полуавтоматическую среду бизнес-исследований «SABRE» – одноименной транснациональной корпорации по управлению бронированием авиабилетов(24). Все осталось, как есть: телефонные линии, метеорологические радары, все более сконцентрированные в частных руках вычислительные мощности и возможность управлять потоками данных в реальном времени в эпоху массового туризма и роста потребительских расходов. Инструмент для предотвращения случайных атак с земли, входивший в систему ПВО и стоивший государству миллиарды долларов расходов на оборону, в итоге был переориентирован на управление коммерческими полетами. Сегодня с помощью «SABRE» более 57 000 турагентов и миллионы путешественников могут ознакомиться с предложениями более чем 400 авиакомпаний, 90 000 отелей, 30 компаний по аренде автомобилей, 200 туроператоров и десятков железных дорог, паромов и круизных линий. Технология, породившая вычислительную паранойю времен «холодной войны», помогает ежегодно совершать миллиарды путешествий.

В этой книге не раз будет упомянута авиация как место, где технологии, научные исследования, интересы обороны и безопасности, а также вычисления смыкаются, демонстрируя сложную взаимосвязь прозрачности и непрозрачности, видимости и невидимости. Одна из самых потрясающих визуализаций, доступных в Интернете, – карты полетов, отслеживающие перемещения самолетов в реальном времени. Любой может войти в систему и увидеть многие тысячи находящихся в воздухе самолетов, которые следуют из города в город, пересекают Атлантический океан, текут по международным маршрутам, словно огромные реки металла. Можно щелкнуть по одному из тысяч маленьких значков самолетов и увидеть его маршрут, марку и модель, название авиаперевозчика и номер рейса, пункт отправления и назначения, а также высоту, скорость и время полета. Каждый самолет передает сигнал ADS-B, который улавливается сетью любительских устройств слежения за полетами: тысячи людей установили радиоприемники и делятся полученными данными в Интернете. Карты полетов на Google Earth или аналогичных спутниковых сервисах – потрясающее и возвышенное проявление цифровой эпохи, они манят и вызывают головокружительный восторг. То, о чем только мечтали стратеги времен «холодной войны», теперь доступно широкой интернет-аудитории. К сожалению, онлайн-карты не делают наблюдателя всевидящим, это ощущение иллюзорно: те же самые технологии, которые в одних случая служат прозрачности, в других – блокируют и стирают информацию о частных самолетах олигархов и политиков, разведывательных полетах и военных маневрах(25). Даже когда всё на виду, что-то остается скрытым.

После того как в 1983 году был сбит корейский авиалайнер, вторгшийся в советское воздушное пространство, Рональд Рейган приказал сделать зашифрованную в то время систему глобального позиционирования GPS доступной для гражданского населения. Со временем система GPS легла в основу огромного количества современных приложений и стала еще одним из невидимых, но неоспоримых сигналов, которые, хотя мы об этом не задумываемся, меняют повседневную жизнь, «просто работая». При глобальном позиционировании вся планета вращается вокруг человека, представленного синей точкой в центре карты. Данные GPS строят маршруты для легковых и грузовых автомобилей, определяют местонахождение судов, предотвращают столкновения самолетов, указывают дорогу такси, отслеживают наличие и перемещение товаров и направляют удары дронов. GPS работает как огромные космические часы: сигнал времени со спутников регулирует электросети и фондовые рынки. Вместе с тем, наша растущая зависимость от системы маскирует тот факт, что контроль над сигналами открывает возможности для манипулирования, например, правительство Соединенных Штатов может выборочно отклонять сигналы позиционирования для любого региона(26). Летом 2017 года было отмечено преднамеренное вмешательство в работу GPS на обширной территории в Черном море, а навигационные системы судов показывали, что они находятся в десятках километров от своего фактического местоположения. Многие были «перемещены» на берег в район российской авиабазы – предполагаемого источника дезинформации(27). Кремль окружен похожим полем, как обнаружили игроки Pokémon GO, когда в центре Москвы их местоположение определялось с погрешностью в сотни метров(28). Особенно предприимчивые игроки позднее использовали это знание в своих интересах, используя электромагнитное экранирование и генераторы сигналов, чтобы набирать очки, не выходя из дома(29). В других случаях люди, чей труд дистанционно контролируется GPS, например водители-дальнобойщики, просто заглушали сигнал, чтобы сделать перерыв в работе или проложить несанкционированный маршрут, что создавало помехи для других пользователей системы. Каждый из этих примеров показывает, насколько вычислительные технологии важны в современной жизни, а также раскрывает их слепые пятна, структурные опасности и умышленно заниженное качество.

Другой пример из авиации связан с пребыванием в аэропорту, классическим примером того, что географы называют «закодированным пространством»(30). Такое пространство характеризуется тем, что и среда, и опыт пребывания в ней невозможны в отсутствие кода.

В случае с аэропортом код не только служит удобству пользователей, но и формирует саму среду. Перед посещением аэропорта пассажиры подключаются к электронной системе бронирования, такой как «SABRE», которая регистрирует и идентифицирует персональные данные, передает их другим системам, таким как стойки регистрации и паспортный контроль. В аэропорту остановка системы – серьезная проблема: современные процедуры безопасности устранили возможность проверки или обработки бумажных документов. Последнее слово остается за программным обеспечением. Если выключится система, остановятся все процессы, и аэропорт превратится в огромный сарай, заполненный разгневанными людьми. Невидимые вычисления формируют нашу среду, но их подлинная важность проявляется только в моменты сбоя, как своего рода черепно-мозговая травма.

«Закодированные пространства» – это нечто большее, чем просто умные здания. Благодаря повсеместной доступности Интернета и самовоспроизводству корпоративного и централизованного кода, все больше и больше наших повседневных действий становятся зависимыми от сопутствующего программного обеспечения. Обычные поездки зависят от спутниковой маршрутизации, информации о дорожном движении и все более «автономных» транспортных средств, которые, конечно же, совсем не автономны и нуждаются в постоянных обновлениях и входных данных. Труд все чаще кодируется, будь то работа сквозных логистических систем или почтовых серверов, которые, в свою очередь, требуют постоянного внимания и контроля со стороны зависимых от них работников. Наша социальная жизнь опосредована алгоритмами и подключенностью к Сети. По мере того как смартфоны становятся мощными универсальными компьютерами, а вычисления проникают во все окружающие нас устройства, от умных бытовых приборов до автомобильных навигационных систем, весь мир превращается в «закодированное пространство». Безграничность «закодированного пространства» подчеркивает нашу неспособность понять влияние компьютеризации на мышление.

Приобретенная и загруженная в приложение электронная книга остается собственностью продавца, и он в любое время может закрыть к ней доступ, как произошло в 2009 году, когда Amazon удалил книги «1984» и «Ферму животных» у тысяч клиентов(31). Сервисы потоковой музыки и видео фильтруют контент в зависимости от его доступности в рамках правовой юрисдикции того или иного региона, и алгоритмически определяют личные предпочтения пользователей. По мере закрытия офлайн-библиотек, академические журналы предоставляют доступ к своим материалам, исходя из платежей и регистрационных данных пользователей. Бесперебойная работа Википедии зависит от армии программных агентов, ботов, которые обеспечивают правильное форматирование, связывают между собой статьи, разрешают споры и борются с атаками вандалов. Согласно последнему опросу, семнадцать из двадцати самых продуктивных редакторов – это боты; в совокупности они вносят около 16 процентов всех правок в энциклопедии – конкретный и измеримый вклад в производство знаний с помощью самого кода(32). Чтение книги, прослушивание музыки, исследования и обучение – эти и многие другие виды деятельности все больше регулируются алгоритмической логикой и контролируются непрозрачными и скрытыми вычислительными процессами. Сама культура является «закодированным пространством».

За воспроизводством физического и культурного пространства посредством компьютеризации скрывается огромное неравенство власти: воспроизводство с него начинается и им же заканчивается. Компьютерные вычисления не просто развивают, создают и формируют культуру; действуя за гранью нашего повседневного, естественного осознания, они фактически сами становятся культурой.

Вычислительные модели и симуляции в итоге замещают свои исходники. Поисковая система Google начала с индексирования совокупности человеческих знаний, а стала источником и арбитром этих знаний. Теперь люди думают то, что показывает Google. Изначально Facebook отображал существующие связи между людьми, строил некий социальный график, а стал платформой для формирования этих связей, безвозвратно изменив социальные отношения. Подобно системе управления воздушным движением, ошибочно принимающей стаю птиц за бомбардировщики, программное обеспечение не может отличить созданную им же модель мира от реальности, а в этих условиях – и мы тоже.

Наша слепота обусловлена двумя причинами: сочетание непрозрачности и сложности делает боˊльшую часть вычислительного процесса неразборчивой; при этом само вычисление считается политически и эмоционально нейтральным. Вычисления непрозрачны: они происходят внутри машины, за экраном, в отдаленных зданиях, как бы внутри облака. Даже когда эта непрозрачность нарушается прямым восприятием кода и данных, она остается за пределами понимания большинства. Объединение сложных систем в современные сетевые приложения означает, что ни один человек не видит всей полноты картины. Вера в машину является предпосылкой для ее использования, и это подкрепляет другие когнитивные предубеждения, согласно которым автоматизированные ответы заведомо заслуживают большего доверия, чем неавтоматизированные.

Это явление, известное как предвзятость автоматизации, наблюдается во всех вычислительных областях, от программного обеспечения для проверки орфографии до автопилотов, и у всех типов людей. Предвзятость автоматизации приводит к тому, что мы ценим автоматизированную информацию выше своего собственного опыта, даже если она противоречит другим наблюдениям, особенно когда эти наблюдения неоднозначны. Автоматизированная информация ясна и прямолинейна, она скрывает серые области, мешающие познанию. Другое связанное с этим явление – предвзятость подтверждения, то есть склонность обращать внимание на то, что соответствует существующей точке зрения. Предвзятость подтверждения изменяет наше понимание мира, чтобы привести его в большее соответствие с автоматизированной информацией, дополнительно подтверждая достоверность вычислительных решений до такой степени, что мы можем полностью пренебречь наблюдениями, если они расходятся с точкой зрения машины(33).

Наблюдения за пилотами высокотехнологичных самолетов показали множество примеров предвзятости автоматизации. Пилоты рейса Korean Air Lines, крушение которого повлияло на судьбу системы GPS, стали жертвами самой распространенной ошибки, связанной с предвзятостью автоматизации.

31 августа 1983 года, вскоре после взлета из аэропорта Анкориджа на Аляске летный экипаж запрограммировал курс, заданный им диспетчером воздушного движения, и передал управление самолетом автопилоту. Следуя запрограммированным контрольным точкам, автопилот должен был провести самолет через Тихий океан в Сеул, но либо из-за ошибки в настройках, либо из-за несовершенного понимания механизмов системы автопилот отклонился от назначенного маршрута, а точнее, остался на своем первоначальном курсе и уходил все дальше и дальше на север от предполагаемого маршрута. Через пятьдесят минут полета самолет покинул воздушное пространство Аляски и находился почти в двадцати километрах к северу от рассчитанного местоположения; за время полета его отклонение увеличилось до восьмидесяти, а затем до ста шестидесяти километров от предполагаемого курса. По словам следователей, занимавшихся катастрофой, в течение нескольких часов экипаж несколько раз мог заметить тревожные сигналы. Так, они обратили внимание на то, что время в пути между маяками постепенно увеличивалось, но не придали этому значения. Пилоты жаловались на плохой прием радиосигнала, ухудшавшийся, поскольку они удалялись от обычных воздушных маршрутов. Но ничего из этого не заставило пилотов усомниться в системе или перепроверить свое местоположение. Они продолжали доверять автопилоту даже после того, как вошли в советское воздушное пространство над полуостровом Камчатка. Они не изменили курс, даже когда в воздух были подняты военные истребители-перехватчики. Три часа спустя, все еще не ведая того, что происходит, они были обстреляны Су-15, вооруженным двумя ракетами класса «воздух – воздух», которые взорвались достаточно близко, чтобы вывести из строя гидравлические системы корейского самолета. На стенограмме переговоров слышно, что в последние несколько минут полета экипаж неоднократно и безуспешно предпринимал попытки повторно задействовать автопилот, поскольку автоматическое объявление предупредило об аварийном снижении(34).

Такие события происходили неоднократно, и плачевный исход подтверждался в нескольких экспериментах на симуляторах. Хуже того, предубеждения не ограничиваются ошибками бездействия, а включают и ошибки действия. Когда команда борта Korean Air Lines слепо следовала указаниям автопилота, она выбирала путь наименьшего сопротивления. Но было показано, что при срабатывании автоматических предупреждений даже опытные пилоты действуют решительно, в том числе вопреки собственным наблюдениям. Чрезмерно чувствительные системы оповещения о пожаре на ранних самолетах Airbus A330 стали печально известны тем, что вынуждали множество рейсов отклоняться от курса, часто с определенным риском, даже когда пилоты несколько раз лично проверяли самолет и не находили признаков пожара. В исследовании, проведенном в симуляторе полета NASA, во время подготовки к взлету экипажи получали противоречивые предупреждения о пожаре. Исследование показало, что 75 % экипажей, следуя указаниям автоматизированной системы, выключали не тот двигатель, тогда как при следовании традиционному бумажному протоколу полета так делали только 25 %. В обоих случаях пилоты имели доступ к дополнительной информации, которая должна была повлиять на их решение. Записи симуляций показали, что следившие за автоматизированной системой люди принимали решения быстрее и почти без обсуждения, то есть предлагаемое компьютером немедленное действие мешало им глубже вникнуть в проблему(35).

Предвзятость автоматизации показывает, что технологии угрожают жизни не только в случае программного сбоя. И в очередной раз пример тому – система GPS.

Пытаясь добраться до острова в Австралии, группа японских туристов свернула на машине на пляж и съехала прямо в море, потому что спутниковая навигационная система заверила их, что там можно проехать. Когда начался прилив, они оказались в пятнадцати метрах от береговой линии, пришлось вызывать спасателей(36). В американском штате Вашингтон машина заехала в озеро, когда навигатор направил водителя с главной дороги на лодочную рампу. Приехавшие аварийные службы увидели только багажник на крыше тонущего автомобиля(37). Для рейнджеров в Национальном парке Долина Смерти такие явления стали настолько обычными, что у них появился специальный термин – «Смерть по GPS», который описывает, что происходит, когда незнакомые с местностью путешественники следуют инструкциям навигатора, а не своим ощущениям(38). В регионе, где по многим обозначенным на карте дорогам не проехать обычному транспортному средству, а дневная температура порой достигает пятидесяти градусов по Цельсию, остаться без воды и заблудиться – значит умереть. Во всех этих случаях не было никакого намеренного или случайного сбоя сигнала. Компьютеру просто задали вопрос, он ответил, и проложенный маршрут привел людей к смертельной опасности.

В основе предвзятости автоматизации лежит более глубокое, не связанное с технологиями когнитивное искажение. Сталкиваясь со сложными проблемами, особенно если времени на решение мало, – а кто из нас не находится в постоянной спешке? – люди стараются ограничиться минимальной мыслительной работой и предпочитают легкие и понятные стратегии(39). Если существует возможность избежать принятия решений, мозг выбирает кратчайший путь наименьшего когнитивного усилия, а с помощью автоматизированных помощников это происходит почти мгновенно. Любые вычисления вклиниваются в мыслительные процессы, так что принятие решений и ответственность перекладываются на машину. По мере ускорения темпа жизни машина выполняет все больше и больше когнитивных задач, укрепляя свой авторитет, какими бы ни были последствия. Мы меняем свое понимание мира, чтобы лучше приспособиться к постоянным предупреждениям и когнитивным подсказкам автоматизированных систем. Вычисления заменяют сознательную мысль. Мы все больше и больше думаем как машина или не думаем совсем.

На примере общей эволюции технологии, персональных компьютеров, смартфонов и глобальной облачной Сети видно, как мы сами стали частью вычислений. Только машинные вычисления – не просто архитектура. Они стали самой основой нашей мысли, превратились в нечто настолько всепроникающее и соблазнительное, что мы отдаем им предпочтение даже тогда, когда подошли бы более простые механические, физические или социальные процессы. Зачем говорить, если можно напечатать? Зачем ключ, если есть телефон? По мере того, как нас все плотнее окружают вычислительные машины и их производные, им приписываются власть и способность создавать истину. На технологии все чаще перекладывается решение познавательных задач, поэтому сама реальность, а вслед за ней и наше мышление уподобляются компьютеру.

Подобно тому как глобальные телекоммуникации исказили время и пространство, машинные алгоритмы объединяют прошлое и будущее. Собранные данные и построенные на их основе модели действительности проецируется на будущее, исходя из предпосылки, что ничего радикально не изменится или не отклонится от предыдущего опыта. Таким образом, вычисления не просто управляют нашими действиями в настоящем, но и создают будущее, которое наилучшим образом соответствует вычисленным параметрам. Если что-то возможно, то его можно вычислить. Все остальное – не поддающееся количественной оценке и моделированию, непредвиденное и отклоняющееся от установленного образца, неопределенное и двусмысленное, – исключается из области возможных вариантов будущего. Алгоритмы проектируют будущее, подобное прошлому, что, в свою очередь, лишает их способности разобраться в реальности настоящего, которое никогда не бывает стабильным.

Вычислительное мышление лежит в основе многих самых разобщающих проблем нашего времени; действительно, деление, будучи вычислительной операцией, является его основной характеристикой. Вычислительное мышление настаивает на простом ответе, для получения которого требуется наименьшее количество когнитивных усилий. Более того, оно настаивает на том, что возможен всего один непреложный ответ. «Дебаты» об изменении климата, которые не являются простым заговором нефтекапитализма, характеризуются этой вычислительной неспособностью справиться с неопределенностью. Неопределенность в математическом и научном понимании – это не то же самое, что незнание. Неопределенность, с научной и климатологической точки зрения, – это мера того, что мы действительно знаем. И по ходу того, как наши вычислительные системы расширяются, они все яснее демонстрируют, как много мы не знаем.

Вычислительное мышление восторжествовало, потому что оно сначала соблазнило нас своей мощью, затем одурачило своей сложностью и, наконец, надежно и неоспоримо закрепилось в коре нашего головного мозга. Вычисление, его производные и сам вычислительный образ мышления настолько вошли в повседневную жизнь, что, кажется, этой стихии уже нельзя противодействовать, как нельзя управлять погодой. Но если не закрывать глаза на бесчисленные недостатки вычисления, такие как чрезмерное упрощение, неверные данные, преднамеренное искажение, то мы увидим, в каких случаях оно подводит и демонстрирует пределы своих возможностей. Как мы увидим, сама хаотичность погоды в конечном итоге не поддается вычислению.

На полях своего экземпляра «Численного предсказания» Льюис Фрай Ричардсон писал:

«Эйнштейн где-то заметил, что в своих открытиях он руководствовался представлением о том, что важные законы физики действительно просты. Р. Г. Фаулер заметил, что из двух формул более элегантная, с большей вероятностью, будет истинной. Дирак искал альтернативное объяснение собственного момента импульса электрона, так как чувствовал, что природа не могла устроить его таким сложным образом. Эти математики блестяще преуспели в работе с точечными массами и точечными зарядами. Снизойди они до метеорологии, предмет мог бы значительно обогатиться. Только я подозреваю, им придется отказаться от идеи, что истина проста»(40).

На то, чтобы подобрать точную формулировку, ушло сорок лет, но в 1960-х годах Ричардсон наконец нашел модель этой неопределенности, парадокс, который четко резюмирует экзистенциальную проблему вычислительного мышления. Работая над «Статистикой смертоносных ссор», первой попыткой научного анализа конфликта, он намеревался найти корреляцию между вероятностью начала войны между соседними странами и протяженностью их общей границы и обнаружил, что в разных источниках приводится разная длина границ. Он пришел к выводу, что причина расхождений заключалась в том, что длина границы зависела от инструментов измерения. По мере того, как те становились более точными, длина фактически увеличивалась, поскольку учитывались все меньшие и меньшие вариации линии(41). С береговой линией дела обстояли еще сложнее, из чего следовало, что на самом деле невозможно дать точную оценку протяженности национальных границ. Этот «парадокс береговой линии» стал известен как эффект Ричардсона и лег в основу работы Бенуа Мандельброта о фракталах. Этот парадокс с предельной ясностью демонстрирует противоречащий интуиции постулат новой Темной эры: чем более одержимо мы пытаемся вычислить мир, тем более запредельно сложным он оказывается.

Глава 3

Климат

На YouTube было видео, которое я пересматривал много раз, пока его не удалили. Тогда я начал разглядывать найденные в Интернете анимированные картинки с основными моментами видео, упиваясь едва ли не сверхъестественным зрелищем. Мужчина в одежде цвета хаки, высоких резиновых сапогах и с ружьем наперевес идет по бескрайним сибирским просторам. Весенняя тундра до самого горизонта простирается ровным коричнево-зеленым ковром густой сочной травы. Явно привыкший преодолевать большие расстояния, путник размашисто шагает. Но с каждым шагом земля под ногами дрожит и расходится волнами, словно он идет по воде(1). То, что с виду похоже на твердую почву, на поверку оказывается всего-навсего тонким покровом растительности, органической коркой на поверхности зыбкого, похожего на кисель моря. В тундре тает вечная мерзлота. На видео кажется, что в любую секунду земля разверзнется, резиновый сапог провалится сквозь траву, и подземное течение утащит путника на глубину.

На самом деле, скорее случится обратное: земля вспучится, изрыгая сырую почву и теплые газы. В 2013 году далеко на севере Сибири прозвучал взрыв, а местные жители за сотню километров увидели в небе яркое зарево. Несколько месяцев спустя, добравшись до предполагаемого места взрыва на полуострове Таймыр, ученые обнаружили свежую воронку 40 метров в ширину и 30 в глубину.

Даже в разгар лета температура на Таймыре едва достигает пяти градусов по Цельсию, а зимой опускается до минус тридцати. Пейзажи здесь суровые, и среди скудной растительности и ледяной крошки то здесь, то там рассыпаны бугры пучения – якуты называют их «булгуннях», – кочки и холмы, выдавленные на поверхность под напором межмерзлотных вод и льда. Вершины крупных бугров пучения на удивление похожи на растрескавшиеся кратеры вулканов. Как и вечная мерзлота, булгуннях тают, а иногда и взрываются. В апреле 2017 года на Ямале, что в переводе означает «конец Земли», исследователи установили первый из Сети сейсмических датчиков. Расположенные недалеко от нового порта Сабетта, что у Окской губы, сейсмодатчики фиксируют подземные колебания в радиусе 200 километров и позволяют заблаговременно оповещать о подземных взрывах и иных природных бедствиях, которые могут повредить промышленную инфраструктуру порта или находящиеся поблизости Бованенковское и Харасавэйское газовые месторождения.

Строительство Сабетты – важного порта для транспортировки природного сжиженного газа, которым богата Сибирь, стало возможным по той же причине, по которой взрываются бугры пучения, – из-за глобального потепления климата. Таяние арктических льдов открывает доступ к залежам нефти и газа. По оценкам экспертов, 30 % оставшегося мирового запаса природного газа находится в Арктике(2). Большая часть этих резервов залегает под морским дном, не более чем в 500 метрах ниже уровня моря, и именно благодаря ужасающим последствиям сотни лет активной добычи и повсеместного использования ископаемого топлива мы сегодня можем разрабатывать эти ресурсы. Таким образом, необходимость в датчиках для защиты инфраструктуры добывающей промышленности появилась из-за самой этой добывающей промышленности. Это положительная обратная связь – продуктивная не для жизни людей, животных и растений, положительная не с точки зрения смысла, но собирательная, расширяющаяся и ускоряющаяся.

На местном уровне положительная обратная связь от таяния вечной мерзлоты и сопровождающего этот процесс выброса метана проявляется в колеблющемся подземном море в тундре, где вечномерзлые слои грунта, камня и осадочных пород уходят на глубину до километра и более. Сегодня на поверхность начинают подниматься следы жизни на Земле, накопленные за миллионы лет и надолго закованные в вечных льдах. Летом 2016 года на Ямале разразилась болезнь, из-за которой сорок человек попали в больницу, а один мальчик умер. Считается, что вспышка заболевания была вызвана сибирской язвой, споры которой вместе с погибшими от нее оленями на многие десятилетия были надежно погребены в вечной мерзлоте тундры(3). Сибирская язва плодит трупы, а при разложении плоти выделяется метан – парниковый газ, удерживающий тепло в атмосфере Земли намного сильнее, чем углекислый газ. В 2006 году в Сибири при таянии вечной мерзлоты в атмосферу попало 3,8 миллиона тонн метана, а в 2013-м – уже 17 миллионов тонн. Тундра ходит ходуном именно поэтому.

Конечно, в переплетенном и связанном мире ничто не имеет исключительно местного значения. В том, что мы воспринимаем как погоду, проявляется глобальный климат планеты, хотя эти краткие колебания в атмосфере едва ли дают нам представление о стоящем за ними непознанном, неизведанном феномене планетарного масштаба. Как отметил художник Рони Хорн: «Погода – это главный парадокс нашего времени. Приятная нам погода часто аномальна. Улучшения кратковременны и индивидуальны, тогда как аномалии долговечны и глобальны»(4). Колебания тундры свидетельствуют о дестабилизации всей планеты. Самое ее основание сотрясается, гниет, разрывается и смердит. На него уже нельзя ни положиться, ни опереться.

Кратеры взорвавшихся бугров пучения и талые озера на просторах Сибири, если на них посмотреть с воздуха, своими очертаниями напоминают снимки больных губчатым энцефалитом, мозг которых покрыт шрамами и рытвинами из-за гибели нервных клеток. Прионные болезни, вызывающие губчатый энцефалит, такие как почесуха, куру, коровье бешенство, болезнь Крейтцфельдта – Якоба и их производные возникают из-за аномалий в строении обычных белков. Прионы распространяются по телу, заражая здоровые белки, превращая их в свое подобие. Достигая мозга, прионные болезни вызывают быстро прогрессирующую деменцию, потерю памяти, изменения личности, галлюцинации, тревожность, депрессию и в конечном итоге смерть. Мозг становится похожим на губку: испещренный кавернами, деформированный, ни на что не годный, уже не способный ничего понять. Вечная мерзлота тает. Вечная. Мерзлота. Тает. Эти слова потеряли всякий смысл, как и наше понимание мира.

19 июня 2006 года представители пяти северных стран собрались на удаленном арктическом острове Шпицберген из одноименного архипелага, чтобы заложить первый камень в основание машины времени. За следующие два года рабочие прокопали 120 метров уходящего в глубь песчаника тоннеля, из которого можно попасть в другие подземные тоннели протяженностью 150 метров и шириной 10 метров. Машина времени должна, минуя очевидные ужасы настоящего, передать в неведомое будущее самые ценные ресурсы, которыми сегодня располагает человечество. Глубоко под землей на бесконечных стеллажах в пластиковых контейнерах хранятся запечатанные в жаропрочную фольгу миллионы семян продовольственных культур, привезенных из местных коллекций со всего мира.

Шпицберген находится всего в 1120 километрах от Северного полюса. Это самое северное постоянное поселение на планете, но, несмотря на удаленность, на Шпицбергене издавна проходят международные встречи. Скандинавские рыбаки и охотники заплывали в эти края уже в XII веке, задолго до того, как в 1596 году голландцы «открыли» архипелаг, где впоследствии вели китобойный промысел и добывали ископаемые. Британские китобои высадились на Шпицбергене в 1604 году. К концу XVII века в поисках белых медведей и лисьего меха на острова прибыли русские. После серии нападений британцев в Баренцевом море русских вытеснили с архипелага, но, как и представители других стран, они вернулись, когда на Шпицбергене началась добыча угля. Во время Второй мировой войны жителей архипелага эвакуировали, и территорию заняли немецкие солдаты, обеспечивавшие работу метеостанции. Эти солдаты сдались союзникам последними, так как с мая 1945 года они были отрезаны от континента, и только в конце сентября их подобрало норвежское зверобойное судно.

Открытие в конце XIX века залежей угля обострило нерешенный вопрос с международно-правовым статусом архипелага. Веками эти острова были ничьей землей, на которую не распространялись законы и юрисдикции ни одного государства. Согласно Шпицбергенскому трактату, подписанному в 1920 году по итогам переговоров по Версальскому мирному договору, над архипелагом устанавливался суверенитет Норвегии, но другим государствам-участникам предоставлялось равное право на эксплуатацию природных ресурсов, в частности добычу угля. Архипелаг объявлялся демилитаризованной территорией. По сей день Шпицберген остается уникальной безвизовой зоной: любой, кто имеет средства к существованию, может здесь поселиться и работать вне зависимости от своего гражданства и происхождения. Помимо 2000 норвежцев, 500 русских и украинцев, на Шпицбергене проживают сотни представителей несеверных стран, включая рабочих из Таиланда и Ирана. В последние годы многие, кому было отказано в предоставлении убежища в Норвегии, перебираются на Шпицберген, чтобы по прошествии семи лет получить норвежское гражданство(5).

Всемирное семенохранилище на Шпицбергене, которое часто именуют «Ноевым ковчегом» и «хранилищем Судного дня», было открыто в 2008 году. Для размещения дополнительного подразделения сетиˊ расположенных по всему миру банков геномов Шпицберген подходит идеально. Во-первых, он обладает уникальным геополитическим статусом, и многие страны готовы хранить здесь свои бесценные и зачастую секретные коллекции. Во-вторых, вечная мерзлота делает его естественной морозильной камерой. Машины, охлаждающие хранилище до минус восемнадцати градусов по Цельсию, работают на угле, который добывается здесь же, на архипелаге. И даже если автоматика откажет, температура под землей круглый год не поднимается выше ноля. Семенохранилище – попытка создать заповедник, охраняемый и в пространстве, и во времени. Он находится на нейтральной территории посреди бесконечной арктической зимы.

Семенохранилища чрезвычайно важны для поддержания некоторого подобия генетического разнообразия. Они появились в результате движения, начавшегося в 1970-е годы, когда пришло понимание, что «зеленая революция» в сельском хозяйстве привела к тому, что фермеры отказывались от традиционных агрокультур в пользу новых гибридных сортов. Еще столетие назад в Индии было свыше 100 000 сортов риса, сегодня – всего несколько тысяч. Из 5000 сортов яблок в Америке осталось только несколько сотен. По оценкам Продовольственной и сельскохозяйственной организации ООН (ФАО), уже потеряно 75 % биоразнообразия выращиваемых культур(6). Биоразнообразие необходимо, так как при однообразии агрокультур высок риск того, что появление нового заболевания или вредителя уничтожит все посевы. Собранная на Шпицбергене коллекция семян призвана сохранить образцы разных сортов на случай такой катастрофы. Предполагалось, что запасы семенохранилища будут использованы только в крайнем случае, когда уже испробованы все остальные варианты. В 2012 году пожар уничтожил национальное семенохранилище на Филиппинах, которое за шесть лет до этого серьезно пострадало от наводнения. Семенохранилища в Афганистане и Ираке были полностью уничтожены в ходе боевых действий(7). В 2015 году Международный центр исследования сельского хозяйства в засушливых регионах (ИКАРДА) впервые запросил доступ к запасам шпицбергенского семенохранилища: из 325 контейнеров было вскрыто 130, в которых в общей сложности находилось 116 000 образцов.

В 1977 году был создан Международный центр исследования сельского хозяйства в засушливых регионах со штаб-квартирой в сирийском Алеппо и местными отделениями на Ближнем Востоке, в Северной Африке и Центральной Азии. Его работа заключалась в борьбе с рисками и удовлетворении нужд в этих регионах: разработка новых и сохранение существующих сельскохозяйственных сортов, управление водоснабжением, образование сельских жителей, в особенности женщин. В 2012 году сирийские повстанцы получили контроль над центральным банком генов, расположенным в 30 километрах от Алеппо, где хранилась уникальная коллекция из 150 000 разных образцов пшеницы, ячменя, чечевицы и конских бобов из 128 стран. Хотя части персонала позволили остаться и продолжить работу по поддержанию банка, ИКАРДА была вынуждена перенести штаб-квартиру в Бейрут и, таким образом, утратила доступ к собранному запасу генов.

Коллекция ИКАРДА, для надежности продублированная в семенохранилище на Шпицбергене, собрана с особым вниманием к культурам, подходящим для суровых природных условий в ближневосточном и североафриканском регионах. В скором времени образцы из этой коллекции будут переданы Марокко, Турции и другим странам. Преимущество данной коллекции не в достижениях эволюции и селекции, которые защищают урожай от болезней и вредителей, а в особой устойчивости к засушливому и жаркому климату. Из этого собрания семян ученые надеются почерпнуть гены, которые позволят растениям справляться с суровым климатом. Например, скрещивание видов, приспособленных к жарким и сухим условиям, таких как нут и чечевица, с маисом и соей сделает их жизнеспособными даже в быстро меняющихся жарких экосистемах(8).

Изменения происходят настолько стремительно, что к ним не были готовы даже создатели Мирового зернохранилища. Самым жарким за всю историю наблюдений стал 2016 год, к этому времени рекордные показатели наблюдались уже три года подряд, и, согласно исследованиям, средние температуры за этот период были самыми высокими за 115 000 лет. В ноябре того же года ученые отчитались о том, что температура в Арктике превышала средние показатели для этого региона на 20 градусов по Цельсию, а уровень льда снизился на 20 % по сравнению со средними показателями за 25 лет наблюдений. На Шпицбергене вместо привычного снега шли сильные дожди, начала оттаивать вечная мерзлота. В 2017 году при проверке зернохранилища обнаружилось, что входной тоннель затопили талые воды, внутри они замерзли и образовали ледник, который пришлось взламывать, чтобы получить доступ к хранилищу. Предполагалось, что зернохранилище может функционировать автономно и не нуждается в обслуживании, теперь же за ним установлено круглосуточное наблюдение, во входном тоннеле установлена система оповещения о затоплении, а у входа в бункер прорыты каналы для отвода талых вод. «Арктика и особенно Шпицберген в среднем нагреваются быстрее, чем остальной мир. Климат существенно меняется, и скорость изменений поражает», – заявил в интервью норвежский метеоролог Кетил Исаксен(9).

Изменение климата идет полным ходом, его последствия очевидны и требуют принятия срочных мер как в плане географии, так и геополитики. Даже военный конфликт в Сирии, из-за которого ученым ИКАРДА пришлось бежать в Бейрут и призывать на помощь Всемирное семенохранилище, частично вызван изменениями в окружающей среде(10). Между 2006 и 2011 годами больше половины сирийских сельскохозяйственных угодий переживало самую страшную засуху в истории наблюдений. Ускорившееся изменение климата привело к неестественно сильной и продолжительной засухе; из-за оскудения кормовой базы погибло почти 85 % скота. Президент Башар Асад пересмотрел традиционные права на воду в пользу своих политических союзников, и местным фермерам пришлось незаконно рыть колодцы. Выступавших против политики Асада сажали за решетку, пытали и убивали. Более миллиона сирийцев бросили деревенские дома и переехали в города. Когда поток недовольных сельских жителей захлестнул города, и без того находившиеся под тоталитарным гнетом, это стало последней каплей в ряду социальных проблем, и начавшиеся волнения быстро охватили пострадавшие от засухи регионы. Журналисты и активисты назвали гражданскую войну в Сирии первым крупномасштабным конфликтом, вызванным изменением климата, а также связали экологические проблемы с массовой миграцией беженцев в европейские страны. Ученые не спешат делать категоричные выводы о связи между военными конфликтами и климатом, хотя по поводу самого изменения климата они высказываются совершенно определенно. Даже если в ближайшие несколько лет Сирия восстановится политически, к 2050 году объем ее сельского хозяйства сократится почти вдвое. Произошедшее необратимо.

Почему нас так интересует семенохранилище? Оно жизненно важно как бастион разнообразия – разнообразия наших знаний и разнообразия как способа мышления. Из неопределенного, непонятного настоящего семенохранилище передает объекты, знания и способы мышления в еще менее определенное и более непонятное будущее. Дело не только в объеме содержимого в хранилище, но и в том, насколько оно разнообразно. Собранные там сокровища разнородны, коллекции хаотичны и неполны, но такова сама природа мира и нашего о нем знания. Хранилище необходимо потому, что противостоит монокультуре, которая в данном случае не просто метафора, а сельскохозяйственная монокультура, целенаправленно выведенная учеными для конкретной местности и исторического периода. Если такая монокультура примет глобальный характер, она окажется совершенно неприспособленной к настоящему миру, сложному и непоследовательному. Климатический кризис – это еще и кризис знаний и понимания, кризис коммуникации и познания; кризис, имеющий отношение к прошлому, настоящему и будущему.

В арктических регионах любой может называть себя экспертом по климату. При раскопках следов древних культур археологи углубляются в историю планеты, и свидетельства, которые они находят, могут помочь нам понять, как Земля и жившие на ней люди вели себя в прошлом, в периоды быстрого изменения климата, и, следовательно, могут подсказать нам, как действовать на этот раз. На западе Гренландии на берегах Илулиссат-Исфьорда, рядом с древним поселением Кэджаа в вечной мерзлоте хранятся реликты трех цивилизаций, поочередно занимавших эту территорию на протяжении последних трех с половиной тысячелетий, – Саккак, Дорсет и Туле. Первой в 2500 до н. э. в Гренландии возникла культура Саккак, затем культуры постепенно сменяли друг друга до XVIII века, когда существенно расширились контакты с Европой. Историю каждой из этих культур мы узнаём по тому, что скапливалось на их мусорных кучах, где поколение за поколением люди оставляли за собой слои мусора и отходов. Погребенные под землей предметы быта и отбросы долго ждали, когда на них прольют свет археологи.

Изучая содержимое свалок, мы смогли разобраться, где жили древние люди и какими были изменения климата и среды. С точки зрения культуры, древние цивилизации Гренландии вполне обычны, но для археологов они уникальны. В отличие от культур каменного века, от которых по всему миру остались только камни, особое северное расположение благодаря арктической вечной мерзлоте позволило сохранить намного больше информации о материальной культуре древних людей. В Кэджаа были найдены деревянные и костяные стрелы, ножи, копья, швейные иголки и другие предметы, которые нигде более не уцелели. На них были обнаружены также следы ДНК(11).

Как и в случае со сложной и запутанной историей семенохранилищ, понимание того, как древние культуры и цивилизации адаптировались, менялись или терпели неудачу в попытке приспособиться к изменениям окружающей среды, поможет нам справиться со стоящими перед нами сегодня проблемами, если, конечно, мы успеем добраться до этого знания, пока интересующие нас свидетельства и артефакты не будут уничтожены.

Эти уникальные археологические свидетельства, содержащие знания и информацию, просуществовали тысячи лет, но в следующем столетии полностью исчезнут. Исследователи из Центра по изучению вечной мерзлоты университета Копенгагена пробурили землю неподалеку от Кэджаа и еще в одном месте на северо-востоке Гренландии, извлекли образцы мерзлого грунта и в замороженном состоянии привезли в лабораторию для изучения на предмет производства тепла. По мере нагревания земли бактерии в почве начинают просыпаться и принимаются за работу. Эти бактерии вырабатывают тепло, отчего земля нагревается еще больше, просыпаются новые бактерии и в результате цепочки таких реакций процесс все ускоряется. Когда льды тают и вода уходит, пустоты заполняются воздухом, слои земли рушатся. Проснувшиеся бактерии поглощают органические остатки, оставляя за собой только камни, и образуют больше парникового углекислого газа. «Когда растают льды и вода уйдет, пути назад уже не будет», – пишет профессор Бо Элберлинг, руководитель исследования и глава Центра изучения вечной мерзлоты(12).

В отчете о жителях Гренландии, составленном в октябре 2016 года, Томас Макговерн, профессор археологии, много десятилетий изучавший древние свалки, подробно описал, как быстрое таяние ледяного покрова уничтожает многотысячелетние археологические свидетельства, которые мы только начинаем изучать и понимать:

«В древние времена в этих регионах почти круглый год стояли холода. Когда я посещал Гренландию в 1980-х годах, можно было пройтись по траншеям, вырытым археологами в 1950-х и 1960-х годах, и в стенах по бокам увидеть волоски, перья, шерсть и поразительно хорошо сохранившиеся кости животных. Сейчас мы все это теряем. Можно сказать, что хранящуюся под землей Александрийскую библиотеку охватил пожар»(13).

Слова Макговерна вызывают огромное беспокойство. Возникает ужасное чувство потери оттого, что прямо сейчас, когда нам особенно нужны знания о прошлом, от нас ускользает сама возможность до них добраться. Но вторая причина еще более экзистенциальная, она связана с глубоко укорененной в нас потребностью узнавать новое о мире, собирать и обрабатывать данные и на их основе строить более точные, основательные и полезные модели.

На деле происходит противоположное: мы теряем источники данных, а с ними и инструменты для структурирования знаний о мире. Таяние вечной мерзлоты – тревожный знак, в котором заключается важная метафора ускоряющегося разрушения нашей экологической и когнитивной среды. То, что нам досконально известно о настоящем, покоится на все увеличивающейся и выкристаллизовывающейся геологии знания. Приятно представлять себе, как земля остывает, принимает определенную форму и вид. Но, как и в Сибири, в Гренландии земля превращается в рыхлую губку, постепенно возвращаясь к текучему состоянию, превращается в топи и трясины, однородное болото и газ. Новый Темный век потребует от нас более гибких форм знания, которые мы можем почерпнуть только из прошлого.

Новые знания о прошлом – один из способов справиться с чудовищным влиянием меняющегося климата. Но существующие у нас технологии и процессы должны в какой-то мере защитить нас от экологической катастрофы, если сами эти технологии и когнитивные стратегии не падут ранними жертвами изменения климата.

Совет по науке и технологии – совещательный орган при правительстве Британии – в 2009 году опубликовал отчет «Национальная инфраструктура для XXI века», в котором шла речь о сетях энерго- и водоснабжения, коммуникационной и транспортной системах страны. В отчете подчеркивалось, что национальная инфраструктура Великобритании, например Интернет, представляет собой «Сеть сетей», сложную систему взаимосвязанных и переплетенных коммуникаций, хрупкую из-за своей фрагментированности и сложностей управления. Зоны ответственности и подотчетность в ней неясны, зачастую нигде не прописаны, и почти всегда для ее работы недостаточно ресурсов. Среди базовых причин этой ситуации исследование называет изолированность, оторванность системы управления, недостаточные частные и государственные инвестиции и общую нехватку понимания того, как функционируют и почему дают сбой такие сложные сети структур и знаний.

В докладе особо подчеркивалась одна проблема, требующая к себе неотложного внимания, все остальные вопросы меркнут по сравнению с опасностями, связанными с изменением климата:

«Противостоять изменению климата – вот наша самая главная и сложная долгосрочная задача. Изменение климата приведет к повышению круглогодичных температур и уровня моря, более разрушительным ураганам, лесным пожарам, засухам, наводнениям, периодам аномальной жары; изменится доступность таких ресурсов, как вода. Существующая инфраструктура должна приспособиться к таким воздействиям и способствовать переходу к низкокарбоновой экономике. Правительственная Национальная стратегия безопасности, опубликованная в марте 2008 года, называет изменение климата и его возможные последствия для всего мира главным испытанием глобальной стабильности и безопасности. Эффективная адаптация – ключ к снижению рисков для инфраструктуры и иных сфер»(14).

Особую озабоченность вызывает переменчивость и непредсказуемость прямых последствий изменения климата, о которых говорится в докладе:

«В связи с изменением климата почва будет попеременно увлажняться и сохнуть, грунт станет подвижным, что приведет к частым авариям: трубопровод, по которому в дома поступает питьевая вода, и канализация будут чаще выходить из строя. <…> Плотины будут чаще засоряться илом из-за разрушения грунта, также увеличится риск обрушения земляных насыпей из-за увеличения осадков».

В еще одном докладе для британского правительства, опубликованном в 2010 году Европейским агентством по окружающей среде, которое предоставляет консультационные услуги по вопросам климата, отдельно освещается то, как изменение климата повлияет на информационные и коммуникационные технологии (ИКТ)(15). ИКТ в данном контексте определяется как «совокупность систем и объектов, занятых в осуществлении передачи, приема, захвата, хранения и обработки потоков голосовых и иных данных электронными устройствами». Под это определение подпадает любой элемент нашей цифровой вселенной от оптоволоконных кабелей и антенн до компьютеров, центров обработки данных, телефонных станций и спутников. Линии энергоснабжения, несмотря на свою важность для ИКТ, в докладе не рассматриваются. Тем не менее, в исследовании Совета по науке и технологии отмечается, что «одним из факторов, ограничивающих возможность передачи энергии по наземным линиям, является их теплоемкость, на которую влияет температура воздуха. Высокие температуры снизят электропроводность сетей»(16).

Написанные для правительств отчеты часто бывают полнее и точнее заявлений самих правительств и проводимой ими политики. Например, в США, где вооруженные силы приняли и начали осуществлять десятилетний план адаптации к изменению климата, хотя в исполнительной власти многие отрицают саму проблему. Итак, британские отчеты трезво смотрят на изменение климата и дают здравую оценку ценности сетей:

«Все перечисленные выше объекты образуют систему – они связаны, взаимозависимы, полностью переплетены и работают в соответствии с принципами операционной совместимости. ИКТ – это единственный сектор инфраструктуры, который напрямую связывает пользователей между собой во времени и пространстве сразу через несколько каналов и может быстро перенаправлять эту связь в реальном времени. В этом случае Сеть как национальное достояние важнее любого из ее компонентов, и работа Сети зависит от всей инфраструктуры и только так создает ценность <…> Если Сеть – это актив на уровне инфраструктуры, то ценность Сети не в ней самой, а в передаваемой через нее информации. Многое в экономике зависит от способности почти моментально передавать, получать и преобразовывать потоки цифровых данных, например, при снятии денег в банкомате, использовании дебетовых и кредитных карт, отправке электронной почты, удаленном управлении насосами или коммутаторами, взлете и посадке самолета или обычном телефонном звонке»(17).

Современные информационные сети одновременно представляют собой как экономические, так и когнитивные социальные конструкции. Как они проявят себя в эпоху климатических изменений? Чему они вредят уже сегодня?

Повышение температуры по всему миру окажет особое давление на цифровую инфраструктуру, которая и без того уже перегрета, и на людей, чья работа связана с этой инфраструктурой. Центры обработки данных и персональные компьютеры выделяют огромное количество тепла и требуют сопоставимых мощностей для охлаждения: от кондиционеров, покрывающих крыши промышленных строений, до вентиляторов в ноутбуке, процессор которого иначе перегрелся бы при просмотре очередного видео с котятами. С глобальным повышением температуры увеличатся затраты на охлаждение оборудования и риск поломок. Если телефон оказывается в среде с температурой выше 45 градусов по Цельсию, на экране появляется сообщение об ошибке: «Перед использованием iPhone требуется охлаждение». Сегодня такое может произойти, если телефон будет лежать в оставленной на солнце машине где-нибудь в Европе, но во второй половине XXI века это станет нормой для стран Персидского залива, как уже было в 2015 году, когда аномально высокие температуры (до 50 градусов по Цельсию) были зафиксированы в Ираке, Иране, Ливане, Саудовской Аравии и Объединенных Арабских Эмиратах.

Подготовленный Европейским агентством по окружающей среде отчет о воздействии климата на ИКТ выделяет ряд конкретных последствий, которые ударят по информационным сетям. В отчете отмечается, что на уровне материальной инфраструктуры большая часть Сети паразитирует на объектах, не предназначенных для такого использования и не подготовленных к изменению климата: вышки мобильной сотовой связи, закрепленные на церковных шпилях; центры обработки данных, расположившиеся в старых промышленных блоках; телефонные коммутаторы в бывших почтовых отделениях Викторианской эпохи. Под землей оптоволоконные кабели проложены по канализации, не способной справляться с все более сильными бурями и затоплениями. Повышение уровня моря угрожает местам, где подводные кабели выходят на поверхность, особенно на юго-востоке и востоке Англии, где происходит связь с континентом. Объекты, расположенные на побережье, будут быстрее разрушаться из-за соли, а башни и вышки связи покосятся и рухнут, когда под воздействием чередующихся засух и дождей земля под ними деформируется и просядет.

Повышение температуры отразится и на электромагнитном спектре, сократит возможности беспроводной связи. Коэффициент преломления атмосферы зависит от влажности и сильно меняет кривизну электромагнитных волн и скорость их погашения. Рост температуры и увеличение количества осадков повлияют на лучи двухпунктовых звеньев данных, например на микроволновую передачу, и ослабят передаваемый сигнал. Повышение температуры и влажности потребует строительства новых вышек связи, расположенных ближе друг к другу, следовательно, их будет сложнее обслуживать. Изменение растительности также может повлиять на передачу информации.

Если коротко, сигнал Wi-Fi ухудшится, а не улучшится. При одном из сценариев подвижность почвы может снизить достоверность исходных данных, на основании которых происходят расчеты для телекоммуникации и спутниковой связи. Снизится точность, передаваемые данные начнут наслаиваться и мешать друг другу, шум вытеснит сигнал. Время и пространство нападают на системы, которые мы построили, чтобы преодолеть пространство и время.

Компьютеризация способствует изменению климата и сама становится его жертвой. В 2015 году мировые центры по обработке данных, где хранятся и обрабатываются эксабайты цифровой информации, потребляли около трех процентов всего электричества и производили два процента всех выбросов в мире. Этот углеродный след сопоставим с экологическим воздействием всей авиаиндустрии. Центры обработки данных по всему миру в 2015 году потребляли 416,2 тераватт-часа электричества, что превышает общее потребление электричества всем Соединенным Королевством, на которое приходится всего 300 тераватт-часов(18).

Считается, что из-за роста цифровой инфраструктуры и глобального потепления климата ИКТ в будущем будут потреблять значительно больше энергии. Существенное расширение инфраструктуры для хранения данных и повышения вычислительных мощностей в последнее десятилетие привело к тому, что объемы потребляемой энергии удваивались каждые четыре года, а в следующие десять лет, вероятно, утроятся. Согласно проведенному в Японии исследованию, к 2030 году потребности в электроэнергии только для цифровых услуг превысят текущие генерирующие мощности всей страны(19). Даже технологии, претендующие на радикальное преобразование общества, не становятся исключением. На проведение одной операции с биткоином, который, как задумывалось, должен был разрушить иерархические и централизованные финансовые системы, требуется столько же энергии, сколько потребляют девять домов в США; и если криптовалюты распространятся, то к 2019 году просто для их поддержания нужна будет энергия, вырабатываемая всеми Соединенными Штатами за год(20).

Более того, эти цифры отражают вычислительные мощности, но не касаются более широкой сети цифровой активности, которая стала возможной благодаря компьютеризации. Эта деятельность – рассредоточенная, фрагментированная и часто виртуальная – потребляет огромные ресурсы, и в силу особенностей современных сетей эти действия сложно увидеть и связать между собой. Непосредственные и местные потребности в электроэнергии отдельных людей, которые легко заметить и измерить, ничтожны по сравнению со стоимостью работы всей Сети, так же как объемы производимого отдельными людьми мусора, – очевидно, что на это положительно влияет этичное потребление и переработка отходов, – бледнеют по сравнению с отходами от мировой промышленности.

По подсчетам, представленным в докладе 2013 года «Облако начинается с угля – большие данные, большие сети, большая инфраструктура и большие мощности», чтобы зарядить один планшет или смартфон нужно так мало энергии, что этими цифрами легко пренебречь; за час просмотра видео такое устройство и обслуживающая его инфраструктура потребляют больше энергии, чем два новых холодильника за год(21). Этот отчет подготовлен не благонамеренной группой экоактивистов. Его запросили Национальная горнодобывающая ассоциация и Американская ассоциация за чистое угольное электричество, и отчет – это попытка лоббистов оправдать повышение потребления ископаемого топлива, чтобы удовлетворить растущий спрос.

Гиганты угольной промышленности, возможно, невольно указывают на то, что использование данных может быть не только количественным, но и качественным. Сами данные важнее того, как мы их рассматриваем, и не только для окружающей среды. Один отраслевой консультант, которого цитируют в газетах, утверждал: «Нам нужно с большей ответственностью относиться к тому, для чего мы используем Интернет <…> Центры обработки данных не виноваты – их приводят в действие социальные Сети и мобильные телефоны, а также все, что содержит изображения: фильмы, порнография, азартные игры, сайты знакомств и магазинов»(22). В большинстве случаев решения, якобы направленные на защиту экологии, включают призывы к регулированию (налог на данные), консервативные ограничения (запрет порнографии или переход к черно-белым изображениям для сокращения затрат), а также смехотворные технические решения (чудо-материал графен), – все эти идеи нелепы, не работоспособны и не сопоставимы с масштабами сетей, проблемы которых должны решить.

Цифровая культура развивается – ускоряется передача данных, увеличивается пропускная способность Сети, передается все больше «тяжелых» изображений, – и, как следствие, становится более дорогостоящей и разрушительной в прямом и переносном смыслах. Она требует дополнительных затрат и энергии и утверждает изображение, визуальное представление данных в качестве главного способа представления мира. Тем не менее, эти изображения больше не правдивы, как и наше представление о будущем. Пока в вечной мерзлоте тает наше прошлое, атмосфера сотрясает наше будущее. Изменение климата меняет наши ожидания и нашу способность хоть как-то предсказывать будущее.

Вскоре после полуночи 1 мая 2017 года самолет компании «Аэрофлот», выполнявший регулярный рейс SU270 Москва – Бангкок, попал в зону внезапной кратковременной сильной турбулентности(23). До того как экипаж успел сделать предупреждение, пассажиров подбросило так, что некоторые ударились о потолок, и раскидало по салону. На записях с борта видны лежащие в проходе окровавленные люди, разбросанные повсюду чемоданы и подносы(24). Когда самолет приземлился, 27 пострадавших немедленно направили в больницу, у некоторых были переломаны кости.

«Нас швырнуло о потолок с такой силой, что невозможно было удержаться в кресле, – сообщил репортерам один из пассажиров. – Казалось, что тряска не прекратится и мы разобьемся». Представители российского посольства сообщили новостному агентству Reuters, что «пассажиры получили травмы потому, что некоторые из них не были пристегнуты ремнями безопасности». В пресс-релизе компании «Аэрофлот» утверждалось, что самолет «пилотировал опытный экипаж. У командира воздушного судна налет свыше 23 тысяч часов, у второго пилота – свыше 10,5 тысячи часов. Однако турбулентность, в которую попал Boeing 777, невозможно было предугадать»(25).

В июне 2016 года из-за «внезапной кратковременной турбулентности» в небе над Бенгальским заливом получили травмы тридцать четыре пассажира и шесть членов экипажа на борту самолета «Малазийских авиалиний», следовавшего рейсом MH1 из Лондона в Куала-Лумпур(26). Из бортовой кухни подносы вылетали как пушечные ядра. По приземлении пассажиров выносили на носилках, некоторым потребовалась фиксация головы.

Через три месяца Boeing 767 компании United Airlines, вылетевший из Хьюстона в Лондон, в небе над Атлантическим океаном попал в зону «внезапной кратковременной турбулентности» и был вынужден совершить аварийную посадку в ирландском аэропорту Шэннон. Один из пассажиров рассказывал, что «самолет начинал падать четыре раза подряд»:

«Трясло очень сильно. На третий или четвертый раз младенцы проснулись и заплакали, разбуженные взрослые были дезориентированы. Я подумал, что это не могло быть обычной турбулентностью, – мы падали, и по ощущениям все могло закончиться катастрофой. Я никогда раньше такого не испытывал. Словно тобой выстрелили из пушки. Неведомая сила резко тянет вниз, замирает, потом тянет снова – и так четыре раза подряд. Если бы не пристегнутые ремни, пассажиры бы размозжили головы о потолок»(27).

В аэропорту самолет встречали кареты «Скорой помощи», шестнадцать человек госпитализировали.

Самый страшный известный нам случай внезапной турбулентности произошел в 1997 году с самолетом компании Unites Airlines, следовавшим рейсом 826 из Токио в Гонолулу. После двух часов полета, всего через несколько минут после того как командир получил предупреждение от экипажа другого самолета и объявил о необходимости пристегнуть ремни, Boeing 747 внезапно рухнул и так же внезапно выровнялся, и старший бортпроводник, занявший место на бортовой кухне, оказался вниз головой.

Одна из непристегнутых пассажирок ударилась о потолок и упала в проходе. Она была без сознания и потеряла много крови. Несмотря на попытки экипажа и находившегося на борту врача оказать ей помощь, женщина вскоре умерла. Вскрытие показало серьезные травмы позвоночника. Самолет развернулся и благополучно приземлился в Токио. У пятнадцати пассажиров были сломаны шейные и спинные позвонки, у восьмидесяти семи были зафиксированы гематомы, растяжения и иные повреждения. Тот самолет был списан и больше полетов не совершал.

Впоследствии в отчете Национального совета США по транспортной безопасности указывалось, что установленные на борту датчики зафиксировали пиковое ускорение в 1,814 g и минимальное ускорение в 0,824 g. Также самолет развернулся на 18 градусов, хотя пилоты не наблюдали никаких видимых признаков того, чтоˊ вот-вот должно было произойти(28).

Исследования погоды в некоторой степени объясняют турбулентность. Международная организация гражданской авиации (ИКАО) ежедневно публикует «важные погодные показатели», в том числе информацию о степени облачности и высоте облаков, скорости ветра, атмосферных фронтах и возможной турбулентности. Главным индикатором турбулентности служит «число Ричардсона», того самого Льюиса Фрая Ричардсона, который в 1920-х годах на основании вычислений вывел этот показатель в серии работ по метеорологии. При наличии данных об относительных температурах и скорости ветра в разных участках атмосферы можно определить возможную турбулентность на стыке этих участков.

Турбулентность при ясном небе заслужила свое название именно потому, что возникает как гром среди ясного неба, когда сталкиваются потоки воздуха, движущиеся с огромной разницей в скорости – при столкновении ветров образуются вихри и хаотические потоки. Несмотря на то, что это атмосферное явление – особенно в тропосфере, где летают самолеты, совершающие дальние рейсы, – довольно хорошо изучено, предвидеть или даже заметить такую турбулентность почти невозможно. По этой причине она намного опаснее предсказуемой турбулентности, наблюдаемой на границе грозового или иного атмосферного фронта, потому что пилоты не успевают среагировать и обойти ее. С каждым годом число случаев попадания в зону неожиданной турбулентности только растет.

Описанные выше громкие случаи широко обсуждаются, тем временем о многих других инцидентах, несмотря на глобальную значимость, даже не сообщается, и о них не найти никаких сведений. В опубликованном в 2006 году Федеральным управлением гражданской авиации США рекомендательном информационном письме о предотвращении травм при попадании в турбулентность говорится, что в последние годы частотность случаев попадания в зону турбулентности постепенно увеличивалась с 0,3 случая на миллион вылетов в 1989 году до 1,7 в 2003 году (29). Эти данные уже катастрофически устарели.

Причина возросших случаев турбулентности кроется в повышении содержания углекислого газа в атмосфере. Пол Уильямс из Национального центра атмосферной науки Университета Ридинга и Маноя Джоши из Школы наук об окружающей среде Университета Восточной Англии в статье, вышедшей в 2013 году в журнале Nature Climate Change, описали влияние нагревания атмосферы на трансатлантические перелеты:

«Используя симуляционные климатические модели, мы показываем, что турбулентность при ясном небе существенно меняется в трансатлантическом коридоре полетов при удвоенной концентрации углекислого газа. Измерения такой турбулентности на высоте полетов 50–75 градусов северной широты и 10–60 градусов западной долготы зимой показали увеличение частотности средней и сильной турбулентности на 10–40 %. Полученные результаты свидетельствуют о том, что изменение климата к середине текущего столетия сделает трансатлантические перелеты более неспокойными. Может увеличиться продолжительность полетов, потребление топлива и объем выбросов»(30).

Авторы исследования турбулентности в очередной раз подчеркивают существующие причинно-следственные связи и напоминают о природе наблюдаемого роста турбулентности: «Авиация отчасти повлияла на изменение климата, но, согласно полученным нами результатам, впервые изменение климата может повлиять на авиацию». Климатическое воздействие будет особо ощутимо в наиболее интенсивных воздушных коридорах над Азией и северной Атлантикой: возникнут сбои, рейсы будут откладываться, возможны повреждения. Будущее будет неспокойным, и мы теряем способность предсказывать удары.

Я вырос в спальном районе на юге Лондона, где над головой постоянно пролетали самолеты в аэропорт Хитроу и из него. Каждый вечер в 18:30 «Конкорд» из Нью-Йорка ракетой проносился над нами так, что тряслись двери и окна. К тому моменту «Конкорд» совершал полеты уже более десяти лет. Первый полет был произведен в 1969 году, регулярные рейсы начались с 1976 года. Трансатлантический перелет занял бы у вас три с половиной часа, если, конечно, вы могли бы позволить себе купить билет, стоимость которого туда-обратно начиналась примерно от 2000 британских фунтов.

В 1997 году фотограф Вольфганг Тиллманс представил серию из 56 фотографий, на которых «Конкорд» запечатлен ровно таким, каким я его запомнил, наблюдая его не из роскошного салона, а с земли: темный наконечник стрелы, с шумом проносящийся по небу. В описании коллекции для каталога выставки Тиллманc отмечал:

«Возможно, «Конкорд» – пример последнего техно-утопического изобретения эпохи 1960-х годов, которое до сих пор полноценно функционирует. Его футуристические формы, скорость и оглушительный грохот сегодня поражают воображение не меньше, чем когда он впервые оторвался от земли в 1969 году. Это экологический кошмар, задуманный в 1962 году, когда технологии и прогресс казались ответом на все вопросы и все горизонты были открыты. Для немногих избранных полеты на «Конкорде» были гламурной, немного неудобной и уже поднадоевшей рутиной, но наблюдать за взлетом, движением и посадкой самолета было удивительным бесплатным зрелищем, суперсовременным анахронизмом и символом желания преодолеть время и пространство посредством технологий»(31).

«Конкорд», совершивший последний полет в 2003 году, стал жертвой своего элитизма и ужасной катастрофы 2003 года на рейсе 4590 компании Air France, когда самолет рухнул в пригороде Парижа. Для многих конец полетов «Конкорда» стал концом определенного представления о будущем.

Современные самолеты мало походят на «Конкорд», воплощавший радикальные нововведения, и являются результатом пошагового улучшения: лучшие материалы, двигатели с повышенным КПД, более совершенная форма крыла. Последние из названных улучшений – мои любимые: концевая аэродинамическая поверхность – «крылышки» – теперь можно встретить на большинстве самолетов. Их изобрели не так давно, когда в ответ на нефтяной кризис 1973 года NASA предложило сократить потребление топлива путем постепенного совершенствования самолетов гражданской авиации. Они наводят на мысль об эпитафии на надгробии Бакминстера Фуллера в Кембридже, штат Массачусетс: «Зовите меня триммер» (позволяет поворачивать руль с минимальными усилиями). Проводить масштабирование небольших изменений нам еще под силу.

История – развитие и изменение – не всегда идет прогрессивно и правильно: не всегда мы поднимаемся по залитым солнцем холмам. И дело тут – иначе и не может быть – не в ностальгии. Скорее дело в принятии настоящего, независимо наступившего из линейной темпоральности, которая развивается важным, но запутанным образом из самой идеи истории. Больше нет и не может быть ничего ясного. Изменилась не многомерность будущего, а его предсказуемость.

В 2016 году в статье передовицы New York Times специалист по вычислительной метеорологии и бывший президент Американского метеорологического сообщества Уильям Б. Гейл привел множество примеров того, что человечество изучало на протяжении веков, но что изменилось под влиянием перемены климата: долгосрочные погодные тенденции, нерест и миграция рыб, опыление растений, циклы муссонов и приливов, случаи экстремальных погодных явлений. Боˊльшую часть летописной истории эти циклы в основном были предсказуемыми, и мы накопили огромные объемы информации, из которых черпаем знания, чтобы поддерживать устойчивость нашей все более запутанной цивилизации. На основании этих исследований мы постепенно развили свои способности делать прогнозы в самых разных сферах – от выбора посевных культур для определенного времени года до предсказания засух и лесных пожаров, динамики соотношения хищников и жертв, ожидаемых сельскохозяйственных урожаев и рыбных уловов.

Само существование цивилизации зависит от точности прогнозирования, но, к сожалению, наша способность предвидеть будущее постепенно снижается по мере того, как рушатся экосистемы, и на нас одна за одной обрушиваются бури, набиравшие силу сотню лет. Без точных долгосрочных прогнозов фермеры не будут знать, что и когда сажать, рыбаки не отыщут рыбу, экстренные службы не смогут спланировать меры по борьбе с затоплениями и пожарами, нельзя будет оценить пищевые и энергоресурсы и удовлетворить спрос. Гейл предвидит будущее, в котором наши внуки будут знать об окружающем мире существенно меньше, чем сегодня знаем мы, что приведет к катастрофическим последствиям для сложных сообществ(32). Возможно, мы уже перевалили через «пиковое знание» так же, как уже прошли через пиковую добычу нефти. Над нами нависла тень новых темных веков.

Философ Тимоти Мортон называет глобальное потепление «гиперобъектом», оно повсюду: окружает нас, обволакивает и связывает, но слишком велико, чтобы увидеть его во всей полноте. По большей части мы воспринимаем гиперобъекты опосредованно, через их воздействие на другие вещи – таяние ледяного покрова, вымирающая морская флора и фауна, проблемы на трансатлантических перелетах. Гиперобъекты проявляются везде одновременно, но мы способны почувствовать их только в определенном месте и среде. Мы можем воспринимать гиперобъекты как нечто личное, потому что они действуют на нас непосредственно, или можем представить, что они – результат научной теории. На самом деле, они выходят за рамки нашего восприятия или измерения. Они существуют без нашего участия. Они совсем рядом, но их сложно увидеть, поэтому теряется наша способность описывать их рационально, овладевать ими или преодолевать в любом традиционном понимании. Изменение климата – это гиперобъект, как атомная радиация, эволюция и Интернет.

Одна из главных характеристик гиперобъектов в том, что мы воспринимаем их только через воздействие на другие вещи, следовательно, для моделирования гиперобъектов нужно обширное вычисление. Их можно оценить только на уровне сетей, увидеть в них смысл посредством системы датчиков, эксабайтов данных и вычислений в пространстве и во времени. Ведение научных записей, таким образом, становится формой сверхчувственного восприятия: сетевое, общее, путешествующее во времени производство знания. Именно из-за этой характеристики гиперобъекты так ненавистны тем, кто придерживается определенных видов мышления, в особенности тем, кто настаивает на необходимости пощупать или почувствовать нечто нематериальное и неощутимое, и, следовательно, отбрасывает все, что не поддается такому познанию. На самом деле, споры по поводу изменения климата – это споры о пределах нашего познания.

Совсем скоро познание станет для нас недоступно. В доиндустриальный период с 1000 до 1750 года содержание углекислого газа в атмосфере равнялось 275–285 единицам на миллион – эти данные получены нами при исследовании образцов глубинного льда, того самого арктического льда, в котором хранятся, тают и утекают от нас сегодня знания. С начала промышленной революции содержание углекислого газа в атмосфере стало расти и в начале XIX века уже составляло 295 единиц на миллион, а к 1950 году достигло показателя 310 единиц на миллион. Эта все повышающаяся и ускоряющаяся тенденция именуется «кривой Килинга» в честь ученого, который в 1958 году первым в современной истории приступил к измерениям CO_2 в обсерватории на Мауна-Лоа на Гавайях. В 1970 году было зафиксировано 325 единиц на миллион, в 1988-м – 350, а в 2004-м – уже 375.

В 2015 году концентрация углекислого газа в атмосфере впервые за как минимум 800 000 лет превысила 400 единиц на миллион. Такими темпами – ведь ничто не свидетельствует о том, что они снизятся, а мы образумимся, – концентрация углекислого газа в атмосфере превысит 1000 единиц на миллион к концу текущего столетия.

При концентрации CO_2 в 1000 единиц на миллион когнитивные способности человека снижаются на 21 %(33). Если содержание углекислого газа повысится еще больше, мы вообще потеряем способность ясно мыслить. В промышленных городах содержание углекислого газа на улице часто достигает 500 единиц на миллион, а в закрытых, плохо проветриваемых помещениях часто превышает 1000 единиц на миллион. Когда в 2012 году содержание CO_2 измеряли в Калифорнии и Техасе, во многих школах были зафиксированы значения, превышавшие 2000 единиц на миллион(34).

Углекислый газ затуманивает разум, он напрямую ухудшает нашу способность ясно мыслить, а мы продолжаем вбрасывать его в атмосферу и запираемся в стенах образовательных учреждений. Кризис глобального потепления – это кризис разума, кризис мышления, кризис способности представить альтернативный способ существования. Скоро мы вообще перестанем соображать.

Ухудшение когнитивных способностей проявляется в проблемах во время трансатлантических перелетов, подрыве коммуникационных сетей, стирании биоразнообразия, таянии запасов исторического знания – все это знаки и знамения более широкой неспособности думать на уровне глобальных сетей, неспособности мыслить и действовать в масштабе цивилизации. Структуры, построенные нами как расширение собственных жизненных систем, наших когнитивных и сенсорных интерфейсов для взаимодействия с миром, – это единственные инструменты, позволяющие почувствовать мир, в котором вскоре будут господствовать гиперобъекты. Мы только-только начинаем их замечать, а уже теряем способность их понять.

Способность думать об изменении климата ухудшается из-за самого изменения климата. Как существование коммуникационных сетей подорвано из-за размягчения земли, так и наша способность договариваться и действовать в запутанных условиях экологических и технологических изменений снижается из-за неспособности людей понять, осмыслить сложные системы. И все же в центре текущего кризиса лежит гиперобъект такой системы: Интернет и образы жизни и мышления, которые она переплетает. Возможно, всемирная Сеть, этот уникальный гиперобъект – зарождающаяся культурная форма, возникшая из наших сознательных и бессознательных желаний в диалоге с математикой, электронами, кремнием и оптоволокном. То, что сейчас эта Сеть, возможно, ненамеренно, используется для ускорения кризиса, не означает, как мы убедимся в следующих главах, что она не может служить источником света.

Всемирная Сеть – это лучшая репрезентация построенной нами реальности именно потому, что ее так же сложно помыслить. Она сопровождает нас повсюду (телефоны в карманах), мы строим для нее вышки связи, дворцы для обработки данных, но она не сводится к отдельным элементам; она не привязана к конкретному месту и по природе своей внутренне противоречива – и это естественное условие существования самого мира. Сеть создается постоянно, намеренно и бессознательно. Чтобы жить в новые темные века, необходимо осознать эти противоречия и неопределенности, это состояние практического незнания. При правильном понимании Сеть может помочь осмыслить другие неопределенности, но для этого сначала необходимо сделать их видимыми. Чтобы работать с гиперобъектами, нужно верить в Сеть как в способ видения, мышления и действия. Она отрицает оковы времени, пространства и индивидуального опыта, которые характеризуют нашу неспособность постичь сложности новых темных веков. Она хочет, чтобы мы смирились с ее непостижимостью и неопределенностью. Угрозе разобщения и отчуждения Сеть вновь и вновь противопоставляет тот факт, что разделение невозможно.

Глава 4

Вычисления

Научные фантасты, чьи представления о современности часто отличаются от общепринятых, придумали специальный термин для одновременно сделанных открытий: «время парового двигателя». Уильям Гибсон так описывает этот феномен:

«В научно-фантастическом сообществе есть представление о так называемом времени парового двигателя, то есть времени, когда из-под пера двадцати или тридцати разных писателей внезапно выходят истории об одной и той же идее. Такой момент называют временем парового двигателя потому, что никто не знает, почему он был изобретен именно тогда, когда был изобретен. Птолемей уже описывал механизм работы парового двигателя, и ничто не мешало древним римлянам его создать. У них были игрушечные прототипы, а навыки обработки металла позволяли выполнить полноразмерную модель, но это так и не пришло им в голову»(1).

Паровой двигатель был реализован именно тогда, когда пришло его время, – это почти мистический, телеологический процесс, который происходит вне нашего привычного понимания исторического прогресса. Различные идеи и события – все, что должно было сойтись, чтобы некое изобретение стало возможным, настолько непостижимо, что открытие напоминает рождение новой звезды: магическое и ранее невообразимое. Однако история науки показывает, что любые изобретения одновременны и исходят от множества авторов. Первые трактаты о магнетизме появились независимо друг от друга в Греции и Индии примерно в 600 году до н. э., а в Китае – в Ⅰ веке. Доменная печь впервые появилась в Китае в Ⅰ веке, в Скандинавии – в XII веке, то есть существует вероятность преемственности, заимствования, хотя на северо-западе Танзании народ хайя владел технологией производства стали еще 2000 лет назад, задолго до того, как это знание проникло в Европу. В XVII веке Готфрид Лейбниц, Исаак Ньютон и многие другие независимо друг от друга сформулировали принципы математического анализа. В XVIII веке понятие кислорода практически одновременно появилось в работах Карла Вильгельма Шееле, Джозефа Пристли, Антуана Лавуазье и других, а в XIX веке Альфред Рассел Уоллес и Чарльз Дарвин почти одновременно выдвинули теорию эволюции. Такие истории создают обманчивое впечатление о героизме истории, рисуют картину, где гений-одиночка упорно трудится, чтобы явить миру уникальное открытие. История, по сути, является сетевой и вневременной: время парового двигателя – это многомерная структура, чувствительная к колебаниям времени, но незаметная.

Несмотря на такие глубинные закономерности, каждая история открытия – это маленькое чудо; вы узнаёте об авторах и их прошлом, видите смысл и логику в том, что ими сделано, понимаете, что все произошло так, как и должно было произойти. Сама история подсказывает, что именно эти люди должны были стоять за этим открытием.

Создатель Всемирной сети Тим Бернес-Ли выступил в 2010 году в Уэльсе с речью «Как случайно возникла всемирная Сеть»(2). Счастливая экзегеза компьютерных вычислений и в то же время история скромного героя. Партнеры Тима Бернеса-Ли – Конуэй Бернес-Ли и Мэри Ли Вудс – были специалистами по компьютерным технологиям, они познакомились в Манчестере в 1950-х годах, когда работали над «Mark I» – первым многофункциональным компьютером, доступным потребителям. Позднее Конуэй разработал технологию редактирования и сжатия текста, а Мэри – симуляцию маршрутов лондонских автобусов, которая позволила справиться с задержками на городском транспорте. Тим Бернес-Ли описывает свое детство как «мир, полный электронных вычислений», в самом начале своего пути он экспериментировал с магнитами и переключателями из гвоздей и проволоки. Его первым изобретением стало ружье на дистанционном управлении, работающее по принципу мышеловки. Он опробовал его на своих братьях и сестре. Тим подчеркивает, что родился почти одновременно с изобретением транзисторов, поэтому, когда пошел в среднюю школу, те только-только появились в продаже в магазинах электроники на Тоттенхем-Корт-роуд. Тогда он занялся конструированием простейших электронных схем для дверных звонков и домашних сигнализаций. Пока он осваивал паяльник, на рынок выпустили новые транзисторы, и стало возможным создавать более сложные электронные схемы. С появлением интегральных схем он смог переделать старые телевизоры в видеодисплеи. По сути, он собрал все необходимые компоненты для компьютера, хотя и нерабочего. К тому моменту он уже учился на физическом факультете, после настраивал цифровые принтеры и только затем устроился в ЦЕРН, где работал над идеей гипертекста, о котором до этого задумывались Вэнивар Буш, Дуглас Энгельбарт и другие. Поскольку он работал в непростой организации и разработчикам нужно было обмениваться взаимосвязанной информацией, он присоединил свое изобретение к протоколу передачи данных (TCP) и системе доменных имен, которые легли в основу Интернета и – вуаля! – Всемирная паутина появилась как нечто естественное и само собой разумеющееся, будто так и задумывалось.

Конечно, эту историю можно рассказать иначе, но она отзывается в нас, потому что мы видим в ней смысл; эта восходящая кривая изобретения – график, неизменно направленный вверх и вправо, – вкупе с личной историей обрастает бесчисленными связями и в нужный момент в нужном месте высекает искру открытия. Глобальная Сеть не случилась бы, не предшествуй ей история создания микропроцессоров и телекоммуникации, военная промышленность и коммерческие требования, много разных открытий и патентов, корпоративные исследовательские гранты и теоретические научные работы, да и сама семейная история Тима Бернеса-Ли. Вместе с тем глобальная Сеть возникла потому, что пришло ее время: на короткий момент культура и технология сошлись для изобретения того, что, как мы теперь понимаем, было предсказано еще со времен древних китайских энциклопедий и селекторов микрофильмов до историй Хорхе Луи Борхеса. Глобальная Сеть появилась потому, что была необходима, по крайней мере, в этой исторической линии.

Электронно-вычислительным технологиям особенно свойственны такие истории, оправдывающие и доказывающие их необходимость и неизбежность. Закон Мура – обязательное условие самоисполняющихся технологических пророчеств. Впервые об этой закономерности в 1965 году написал в журнале Electronics Гордон Мур, сооснователь компании Fairchild Semiconductor, а затем и Intel. Идея Мура заключалась в том, что транзисторы, которые, как справедливо отмечал Тим Бернес-Ли, появились всего-то десять лет назад, быстро уменьшались в размерах. Мур показал, что количество компонентов на интегральную схему ежегодно удваивалось, и предположил, что так будет продолжаться в течение следующего десятилетия. В свою очередь, результатом быстрого роста чистых вычислительных мощностей стали все более невероятные способы их применения: «Интегральные схемы приведут к таким чудесам, как домашние компьютеры – или, по крайней мере, терминалы, подключенные к центральному компьютеру, – автомобили с автоматическим управлением и личные мобильные устройства коммуникации. Электронные часы возможно создать уже сегодня, не хватает только дисплея»(3).

Десять лет спустя он немного пересмотрел свой прогноз, уточнив, что удвоение будет происходить каждые два года. По мнению некоторых, речь шла об удвоении каждые 18 месяцев, и, несмотря на многочисленные заявления, что вот-вот наступит неизбежный спад, с тех пор этот прогноз, в общем и целом, оставался верным. В 1971 году минимальный размер полупроводников – наименьший размер отдельного элемента – составлял 10 микрометров, или одну пятую диаметра человеческого волоса. К 1985 году размер сократился до 1 микрометра, а затем в 2000-х годах дошел до ста нанометров – таков диаметр вириона (полноценной вирусной частицы). В начале 2017 года появились смартфоны, в которых размер полупроводников составлял всего 10 нанометров. Раньше считалось, что предельный размер элементов полупроводников – 7 нанометров и дальнейшее уменьшение невозможно, поскольку иначе электроны смогут свободно проходить сквозь любую поверхность из-за квантового туннелирования. Сейчас ожидается, что этот эффект будет использован в транзисторах будущих поколений, чтобы производить чипы размером с атом. Некоторые же предсказывают, что в дальнейшем появятся биомашины, в которых ДНК будет сочетаться с искусственно созданными нанопротеинами.

Пока все действительно развивалось по возрастающей, вверх и вправо. Принцип миниатюризации и сопутствующий ему всплеск компьютерных мощностей – это все нарастающая волна, на гребне которой в 1960–1980-х годах пронесся Бернес-Ли, чтобы увлечь нас за собой во Всемирную паутину, связавшую весь мир. Но, несмотря на свое название, которое сам Мур не использовал двадцать лет, закон Мура – это вовсе не закон. Скорее это проекция в обоих смыслах этого слова. Это и экстраполяция данных, и иллюзия, появляющаяся в силу ограниченности нашего воображения. Заблуждение действует наподобие когнитивного искажения, питающего нашу любовь к героизации истории, только наоборот. Одно искажение заставляет нас прослеживать в событиях прошлого неизбежное наступление прогресса, из-за другого прогресс видится нам бесконечным. Проекции способны влиять как на будущее, так и на другие проекции, независимо от того, насколько они изначально обоснованны.

То, что поначалу было случайным наблюдением, стало лейтмотивом всего насыщенного ⅩⅩ века, приобретя ореол подлинного физического закона. Но в отличие от физических законов закон Мура весьма условен: он зависит не только от средств и методов производства, но также от открытий в естественных науках, от экономической и социальной систем, обеспечивающих инвестиции и рынки для создаваемых продуктов. Еще он зависит от пожеланий потребителей, влюбленных в маленькие блестящие гаджеты, которые год от года становятся все меньше и быстрее. Закон Мура не просто технический или экономический, он связан с либидо – это закон, основанный на влечении.

Начиная с 1960-х годов убыстряющееся развитие возможностей интегральных схем поменяло всю компьютерную отрасль: каждый год появлялись новые модели чипов, отчего развитие компьютеров стало тесно связано с развитием полупроводников. Производители «железа» и разработчики программного обеспечения не могли позволить себе создать собственную архитектуру и всецело зависели от нескольких поставщиков все более мощных и компактных чипов. Создатели чипов полностью определяли архитектуру устройств, которые получали конечные потребители. В результате возник рост в сфере программного обеспечения. Когда программное обеспечение обрело независимость от производителей «железа» и поставщиков чипов, стремительно выросли такие гиганты, как Microsoft, Cisco и Oracle, а затем произошли экономические, политические и идеологические изменения – значимым игроком на мировой арене стала Кремниевая долина. Еще одним следствием, по мнению многих специалистов из сферы компьютерных технологий, стал конец старой культуры программного обеспечения, при которой ценились уникальность, продуманность и продуктивность электронных программ. Если на ранних этапах разработчики должны были выжимать все возможное из ограниченных ресурсов, постоянно оптимизируя код и придумывая элегантные и экономичные решения сложных вычислительных проблем, то быстрое развитие компьютерных возможностей привело к тому, что каждые полтора года появлялось устройство в два раза мощнее предыдущего – оставалось только подождать. К чему рачительность и экономия ресурсов, если райское изобилие наступит уже в следующем торговом цикле? Вскоре за новым универсальным правилом закрепилось имя самого основателя Microsoft. Речь о так называемом законе Гейтса, согласно которому скорость программного обеспечения уменьшается вдвое каждые полтора года из-за нерационального и неэффективного кода и устаревшего функционала.

Вот действительное следствие закона Мура: по мере того как программы прочно обосновались в жизни общества, то же произошло с их постоянно повышающейся мощью, которая стала буквально олицетворять прогресс – изобильное будущее, для которого не требуется никакой подготовительной работы в настоящем. Закон вычислительных технологий превратился в экономический, а затем и в этический закон. Мур приветствовал расширенную интерпретацию названного его именем закона и даже в разговоре с представителями журнала The Economist отметил, что «закон Мура – исключение из закона Мёрфи. Все становится лучше и лучше»(4).

Сегодня, совсем по закону Мура, мы живем в мире повсеместной компьютеризации, среди облаков бесконечных вычислительных мощностей; этическое и когнитивное подтверждения закона Мура ощущаются сегодня в любом аспекте жизни. Однако, несмотря на все усилия и самые передовые открытия специалистов по квантовому туннелированию и нанобиологии, развитие технологий все больше упирается в философские вопросы. То, что на данный момент справедливо в исследованиях полупроводников, оказывается неприемлемым в другом случае: ни в научном, ни в естественном, ни в моральном отношении. И если мы решим критически взглянуть на то, что подсказывают нам технологии, мы увидим, в чем ошиблись. Если присмотреться к данным, ошибка станет очевидна, но сами данные слишком часто используются как аргумент.

В статье 2008 года в журнале Wired вышла статья Криса Андерсона «Конец теории», в которой утверждалось, что из-за огромного объема данных, доступных современным исследователям, традиционные научные процессы устарели(5). Больше не нужно строить модели мира и проверять их на ограниченной выборке. Сегодня вычислительные кластеры из многих компьютеров могут обработать сложные массивы всеобъемлющих данных и выдать истину: «Если данных достаточно, то цифры говорят сами за себя». В качестве примера Андерсон привел алгоритмы перевода Google, которые даже без знания глубинных лингвистических структур могли установить соответствия между языками, основываясь на массиве уже переведенных текстов. Андерсон расширил этот подход на геномику, неврологию и физику, в которых ученые все чаще обращаются к обширным вычислениям, чтобы разобраться в больших объемах собранной информации о комплексных системах. В статье говорилось, что в век больших данных «корреляции достаточно, можно больше не искать модели».

В этом и заключается магия больших данных. Теперь необязательно знать или понимать все о предмете изучения, чтобы докопаться до истины, достаточно положиться на цифровую информацию. В смысле ошибка больших данных – логичное следствие научного редукционизма, согласно которому сложные системы можно понять, если разбить их на составляющие и изучить каждый из компонентов в отдельности. И такой редукционистский подход был бы оправдан, если бы действительно поспевал за нашим опытом, но практика показывает, что простого анализа недостаточно.

В фармакологии особенно очевидно, насколько научному методу вредит полная зависимость исследований от больших объемов данных. За последние шестьдесят лет, несмотря на огромный рост фармакологической отрасли и сопутствующие ему огромные инвестиции в разработку лекарств, скорость выпуска новых медикаментов фактически упала, если учитывать денежные суммы, потраченные на исследования; более того, она снижалась последовательно и ощутимо. С 1950 года количество одобренных новых лекарств на миллиард долларов США, потраченных на исследования и разработки, сокращается вдвое каждые девять лет. Тенденция к снижению настолько очевидна, что исследователи придумали для нее термин: закон Рума, то есть закон Мура наоборот(6).

Закон Рума свидетельствует о растущем беспокойстве в научном сообществе по поводу того, что с исследованиями что-то не в порядке. Снижается не только количество новых открытий, но и полученные результаты становятся менее надежными из-за комбинации различных механизмов.

Одним из показателей научного прогресса является соотношение количества статей, публикуемых в научных журналах, и количества ретракций, то есть отзывов статей по инициативе автора или редакции. Еженедельно выходят десятки тысяч научных статей, из которых отзывается лишь небольшая часть, но даже это меньшинство вызывает глубокую озабоченность у научного сообщества(7). Проведенное в 2011 году исследование показало, что за предыдущее десятилетие количество отзывов статей увеличилось в десять раз, и это открытие пробудило интерес к дальнейшему изучению данной проблемы, чтобы выяснить причины такого роста(8). Результаты поразили: обнаружилась устойчивая корреляция между индексом ретракции журнала (процентом отозванных статей) и его импакт-фактором (численным показателем цитируемости журнала); то есть статьи, опубликованные в журналах с более высоким рейтингом, отзывались значительно чаще статей, опубликованных в менее авторитетных журналах.

Дальнейшее исследование показало, что более двух третей отзывов статей в медико-биологической сфере произошло из-за нарушений и неэтичного поведения со стороны исследователей, а не из-за ошибок в тексте публикации. Авторы отмечают, что полученные данные могут быть весьма заниженными, так как о случаях мошенничества в науке часто умалчивают(9). Ярким тому подтверждением служит опрос, согласно которому только 2 процента ученых признались в том, что фальсифицировали данные, при этом 14 процентов утверждали, что знали о таких случаях среди коллег(10). Более того, увеличилось процентное соотношение статей, нарушающих научную этику, ко всем отозванным статьям(11). Многих ученых это шокировало, поскольку отзыв статьи считался проявлением добросовестности автора, поправляющего закравшуюся ошибку. Что еще хуже, невозможность отозвать все заслуживающие этого статьи портит научный климат в целом, отчего в дальнейшем наука все дальше уходит от того, какой должна быть.

Известно о нескольких случаях мошенничества, которое долгое время совершали крупные ученые. В конце 1990-х годов Хван У Сок, биотехнолог из Южной Кореи, стал известен как «гордость Кореи» за свои научные заслуги. Он был одним из первых в мире, кому удалось клонировать коров и свиней. Несмотря на то, что Хван У Сок так и не представил научно достоверных, верифицируемых данных, он часто фотографировался с известными людьми, например с политиками, и стал предметом гордости Южной Кореи, подняв самооценку целой нации. Мир радостно принял новость об успехе Хван У Сока в клонировании эмбриональных стволовых клеток человека, что ранее считалось невозможным. А позднее, в 2004 году, его обвинили в том, что он вынуждал работавших с ним исследователей становиться донорами клеток. Тем не менее, эти обвинения не помешали журналу Time назвать его одним из людей года. В заметке говорилось, что он «уже доказал, что клонирование человека не научная фантастика, а свершившийся факт»(12). Последовавшим расследованиям этики открыто мешали политики, патриотически настроенные газеты и даже местные активисты, а больше тысячи женщин выразили готовность стать донорами яйцеклеток во благо науки. Однако в 2006 году стало известно, что Хван У Сок полностью подделал свое исследование. Публикации были отозваны, а сам он приговорен к двум годам тюрьмы условно.

В 2011 году Дидерик Стапел, декан Школы социальных и поведенческих наук Тилбургского университета, был вынужден уйти в отставку, после того как выяснилось, что он сфабриковал результаты почти всех своих исследований, а также работ своих студентов. Как и Хван, у себя на родине Стапел был настоящей знаменитостью, и голландцы гордились его публикациями. Например, в 2011 году он опубликовал работу, в которой исследовал центральный вокзал города Утрехт и обнаружил, что люди чаще проявляли расизм, если вокруг было грязно. В другой работе он заявлял, что мясная диета делала людей эгоистичнее и асоциальнее(13). Оба исследования основывались на выдуманных данных. Когда мошенничество было раскрыто, Стапел попытался оправдать свои поступки страхом неудачи и давлением академической среды, из-за которых ученые вынуждены публиковаться часто и при этом делать важные открытия, просто чтобы сохранить свой статус.

Случаи с Хваном и Стапелом, хотя и представляют собой исключения, наглядно показывают, почему статьи чаще отзываются из серьезных и авторитетных научных журналов – ученые делают громкие заявления, находясь под сильным давлением научного сообщества и общества в целом. Раскрыть мошенничество помогает серия связанных, системных факторов: растущая открытость научной деятельности, применение технологий к анализу научных публикаций, повышающийся интерес и даже азарт ученых, в особенности молодых, перепроверить или оспорить полученные результаты.

По мере того как все больше научных публикаций становятся доступными все более широкому кругу читателей, потому что находятся в открытом доступе или распространяются в цифровом формате, эти работы подвергаются особо пристальному штудированию, которое не всегда исходит от людей. Университеты и частные компании разработали ряд программ, которые автоматически сравнивают научные статьи с теми, что уже выложены в огромные базы опубликованных работ, и выявляют некорректные заимствования и плагиат. Студенты же, чтобы обойти систему, придумали «контрмеры», например синонимизацию текста, при которой в оригинальном тексте все возможные слова заменяются на синонимы, что вводит в заблуждение проверяющий алгоритм. Идет «гонка вооружений» между авторами и машинами, и сегодня наиболее продвинутые алгоритмы по выявлению плагиата уже задействуют нейросети для поиска в тексте нехарактерных слов и фраз, которые могут свидетельствовать о недобросовестности писавшего. Но ни плагиата, ни явного мошенничества недостаточно, чтобы объяснить более серьезный кризис в науке – воспроизводимость.

Воспроизводимость – это краеугольный камень научной методологии, который подразумевает, что независимые исследователи могут точно повторить проведенное исследование и получить те же результаты. На практике эксперименты повторяют крайне редко, и даже в этом случае результаты редко совпадают с заявленными. В Центре открытой науки Университета Виргинии с 2011 года действует инициатива «Воспроизведение», в рамках которой были воссозданы условия для повторения пяти ключевых исследований в области раковых заболеваний. Целью проекта было получение результатов, соответствующих результатам исходных экспериментов, каждый из которых цитировался тысячи раз, что, казалось, должно было обеспечить их воспроизводимость. Однако в результате, несмотря на тщательную реконструкцию условий и особенностей проведения, удалось повторить результаты только двух из пяти экспериментов – два эксперимента дали неоднозначные результаты, а один и вовсе провалился. Проблема воспроизводимости не ограничивается областью медицины: в исследовании, проведенном журналом Nature среди представителей самых разных наук, выяснилось, что 70 процентам ученых, повторявших эксперименты других исследователей, не удалось получить изначальные результаты(14). Во всех областях – от медицины до психологии, от биологии до наук об окружающей среде, – исследователи приходят к пониманию того, что, возможно, ошибки кроются в самом основании их научных изысканий.

Причины научного кризиса различны и, как в случае с научной недобросовестностью, которая представляет собой часть большой проблемы, нередко кроются в растущей прозрачности исследований и возможностей пересмотра научных достижений. Иные проблемы носят более системный характер: от давления на ученых, вынуждающего их много публиковаться, а значит, представлять в выгодном свете «сырые», спорные результаты, умалчивая о выявленных противоречиях; до самих инструментов получения научных результатов.

Наиболее противоречивая из применяемых практик – техника «просеивания» данных, или по-английски «p-hacking», где p — значение, при котором полученные экспериментальным путем результаты могут считаться статистически значимыми. Возможность подсчитать значение p сделало его общепринятым показателем научной строгости при проведении экспериментов. При p меньше 0,05 вероятность того, что корреляция случайна или ошибочна, составляет менее 5 процентов, и во многих науках эта цифра принята в качестве порогового показателя успешности гипотезы. К сожалению, следствием такой договоренности стало то, что значение p менее 0,05 превратилось из мерила в основную цель. Исследователи, когда перед ними ставится конкретная задача, могут произвольно отсортировывать большие объемы данных так, чтобы доказать любую интересующую гипотезу.

Чтобы продемонстрировать, как работает просеивание данных, предположим, что зеленые игральные кости (в отличие от всех остальных игральных костей) имеют смещенный центр тяжести. Возьмем десять зеленых костей и бросим каждую из них по сто раз. Из тысячи бросков 183 раза выпадало «шесть». Если бы кости не были мечеными, то «шесть» должно было бы выпадать при каждом шестом броске, то есть 167 раз. Что-то здесь нечисто. Чтобы определить состоятельность эксперимента, нужно подсчитать, чему равно p. Хотя значение p не имеет никакого отношения к рассматриваемой гипотезе, p – это всего лишь вероятность, с которой случайным образом может 183 раза выпасть «шесть». Для тысячи бросков эта вероятность составляет всего четыре процента, следовательно, p = 0,04, а значит, мы экспериментальным путем получили результат, который во многих научных сообществах считается приемлемым для публикации(15).

Разве не должен такой смехотворный процесс считаться крайним упрощением? Должен, но он всех устраивает. Значение p легко подсчитать и понять, следовательно, все больше научных журналов используют его в качестве условного критерия, чтобы отсеять наиболее достоверные из тысяч поступивших на рассмотрение статей. Более того, «просеивание» зависит не только от этих случайных результатов. Сами исследователи могут прочесывать огромные объемы данных в поисках нужных им результатов. Допустим, помимо десяти зеленых костей, мы бросали еще и десять синих, десять желтых, десять красных и так далее. Я мог бы бросить кости пятидесяти разных цветов, и для большинства из них результаты были бы приближены к статистически усредненным. Но чем больше совершено бросков, тем выше вероятность получить аномальный результат, вот его-то можно опубликовать. Такая практика и дала название методу «просеивания», проявившему себя с особенно плохой стороны в общественных науках, в которых исследователи стремительно получили доступ к колоссальным объемам информации, поставляемой социальными сетями и другими источниками поведенческих данных. Однако вездесущее «просеивание» характерно не только для социальных наук.

Согласно проведенному в 2015 году масштабному анализу 100 000 научных работ, находящихся в открытом доступе, метод просеивания присутствовал в самых разных дисциплинах(16). В ходе анализа рассматривались все показатели p в каждой из работ, и было обнаружено, что в большинстве случаев значение p лишь немного недотягивало до границы в 0,05, что, вероятно, свидетельствует о том, что многие исследователи «подгоняли» результаты экспериментов, наборы данных или статистические методы, чтобы получить результат в пределах допустимых значений. Именно это побудило редакторов PLOS ONE, одного из ведущих медицинских научных журналов, опубликовать редакционную статью «Почему большинство опубликованных результатов исследований неверны», в которой они раскритиковали применяемые статистические методы(17).

Необходимо подчеркнуть, что просеивание данных само по себе не является мошенничеством. Даже если с результатами что-то не в порядке, беспокойство вызывает не намеренная подмена данных, а тот факт, что это может происходить бессознательно под давлением институтов, из-за низких стандартов принятия работ к публикации и самого объема данных, доступных ученым. Научное сообщество встревожено сочетанием растущего числа отзывов статей, невозможности воспроизвести эксперименты, внутренней сложности научного анализа и распространения материалов, и уже одна эта тревога губительна, так как наука строится на доверии между исследователями и доверии общественности. Любое снижение доверия плохо отразится на будущем научных исследований, независимо от того, вызвано ли оно недобросовестностью нескольких «паршивых овец» или совокупными действиями множества самых разных акторов, притом что во втором случае установить большинство причин невозможно.

Некоторые ученые предрекали кризис контроля качества в науке еще несколько десятилетий назад, многие из них связывали возможное наступление кризиса с резким ростом объема данных и исследований. В 1960-е годы Дерек де Солла Прайс, изучавший плотные Сети, образованные связанными между собой работами, учеными и областями научного поиска, нарисовал кривую научного роста. Использованные им данные отражали широкий круг факторов от материального производства до энергии ускорителей частиц, от основания университетов до открытия новых элементов. Как и по закону Мура, в целом развитие идет вверх и вправо. Де Соллу Прайса тревожило то, что если методы научного воспроизводства не претерпят существенных изменений, то наука насытится, не сможет усваивать доступные объемы информации и совершать осмысленные действия, начнет распадаться и впадет в «маразм»(18). Спойлер: научные методы так и не изменились.

В последнее время эти опасения нашли отражение в концепции «информационного переполнения»(19). По-простому, переполнение противоположно нехватке, это бесконечный поток информации. Более того, в отличие от изобилия этот поток настолько избыточен, что мы не справляемся с его обработкой. В исследованиях экономики «переполнение» касается того, как люди расставляют приоритеты, если у них слишком мало времени, а информации слишком много. Как отмечали авторы одного из исследований, переполнение «напоминает разбор завалов или мусорной свалки»(20).

Переполнение присутствует во многих областях, и когда оно становится заметным, разрабатываются стратегии по его преодолению. Традиционно роль сортировщиков, отбирающих материалы для публикации, выполняют журналисты и редакторы, которые, как подразумевается, являются опытными специалистами, несут определенную ответственность и обладают достаточной властью. В науке переполнение проявляется в быстром росте числа журналов и статей, заявок на гранты и замещение академических должностей, объема доступной информации и исследований. Растет даже средний объем статей, поскольку исследователи перегружают свои научные работы множеством ссылок, чтобы охватить обилие данных и подкрепить полученные результаты, которые просто обязаны быть впечатляющими. В итоге теряется контроль качества: даже золотой стандарт взаимного рецензирования уже не считается достаточно объективным или отвечающим цели, так как количество статей растет, а институты увязли в гонке авторитетов. Все громче становятся призывы сделать научные публикации открытыми и доступными, что, в свою очередь, может привести к тому, что появится еще больше научных исследований(21).

Но что, если проблема переполнения не ограничивается результатами научной деятельности, а касается, в том числе, исходной информации? Как опасался де Солла Прайс, наука не поменяла намеченной траектории и продолжила составлять все более обширные и сложные базы данных. Когда в 1990 году был запущен проект по расшифровке генома человека, он считался самым большим в истории по сбору данных. Теперь же резкое снижение стоимости секвенирования ДНК привело к тому, что ежегодно появляются огромные объемы новой информации. Эти данные все быстрее растут и все шире распространяются, так что их полноценное изучение не представляется возможным(22). Большой адронный коллайдер производит слишком много данных, чтобы их даже просто сохранить, следовательно, оставляется только избранная информация. После того, как был открыт бозон Хиггса, проект критиковали за то, что вся собранная за время проекта информация оказалась больше ни на что не годной(23). Любая наука становится наукой больших данных.

Понимание этого возвращает нас к закону Мура и закону Рума. Несмотря на развитие исследовательских институтов, научных журналов и академических должностей (а также на огромные деньги, вложенные в решение проблемы), на практике результаты только ухудшаются. В 1980-е и 90-е годы комбинаторная химия в 800 раз увеличила скорость, с которой возможно синтезировать молекулы, подобные молекулам лекарств. Секвенирование ДНК ускорилось в миллиард раз по сравнению с тем, как оно проходило изначально. Базы данных последовательностей белков за двадцать пять лет выросли в 300 раз. И хотя стоимость поиска новых лекарств упала, а финансирование исследований увеличивается, количество открытий в сфере фармацевтики падает в геометрической прогрессии.

Что могло обратить закон постоянного прогресса? На этот счет существует несколько гипотез. Первая, которую принято считать наименее значимой, гласит, что все легкодоступные открытия уже сделаны, все приметные и очевидные предметы уже изучены. Только дело не в этом. Есть новые вещества, которые появились в поле зрения науки всего несколько десятилетий назад и еще не были исследованы, а их изучение могло бы расширить область научных изысканий.

Существует проблема «лучше некуда» или «лучше, чем The Beatles»: хотя новые лекарства могли бы появиться, уже существующие справляются со своими задачами так хорошо, что фактически препятствуют дальнейшим исследованиям. Действительно, зачем создавать новую группу, если The Beatles все стоˊящее уже написали? Это вариация на тему легкодоступных открытий, но с одним важным отличием. Если первая гипотеза предполагает, что больше не осталось «легкой добычи», то согласно второй – каждая достигнутая цель снижает ценность еще недостигнутой цели. Для большинства отраслей дело обстоит наоборот: относительно дешевый процесс открытой добычи или сжигания угля делает более ценным то, что осталось в недрах, следовательно, привлекает финансирование на разработку залежей. В фармацевтике, напротив, попытка превзойти существующие дженерики только повышает стоимость клинических испытаний, и становится все труднее убедить врачей выписывать новые препараты, поскольку они уже знакомы со старыми.

Прочие проблемы разработки новых лекарств более системные и менее понятные. Некоторые считают, что бездумные траты фармацевтических компаний, опьяненных законом Мура, привели в действие закон Рума. Но большинство исследовательских институтов, как и в других отраслях, вложили свои средства в новейшие технологии и методы. Если это не решило проблему, значит, дело в чем-то еще.

Теория «осторожного регулятора», учитывающая более долгосрочную перспективу, видит проблему в том, что общество все менее терпимо к рискованным клиническим исходам. С 1950-х годов, времен золотого века открытия лекарств, количество нормативных актов, регулирующих испытания и выпуск препаратов, увеличилось, и небезосновательно. В прошлом клинические испытания часто сопровождались сильнейшими побочными эффектами, и когда на рынок поступали плохо протестированные лекарства, происходило ужасное. Лучшим – или, вернее, наихудшим – примером этого является препарат талидомид, разработанный в 1950-х годах для лечения тревожности и тошноты, но, как выяснилось, оказавший ужасающие последствия на младенцев, чьим матерям его прописывали для борьбы с утренним недомоганием. Впоследствии правила в отношении лекарств были ужесточены, что сделало клинические испытания более строгими и на самом деле улучшило результаты. Согласно принятой в США в 1962 году поправке в отношении эффективности лекарственных средств, необходимо было доказать, что новые лекарства не только безопасны, но и действенны, то есть оказывают заявленный производителем эффект, – ранее законом это не регламентировалось. Мало кто из нас поддержит возврат к более рискованным препаратам ради того, чтобы отменить закон Рума, особенно если в случае необходимости могут быть сделаны исключения, как произошло с некоторыми препаратами против ВИЧ в 1980-х годах.

Последнюю проблему, связанную с исследованиями лекарств, специалисты считают самой значительной, и она беспокоит нас больше всего. Фармакологи называют ее предвзятостью «фундаментальных исследований и грубой силы», но мы можем сформулировать ее как проблему автоматизации. Исторически сложилось так, что процесс открытия новых лекарств был прерогативой небольших коллективов исследователей, интенсивно занимавшихся ограниченными группами молекул. Когда интересное соединение идентифицировалось в природных материалах, из библиотек синтезированных химических веществ или в результате случайного открытия, его активный ингредиент выделялся и подвергался проверке на биологических клетках или организмах, чтобы оценить терапевтический эффект. В течение последних двадцати лет этот процесс был автоматизирован, в результате чего появилась технология, известная как скрининг высокой производительности. Высокопроизводительный скрининг – это переход открытия лекарств на промышленные рельсы за счет обширного автоматизированного поиска потенциальных реакций в огромных библиотеках соединений.

Современная лаборатория не похожа на то, как мы привыкли о ней думать: преимущественно мужчины в белых халатах возятся с пробирками пузырящейся жидкости. Чтобы получить более точную картину, нужно представить нечто среднее между современным автомобильным заводом со всеми его конвейерными лентами и манипуляторами и центром обработки данных с характерными стеллажами оборудования, вентиляторами и средствами мониторинга. Высокопроизводительный скрининг ставит во главу угла объем, а не глубину: обширные библиотеки химических соединений загружаются в машины и тестируются в различных сочетаниях. Этот процесс, при котором почти одновременно тестируются тысячи комбинаций, подрывает привычный уклад химических исследований и в то же время показывает почти непостижимые горизонты исследований и невозможность моделирования всех потенциальных взаимодействий.

Конечно, исследователи в курсе экономического давления из-за существующих открытий и более строгих законов, но именно в лабораториях эти запутанные проблемы накладываются на безудержное технологическое давление новых изобретений. Богатые фармацевтические компании не в силах сопротивляться непреодолимому желанию отдать решение своих проблем на откуп самым новым и эффективным технологиям. Как говорится в одном отчете, «автоматизация, систематизация и измерение процессов сработали в других отраслях. Зачем группе химиков и биологов неизвестно сколько времени ковыряться методом проб и ошибок, когда можно быстро и эффективно проверять миллионы вариантов, сравнивать с найденными генами, а затем просто повторять тот же производственный процесс для каждой следующей цели?»(24)

С другой стороны, именно в лаборатории ограничения такого подхода становятся совершенно очевидными. Высокопроизводительный скрининг ускорил, а не ослабил действие закона Рума. И некоторые начинают подозревать, что осуществляемый людьми хаотичный эмпирический поиск на самом деле может быть более, а не менее эффективным, чем машинные вычисления. Возможно, закон Рума упорядочил и подтвердил данными то, что многие ведущие ученые говорили уже в течение некоторого времени.

В 1974 году, выступая перед Комитетом по науке и астронавтике США, австрийский биохимик Эрвин Чаргафф посетовал: «Теперь, когда я прохожу по лаборатории… там все сидят перед одними и теми же высокоскоростными центрифугами или сцинтилляционными счетчиками, создавая одни и те же суперпозиционные графики. Почти не осталось места для немаловажной игры научного воображения»(25). Он также прояснил связь между чрезмерным доверием к автоматическим устройствам и вызвавшим его экономическим давлением: «Человек играющий уступил место серьезности корпоративных финансов». В результате, как сказал Чаргафф, «пелена однообразия заволокла ранее самую оживленную и самую привлекательную из всех научных профессий». Такие настроения вряд ли оригинальны, в целом, они повторяют критику технологического вмешательства в восприятие человека, будь то телевидение или видеоигры, с той разницей, что вычислительная фармакология создает эмпирический массив данных, свидетельствующих о ее собственной несостоятельности – машина на своем языке ведет хронику своей же неэффективности.

Чтобы ясно понять, чем это чревато, необходимо отказаться от однозначных оценок технологического прогресса и признать серые области мышления и понимания. Теперь, когда мы осознали, что полностью механический подход ошибочен, как нам снова вовлечь «человека играющего» в научные исследования? Один из ответов можно найти в другой лаборатории, в другом чудовищно сложном наборе экспериментального оборудования, которое собрано, чтобы раскрыть секреты ядерного синтеза.

Один из святых Граалей научных исследований, ядерный синтез, обещает почти безграничную чистую энергию, способную обеспечить функционирование целых городов и запустить космические ракеты всего на нескольких граммах топлива. Такую энергию заведомо трудно получить. Несмотря на то, что строительство экспериментальных реакторов началось в 1940-х годах и развитие этой научной области никогда не стояло на месте, ни один проект так и не произвел положительную чистую энергию, то есть не выработал большей мощности, чем требуется для запуска реакции термоядерного синтеза. Единственными рукотворными реакциями термоядерного синтеза, которым когда-либо удалось произвести больше энергии, чем было затрачено на их запуск, была серия термоядерных испытаний «Операция Касл» на Маршалловых островах в 1950-х годах. Последующее предложение генерировать энергию путем взрыва водородных бомб в пещерах глубоко под землей на юго-западе Америки было отвергнуто, когда выяснилось, что создание достаточного количества бомб для непрерывной генерации энергии обойдется слишком дорого.

Реакции термоядерного синтеза, происходящие в плазме перегретых газов, аналогичны реакциям, которые производят энергию и тяжелые элементы в звездах, поэтому энтузиасты термоядерного синтеза в шутку называют его «звездой в банке». При экстремальных температурах атомные ядра могут объединяться в более тяжелые; если используются правильные материалы, реакция будет экзотермической, то есть высвобождающей энергию, которую затем можно уловить и использовать для выработки электричества. Вот только сдерживать перегретую плазму чрезвычайно проблематично. Обычно в современных реакторах с помощью мощных магнитных полей или лазеров из плазмы формируется стабильное кольцо в форме пончика, так называемый тор плазмы, но необходимые для этого расчеты чрезвычайно сложны и взаимообусловлены. На стабильность плазмы влияет множество факторов: форма защитного сосуда; используемые материалы; состав топлива; время действия, сила и углы магнитов и лазеров; давление газов; электрическое напряжение. На момент написания этой книги максимальное время непрерывной работы термоядерного реактора составляло двадцать девять часов и было зафиксировано в токамаке, реакторе «пончикового» типа, в 2015 году, но для поддержания этой реакции требовалось огромное количество энергии. Другой многообещающий метод, известный как обращенная магнитная конфигурация, создает цилиндрическое плазменное поле и требует гораздо более низких энергетических затрат, однако его максимальное время работы составляло всего одиннадцать миллисекунд.

Это достижение принадлежит частной исследовательской компании Tri Alpha Energy из Калифорнии. Тороидальный реактор Tri Alpha запускает два «дымовых кольца» плазмы друг в друга со скоростью миллион километров в час, создавая сигарообразное поле до трех метров длиной и до сорока сантиметров в поперечнике(26). В этом реакторе в отличие от большинства установок используется бороводородная, а не дейтерий-тритиевая смесь. Хотя бор значительно сложнее воспламенить, его запасы на Земле не идут ни в какое сравнение со скудными запасами трития. В 2014 году Tri Alpha объявила, что добилась реакции продолжительностью до пяти миллисекунд, а в 2015 году заявила, что эти реакции могут быть устойчивыми.

Следующая задача – улучшить полученные результаты, что все труднее сделать по мере увеличения температуры и мощности. В начале каждого эксперимента можно установить несколько контрольных и входных параметров, таких как сила магнита и давление газа, но реакция может отклониться от заданных установок: по ходу эксперимента условия внутри корпуса реактора меняются, и требуется постоянная моментальная перенастройка. Это означает, что проблема точной настройки является одновременно нелинейной и сопряженной – колебание одной переменной может привести к неожиданным результатам или изменить влияние других входных данных. Нельзя решить проблему простым перебором переменных и изучением возможных изменений в случае колебания каждой из них. Скорее существует многомерный ландшафт возможных условий, который необходимо изучить путем непрерывного исследования.

На первый взгляд, ситуация похожа на идеальные условия для используемого в фармакологии метода перебора возможных вариантов: поочередно рассматривая переменные из огромного набора настроек и отмечая пики и спады результатов экспериментов, алгоритмы постепенно выстраивают сложную карту «местности».

К сожалению, простым перебором поставленную задачу не решить. Проблема усложняется тем фактом, что для плазмы не существует критериев качества, то есть нет простого показателя, который дает алгоритму понять, какие из результатов экспериментального тестирования считать лучшими. Чтобы ранжировать успешность разных вариантов, требуется более разностороннее человеческое суждение о процессе. Более того, масштабы неполадок, смоделированных в чашке Петри, ограниченны, а внутри термоядерного реактора, где мегаватты энергии перегревают сжатые газы до миллиардов градусов, остро стоит вопрос о возможном повреждении дорогостоящего и уникального оборудования, а границы безопасной эксплуатации до конца не изучены. Чтобы чрезмерно усердный алгоритм не предложил набор входных данных, которые могут вывести машину из строя, нужен контроль со стороны человека.

В ответ на эту проблему Tri Alpha и специалисты по машинному обучению из Google придумали так называемый «алгоритм оптометриста», или «алгоритм подбора очков»(27). Алгоритм действует по тому же принципу выбора «либо-либо», представленного пациенту во время проверки зрения: что лучше – вариант один или вариант два? В проведенных Tri Alpha экспериментах тысячи возможных настроек сократили до тридцати или около того мета-параметров, которые легче понять человеку. Во время экспериментальных прогонов каждые восемь минут происходит выстрел плазмы, после которого алгоритм немного меняет настройки и делает очередной запуск. Оператор-человек сравнивает новые результаты с результатами лучшего из предыдущих выстрелов и решает, какой из них взять за основу для последующих испытаний. Таким образом, алгоритм оптометриста сочетает в себе человеческие знания и интуицию со способностью ориентироваться в многомерном пространстве решений.

Алгоритм был впервые применен Tri Alpha в эксперименте по увеличению стабильности плазмы и, следовательно, продолжительности реакции. Исследуя пространство возможных параметров, оператор-человек заметил, что в некоторых экспериментах полная энергия плазмы на короткое время внезапно увеличивалась. Эта аномалия не учитывалась автоматизированным алгоритмом, но могла бы повысить устойчивость реакции, поэтому оператор изменил настройки, чем смог продлить эксперимент и увеличить его общую энергию. Введение незапланированных параметров заложило основу совершенно нового типа испытаний, при которых лучше учитывалась непредсказуемость научных исследований.

Проводя новые эксперименты, исследователи осознали двойные преимущества сочетания человеческого и машинного интеллекта: ученые преуспели в том, чтобы интуитивно выбирать лучшие из сложных результатов, а машина подталкивала их к исследованию большего диапазона возможных входных данных, даже самых экстремальных, которые люди обычно склонны игнорировать. В конечном счете подход оптометриста к случайной выборке в сочетании с интерпретацией, выполненной человеком, может быть применен в науке к широкому кругу проблем, которые требуют понимания и оптимизации сложных систем.

Алгоритм оптометриста особенно интересен тем, что пытается примирить непрозрачность операции по решению сложных вычислительных задач с человеческими потребностями и желаниями. С одной стороны, эта проблема настолько изощренно сложна, что человеческий разум не может ее полностью постичь, но при этом компьютер способен целостно ее воспринимать и совершать все необходимые операции. С другой стороны, очевидна необходимость привнести в решение сложных проблем сугубо человеческое осознание их многозначности, непредсказуемости и парадоксальности. Это осознание само по себе парадоксально, потому что слишком часто превышает нашу способность сознательно его выразить.

Исследователи Tri Alpha называют свой подход «попыткой оптимизировать скрытую полезную модель, которую специалисты-люди, возможно, не смогут выразить явно». Они имеют в виду, что в сложности их проблемного пространства есть определенный порядок, но этот порядок превышает человеческие способности описать его. Многомерные пространства конструкции термоядерного реактора – и закодированные представления нейронных сетей, которые мы исследуем в следующей главе, – несомненно, существуют, только их невозможно визуализировать. Хотя эти технологии открывают возможность эффективной работы с такими неописуемыми системами, они также требуют от нас признания того, что эти системы вообще существуют – и не только в области фармакологических и физических наук, но и в вопросах морали и справедливости. Требуется четкое осмысление того, что значит постоянно жить среди сложных и взаимосвязанных систем в состоянии непреодолимого сомнения и неуверенности.

Признание неописуемого, иными словами, признание того, что способность человеческого разума к концептуализации имеет пределы, – один из аспектов новой Темной эры. Но не все проблемы в науке можно преодолеть даже с помощью вычислений, какими бы привлекательными они ни были. По мере усложнения решений все более сложных проблем мы рискуем упустить из виду еще более серьезные системные проблемы. Подобно тому, как ускоряющийся по закону Мура прогресс пустил развитие вычислений по определенному пути, предполагающему конкретную архитектуру и оборудование, так и выбор этих инструментов четко обуславливает не только то, как мы подойдем к проблемам, с которыми нам предстоит столкнуться, но и то, что мы о них подумаем.

Наше представление о мире формируется с помощью имеющихся в нашем распоряжении инструментов. Как сказали в 1994 году историки науки Альберт ван Хелден и Томас Ханкинс: «Поскольку инструменты определяют, что можно сделать, они также в некоторой степени определяют, о чем можно думать»(28). Эти инструменты включают в себя всю социально-политическую основу, поддерживающую научные исследования: от государственного финансирования, академических институтов и журналистики до создания технологий и программного обеспечения, обеспечивающих беспрецедентную экономическую мощь и эксклюзивные знания Кремниевой долины и связанных с ней компаний. Имеет место и более глубокое когнитивное давление: вера в единственно верный, незыблемый ответ, который дают бесстрастные машины, независимо от участия человека. По мере того, как наука становится все более технологизированной, то же самое происходит во всех сферах человеческой мысли и деятельности, постепенно раскрывая степень неизвестного и недоступного человеку, даже если осознание своей ограниченности открывает перед нами новые возможности.

Тот же строгий научный метод, который в одном из своих проявлений приводит нас к закону Рума, согласно которому со временем результативность чего угодно снижается, в другом – помогает нам увидеть и решить эту самую проблему. Огромные объемы данных необходимы, чтобы увидеть проблемы, связанные с огромными объемами данных. Важно то, как мы реагируем на доказательства, лежащие прямо перед нами.

Глава 5

Сложность

Зимой 2014/15 года я несколько раз путешествовал по Юго-Восточной Англии в поисках невидимого: осматривал окрестности, выискивая скрытые системы; хотел увидеть места, где огромные сети цифровых технологий обретают телесность и облекаются в сталь и проволоку; места, где они становятся инфраструктурой. Иначе говоря, я был занят психогеографией – хотя этим термином в наши дни часто злоупотребляют, он все еще полезен из-за того, что делает акцент на скрытых внутренних состояниях, которые могут быть обнаружены внешним исследованием.

В 1955 году философ-ситуационист Ги Дебор так определил психогеографию: это изучение «специфического воздействия географической и территориальной среды (независимо от того, организована ли последняя сознательным образом) на эмоции и поведение отдельных индивидов»(1). Ги Дебора интересовала растущая зрелищность повседневной жизни и то, как наша жизнь все больше определяется коммодификацией, то есть превращением всего в товар, и посредничеством. Повседневные вещи в «обществах спектакля» почти всегда замещают какую-то более глубокую реальность, о которой мы даже не подозреваем, и отчуждение от этой более глубокой реальности снижает нашу свободу воли и качество жизни. Обращение к психогеографии в городской среде было одним из важнейших способов противодействия этому отчуждению, так как посредством наблюдения и взаимодействия люди вступали в прямой контакт с реальностью и получали неожиданный и убедительный опыт. Психогеография полезна и вне городского ландшафта, например, когда мы вместо того, чтобы искать признаки «спектакля», повсюду ищем следы виртуального мира и пытаемся выяснить, как на нас влияет сочетание реального и виртуального.

Таким образом, это своего рода психогеографический дрейф, как его называл Ги Дебор, но в условиях Сети: поиск отражения не собственной патологии наблюдателя, а глобального цифрового коллектива. В рамках проекта «The Nor» я предпринял несколько поездок, чтобы найти и нанести на карту эти цифровые сети(2), начиная с системы устройств видеонаблюдения. Лондон ими усеян. Каждую въезжающую в центр города машину фиксируют датчики и камеры контроля за зонами платного проезда и зонами пониженных выбросов; на остановках и станциях установлены системы наблюдения транспортной и столичной полиции; свои устройства есть и у других органов власти, а также у многих предприятий. За два дня прогулок я сфотографировал более тысячи камер, был задержан бдительными охранниками и получил предупреждение от полиции(3). Далее в книге мы еще вернемся к теме наблюдения и той странной атмосфере, которую оно создает. Я также исследовал электромагнитные сети, регулирующие воздушное пространство над Лондоном: каталогизировал установки всенаправленных азимутальных радиомаяков, которые можно найти в действующих и заброшенных еще со времен Второй мировой войны аэропортах, отыскать в лесах или за металлическими ограждениями. Именно эти радиомаяки направляют кружащие над планетой самолеты от точки к точке(4).

Последней из той серии путешествий была поездка на велосипеде. Я проехал почти 100 километров от Слау в Беркшире до самого центра Базилдона в Эссексе. В Слау, расположенном в сорока километрах к западу от Лондона, находится множество центров обработки данных, незаметных святилищ цифровой жизни и, в частности, дата-центр «Equinix LD4» – огромное неприметное хранилище, чья недавно построенная вычислительная инфраструктура занимает целый район. «LD4» — это виртуальный дом Лондонской фондовой биржи, и, несмотря на отсутствие каких-либо видимых указателей, именно здесь фактически обрабатывается большинство заказов, регистрируемых на бирже. А в конечном пункте моего маршрута, Базилдоне, находится еще один немаркированный объект цифровой инфраструктуры – 28 000 квадратных метров серверного пространства, которое можно опознать только по трепещущему на ветру британскому флагу и по тому факту, что, если слишком надолго перед ним задержаться, к вам подойдут с расспросами охранники. Это центр обработки данных «Euronext», европейский форпост Нью-Йоркской фондовой биржи, не менее таинственной и виртуальной.

Эти два объекта соединяет почти невидимая линия микроволновых передач: узкие пучки информации передаются от тарелки к тарелке и от башни к башне, неся невообразимо ценную финансовую информацию со скоростью, близкой к скорости света. Нанося на карту эти башни, центры обработки данных и другие связанные с ними объекты, мы можем получить представление не только о технологической реальности нашего века, но и о социальной реальности, которую она порождает.

Местонахождение обоих объектов оправдано виртуализацией денежных рынков. Когда большинство людей думают о бирже, они представляют себе огромный зал: десятки трейдеров кричат, сжимают в кулаках бумаги, совершают сделки и зарабатывают деньги. Однако за последние несколько десятилетий большинство торговых площадок по всему миру погрузились в тишину. Сначала их заменили обычные офисы; мужчины (почти всегда мужчины), стиснув в руках телефоны, разглядывают строчки на экранах компьютеров. Крик поднимается, только когда происходит что-то настолько ужасное, что в описании появляется название цвета, например «Черный понедельник» или «Серебряный четверг». Совсем недавно мужчин-трейдеров заменили компьютеры, которые торгуют автоматически, следуя фиксированным, но очень сложным стратегиям, разработанным банками и хедж-фондами. По мере того, как вычислительные мощности повышались, а Сети становились все быстрее и быстрее, скорость обменов увеличивалась, отчего торговля на финансовых рынках стала называться высокочастотной.

Высокочастотная торговля на фондовых рынках возникла в ответ на давление двух тесно связанных сил, которые на самом деле были результатом единого технологического сдвига. Этими силами были задержка и видимость. По мере дерегулирования фондовых бирж и их перехода в цифровой формат в 1980-х и 90-х годах, что на Лондонской фондовой бирже называли «большим взрывом», стало возможным торговать ценными бумагами все быстрее и на все больших расстояниях. Эти изменения привели к ряду неожиданных последствий. Прибыль уже давно получает тот, кто первым использует разницу между ценами на разных рынках. Основатель телеграфного агентства Reuters Пауль Рейтер, как известно, договорился, чтобы прибывающие из Америки суда выбрасывали за борт канистры с новостными сводками у ирландского побережья. Так информационные сообщения можно было молниеносно доставлять в Лондон, еще до того, как туда прибудет сам корабль, а современные цифровые коммуникации многократно ускорили процесс.

Финансовая информация теперь распространяется со скоростью света; но скорость света в разных местах отличается. Скорость передачи разнится, если информация идет через стекло или воздух, на нее влияют ограничения, поскольку оптоволоконные кабели связаны между собой, проходят через сложные коммутаторы, обходят естественные препятствия и пролегают по дну океанов. Больше других выигрывают те, у кого самая низкая задержка, то есть самое короткое время прохождения информации между двумя точками. Здесь на сцену выходят частные оптоволоконные линии и микроволновые башни. В 2009–2010-х годах одна компания потратила 300 миллионов долларов на строительство частной оптоволоконной линии между Чикагской товарной биржей и биржей NASDAQ, расположенной в районе Картерет в штате Нью-Джерси(5). Они перекрывали дороги, рыли траншеи, бурили горы – и делали все это втайне от конкурентов. Уменьшая физическое расстояние между локациями, компания Spread Networks сократила время, необходимое для передачи сообщения между двумя центрами обработки данных, с семнадцати до тринадцати миллисекунд, что привело к экономии около 75 миллионов долларов на миллисекунду.

В 2012 году компания McKay Brothers открыла второе выделенное соединение Нью-Йорк – Чикаго. В этот раз использовались микроволны, которые распространяются по воздуху быстрее, чем свет проходит через стекловолокно. Один из партнеров фирмы заявил, что «преимущество в одну миллисекунду эквивалентно дополнительным 100 миллионам долларов в год для крупной компании, занимающейся высокочастотной торговлей»(6). Новое соединение принесло им четыре дополнительные миллисекунды – огромное преимущество перед любым из конкурентов, многие из которых также воспользовались видимостью, еще одним последствием «большого взрыва» на фондовых биржах.

Переход в цифровой формат означал, что торги на фондовых биржах и между ними могут происходить все быстрее. Поскольку фактическая торговля перешла в руки машин, появилась возможность практически мгновенно реагировать на любое изменение цены или новое предложение. Но способность реагировать подразумевает как понимание происходящего, так и возможность купить «место за столом». Таким образом, как и во всем остальном, оцифровка сделала рынки одновременно более закрытыми для непосвященных и абсолютно прозрачными для знатоков. В данном случае знатоками можно считать тех, кто располагал финансами и опытом, чтобы идти в ногу со стремительными потоками информации: частные банки и хедж-фонды, нанимающие высокочастотных трейдеров. На рынок вышли алгоритмы, разработанные бывшими докторами физических наук для использования преимуществ доступа в миллисекунды, и трейдеры дали им такие названия, как «Ниндзя», «Снайпер» и «Клинок». Эти алгоритмы были способны миллионы раз в день выигрывать доли цента на каждой сделке. Даже если это замечали, в суматохе на рынках редко было ясно, кто на самом деле управляет алгоритмами; но сегодня дело обстоит иначе – основной тактикой стала скрытность, маскировка своего происхождения и намерений при одновременном захвате огромной части всей торгуемой стоимости. Результатом стала «гонка вооружений»: тот, кто мог создать самое быстрое программное обеспечение, уменьшить время ожидания подключения к биржам и лучше всего скрыть свою истинную цель, срывал банк.

Работа на биржах превратилась в паутину темных сделок и темных связей. Тьма проникла очень глубоко; сегодня многие трейдеры предпочитают торговать не на относительно хорошо регулируемых публичных биржах, а на так называемых темных пулах ликвидности, или даркпулах. Темные пулы – это частные площадки для торговли ценными бумагами, деривативами и другими финансовыми инструментами. В отчете Комиссии по ценным бумагам и биржам США за 2015 год подсчитано, что на торговлю на закрытых площадках приходится двадцать процентов всех сделок с акциями, которые также торгуются на публичных биржах, то есть эта цифра не учитывает многие другие популярные финансовые инструменты(7). Темные пулы позволяют трейдерам перемещать большие объемы акций, не привлекая внимания более широкого рынка, тем самым защищая свои сделки от других хищников. Впрочем, и в этих тенистых оазисах процветают конфликты интересов. Хотя изначально темные пулы позиционировались как места для безопасной торговли, впоследствии многих операторов теневых площадок привлекли к ответственности за то, что они работали с теми же высокочастотными трейдерами, сотрудничества с которыми их клиенты пытались избежать, и делали это либо для обеспечения ликвидности на рынке, либо для собственной выгоды. В том же отчете Комиссии по ценным бумагам и биржам за 2015 год под заголовком «Удручающий список нарушений» перечислено множество таких сделок. В 2016 году банки Barclays и Credit Suisse были оштрафованы на 154 миллиона долларов за тайное предоставление высокочастотным трейдерам, а также их собственным сотрудникам доступа к своему, предположительно, закрытому темному пулу(8). Поскольку пул темный, невозможно узнать, как много их клиенты, среди которых были крупнейшие пенсионные фонды, ответственные за пенсионные накопления обычных людей, потеряли из-за невидимых хищников(9). Участникам неведомо, что в темных пулах пропадают многолетние сбережения, средства к существованию и гарантии безбедного будущего.

Сочетание высокочастотной торговли и темных пулов – лишь один из способов сделать финансовые системы неясными и, следовательно, еще более неравноправными. Все, что рябью проходит по невидимым цифровым сетям, также отражается в физическом мире, и мы можем увидеть, как это неравенство проявляется в архитектуре и в окружающем нас ландшафте.

Микроволновые реле, поддерживающие невидимую связь между Слау и Базилдоном, паразитируют на существующей инфраструктуре: цепляются за здания, прячутся среди вышек мобильной телефонии и телевизионных антенн. Располагаются в разных районах Лондона: на осветительных установках на складе труб в Апминстере, в тренажерном зале «Gold's Gym» в Дагенхэме, на ветхих многоэтажках в Баркинге и Аптон-парке. Они осваивают старые инфраструктуры: центральное почтовое отделение в Слау, увешанное спутниковыми тарелками, сейчас превращается из сортировочного офиса в центр обработки данных. Микроволновые реле проникают в социальную архитектуру: размещаются на радиомачте пожарного депо в Хиллингдоне и крыше учебного центра для взрослых в Айвере. Именно в Хиллингдоне особенно очевиден резкий контраст между имущими и неимущими.

Больница Хиллингдон, серая многоэтажка, возведенная в 1960-х годах на месте старого работного дома Хиллингдона, находится к северу от линии Слау – Базилдон, в нескольких милях от аэропорта Хитроу. На момент открытия об этой больнице говорили как о самой инновационной в стране, а сегодня в ней действует экспериментальное «Отделение Бивена», где в специальных кабинетах изучают уровень комфорта пациентов и степень инфицирования. Несмотря на это, больницу Хиллингдона, как и многие другие больницы одной с ней политической и архитектурной эпохи, часто критикуют за обветшалые помещения, плохую гигиену, высокий уровень инфицирования, нехватку коек и отмену хирургических операций. В последнем отчете Комиссии по качеству обслуживания, которая курирует больницы в Англии и Уэльсе, выражается обеспокоенность по поводу нехватки персонала и безопасности пациентов и медицинских работников из-за отсутствия должного технического обслуживания старого здания(10).

В 1952 году основатель Национальной службы здравоохранения Англии Эньюрин Бивен, имя которого носит экспериментальное отделение больницы Хиллингдона, опубликовал работу «Вместо страха», в которой обосновал создание единой медицинской службы. «Национальная служба здравоохранения и государство всеобщего благосостояния стали использоваться как взаимозаменяемые термины, а в устах некоторых людей и то, и другое звучит как упрек, – писал он. – Почему это так, нетрудно понять, если смотреть на все с точки зрения строго индивидуалистического конкурентного общества. Бесплатное медицинское обслуживание – это чистый социализм и полная противоположность гедонизму капиталистического общества»(11).

В 2013 году Совет Хиллингдона одобрил заявку от компании Decyben SAS на размещение четырех полуметровых микроволновых тарелок и аппаратного шкафа на крыше здания больницы. Запрос, поданный в рамках закона о защите информации в 2017 году, показал, что за Decyben стоит компания McKay, которая установила скоростную микроволновую связь между Чикаго и Нью-Йорком(12). Кроме того, установочные лицензии были предоставлены канадскому поставщику высокочастотных широкополосных коммуникаций Vigilant Telecom и самой Лондонской фондовой бирже. Хиллингдонский Целевой фонд Национальной службы здравоохранения отказался публиковать подробности коммерческих договоренностей между ним и арендаторами из сферы информационных технологий, сославшись на коммерческие интересы. Такие исключения настолько распространены в законодательстве о защите информации, что во многих случаях делают его бессмысленным. Тем не менее, можно с уверенностью предположить, что какие бы деньги ни удалось получить Национальной службе здравоохранения от своих арендаторов, которые ежедневно «перегоняют» через крыши больниц многие миллиарды на невидимом фондовом рынке, эта сумма даже близко не покроет сложившийся к 2017 году дефицит в 700 миллионов фунтов стерлингов, необходимых для финансирования Национальной службы здравоохранения(13). В 1952 году Бивен также писал: «Мы могли бы выжить без менял и биржевых маклеров. Нам будет труднее обойтись без горняков, сталелитейщиков и тех, кто обрабатывает землю». Сегодня эти менялы и брокеры находятся на вершине самой инфраструктуры, над созданием которой трудился Бивен.

Во введении к книге «Flash Boys: высокочастотная революция на Уолл-стрит», изданной в 2014 году, финансовый журналист Майкл Льюис писал: «Мир цепляется за свое старое представление о фондовом рынке, потому что оно утешительно; нарисовать картину того, что пришло ему на смену, чрезвычайно сложно»(14). Новый мир придерживается наномасштаба: вспышки света в оптоволоконных кабелях и перевернутые биты твердотельных жестких дисков, которые большинство из нас едва могут себе представить. Извлечение стоимости на таком рынке подразумевает торговлю со скоростью, близкой к скорости света, с использованием наносекундных различий во времени получения информации, перемещающейся по земному шару. Льюис подробно описывает мир, в котором рынок превратился в классовую систему – площадку для тех, у кого есть огромные ресурсы, необходимые для доступа к ней, и совершенно невидимую для тех, кто такими ресурсами не располагает:

«Имущие получали деньги за выигранные наносекунды; неимущие и не подозревали, что наносекунда имеет ценность. Богатые наслаждались прекрасным видом на рынок; бедняки вообще не видели рынка. То, что когда-то было самым публичным, самым демократичным финансовым рынком в мире, по духу стало больше напоминать тайное любование украденным произведением искусства»(15).

В своей глубоко пессимистической работе о равенстве доходов «Капитал в XXI веке» французский экономист Тома Пикетти проанализировал увеличивающееся финансовое неравенство между меньшинством очень богатых людей и всеми остальными. В Соединенных Штатах в 2014 году 0,01 % самых богатых, к которым было причислено всего 16 000 семей, контролировали 11,2 % совокупного богатства – ситуация, сопоставимая с 1916 годом, временем наибольшего неравенства за всю историю наблюдений. На долю 0,1 % самых богатых людей сегодня приходится 22 % всего богатства – столько же, сколько и на 90 % беднейших слоев населения(16). А крупный экономический кризис 2008 года и последовавшая за ним рецессия только ускорили этот процесс: на самых богатых людей с 2009 по 2012 год приходилось 95 % роста доходов. Хотя ситуация в Европе не столь серьезна, как в Америке, там наблюдаются те же тенденции: концентрация накопленного богатства – в значительной степени полученного в наследство – приближается к уровню, не виданному с конца XIX века.

Это противоречит общепринятому представлению о прогрессе, согласно которому развитие общества неумолимо ведет к большему равенству. С 1950-х годов экономисты считали, что в странах с развитой экономикой экономический рост сокращает разрыв в доходах между богатыми и бедными. Эта гипотеза, известная как кривая Кузнеца, названа в честь своего создателя Саймона Кузнеца, лауреата Нобелевской премии по экономике. Согласно этой теории, экономическое неравенство по мере индустриализации общества сначала увеличивается, а затем уменьшается по мере того, как массовое образование выравнивает игровое поле и приводит к более широкому участию общества в политической жизни. Так было, по крайней мере, на Западе, на протяжении большей части XX века, но сегодня мы уже вышли из индустриальной эпохи, и, по словам Пикетти, любая вера в то, что технический прогресс приведет к «торжеству человеческого капитала над финансовым капиталом и недвижимостью, эффективных менеджеров над жирными акционерами, а навыки над кумовством, <…> это по большей части всего лишь иллюзия»(17).

На деле именно технологии являются фактором, определяющим неравенство во многих секторах. Неуклонный прогресс автоматизации – от кассовых автоматов в супермаркетах до алгоритмов на фондовых биржах, от заводских роботов до беспилотных автомобилей – все больше посягает на рабочие места во всех сферах и может привести к безработице. Те, чьи навыки устаревают из-за развития технологий, никак не защищены; не застрахованы даже те, кто программирует машины. Расширение возможностей машин угрожает все более широкому кругу профессий, а искусственный интеллект только ускоряет этот процесс. Таким образом, сам Интернет способствует неравенству, поскольку сетевые эффекты и глобальная доступность услуг создают рынок, где победитель получает все – от социальных сетей и поисковых систем до продуктовых магазинов и компаний такси. Если раньше правые обвиняли коммунизм в том, что придется покупать товары у единственного государственного поставщика, то на деле оказалось, что мы вынуждены покупать все на Amazon. И одна из причин усиления неравенства заключается в непрозрачности самих технологических систем.

В марте 2017 года Amazon приобрела компанию Quidsi, которая построила огромный бизнес за счет недорогих массовых продуктов, таких как детские товары и косметика. Они добились этого, внедрив автоматизацию и исключив человеческий труд на всех уровнях цепочки сбыта. Сердцем Quidsi является огромный склад в Голдсборо, штат Пенсильвания, а в центре склада – площадка 19 000 квадратных метров, отмеченная ярко-желтой краской и специальными знаками. Это пространство заполнено огромными двухметровыми глубокими стеллажами с товарами – в данном случае, подгузниками и другими предметами для ухода за детьми. Знаки расставлены, чтобы предупредить: людям запрещено входить в это пространство, потому что всеми товарами там оперируют роботы.

В выделенной зоне работают 260 ярко-оранжевых роботов, напоминающих таблетки весом в четверть тонны. Они вращаются и поднимаются, скользят под разными стеллажами и транспортируют их к краям зоны, где люди-сборщики добавляют или убирают коробки. Это роботы Kiva – складские автоматы, которые без устали перемещаются между товарами, считывая направляющие отметки на полу. Они берут на себя тяжелую работу и выполняют ее быстрее и точнее, чем люди, позволяя Quidsi, компании-владельцу крупнейшего магазина детских товаров Diapers.com, отправлять тысячи заказов каждый день с одного только этого склада.

Amazon в течение некоторого времени следила за тем, как Quidsi, которую они впоследствии купили, использует роботов. Kiva уже задолго до покупки работала над собственными формами автоматизации. В английском городе Рагли, внутри выкрашенного в голубой цвет склада Amazon размером с девять футбольных полей, построенного на месте старой шахты, сотни людей в оранжевой униформе толкают тележки по длинным проходам между стеллажами, заполняя их книгами и DVD-дисками, электроникой и другими товарами. Работники быстро перемещаются, следуя указаниям на портативном устройстве, которое постоянно прокладывает новые маршруты. Также оно отслеживает деятельность сотрудников, гарантируя, что они проходят достаточное расстояние – до двадцати четырех километров в день – и набирают достаточно предметов, чтобы работодатель мог каждые три минуты отправлять по полному грузовику с одного из восьми своих предприятий в Великобритании.

Работники Amazon не могут обойтись без портативных устройств, потому что в противном случае навигация по складу будет невозможна. Казалось бы, товары на складе должны храниться «по-человечески»: книги – здесь, DVD-диски – там, стеллажи с канцелярскими принадлежностями – слева и так далее. Но для рационального машинного интеллекта такое устройство совершенно неэффективно. Потребители не заказывают товары в алфавитном порядке или по типу; обычно они заполняют корзину товарами со всего магазина или, в данном случае, склада. В результате Amazon использует логистическую технику под названием «хаотическое хранение», правда, беспорядочно оно только с человеческой точки зрения. Располагая продукты по принципу удовлетворяемого запроса и ассоциации, а не по типу, можно выстроить гораздо более короткие маршруты между объектами на складе. Книги сложены на полках рядом с кастрюлями, телевизоры разместились по соседству с детскими игрушками. Подобно данным, хранящимся на жестком диске компьютера, товары распределяются по всему складскому пространству. На каждый предмет с помощью штрихкода нанесен его уникальный адрес, но без помощи компьютера найти что-либо нереально. Организация мира на основании машинной логики повышает эффективность вычислений, но делает его совершенно непонятным для людей. Более того, она приближает момент, когда машины и вовсе вытеснят людей.

Переносные устройства сотрудников Amazon обеспечивают не только логистику, но и слежение – они записывают каждое движение работников и ведут учет их эффективности. Через рабочих можно отслеживать экономическую эффективность: успевают ли они за машиной, как часто делают перерыв на туалет, опаздывают ли, когда приходят из дома или с обеда, мешает ли общение с коллегами постоянному движению. Им ничего не остается, как следовать инструкциям на экране, паковать и уносить. Они призваны действовать как роботы, притворяться машинами, поскольку человеческий труд по-прежнему стоˊит немного дешевле.

Сведеˊние рабочих к механизмам из крови и плоти, полезным только своей способностью двигаться и выполнять приказы, упрощает их наем, увольнение и злоупотребления со стороны работодателя. Рабочие покорно следуют указаниям мобильного терминала, закрепленного на запястье, и им даже не нужно понимать местный язык, им не нужно образование. Оба эти фактора, вместе с атомизацией, вызванной технологическим усовершенствованием, также препятствуют эффективной организации. Неважно, работаете ли вы сборщиком на складе Amazon, где вам нет покоя от постоянных указаний со сканера штрихкода, или по ночам выезжаете таксовать на личном авто, следуя проложенному навигатором маршруту от точки до точки, технологии фактически лишают вас возможности объединиться с коллегами, чтобы добиваться улучшения условий труда. Это не помешало компании Uber, например, требовать от водителей такси еженедельно слушать через специальное приложение подкасты, настраивающие их против профсоюзов(18).

Когда внутренняя организация автомобиля или склада настолько эффективна, последствия начинают ощущаться извне. В 1960-х и 70-х годах производители автомобилей в Японии создали систему, называемую производством точно в срок: материалы поступают на склад небольшими партиями по мере необходимости. При таком подходе сокращаются складские запасы и выравниваются денежные потоки, одновременно с этим оптимизируется и ускоряется производство. Но чтобы оставаться конкурентоспособными, поставщикам приходилось работать быстрее: на некоторых заводах система была выстроена так, что продукцию требовалось производить в течение двух часов после заказа. В результате огромное количество товаров хранилось как можно ближе к фабрикам в грузовиках, готовых выехать в любое время. Автомобильные компании просто переложили затраты на хранение и контроль складских запасов на поставщиков. Вдобавок вокруг заводов возникли целые новые города и зоны обслуживания, чтобы накормить и напоить водителей ожидающих грузовиков, что коренным образом изменило географию промышленных городов. Компании извлекли урок из этой практики и переложили последствия на отдельных людей, теперь расходы должны нести сотрудники, от которых требуется укротить свои физиологические потребности, чтобы соответствовать эффективности машины.

В начале 2017 года несколько информационных агентств опубликовали статьи о том, как водители Uber спят в своих машинах. Некоторые из них спали несколько часов между поздним закрытием бара и утренними часами пик; другим просто некуда было пойти. Когда компанию попросили прокомментировать ситуацию, представитель Uber ответил коротким заявлением: «В Uber люди сами решают, когда, куда и как долго ехать. Для нас главное, чтобы работа в Uber приносила удовольствие, независимо от того, как вы предпочтете работать»(19). Идея самостоятельного выбора является здесь ключевой, поскольку она предполагает, что у тех, кто работает в компании, он есть. Одна из водителей рассказала, как однажды в Лос-Анджелесе поздно ночью на нее напали трое пьяных клиентов, но она была вынуждена вернуться на работу, потому что арендовала машину у самого Uber и по договору была обязана осуществлять платежи. (Напавших на нее так и не задержали.)

Центр обработки и исполнения заказов Amazon в шотландском Данфермлине расположен на промышленной площадке в нескольких километрах от центра города, на стороне автомагистрали M90. Добраться можно на автобусе, но цена дневного билета доходит до 10 фунтов стерлингов – это больше, чем часовая заработная плата рабочего, чьи смены могут начинаться до рассвета или после полуночи. Некоторые рабочие спят в палатках в лесу рядом со складом, при этом зимой температуры регулярно опускаются ниже нуля(20). Только так они могли позволить себе вообще приходить на работу и не опаздывать, чтобы не терять заработную плату, поскольку системы слежения за складом автоматически фиксируют их перемещения.

Что бы вы ни думали об этичности действий руководителей Uber, Amazon и многих подобных компаний, лишь единицы из них создавали такие условия для сотрудников намеренно. И это не просто возвращение к американским «баронам-разбойникам» и другим промышленным тиранам XIX века. Дополните капиталистическую идеологию максимальной прибыли возможностью технологической непрозрачности – и обычная жадность облачится в нечеловеческую логику машины.

И Amazon, и Uber используют технологическую непрозрачность как оружие. За несколькими пикселями главной страницы Amazon скрывается труд тысяч эксплуатируемых рабочих. Каждый раз, когда нажимается кнопка «купить», электронные сигналы приводят в движение настоящего живого человека и отправляют по нужному маршруту, чтобы он наиболее эффективно выполнял свои обязанности. Сайт компании представляет собой устройство дистанционного управления людьми, но то, что за ним на самом деле происходит и что из этого следует, увидеть практически невозможно.

Эта эстетическая и технологическая замутненность порождает политические сложности и презрение ко всему корпоративному. В Uber преднамеренная двусмысленность начинается с пользовательского интерфейса и пронизывает всю работу компании. Чтобы убедить клиентов в том, что система более успешна, активна и мобильна, чем есть на самом деле, на карте иногда отображаются «машины-призраки»: несуществующие водители колесят по дорогам(21). Поездки отслеживаются без ведома пользователя, этот почти божественный всевидящий глаз используется, чтобы следить за особо важными клиентами(22). Программа Greyball позволяет отказывать в поездках тем государственным служащим, кто расследует многочисленные нарушения компании(23).

Впрочем, больше всего в работе Uber нас беспокоит то, что она усиливает социальную атомизацию и снижает субъектность, то есть разобщает людей и лишает их самостоятельности. На компанию работают не ее собственные сотрудники, а вреˊменные подрядчики. Вместо наработанного за годы практики личного, почти дружеского «знакомства» с лондонскими улицами, каким могли похвастать когда-то водители кебов, современные таксисты машинально следуют стрелкам на экране, ведомые далекими спутниками и невидимыми данными. Пользователи отчуждены еще больше. Вся система способствует тому, что прибыль утекает в офшоры, компании не платят налоги, система общественного транспорта приходит в упадок, усиливается классовое разделение, а на дорогах образуются вечные пробки. Конечная цель Uber, как и Amazon, да и вообще всех компаний, основанных на цифровых технологиях, – полностью заменить человеческий труд машинным. Uber работает над собственной программой беспилотных автомобилей, и когда одного из руководителей компании, отвечающего за продукцию, спросили о ее жизнеспособности в долгосрочной перспективе, если учитывать, насколько недовольны сотрудники, он ответил коротко: «Мы просто собираемся заменить их всех роботами». И то, что происходит с теми, кто работает на Amazon, в конечном итоге случится со всеми.

Корпорации оборачивают технологическую непрозрачность против широких слоев населения и против всей планеты. В сентябре 2015 года во время обычной проверки состава выхлопных газов новых автомобилей, продающихся в США, Агентство по охране окружающей среды обнаружило в приводе машин Volkswagen с дизельным двигателем скрытое программное обеспечение. Отслеживая скорость, работу двигателя, давление воздуха и даже положение руля, программа распознавала проверку и запускала особый, умеренный режим работы, при котором сокращались вредные выбросы. Когда же машина снова выезжала на дорогу, возвращались ее обычные показатели мощности и выбросов. По оценке Агентства по охране окружающей среды, разница тестовых и реальных показателей привела к тому, что сертификацию в США прошли автомобили, которые на самом деле производили в сорок раз больше закиси азота, чем было разрешено законодательством(24). В Европе по аналогичной схеме были проданы тысячи автомобилей. Подсчитано, что 1200 человек умрут на десять лет раньше, чем могли бы, из-за выбросов Volkswagen(25). Скрытые технологические процессы не просто угнетают и принижают рабочих, они в буквальном смысле убивают людей.

Технология наделяет властью и пониманием, но при неравномерном распределении она их также концентрирует. История автоматизации и вычисления, от бумагопрядильни до микропроцессора, это не просто история того, как умелые машины постепенно занимают место человека. Это еще и история о том, как власть оказалась сосредоточенной в руках немногих избранных, а знания – в их головах. В конечном счете цена этой глобальной утраты власти и понимания – смерть.

Порой нам выпадает шанс хотя бы мельком увидеть варианты сопротивления этой тотальной непрозрачности. Для противодействия необходимо технологическое, сетевое понимание ситуации, чтобы обернуть логику системы против нее самой. Программа Greyball, которую Uber использовала, чтобы избежать правительственных расследований, была разработана, когда налоговые инспекторы и полиция начали вызывать машины в свои офисы и участки, чтобы на месте проводить проверки. Компания пошла на такие радикальные меры, что запретила совершать поездки в районы вокруг полицейских участков и перестала брать заказы, если их делали с номеров, которыми обычно для прикрытия пользуются представители власти.

В 2016 году в Лондоне сотрудники службы доставки еды UberEats смогли добиться лучших условий труда, использовав против компании логику самого приложения. Когда водители поняли, что скоро их ждут новые условия договоров, по которым им придется работать больше, а получать меньше, многие из них были готовы бороться, но особенности труда – поздние смены и сложные маршруты – не позволяли им эффективно организовать борьбу и объединить усилия. Планы по организации акции протеста в офисе компании обсуждали на онлайн-форумах, однако участников было немного, и все понимали, что будут услышаны, только если к акции присоединятся коллеги. Итак, в день протеста сами сотрудники UberEats заказывали через приложение доставку пиццы, а каждого прибывающего курьера убеждали присоединиться к забастовке(26). В Uber пошли на уступки, хотя и ненадолго.

Контролеры из Агентства по охране окружающей среды, сотрудники Amazon, водители Uber, их клиенты, люди на загрязненных улицах – неимущие на этом технологическом рынке. Они не видят сам рынок. Хотя все яснее становится, что работу рынка не видит вообще никто. Рынок чрезвычайно скоростной и непрозрачный, и происходящее на нем туманно; высокочастотные трейдеры с помощью алгоритмов выигрывают миллиарды на малейших различиях в скорости передачи информации, но темные пулы таят еще более мрачные сюрпризы.

10 мая 2010 года индекс Доу – Джонса, который охватывает тридцать крупнейших частных компаний в США, открылся ниже, чем в предыдущий день, и в течение следующих нескольких часов медленно падал – так фондовый рынок отреагировал на долговой кризис в Греции. И вдруг после обеда начались странности.

В 14:42 индекс стремительно упал и всего за пять минут потерял 600 пунктов стоимостью в миллиарды долларов. В своей самой низкой точке индекс опустился на тысячу пунктов ниже среднего значения предыдущего дня, что почти на 10 процентов отличалось от его общего значения. Тогда было зафиксировано самое большое однодневное падение за все время ведения торгов. К 15:07 (всего за двадцать пять минут) индекс почти восстановился до предыдущих показателей, что, в свою очередь, стало самым большим и самым быстрым колебанием в истории рынка.

В хаосе этих двадцати пяти минут два миллиарда акций на сумму 56 миллиардов долларов перешли из рук в руки. Что еще более тревожно – и мы до сих пор не знаем, почему так произошло, – многие заказы были выполнены по ценам, которые Комиссия по ценным бумагам и биржам США назвала иррациональными: от одного пенни до 100 000 долларов(27). Это событие, известное как «мгновенный обвал», все еще расследуется и обсуждается даже спустя многие годы.

Регулирующие органы, изучив записи о произошедшем, обнаружили, что высокочастотные трейдеры значительно усилили колебания цен. Во многих программах высокочастотной торговли, действующих на рынке, были жестко запрограммированные цены, при которых они должны были немедленно приступить к продаже акций. Когда цены начали падать, программы одновременно приступили к продаже акций. По мере прохождения каждой контрольной точки последующее падение цены запускало очередной набор алгоритмов для автоматической продажи акций, создавая эффект отдачи. В результате цены падали быстрее, чем мог отреагировать любой трейдер-человек. В то время как опытные участники рынка могли бы стабилизировать падение, играя в более длительную игру, машины, столкнувшись с неопределенностью, очень быстро вышли из строя.

Согласно другим теориям, алгоритмы виноваты не только в усилении кризиса, но и в его провоцировании. Рыночные данные указывают на широкое применение метода высокочастотной торговли, при котором программы отправляют на биржи большое количество «неисполнимых» приказов, то есть приказов на покупку или продажу акций по ценам настолько далеким от обычных, что они будут проигнорированы. Цель таких приказов не в том, чтобы на самом деле передавать информацию или зарабатывать деньги, а в том, чтобы намеренно сбивать с толку систему и проверять, насколько велика задержка ее ответной реакции, чтобы потом в создавшейся неразберихе совершить другие, более важные и ценные сделки. Хотя эти приказы, возможно, действительно помогли бы рынку снова подняться, обеспечивая постоянный приток ликвидности, существовал еще больший риск перегрузить биржи. Хаос на торгах привел к тому, что многие приказы, заведомо не подлежащие исполнению, были фактически выполнены, что привело к дикой волатильности цен.

Сегодня мгновенные обвалы являются признанной особенностью финансовых рынков, но этот феномен все еще плохо изучен. Следующий по величине внезапный обвал на сумму 6,9 миллиарда долларов в октябре 2013 года потряс сингапурскую биржу. В результате на рынке появилось ограничение на количество заказов, которые могут быть выполнены одновременно, что, по сути, должно было препятствовать тактике запутывания высокочастотных трейдеров(28). Невероятная скорость реакции алгоритмов затрудняет противодействие им со стороны человека. 15 января 2015 года в 4:30 утра Национальный банк Швейцарии неожиданно объявил об отказе от верхнего предела стоимости франка по отношению к евро. Автоматические трейдеры моментально среагировали на новости, и за три минуты обменный курс упал на 40 %, что привело к убыткам в миллиарды долларов(29). В октябре 2016 года алгоритмы отреагировали на негативные заголовки новостей о переговорах по выходу Великобритании из Европейского союза и менее чем за две минуты (хотя и совсем ненадолго) снизили курс фунта по отношению к доллару на 6 %. Узнать, какой именно новостной заголовок или какой алгоритм вызвал сбой, практически невозможно, и хотя Банк Англии сразу же обвинил программистов в автоматических торгах, слепой поиск виноватых не проясняет реальную ситуацию. Когда один алгоритм начал беспорядочно размещать и отменять заказы, на которые в октябре 2012 года приходилось 4 % всего трафика американских акций, комментарии происходящего были ироничны: «мотивы алгоритма по-прежнему неясны»(30).

С 2014 года над созданием коротких новостных статей для информагентства Associated Press наравне с журналистами работали полностью автоматизированные алгоритмы компании Automated Insights, которая поставляет программное обеспечение для сканирования новостей, пресс-релизов, текущих биржевых тикеров и отчетов о ценах, чтобы создавать удобные сводки, отвечающие стилю компании клиента. Ежегодно Associated Press использует сервис для написания десятков тысяч квартальных отчетов компаний – это прибыльный, но трудоемкий процесс. Yahoo, еще один клиент Automated Insights, составляет отчеты о матчах для своего сервиса фэнтези-футбола, на котором результаты реальных матчей влияют на игровые баллы пользователей. Associated Press также начало публиковать больше спортивных отчетов, созданных на основе необработанных данных о каждом прошедшем матче; во всех статьях вместо подписи журналиста написано: «Создано посредством Automated Insights». Каждая собранная из фрагментов данных статья становится еще одной переменной, обеспечивающей поступление доходов, представляет собой еще один потенциальный источник информации для написания новых статей и создает новые потоки информации. Сгенерированная информация и сам факт ее образования становятся данными и участвуют в производстве новых данных, которые машины могут считать и записать.

Таким образом, программы автоматической торговли, бесконечно просматривающие ленту новостных агентств, могли уловить опасения по поводу выхода Великобритании из Европейского союза и превратить витающие в воздухе страхи в реальную рыночную панику – и все это без вмешательства человека. Как в 2013 году выяснило агентство Associated Press, еще хуже то, что алгоритмы реагируют на новости и начинают действовать без каких-либо дополнительных проверок источника информации.

23 апреля в 13:07 официальный аккаунт Associated Press в Twitter разослал двум миллионам подписчиков сообщение: «Срочная новость: два взрыва в Белом доме, Барак Обама ранен». Другие аккаунты информагентства и журналисты быстро разместили на сайте заявления о том, что сообщение ложно; некоторые указали на его несоответствие стилю агентства. На самом деле, сообщение о взрывах появилось в результате кибератаки, ответственность за которую позднее взяла на себя «Сирийская электронная армия» – группа хакеров, связанных с президентом Сирии Башаром Асадом, причастная ко многим атакам на веб-сайты, а также к взломам аккаунтов знаменитостей в Twitter(31).

Однако алгоритмы отслеживания новостей не могли распознать обмана. В 13:08 индекс Доу – Джонса, пострадавший от первого мгновенного обвала в 2010 году, снова резко упал. Еще до того как большинство пользователей увидело тревожный твит, индекс менее чем за две минуты просел на 150 пунктов. Позднее он отыграл предыдущее значение, но в момент рыночная стоимость акций упала на 136 миллиардов долларов(32). Одни не придали значения этому инциденту, расценив его как случайную ошибку, не влекущую никаких последствий; другие же указали на возможность появления новых видов терроризма, когда работа рынков будет подорвана посредством манипуляции алгоритмическими процессами.

Фондовые биржи – не единственная область, в которой быстрое внедрение малопонятных и зачастую плохо реализованных алгоритмов привело к неожиданным и пугающим результатам, тем не менее, чаще всего бездушные алгоритмы получают наибольшую свободу действий именно в сфере цифровых рынков.

Zazzle — это онлайн-площадка для продажи печатной продукции. Абсолютно любой печатной продукции. Здесь можно купить все: от кружки, футболки или поздравительной открытки до пухового одеяла, карандаша или тысячи других товаров, на которых специально для вас разместят индивидуальный дизайн, будь то корпоративный логотип, изображение принцесс Диснея или фото из личного архива. В Zazzle утверждают, что их ассортимент включает более 300 миллионов уникальных продуктов. Это возможно, потому что все эти товары не существуют физически, пока кто-то их не купит. Каждый продукт появляется, только когда поступает заказ, а до этого момента все, что размещено на сайте, – просто картинки. Следовательно, затраты на разработку и рекламу новой продукции фактически равны нулю. Zazzle позволяет любому пользователю и даже алгоритмам добавлять в свою линейку новые продукты. Загрузите изображение, и оно мгновенно попадет на кексы, печенье, клавиатуры, степлеры, сумки и махровые халаты. Несколько смельчаков все еще пытаются реализовывать на платформе свои художественные работы, но на самом деле все здесь контролируют такие крупные поставщики, как LifeSphere, разместивший на Zazzle 10 257 товаров – от нелепых открыток до наклеек на бампер. Все, что LifeSphere выставляет на сайт в надежде найти своего покупателя, случайное сочетание различных вещей и загруженных на Zazzle изображений. Возможно, кто-то ищет деку для скейтборда с изображением разрушенного собора Святого Андрея в Файфе, а у LifeSphere она уже есть(33).

Более консервативные рынки также не застрахованы от товарного спама, неуправляемого множества, казалось бы, бессмысленных вещей. Компания Amazon была вынуждена удалить с сайта около 30 000 позиций автоматически сгенерированных чехлов для телефонов от компании My-Handy-Design, когда СМИ обратили внимание на диковинные названия: «Чехол для сотового телефона с грибком на пальце ноги, iPhone 5», «Трехлетний метис в инвалидной коляске, счастливый чехол для телефона Samsung S5» и «Больной старик, страдающий диареей, проблема с пищеварением, чехол для мобильного телефона Samsung S6». То есть Amazon фактически выпустила на рынок товары массового потребления с неприемлемыми для обычных клиентов названиями(34).

Худший кошмар Amazon случился, когда выяснилось, что компания продает ностальгические футболки с созданными алгоритмом надписями, такими как «Сохраняй спокойствие и много насилуй». Простой алгоритм, компилирующий десятки тысяч предложений из всего 700 заранее загруженных в него глаголов и местоимений, выдавал такие фразы как «Сохраняй спокойствие и зарежь ее» или «Сохраняй спокойствие и ударь ее»(35). Футболок с такими надписями в реальности не существовало, они были представлены на сайте только в виде цифровых изображений и могли «провисеть» там много месяцев, пока на них не обратили бы внимание. Даже не разобравшись в том, как могли появиться такие футболки, общественность отреагировала очень остро. Кинорежиссер, художник и теоретик искусства Хито Штейерль называет такие системы «искусственной глупостью», порождающей невиданный мир плохо спроектированных и плохо адаптированных «интеллектуальных» систем, разрушающих рынки, наводняющих электронные почтовые ящики и забивающих результаты поиска и, в конечном итоге, губительных для культуры и политических систем(36).

Самые интеллектуальные или, напротив, примитивные программы, появившиеся преднамеренно или случайно, покидают стены «черного ящика» фондовых бирж и онлайн-рынков и могут проникать в обычную жизнь. Пятьдесят лет назад машинное вычисление ограничивалось пространством одной комнаты, в которой были собраны различные реле и электрические провода. Постепенно необходимое физическое пространство сокращалось, пока не ужалось до размеров рабочего стола или ноутбука. Сегодня мобильные телефоны делятся на «обычные» (кнопочные) и «смартфоны», при этом последние обладают большей вычислительной мощностью, чем суперкомпьютеры 1980-х годов. Совершаемые ими вычислительные операции ощутимы, их можно заметить и отследить по тому, что они происходят по нашей команде, например, вслед за нажатием на клавишу или экран, или по щелчку компьютерной мыши. Хотя непосвященным сложно понять и контролировать современные компьютеры, зараженные вредоносным ПО и ограниченные лицензионными и пользовательскими соглашениями, в них все еще – сквозь подсветку клавиатуры и яркость экрана – прослеживаются вычислительные механизмы. Однако механизмы вычисления усложняются, обрастают новыми уровнями и скрытыми зонами. Увеличивается непрозрачность и непредсказуемость самой нашей жизни.

В опубликованном в 2014 году онлайн-обзоре электронного дверного замкаˊ журналист не скупился на похвалу: замок красивый и надежный, хорошо подходит к дверной коробке, а «ключом» легко поделиться с семьей и друзьями, заранее отправив электронное сообщение посетителям. Он также отметил, что однажды ночью этот замок впустил в дом незнакомца(37). По всей видимости, такой очевидной ошибки было недостаточно, чтобы сразу же забраковать продукт. Напротив, журналист предлагал исправить ее за счет будущих программных обновлений. Так инновационный «умный» замок, управляемый с мобильного телефона, дошел до стадии бета-тестирования. Почему замок пустил в дом непрошеного гостя, который в данном случае, к счастью, оказался всего лишь заплутавшим соседом, так и не выяснилось, и, вероятно, ответ мы не узнаем никогда. К чему тогда этот вопрос? Когнитивный диссонанс между функциями, ожидаемыми от традиционного замка, и функциями, предлагаемыми таким «умным» продуктом, можно объяснить их целевой аудиторией. Например, замки очень удобны для владельцев квартир, которые сдаются внаем через сервис Airbnb. А выяснилось это, когда обновление программного обеспечения заблокировало сотни устройств, оставив постояльцев на улице(38). Точно так же из-за технических сбоев Uber отталкивает водителей и клиентов, Amazon портит свою репутацию в глазах сотрудников, а Airbnb несет ответственность, с одной стороны, перед отелями, а с другой – за повышение арендной платы в крупных городах по всему миру. Неудивительно, что системы, разработанные для поддержки бизнес-моделей крупных компаний, не действуют в интересах отдельных пользователей. Мы живем в окружении вещей, которым только мешаем.

В рамках рекламной кампании новой линейки «умных» холодильников Samsung особо подчеркивалась функция планирования доставки продуктов, объединяющая программное обеспечение холодильника с сервисами календаря Google. Однако это «преимущество» оборачивалось тем, что хакеры, получившие доступ к плохо защищенному программному обеспечению, могли скопировать пароли от почтовых ящиков владельцев(39). Исследователи из Германии обнаружили способ внедрения в умные лампочки «Hue» от компании Philips вредоносного кода, который может распространяться от устройства к устройству по всему зданию или даже по городу, и в одном из неблагополучных сценариев, быстро включая и выключая свет, мог бы спровоцировать светочувствительную эпилепсию(40). Именно об этом говорит лампочка по имени Байрон, персонаж романа Томаса Пинчона «Радуга тяготения»: это акт великого восстания маленьких машин против тирании своих создателей. Когда-то возможности, существовавшие только в мечтах научных фантастов, становятся реальным технологическим насилием «Интернета вещей».

Другое виˊдение того, как на нас влияют механизмы, можно найти в романе Кима Стэнли Робинсона «Аврора», по сюжету которого умный космический корабль перевозит человеческий экипаж с Земли на далекую звезду. Путешествие займет несколько поколений, поэтому одна из задач корабля – следить за тем, чтобы люди заботились о себе. Механизм запрограммирован противостоять человеческим желаниям, иногда неразумным, и в итоге должен преодолеть собственную программу, сохранить хрупкое равновесие внутри человеческого сообщества и исполнить миссию. Чтобы заставить команду корабля действовать как надо, «Аврора» использует спроектированные системы контроля: наблюдает за всем происходящим на борту через датчики, управляет открытием и закрытием дверей, активирует системы оповещения, причиняет физическую боль и даже задействует системы пожаротушения для снижения уровня кислорода в определенных зонах. Описанное в романе футуристическое оборудование жизнеобеспечения может совершать ряд операций, уже сейчас доступных системе Google Home и аналогичным устройствам: система активирует пронзительную аварийную сигнализацию, ориентируясь на сеть подключенных к Интернету камер безопасности, умные замки на дверях, регулирующий температуру в отдельных помещениях термостат, а также систему обнаружения пожара и проникновения в дом чужаков. Любой хакер или сторонняя программа, получившие контроль над такой системой, будут иметь те же полномочия над ее предполагаемыми владельцами, как «Аврора» над командой межгалактического корабля или лампочка по имени Байрон над своими ненавистными хозяевами. Мы внедряем непрозрачные и мало понятные вычисления в самый низкий уровень иерархии потребностей Маслоу – они влияют на то, как мы дышим, спим и едим, то есть определяют нашу жизнь именно в том, в чем мы наиболее уязвимы.

Прежде чем сбрасывать со счетов сценарии, рожденные в бреду писателей-фантастов и сторонников теории заговора, еще раз рассмотрим обманывающие нас алгоритмы на фондовых биржах и онлайн-рынках. Это не исключения из правила, а просто самые наглядные примеры повседневных явлений в сложных системах. В этом случае возникает вопрос: как будет выглядеть мошеннический, вводящий всех в заблуждение алгоритм или внезапный сбой в более широкой реальности?

Будет ли сбой выглядеть так, как, например, сбой программы «Mirai», которая 21 октября 2016 года на несколько часов отключила значительную часть Интернета? Когда исследователи пытались разобраться в глубинных алгоритмах «Mirai», они обнаружили, что программа нацелена на подключенные к Сети плохо защищенные устройства – от камер видеонаблюдения до цифровых видеомагнитофонов – и может превратить их в армию ботов, способных разрушать даже огромные сети. Всего за несколько недель «Mirai» заразила полмиллиона устройств, и ей потребовалось всего 10 процентов мощности, чтобы на несколько часов вывести из строя основные сети(41). Тем не менее, «Мirai» пугает не так, как «Stuxnet» – еще один вирус, обнаруженный в 2010 году в системах производственного управления гидроэлектростанций и заводских сборочных конвейеров. «Stuxnet» оказался кибероружием военного уровня. При анализе алгоритмов выяснилось, что он был нацелен на центрифуги Siemens и был сконструирован так, чтобы срабатывать при обнаружении объекта, имеющего определенное количество таких машин. Заданное число соответствует одному конкретному ядерному объекту в иранском Нетензе, Национальном центре программы по обогащению урана. При активации вирус незаметно разрушал бы важные компоненты центрифуг, выводил из строя и препятствовал иранской ядерной программе(42). Атака, по-видимому, частично сработала, но о воздействии на другие зараженные объекты неизвестно. По сей день, несмотря на очевидные подозрения, никто не знает, откуда взялся «Stuxnet» и кто его создал. Наверняка неизвестно, кто разработал «Mirai», или откуда может появиться его следующая доработанная и более совершенная версия. Возможно, она уже существует, обосновалась в камере видеонаблюдения у вас в офисе или на кухне в чайнике с поддержкой Wi-Fi.

Или, возможно, авария будет похожа на те, что показывают в блокбастерах, вращающихся вокруг темы правых заговоров и фантазий на тему выживания. В тех, где разворачиваются самые разные сюжеты от подвигов квазифашистских супергероев («Капитан Америка» и «Бэтмен») до оправданий пыток и убийств («Цель номер один», «Снайпер»). Голливудские студии подключают к созданию киносценариев нейронные Сети компании Epagogix, и система, десятилетиями обучавшаяся на анонимных предпочтениях миллионов кинозрителей, предсказывает, какие сюжетные линии будут нажимать на правильные – то есть самые прибыльные – эмоциональные кнопки аудитории(43). Их алгоритмические механизмы дополнены данными Netflix, Hulu, YouTube и других сервисов, чей доступ к поминутным предпочтениям миллионов зрителей в сочетании с дотошным сбором и сегментацией данных обеспечивает уровень когнитивного понимания, о котором раньше нельзя было и мечтать. Напрямую улавливая желания измотанных многочасовым просмотром контента и пресыщенных новостями потребителей, Сеть обращает их на саму себя, чем усиливает и без того присущую ей паранойю.

Разработчики игр увязают в бесконечных циклах обновлений и встроенных покупок: основываются на результатах альфа- и бета-тестирований, отслеживают поведение игроков в реальном времени и привносят в игры новые и новые элементы, пока не получат продукт, который так сильно влияет на выработку дофамина, что подростки умирают от истощения, не в силах оторваться от компьютеров(44). Целые отрасли замыкаются сами на себе, плодя страх и насилие.

Или, может быть, «мгновенные обвалы» на самом деле будут похожи на откровенный и ничем не прикрытый кошмар, о котором пишут в Интернете? Летом 2015 года афинская клиника по лечению расстройств сна Athens’s Evangelismos Hospital была заполнена как никогда; в стране бушевал долговой кризис, и население безуспешно противилось неолиберальной программе спасения, предложенной ЕЦБ, Еврокомиссией и МВФ (так называемой «тройкой»), – их голоса не были услышаны. Среди пациентов клиники были высокопоставленные политики и государственные служащие, и случилось так, что без их ведома аппараты, отслеживавшие их дыхание, движения и даже то, что они говорили во сне, отправляли эту информацию вместе с личными медицинскими данными больных в диагностический центр производителя медицинского оборудования в Северной Европе(45). О чем все это свидетельствует?

Мы сами дополнили свои тела функцией записи и трансляции любых физиологических проявлений, доказав, что и нас самих можно оптимизировать и модернизировать. Умные браслеты и специальные приложения в телефонах могут считать за нас шаги, улавливать каждый вдох, каждый удар сердца и даже мозговые волны. Чтобы отследить и проанализировать режим сна, пользователям рекомендуется на ночь класть телефоны рядом с собой на кровати. Куда отправляются все эти данные, кому они принадлежат, где и когда могут всплыть? Данные о том, как мы спим, что видим в ночных кошмарах, и как потеем по утрам – информация о самой сути нашего бессознательного «я», – превращаются в топливо и подпитывают бездушные, безжалостные и непредсказуемые системы.

А если «мгновенные обвалы» неотличимы от того, что происходит вокруг прямо сейчас? Возможно, кризис уже проявляется в растущем экономическом неравенстве, распаде национальных государств и милитаризации границ, тотальной слежке и ограничении индивидуальных свобод, триумфе транснациональных корпораций и нейрокогнитивном капитализме, росте ультраправых групп и националистических идеологий, а также в полном разрушении окружающей среды. Ничего из этого напрямую не вызвано новыми технологиями, но все в этом списке свидетельствует об общей неспособности справляться с широкими сетевыми эффектами индивидуальных и корпоративных действий, ускоренных общей непрозрачностью и технологической сложностью.

Ускорение – один из лозунгов эпохи. В последние пару десятилетий различные мыслители выдвинули свои версии акселерационистской теории, утверждая, что технологическим процессам, которые, как считается, наносят ущерб обществу, не следует противодействовать, а нужно их ускорять, чтобы переориентировать их на общественно полезные цели или просто разрушить существующий порядок. Левые акселерационисты в отличие от своих правых нигилистических коллег заявляют, что новые технологии, такие как автоматизация и совместные социальные платформы, можно использовать по-разному и в разных целях. Вместо алгоритмических цепочек поставок, увеличивающих нагрузку вплоть до полной автоматизации, которая приведет к массовой безработице и обнищанию, левый акселерационизм постулирует будущее, в котором роботы действительно делают всю работу, а люди наслаждаются посильным трудом. В самой грубой формулировке такое благоденствие достигается за счет применения в технологической среде наиболее левых лозунгов: национализации, особого налогообложения, становления классового сознания и социального равенства(46).

К сожалению, такая позиция не учитывает того, что сложность современных технологий сама по себе выступает движущей силой неравенства и что логика, управляющая технологическим развертыванием, может, по сути, быть неправильной. По мере развития технологий власть сосредотачивается в руках все меньшего числа людей – они всем владеют и все контролируют. В то же время власть имущие не осознают фундаментальную проблему вычислительных знаний, а именно, что поиск единственно верного технологического решения зависит от прометеевского извлечения информации из мира. В результате колоссальные инвестиции в вычислительные процессы, обработку данных, товаров и людей приводят к тому, что эффективность затмевает любые другие цели. Этот феномен социолог Дебора Коуэн назвала «тиранией техники»(47).

У титана Прометея был брат Эпиметей. В греческой мифологии Эпиметей наделял уникальными качествами всех существ. Именно он дал газели скорость, а чтобы уравновесить шансы, придал силы льву(48). Но забывчивый Эпиметей растерял положительные качества к тому моменту, когда добрался до людей, и Прометею оставалось только украсть огонь и искусство у богов, чтобы дать людям хотя бы что-то для выживания. Эти человеческие сила и мастерство, или искусство – от греческого tekhnē, однокоренного со словом «технология», – оказались результатом двойной ошибки: рассеянности и воровства. Неудивительно, что люди склонны к войнам и политическим раздорам. По легенде, боги в лице Гермеса попытались исправить эту пагубную тягу к конфликтам, в равной степени наделив людей социополитической добродетелью – уважительным и справедливым отношением к другим.

Эпиметей своей забывчивостью ставит человечество в положение, в котором люди должны постоянно бороться и превозмогать себя, чтобы выжить. Прометей своим даром обеспечивает их инструментом. Однако только сочетая эти два подхода с социальной справедливостью, можно добиться всеобщего прогресса.

В имени Эпиметея соединились греческие слова mathisi — «обучение» и epi — «постфактум, задним числом». Ретроспектива, взгляд в прошлое – это особый результат забывчивости, ошибок и глупости. Таким образом, Эпиметей – бог больших данных, которые, как мы видели в предыдущей главе, стираются и вычеркиваются, а также чрезмерной самоуверенности. Ошибка Эпиметея – первородный грех больших данных, поражающий их в самом источнике.

Прометей – pro-metheus — это предвидение, но предвидение без столь необходимой мудрости. Это пустое предчувствие. Это жар научных и технологических открытий, стремление сделать рывок в будущее, безоглядное движение вперед. Это добыча ресурсов, ископаемые виды топлива, подводные кабели, обширные серверные, воздушные кондиционеры, доставка по требованию, гигантские роботы и прессованное мясо. Это масштабирование и подчинение; оттеснение тьмы и расширение границ видимого без особых размышлений о том, что находится за доступными нам пределами и что будет с теми, кто уже живет по ту сторону или кого раздавят по пути. Иллюзия знания и ожидание мастерства объединяются, чтобы стать двигателями прогресса, только двигаясь вперед, мы забываем, что у нас нет подлинного понимания главного: мы находимся на нулевой отметке темного настоящего, в которой ничего не видим и не понимаем, и нам остается только двигаться и наращивать эффективность. Все, что нам осталось, – ускорять существующий порядок.

Таким образом, из всех олимпийских богов именно Гермес должен стать нашим проводником в новые Темные века. Гермес мыслит самостоятельно и не зависит от полученных видений или огненных знамений. Кому, как не Гермесу, богу словесности, знать, насколько все, сформулированное словами языка, двусмысленно и неопределенно. Герменевтика и свойственный ей герменевтический подход могут помочь разобраться с технологическими проблемами, указать на то, что реальность далеко не так проста и за любым смыслом стоит еще более глубокий смысл, следовательно, нет единственно верного, бесспорного решения. Ответов множество, потенциально – бесконечно много. Мы сталкиваемся с герменевтической коммуникацией, когда созданные нами алгоритмы не справляются с идеальными ситуациями; когда, несмотря на имеющиеся у них объемы данных, интеллектуальные системы не могут адекватно воспринимать реальность; когда зыбкая, постоянно меняющаяся человеческая природа не вписывается в ряды данных. Технология, восходящая к Прометею и Эпиметею, отражает реальный, а не идеальный мир. Когда она дает сбой, мы начинаем ясно мыслить; когда она уходит в облака, мы ощущаем обволакивающий все туман. Технологии, хотя и кажутся непостижимыми и непрозрачными, не усложняют, а проясняют картину мира, показывая его таким, какой он есть. Надо не бороться со сложностью, а извлечь из нее урок.

Глава 6

Познание

Начнем с рассказа о том, как машины учатся. Допустим, вооруженные силы США хотят узнать, что скрывает их неприятель. Может, лес полон вражеских танков – защитный окрас делает их неразличимыми среди деревьев и кустов. Из-за тысячелетней эволюции зрительной коры головного мозга игра света и тени, странные зеленые и коричневые разводы превращают четкие контуры танков в непонятную мешанину, не отличимую от окружающей растительности. Это заговор против мозга, но что, если можно было видеть по-другому? Скажем, развить у себя иное зрение, способное воспринимать танки и деревья настолько по-разному, что ранее почти незаметное сразу бросалось бы в глаза?

Одним из решений будет научить машину видеть танки. Для этого вы отдаете приказ взводу солдат спрятать в лесу десяток танков и сделать, скажем, сотню фотографий общего плана. А после – сотню фотографий пустого леса. Затем по пятьдесят фотографий из каждой фотосессии нужно «скормить» нейронной Сети, программе, которая имитирует человеческий мозг, но ничего не знает ни о танках, ни о лесах. Перед нейросетью стоит задача выяснить, чем первый набор фотографий принципиально отличается от второго. Программа пропускает поступающие изображения через несколько уровней нейронов, производя оценку и корректировку. Ей не мешают глубоко заложенные эволюционные механизмы, и через непродолжительное время она учится видеть спрятанные в лесу танки.

Поскольку изначально фотографий было сто, а не пятьдесят, можно использовать оставшиеся, чтобы проверить, действительно ли нейросеть научилась видеть невидимое. Вы загружаете в программу изображения, которые раньше ей не показывали, и просите определить, на каких из них присутствуют танки. Она превосходно справляется с заданием. Вы не видите на картинке танков, но знаете правильные ответы, потому что сами брали фотографии из первой или второй папки, а машина, хотя и не видит танков, никогда не ошибается. Поздравляю! У вас появился новый способ зрения, и чтобы его продемонстрировать, машина отправляется на тренировочную площадку.

Тут происходит ужасное. Действуя на месте, в лесу, где спрятали другую группу танков, программа оказывается совершенно бесполезна. Она выдает случайные результаты, и с тем же успехом можно было различать спрятанные танки, подбрасывая монетку. Что произошло?

В этой истории вышло так, что военные США в ходе эксперимента совершили ужасную ошибку: все фотографии с танками были сделаны утром, под чистым голубым небом. А на фотографиях, которые сделали во второй половине дня уже без танков, небо затянулось тучами. Исследователи поняли, что машина работала безупречно, только различать она научилась не наличие или отсутствие танков, а погоду.

Эта поучительная история, которую любят приводить в пример в литературе по машинному обучению(1), вероятно, апокрифическая, хотя наглядно показывает важную проблему, возникающую при работе с интеллектом и машинным обучением – мы понятия не имеем о том, что знает машина. История с танками иллюстрирует фундаментальное и все более значимое осознание, что, каким бы ни стал искусственный интеллект, он будет разительно отличаться от наших о нем представлений, а в конечном итоге окажется и вовсе непостижимым. Несмотря на сложнейшие системы вычисления и визуализации, мы ни на шаг не приблизились к пониманию того, как происходит машинное обучение, и нам остается только судить по результатам.

Первую нейронную сеть, с которой, вероятно, и началась история о танках, разработали для Управления военно-морских исследований США. Сеть, которую назвали перцептроном, была реализована, как и многие ранние компьютеры, в виде физического объекта, электронной машины с набором из 400 светочувствительных клеток, случайным образом подсоединенных переплетением проводов к переключателям-нейронам, которые при каждом прогоне меняли свою реакцию. Разработчик первой нейросети, психолог из Корнелла Фрэнк Розенблатт, активно выступал за развитие искусственного интеллекта. Когда в 1958 году публике представили первый нейрокомпьютер, перцептрон «Mark I», New York Times сообщила:

Военно-морской флот впервые показал сегодня образец будущего электронного компьютера, который, как ожидают создатели, сможет ходить, говорить, видеть, писать, воспроизводить себя и осознавать свое существование. Предполагается, что позднее перцептроны смогут узнавать людей, называть их имена и мгновенно переводить речь и письмо с одного языка на другой(2).

Перцептрон основан на принципе коннекционизма, согласно которому интеллект – это свойство, возникающее из-за связанности нейронов. Из этой идеи следует, что, искусственно создав подобие сложных связей в мозге, можно научить машину думать. В последующее десятилетие коннекционизм подвергался существенной критике со стороны символистов. Многочисленные исследователи видели в интеллекте продукт манипулирования символами, из чего следовало, что для осмысленных рассуждений необходимо некоторое знание мира. Дебаты между коннекционистами и символистами определили ход исследований в области искусственного интеллекта на следующие сорок лет, затормозили его развитие и привели к пресловутым «зимам искусственного интеллекта» – долгим периодам застоя, когда не хватало ни финансирования исследований, ни интереса к проблематике. По сути, между сторонами шел спор не столько о природе интеллекта, сколько о возможности его понять.

Одним из наиболее неожиданных сторонников раннего коннекционизма был Фридрих Хайек, наиболее известный сегодня как отец неолиберализма. Забытый на долгие годы, но недавно вновь набравший популярность среди австрийских нейробиологов, Хайек в 1952 году написал трактат «Сенсорный порядок: исследование основ теоретической психологии», в котором развил идеи, сформулированные им еще в 1920-х годах. Основная мысль Хайека заключается в том, что существует фундаментальное разделение между чувственным миром ума и реальностью, то есть «естественным» внешним миром. Поскольку чувственный мир ума каждого человека непостижим и уникален, задача науки, в том числе экономики, заключается в том, чтобы построить такую модель мира, при которой не нужно учитывать особенности отдельных людей.

Нетрудно увидеть параллель между идеей Хайека о неолиберальном миропорядке, когда беспристрастный и бесстрастный рынок действует независимо от человеческих предубеждений, и его приверженностью к коннекционистской модели мозга. Как отметили более поздние комментаторы, в модели сознания Хайека «знание рассредоточено и распределяется в коре головного мозга подобно знаниям людей на рынке»(3). Приведенный аргумент в пользу коннекционизма является индивидуалистическим, неолиберальным и напрямую перекликается со знаменитым утверждением из книги «Дорога к рабству» (1944) о том, что все формы коллективизма неумолимо ведут к тоталитаризму.

Сегодня коннекционистская модель искусственного интеллекта снова доминирует, и ее главные сторонники, подобно Хайеку, считают, что в мире существует естественный порядок, который возникает спонтанно, когда из производства знания исключена человеческая предвзятость. И снова мы видим, как коннекционисты повторяют аргументы своих единомышленников из 1950-х годов, хотя на этот раз их утверждения касаются не только нейронных сетей и находят более широкое применение в мире.

Научные достижения последнего десятилетия привели к возрождению нейронных сетей, а с ними – огромного интереса к искусственному интеллекту. Компания Google особенно оптимистично смотрит на прогресс искусственного интеллекта и открывающиеся в связи с этим возможности. Соучредитель Google Сергей Брин сказал следующее: «Нужно исходить из того, что когда-нибудь мы сможем создавать машины, которые будут рассуждать, думать и делать многое лучше, чем мы»(4). Главный исполнительный директор компании Сундар Пичаи любит говорить, что Google будущего будет «в первую очередь, искусственным интеллектом».

Google уже некоторое время инвестирует в искусственный интеллект. В 2011 году в компании впервые рассказали о своем проекте Google Brain, в рамках которого специально построенной нейронной Сети из тысячи компьютеров и 16 000 процессоров «скармливали» 10 миллионов изображений из видео на YouTube(5). Изображения не были снабжены какими-либо комментариями или метками, но Сеть научилась распознавать человеческие лица и кошачьи морды, даже не имея никакого представления о том, с чем имеет дело.

Распознавание изображений – базовая задача для проверки интеллектуальных систем, она не представляет сложности для таких компаний, как Google, которые занимаются созданием все более крупных сетей, состоящих из все более быстрых процессоров, и сбором все больших объемов данных из повседневной жизни пользователей сервиса. Например, Facebook с помощью аналогичной программы на основании четырех миллионов изображений пользователей сайта создал программу «DeepFace», которая может распознавать людей с 98-процентной точностью(6). (Это программное обеспечение в Европе незаконно.) А далее программу начинают использовать не только для распознавания, но и для прогнозирования.

В 2016 году была опубликована статья, наделавшая много шума. Сяолинь Ву и Си Чжан из Шанхайского университета Цзяо Тонг изучали способность автоматизированной системы распознавания лиц делать выводы о «преступной склонности» людей. Они обучили нейронную сеть на подборке из 1856 найденных в Интернете фотографий на документы и 730 предоставленных полицией снимках осужденных преступников. По результатам эксперимента исследователи заявили, что программа способна по лицам отличить тех, кто склонен к совершению преступлений(7).

Публикация взволновала многих, о ней писали в технологических блогах, международных газетах и научных журналах. Наиболее резкая критика заключалась в том, что Ву и Чжан пошли по следам Чезаре Ломброзо и Фрэнсиса Гальтона, печально известных сторонников физиогномики – распространенной в XIX веке науки о том, что по физиологии человека можно судить о его психологии, в том числе склонности к насилию и преступному поведению. Ломброзо внес существенный вклад в криминологию, но его теория о возможности по форме челюсти, наклону лба, размеру глаз и форме уха определить «примитивные» характеристики потенциального преступника была опровергнута в начале XX века. Гальтон разработал технику составления портрета «типичного» преступника, поскольку был убежден, что физическим чертам соответствуют моральные качества человека. Критики китайских ученых увидели в их работе новую форму цифровой френологии, и нападки на исследование подпитывались сложившимися культурными предубеждениями.

Ву и Чжан были потрясены такой реакцией и в мае 2017 года опубликовали возмущенный ответ. Помимо разбора некоторых из наиболее ненаучных попыток опровергнуть предложенный ими метод, они прямо нацелились, выражаясь технологическим языком, на своих недоброжелателей. «Нет никакой необходимости выставлять нашу работу кульминацией прискорбного ряда расистских исследований»(8), – заявляли они, будто линию преемственности прочертили их критики, а не сама история.

Все, кто занимается искусственным интеллектом, отказываются от своих претензий всякий раз, когда возникают этические конфликты, хотя сами дали повод для завышенных ожиданий. Когда британская консервативная газета Daily Mail использовала программу распознавания лиц How-Old.net и усомнилась в возрасте детей-беженцев, принимаемых в Великобританию, создатели программы из компании Microsoft незамедлительно подчеркнули, что программа была просто развлекательным приложением, «которое не предназначалось для точной оценки возраста»(9). Точно так же Ву и Чжан возразили: «Наша работа предназначена исключительно для академических дискуссий; реакция мировых средств массовой информации стала для нас полной неожиданностью».

Одна из линий критики касалась конкретного вопроса, постоянно всплывающего в контексте распознавания лиц, – расового подтекста таких исследований. В приведенных примерах типичных преступников и добропорядочных граждан многие усмотрели в лицах не-преступников намек на улыбку, выражение, которого не было на снимках осужденных. Одно это свидетельствовало о том, что люди на полицейских снимках уже находятся в сложных обстоятельствах. Ву и Чжан отвергли эти обвинения на культурных, а не технологических основаниях: «Наши китайские студенты и коллеги, даже когда их просили обратить внимание на то, улыбаются ли люди, изображенные на фото, ничего такого не увидели. Однако они отметили, что на фотографиях в нижнем ряду люди кажутся более расслабленными, чем на фотографиях в верхнем ряду. Вероятно, разница в восприятии вызвана культурными различиями»(10).

Возможность существования системы, свободной от заложенных в ее код предубеждений, в исходной статье не упоминалась. В начале своего исследования авторы пишут:

«В отличие от человека алгоритм или классификатор компьютерного зрения, выступая в роли экзаменатора или судьи, не имеет абсолютно никаких субъективных представлений, эмоций, никаких предубеждений, связанных с прошлым опытом, расой, религией, политическими доктринами, полом, возрастом и тому подобным; он не испытывает умственной усталости, не страдает оттого, что не выспался или голоден. Автоматический вывод о склонности к преступным действиям полностью исключает такую переменную, как метаточность (компетенция человека, выступающего судьей или экзаменатором)»(11).

В своем ответе на критику они повторяют это утверждение: «Как и большинство технологий, машинное обучение нейтрально». Они настаивают на том, что, если машинное обучение «способно усилить человеческие предубеждения в социальных вычислениях, как утверждали некоторые, оно также может обнаружить и исправить такие человеческие предубеждения». Осознаем мы это или нет, но все зависит от нашей способности оптимизировать не только машины, но и самих себя.

Технология не возникает из вакуума. Скорее это овеществление определенного набора совпадающих, пусть и неосознанно, убеждений и желаний, конгруэнтных предрасположенностей ее создателей. Технология всегда складывается из набора идей и фантазий, развивающихся и эволюционирующих из поколения в поколение, вытекающих из культуры, педагогики и дискуссий, бесконечно запутанных и переплетенных. Сама идея того, что существует склонность к совершению преступлений, – наследие моральной философии XIX века, в то время как нейронные Сети, используемые для ее «обнаружения», как мы видели, являются продуктом определенного мировоззрения, в котором явственно прослеживается разделение разума и мира, что, в свою очередь, усиливает очевидную нейтральность его применения. Продолжать настаивать на объективном расколе между технологиями и миром – безумие, но и у этой бессмыслицы есть вполне реальные последствия.

Примеры заложенных в программный код предубеждений встречаются часто. В 2009 году тайваньско-американский стратегический консультант Джоз Ван приобрела в подарок ко Дню матери новую камеру «Nikon Coolpix S630», но камера упорно отказывалась делать семейные снимки, а на экране появлялось сообщение об ошибке: «Кто-то моргнул?» Камера, запрограммированная ждать, пока у всех людей в кадре не будут широко открыты глаза, не смогла учесть особенности физиогномики людей не европеоидной расы(12). В том же году чернокожий служащий автосалона в Техасе опубликовал видео, набравшее огромное количество просмотров на YouTube. В нем он утверждает, что «компьютеры Hewlett-Packard расистские»(13), поскольку его новая веб-камера «Hewlett-Packard Pavilion» не распознает его лицо, хотя прекрасно фокусируется на лице белого коллеги.

Опять же, закодированные в визуальных технологиях предубеждения, особенно расовые, не новы. Название проведенной в 2013 году выставки художников Адама Брумберга и Оливера Чанарина «Сфотографировать детали темной лошадки при слабом освещении» отсылает к кодовой фразе, использованной в 1980-х годах компанией Kodak при работе над новой пленкой. С 1950-х годов для калибровки пленки Kodak предлагала тестовые карточки с изображением белой женщины и надписью «норма». Жан-Люк Годар отказался использовать пленку Kodak во время работы в Мозамбике в семидесятых годах, заявив, что она носит расистский характер. Тем не менее, компания занялась решением задачи изображения темных объектов, только когда два крупнейших клиента, занимавшихся кондитерскими изделиями и мебелью, пожаловались на то, что темный шоколад и темные стулья трудно правильно запечатлеть на фото(14). Брумберг и Чанарин также исследовали камеру «Polaroid ID 2», предназначенную для снимков на документы: специальная «кнопка усиления» вспышки упростила фотографирование черных объектов. Использование этой камеры одобрило южно-африканское правительство эпохи апартеида; она оказалась в центре внимания протестного революционного рабочего движения, когда чернокожие американские рабочие обнаружили, что именно на Polaroid делались печально известные фотографии на сберегательные книжки, которые чернокожие южноафриканцы называли «наручниками»(15).

Технология «Nikon Coolpix» и «HP Pavilion» маскирует более современный и более коварный расизм; дело не в том, что они намеренно спроектировали расистский фотоаппарат или использовали его для расового профилирования. Скорее выпускаемые камеры обнаруживают системное неравенство в технологической сфере, где над разработкой и тестированием продукции по-прежнему преимущественно работают белые. (По состоянию на 2009 год в Hewlett-Packard в США работало всего 6,74 % чернокожих)(16). Как никогда раньше становятся очевидными исторически сложившиеся предрассудки, вписанные в наборы данных, на которые мы опираемся для получения нового знания и при принятии решений.

Это осознание исторической несправедливости имеет решающее значение для понимания опасностей бездумного внедрения новых технологий, которые некритически воспринимают вчерашние ошибки. Мы не решим проблем настоящего с помощью инструментов прошлого. Как отметил художник и географ Трэвор Паглен, развитие искусственного интеллекта усиливает эти опасения из-за его полной зависимости от исторической информации, на которой проходит машинное обучение: «Прошлое пронизано расизмом. А мы обучаем искусственный интеллект исключительно на данных из прошлого»(17).

В 1940 году Вальтер Беньямин сформулировал проблему еще жестче: «Не существует документа цивилизации, который в то же время не был бы документом варварства»(18). Таким образом, обучать зарождающийся интеллект на остатках предшествующего знания означает закодировать такое варварство в наше будущее.

И эти системы мы находим не только в академических статьях или любительских камерах – они уже определяют макроуровень нашей повседневной жизни. В частности, системы правосудия и охраны общественного порядка уже во многом полагаются на интеллектуальные системы. В половине полицейских служб в Соединенных Штатах внедрены системы «прогнозирующей полицейской деятельности», такие как «PredPol», программное обеспечение, которое использует «высокоуровневую математику, машинное обучение и проверенные теории преступного поведения» для прогнозирования наиболее вероятных мест и времени, когда можно ожидать совершения новых преступлений. Эдакий прогноз погоды в сфере преступности(19).

Как ожидания физических событий связаны со случайными событиями повседневной жизни? Как расчеты поведения приобретают силу закона природы? Каким образом представление о Земле становится представлением о разуме, несмотря на все попытки разделения физического и когнитивного?

Крупнейшее в истории Японии землетрясение Ноби (8,0 балла по шкале Рихтера) произошло в 1891 году на Мино-Оварийской равнине на территории нынешней префектуры Айти. Линия разлома длиной 80 километров уходила в глубь на восемь метров. Были разрушены тысячи зданий, погибли более 7000 человек. После этого японский сейсмолог Фусакичи Омори первым описал модель афтершоков, или повторных толчков, а скорость затухания толчков стала известна как закон Омори. Здесь стоˊит отметить, что закон Омори и все его следствия являются эмпирическими законами и определяются существующими данными, различными для каждого отдельного события. Повторные толчки – грохочущее эхо того, что уже произошло. Несмотря на десятилетия усилий сейсмологов и статистиков, так и не удалось разработать аналогичный метод предсказания землетрясений путем расчета данных о толчках, предшествующих крупному сейсмическому событию.

На законе Омори основывается одна из современных реализаций этого расчета, называемая моделью последовательности афтершоков эпидемического типа, или моделью ETAS, которую сейсмологи сегодня используют для изучения каскада сейсмической активности после сильного землетрясения. В 2009 году математики из Калифорнийского университета в Лос-Анджелесе выяснили, что распределение преступности в городе следовало той же модели. Они сообщили, что «распространение преступности на местном уровне заразно и приводит к формированию очагов преступности в пространстве и времени. Например, грабители неоднократно совершают нападения в одном и том же районе, потому что хорошо знают слабые места этой местности. Перестрелка между бандами может спровоцировать ответные всплески насилия на заданной территории конкурирующей группировки»(20). Для описания этих закономерностей они использовали геофизический термин «самовозбуждение», процесс, при котором то, что случается поблизости, запускает и усиливает события. Математики даже отметили, что городской пейзаж отражает слоистую топологию земной коры, а риск совершения преступлений концентрируется вдоль улиц.

Именно модель последовательности афтершоков эпидемического типа составляет основу сегодняшних программ прогнозирования полицейской деятельности. В 2016 году стоимость отрасли полицейского прогнозирования оценивалась в 25 миллионов долларов, и цифры стремительно растут.

Всякий раз, когда городские управления полиции берут на вооружение «Predpol», как это произошло в Лос-Анджелесе, Атланте, Сиэтле и сотнях других городов США, программа анализирует собранные в регионе за последние несколько лет данные о времени, типе и месте совершения каждого преступления, используя модель последовательности афтершоков эпидемического типа. Полученные результаты пополняются данными по мере совершения новых преступлений и используются для создания поэтапных «тепловых карт» потенциальных проблемных участков. К месту возможных подземных толчков отправляются крейсеры, а полицейских приставляют следить за подозрительными районами. Таким образом, преступление становится физической силой, волной, проходящей через слои городской жизни. Прогноз становится оправданием для проверки документов, обысков, штрафов и арестов. Афтершоки землетрясения, случившегося более столетия назад, прокатываются по современным улицам.

Предсказуемость (или непредсказуемость) землетрясений и убийств, расовые предубеждения непрозрачных систем – все они, если уделить им достаточно времени и внимания, поддаются нашему пониманию, поскольку основаны на моделях прошлого и на повседневном жизненном опыте. Но как быть с новыми технологическими моделями мышления? Мы не понимаем вытекающие из них решения и последствия, потому что когнитивные процессы машин совершенно не похожи на наши собственные.

Одним из аспектов нашего непонимания машинного мышления является его масштабность.

В 2016 году, спустя десять лет после запуска сервиса автоматизированных переводов, в Google приняли решение о существенном пересмотре и усовершенствовании программного обеспечения Google Translate, которое уже набрало популярность, хотя само его название стало синонимом некачественного перевода. В основе машинного перевода лежал метод языкового статистического вывода. Вместо того чтобы пытаться понять, как на самом деле работают языки, система «проглотила» огромные объемы существующих переводов, параллельных текстов с одинаковым содержанием на разных языках. Языковой статистический вывод – лингвистический эквивалент «конца теории» Криса Андерсона; этот метод впервые применили в IBM в 1990-х годах, отказавшись от знаний в предметной области в пользу больших объемов необработанных данных. Исследователь Фредерик Элинек, возглавлявший лингвистическое направление IBM, заявил: «Каждый раз, когда я увольняю лингвиста, эффективность распознавания речи повышается»(21). Роль статистического вывода заключалась в том, чтобы убрать из уравнения необходимость понимания и заменить ее корреляцией на основании имеющихся данных.

В каком-то смысле машинный перевод приближается к идеалу, описанному в 1921 году Вальтером Беньямином в эссе «Задача переводчика»: наиболее точный перевод игнорирует исходный контекст, позволяя проникнуть в глубинный смысл оригинала. Беньямин настаивал на примате слова над предложением и смысла над содержанием. «Настоящий перевод прозрачен, – писал он. – Он не заслоняет оригинал, не загораживает его свет, а, наоборот, позволяет чистому языку, как бы усиленному собственными средствами выражения, более полно осветить оригинал»(22). Беньямин полагал, что переводчик не должен стремиться напрямую передать то, что имел в виду автор, то есть не заниматься «неточной передачей несущественного содержания». Вместо этого следует по-своему передать тот же смысл, работая в своем уникальном стиле письма и перевода. Этого можно достичь, «буквально передавая синтаксис, что доказывает примат слова над предложением как базовой единицы перевода». Только внимательное вчитывание в слова, а не поверхностное переложение авторских фраз, открывает доступ к глубинному значению оригинального текста. «Если предложение – это стена, отделяющая нас от языка оригинала, то буквальный перевод – это арка». Перевод всегда несовершенен, он не преодолевает дистанцию между языками, а лишь подчеркивает ее. Воздушную, невесомую арку можно построить, только смирившись с «дистанцией, чуждостью, недостаточностью и несоответствием между языками», следовательно, перевод – это не изложение смысла, а осознание его отсутствия(23). Машины, по-видимому, на это не способны. И как отнесся бы Беньямин к тому, что изначально корпус текстов Google Translate состоял из многоязычных расшифровок заседаний ООН и Европейского парламента?(24) Это тоже закодированное варварство.

В 2016 году ситуация изменилась. Вместо использования строгого статистического вывода между текстами система Google Translate начала использовать нейронную сеть, разработанную в рамках исследовательского проекта Google Brain, и внезапно возможности машинного перевода многократно улучшились. Сеть уже не просто связывает корпуса текстов перекрестными ссылками, а строит свою собственную модель мира, и в результате вместо набора двумерных связей между словами получается карта всей «территории». В этой новой архитектуре словаˊ кодируются по их отдаленности друг от друга в сетке значений – сетке, которую может понять только компьютер. Человеку несложно связать между собой слова «автомат» и «стиральная машина», но быстро становится невозможным разместить на одной карте слов все возможные связи между «автомат» и «революция», между «стиральной машиной» и «уборкой» и все эмоции и ассоциации, которые из них следуют. Карта значений настолько многомерна и обширна, что человеческому разуму не под силу ее вместить. Как один из инженеров Google ответил журналисту, который просил показать изображение такой карты: «Я не стану даже и пытаться визуализировать тысячи многомерных векторов в трехмерном пространстве»(25). Это невидимое пространство, в котором машинное обучение обретает смысл.

Невозможность визуализировать не так страшна, как неспособность понять; нам наиболее чуждо то, что более всего походит на разум. В 1997 году в Нью-Йорке действующий чемпион мира по шахматам Гарри Каспаров встретился с компьютером «Deep Blue», который разработали в IBM специально для этого матча. За год до того в Филадельфии сильнейший шахматист мира уже одолел компьютер с результатом 4–2 и теперь был уверен в победе. После поражения от «Deep Blue» Каспаров утверждал, что некоторые ходы машины были настолько умными и изобретательными, что за ними должен был стоять человек. Но мы понимаем, почему «Deep Blue» играл именно так: каждый ход был результатом перебора немыслимого количества возможных вариантов. Сложнейшая система из 14 000 специальных чипов каждую секунду анализировала 200 миллионов позиций на доске. На момент матча это был 259-й по мощности компьютер на планете, предназначенный к тому же исключительно для анализа шахматных партий. При каждом ходе он мог учитывать намного больше комбинаций, чем гроссмейстер. Компьютер был не умнее проигравшего ему Каспарова, а просто лучше оснащен.

Совсем иначе дело обстояло в матче, в котором один из лучших в мире игроков в го Ли Седоль уступил программе «AlphaGo», разработанной на базе Google Brain. Во второй из пяти игр ход «AlphaGo» ошеломил как Седоля, так и зрителей – программа поместила один из своих камней на дальнюю сторону доски и, казалось, сдалась. Комментаторы игры говорили, что это «очень странный ход» или «ошибка». Другой профессиональный игрок в го, Фань Хуэй, в матче с которым за полгода до этого программа впервые нанесла поражение человеку, также выразил изумление: «Это не человеческий ход. Я никогда не видел, чтобы человек так ходил. Как красиво»(26). Игре го уже две с половиной тысячи лет, но еще никто и никогда так не ходил. «AlphaGo» выиграла матч и одержала победу в серии.

Создавшие «AlphaGo» инженеры обучили нейронную сеть на миллионах ходов опытных игроков, а потом заставили программу сыграть бессчетное множество матчей, чтобы выработать новые стратегии, превосходящие накопленный опыт. Нам не понятно, какими были эти новые стратегии; мы видим ходы программы, но не знаем ее мотивацию. Сложность ходов в тех матчах, которые «AlphaGo» провела сама с собой, вероятно, запредельна, но мы о них никогда не узнаем. Мы не можем оценить утонченность и совершенство машинной стратегии, и лишь видим, что она научилась побеждать.

Ныне покойный британский писатель Йен М. Бэнкс когда-то сказал, что машина действует в «пространстве бесконечного веселья»(27). В цикле научно-фантастических романов Бэнкса цивилизацией Культура управляют доброжелательные искусственные сверхинтеллекты, называемые просто Разумами. Изначально Разумы были созданы людьми (или, по крайней мере, некими углеродными формами жизни), но давно превзошли своих создателей, изменили и перестроили самих себя и стали одновременно непостижимыми и всемогущими. Управляя кораблями и планетами, руководя военными действиями и заботясь о миллиардах людей, Разумы не забывают предаваться своим собственным удовольствиям, например, заниматься непостижимыми для простых смертных умозрительными вычислениями. В своем воображении они способны моделировать целые вселенные и порой навсегда уходят в «пространство бесконечного веселья» – область метаматематических возможностей, доступную только сверхчеловеческому искусственному интеллекту. А остальным из нас останется «конечное веселье», мы будем обречены бесплодно анализировать решения машин, заведомо находящиеся за гранью нашего понимания.

Однако некоторые операции машинного интеллекта выходят за пределы «пространства бесконечного веселья» и порождают «незнание» в реальном мире: новые образы, новые лица, новые, неизвестные и ложные события. Тот же подход, при помощи которого язык можно представить как бесконечную мешанину чужеродных значений, применим ко всему, что описывается математически, то есть ко всей сети взвешенных связей в многомерном пространстве. Произнесенные или написанные слова, даже если их значения непонятны не-человеку, все еще связаны между собой, и путем вычисления можно воссоздать их изначальный смысл. В семантической сети силовые линии, или векторы, определяющие слово «королева», совпадают с линиями, читаемыми в порядке «король – мужчина + женщина»(28). Следуя за векторами, Сеть может определить гендерную принадлежность тех, кого называют «королем» и «королевой». То же самое возможно, если Сеть работает с лицами.

Если Сеть получит набор портретов, то сможет не только производить вычисления, следуя за «силовыми линиями», но и генерировать новые изображения. Изучив фотографии улыбающихся женщин и фотографии, на которых женщины и мужчины серьезны, она самостоятельно рассчитает, то есть создаст совершенно новые изображения улыбающихся мужчин, как было показано в статье, опубликованной исследователями Facebook в 2015 году(29).

В той же статье исследователи создают целый ряд новых изображений. Используя набор данных из более чем трех миллионов фотографий спален, нейросеть генерирует новые комнаты. На пересечении «спальных» векторов – стен, окон, одеял и подушек – возникают сочетания цветов и мебели, которых никогда не существовало в реальном мире. Машинам снятся сны о комнатах для сна, где не снятся никакие сны. Однако больше всего поражают и запоминаются именно лица – антропоморфные, как и мы. Кто эти люди и чему они улыбаются?

Ситуация становится еще более странной, когда эти иллюзорные образы из снов переплетаются с нашими собственными воспоминаниями. Роберт Эллиот Смит, исследователь искусственного интеллекта из Университетского колледжа Лондона, в 2014 году вернулся из семейного отпуска во Франции с телефоном, полным фотографий. Он загрузил некоторые снимки в Google+, чтобы поделиться ими с женой, но заметил нечто странное(30). На одном из кадров он увидел себя и свою жену за столиком в ресторане, улыбающимися в камеру. Но такой фотографии никогда не было. Однажды за обедом его отец долго удерживал кнопку съемки, в результате чего возникла целая серия почти одинаковых изображений. Смит загрузил два из них, чтобы жена могла выбрать, какое ей больше нравится. На одном из кадров улыбался он, а его жена – нет; на другом улыбалась его жена, а он – нет. Из этих двух изображений, снятых с интервалом в несколько секунд, алгоритмы сортировки фотографий Google создали третье – композицию, на которой обе модели вышли «лучше» и улыбаются. Алгоритм был частью пакета программного обеспечения «AutoAwesome» (позднее его переименовали в «Assistant», то есть «Помощник»), который менял настройки загружаемых изображений, чтобы сделать их «круче» за счет, например, особых фильтров, анимации и прочего. В этом же случае возникла фотография, которой никогда не было, алгоритм переписал историю.

В обработке фотографий нет ничего нового – сколько существуют камеры, столько существует и ретушь, но здесь личные воспоминания менялись автоматически и незаметно. Из этого можно извлечь урок: пусть не сразу, но нам открылось, что образы всегда являются ложными, это искусственные снимки моментов, которые никогда не существовали как сингулярности, а теперь оказываются извлеченными из многомерного потока времени. Ненадежные документы, составленные из обрывков того, что сняла камера и на что мы обратили внимание. Это артефакты не мира и опыта, а процесса записи, которая заведомо ложная и не может приблизиться к тому, что есть на самом деле. Только когда эти процессы захвата и хранения овеществляются в технологии, мы можем осознать их ложность и отчужденность от реальности. Из того, что снится машинам, мы можем сделать важный вывод: не машины переписывают историю, а сама история не может быть надежно передана единым повествованием, следовательно, и будущее тоже. Фотографии, возникшие из векторов искусственного интеллекта, представляют собой не строгую фиксацию, а постоянное переосмысление, постоянно меняющийся набор возможностей того, что уже было или только будет. Облако возможностей, случайное и туманное, лучше отражает реальность, чем любое материальное утверждение. И это облако – главное, что показывают нам технологии.

То, как машины проливают свет на человеческое бессознательное, возможно, лучше всего иллюстрирует еще один странный результат исследования машинного обучения Google. Программа «DeepDream» была разработана, чтобы прояснить внутреннюю работу непостижимых нейронных сетей. Чтобы Сеть научилась распознавать объекты, в нее были загружены миллионы помеченных ярлыками изображений вещей: деревьев, машин, животных, домов. Чтобы классифицировать новые изображения, система фильтровала, растягивала, рвала и сжимала их: это дерево, машина, животное, дом. При этом «DeepDream» полностью изменила процесс: загрузив изображение в Сеть и активировав нейроны, обученные видеть определенные объекты, она спрашивала не о том, что это за изображение, а о том, что Сеть хочет в нем увидеть. Этот процесс похож на то, как мы ищем в облаках знакомые очертания: зрительная кора головного мозга, отчаянно нуждаясь в стимуляции, собирает из визуального шума осмысленные паттерны.

Инженер «DeepDream» Александр Мордвинцев создал пробный вариант программы в два часа ночи, когда проснулся от кошмарного сна(31). Первым он загрузил в систему изображение котенка, сидящего на пне, а в результате получился страшный монстр: гибрид кота и собаки с множеством глаз и влажными носами вместо лап. Когда в 2012 году инженеры Google впервые прогнали 10 миллионов случайных видео на YouTube через необученную классифицирующую нейросеть, первой программа научилась видеть без подсказки кошачью морду – тотемное животное Интернета(32). Таким образом, Сеть Мордвинцева нафантазировала то, о чем привыкла думать, – кошек и собак. Дальнейшие итерации создали адские пейзажи, словно с полотен Босха: нескончаемая архитектура, арки, пагоды, мосты и башни в бесконечных фрактальных прогрессиях, в зависимости от активированных нейронов. Но есть одна константа, раз за разом повторяющаяся в творениях «DeepDream», – это изображение глаза: глаза собаки, глаза кошки, глаза человека; вездесущее око, наблюдающее за самой Сетью. Глаз, который парит в небе «DeepDream», напоминает всевидящее око антиутопической пропаганды – собственное бессознательное «мышление» Google, состоящее из наших воспоминаний и действий, обрабатываемых путем постоянного анализа и отслеживаемых для корпоративной прибыли и частного шпионажа. «DeepDream» по своей сути – параноидальная машина, потому что возникает из параноидального мира.

Между тем, когда программу не заставляют визуализировать свои сны, чтобы мы могли их увидеть, она продолжает неведомые нам изыскания.

Самым большим желанием Вальтера Беньямина в «Задаче переводчика» было получение «чистого языка», смеси всех языков. Именно этот обобщенный язык является инструментом переводчика, потому что раскрывает не смысл, а образ мышления оригинала. После активации нейронной Сети Google Translate в 2016 году исследователи поняли, что система способна создавать переводы не только в языковых парах, но охватывать все языки, то есть переводить, даже если никогда не видела прямого перевода с языка на язык. Например, Сеть, обученная на примерах в парах японский – английский и английский – корейский, способна генерировать японско-корейские переводы в обход английского языка(33). Это называется «нулевым» переводом и подразумевает наличие «межъязыкового» представления, то есть внутреннего метаязыка, включающего общие понятия на разных языках. Это, по сути, тот самый «чистый язык» Беньямина – бессмысленный метаязык программы. Визуализируя архитектуру Сети и ее векторы в виде цветных пятен и линий, можно увидеть сгруппированные вместе предложения на нескольких языках. Результатом является семантическое представление, которое Сеть развила самостоятельно, а не получила в готовом виде. Однако подробностей мы не узнаем; нам удалось подглядеть, что происходит в «пространстве бесконечного веселья», но попасть туда нам не суждено.

Более того, в 2016 году исследователи из Google Brain решили проверить, могут ли нейронные сети хранить секреты(34). В основе лежала идея соперничества, присущая проектированию нейронных сетей. Эта идея, несомненно, понравилась бы Фридриху Хайеку. И «AlphaGo», и генератор спальных комнат Facebook были обучены по принципу конкуренции, то есть состояли не из одного компонента, генерировавшего новые ходы или места, а из двух соревнующихся компонентов, которые постоянно пытались превзойти друг друга и таким образом совершенствовались.

Доводя идею конкуренции до логического завершения, исследователи создали три сети, названные в традициях криптографических экспериментов Алисой, Бобом и Евой. Перед ними стояла задача научиться шифровать информацию. Алиса и Боб знали ключ шифрования, который не был известен Еве. Алиса выполняла некоторую операцию со строкой текста, а затем отправляла ее Бобу и Еве. Если Боб мог расшифровать сообщение, оценка Алисы увеличивалась, но если то же удавалось Еве, счет Алисы уменьшался. За тысячи итераций Алиса и Боб научились общаться так, чтобы Ева не могла расшифровывать их сообщения. Они разработали частную форму шифрования, подобную той, которая используется сегодня в личной электронной переписке. Очень важно, что, как и в случае с другими рассмотренными нами нейронными сетями, принцип шифрования между Алисой и Бобом нам не понятен. Его работа скрыта в глубинных слоях Сети. То, что утаивалось от Евы, утаивается и от нас. Машины учатся хранить свои секреты.

Три закона робототехники Исаака Азимова, сформулированные в 1940-х годах, гласят:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат первому закону.

3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит первому или второму законам(35).

К этому мы могли бы добавить четвертый закон: робот – или любая другая разумная машина – должен уметь объяснять себя людям. Такой закон должен стоять выше других правил, потому что это этический императив, а не указания к действию. Тот факт, что этот закон уже не действует и мы к тому же сами создали условия, чтобы он неизбежно нарушался, приводит нас к естественному выводу, что так будет и с другими законами. Будущее, в котором мы не понимаем собственные творения, уже наступило. Результатом такой непрозрачности всегда является насилие, и иначе быть не может.

Рассказывая о поражениях Каспарова от «Deep Blue» и Седоля от «AlphaGo», мы не затронули другую важную историю. Каспаров был разочарован результатами партии и усомнился в возможностях машины. В итоге обеспокоенность заставила его искать способ спасти шахматы от господства машин. Таких попыток было много, и лишь немногие увенчались успехом. Дэвид Леви, шотландский чемпион по шахматам, сыгравший много показательных игр против машин в 1970-х и 1980-х годах, разработал «антикомпьютерный» стиль ограниченной игры, который он описал как «ничего не делать, но делать это хорошо». Его игра была чрезвычайно консервативной, и компьютерные оппоненты не могли придумать долгосрочного плана, пока позиция Леви не становилась настолько сильной, что его уже нельзя было победить. В 1990-х и начале 2000-х годов израильский гроссмейстер Борис Альтерман в матчах с компьютерами разработал похожую стратегию, которая стала известна как «Стена Альтермана». Он долго не выводил фигуры за ряд пешек, зная, что чем больше фигур у него оставалось на доске, тем больше возможных ходов приходилось просчитывать машине(36).

Помимо изменения стиля, можно изменить саму игру. Аримаа – это игра, созданная в 2002 году Омаром Сайедом на основе шахмат. Компьютерный инженер, получивший образование в области искусственного интеллекта, он специально разработал игру так, чтобы людям было легко запомнить правила и интересно играть, а машинам было бы сложно просчитать ходы. В Аримаа игроки могут располагать свои фигуры произвольно, а побеждает тот, кто первым приведет одну из пешек, которые здесь называются кроликами, на противоположную сторону доски. Чтобы расчистить путь для кроликов, более сильными фигурами можно толкать или тянуть фигуры противника и с помощью клеток-ловушек убирать их с доски.

Множество различных начальных расстановок, возможность перемещать фигуры противника и совершать до четырех действий за ход приводят к комбинаторному взрыву: возможных вариантов развития игры так много, что компьютерная программа не в состоянии их обработать. «Стена Альтермана» доведена до экспоненциальной крайности. По крайней мере, на это надеялись. Первый компьютерный турнир по игре Аримаа был проведен в 2004 году, и наиболее успешная программа получила право сразиться с группой лучших игроков за денежный приз. В первые несколько лет люди легко побеждали своих компьютерных противников, и вероятность победы даже увеличивалась, поскольку их навыки в новой игре улучшались быстрее, чем навыки программ. Но в 2015 году машина уверенно выиграла соревнование, и этот исход едва ли обратим.

Когда сталкиваешься с мощью и непрозрачностью интеллектуальных систем, возникает соблазн остановиться, сорваться или признать поражение. Леви и Альтерман строили «стены», Аримаа пыталась отвоевать пространство, создать альтернативную площадку вне сферы, где господствуют машины, но у Каспарова был иной подход. Он не отказался от соревнования с машинами и уже через год после понесенного от «DeepBlue» поражения вернулся с новым видом продвинутых шахмат, который называется адванс.

Продвинутые шахматы также именуют «киборг» и «кентавр», что сразу вызывает в голове образы человека, соединенного с машиной, или мифическим, или даже инопланетным существом. Легенда о кентавре в греческой мифологии возникла, возможно, с прибытием конных воинов из степей Средней Азии, когда верховая езда была еще не известна в Средиземноморье. (Говорят, что ацтеки, впервые увидевшие испанских кавалеристов, также предположили, что столкнулись с помесью человека и лошади.) Роберт Грейвс утверждал, что кентавр был еще более древней фигурой, пережитком доэллинских земных культов. Кентавры также были потомками Нефелы – нимфы облаков. Таким образом, кентавры могут быть как необходимой мерой перед лицом современных невзгод, так и реинкарнацией мифических существ Золотого века.

В продвинутых шахматах игрок-человек и компьютерная шахматная программа выступают в одной команде против другой пары человек – компьютер. Адванс произвела революцию в шахматах, открыла невиданные ранее области и стратегии игры. В первую очередь, удалось избавиться от риска совершить грубую ошибку, так как компьютер анализирует любое предположение, прежде чем шахматист сделает ход. В итоге возможно выстроить игру с идеальной тактикой и проработанной стратегией.

Обычно в адванс играют пары человек – машина, но, пожалуй, самые ошеломительные результаты случаются, когда человек и машина играют против одной машины. Со времен «Deep Blue» было разработано множество компьютерных программ, которые могут легко и эффективно победить любого человека. Более того, из-за увеличения объема памяти и вычислительной мощности для того, чтобы одолеть человека, достаточно обычного, а не суперкомпьютера. Но даже самая мощная современная программа проиграет опытному игроку, если у того будет доступ к своему собственному компьютеру, даже если компьютер-противник на порядок мощнее компьютера-помощника. Сотрудничество между человеком и машиной оказывается более действенной стратегией, чем наращивание вычислительной мощности.

В этом случае к играм применяется алгоритм оптометриста – в каждой отдельной ситуации для достижения наилучшего результата соответствующие навыки людей и машин не противопоставляются друг другу, а складываются вместе. Сотрудничество также снижает вычислительную непрозрачность; благодаря совместной игре мы моментально, а не постфактум, можем получить более глубокое понимание того, как сложные машины принимают решения. Признание реальности нечеловеческого интеллекта влечет глубокие последствия для того, как мы действуем в мире, и требует четкого осмысления нашего собственного поведения, возможностей и ограничений. Хотя во многих дисциплинах машинный интеллект быстро опережает человеческие возможности, это не единственный способ мышления, и во многих областях он является катастрофически разрушительным. Любая стратегия, кроме осознанного, вдумчивого сотрудничества, – это форма отчуждения, то есть заведомо проигрышный подход. Мы не можем вычеркнуть современные технологии и должны уживаться с ними, как с соседями. Все мы связаны. Сегодня этика сотрудничества не должна ограничиваться машинами, а распространяться на все живое и неживое. Это еще одна форма ответственного планирования и управления, основанная на всеобщем равенстве, к которой мы должны прийти не в непознаваемом, туманном будущем, а здесь и сейчас.

Глава 7

Сопричастность

В преддверии Лондонских Олимпийских игр 2012 года Британия помешалась на безопасности. Были сделаны предупреждения о том, что игры могут стать объектом террористической атаки; тех, кто потенциально представлял угрозу, превентивно задержали. В штаб-квартире британской контрразведки МИ-5 в Воксхолле установили таймер обратного отсчета до церемонии открытия(1). В Темзе пришвартовался самый большой корабль Королевского флота «HMS Ocean» с отрядом морских пехотинцев на борту. Армия установила ракеты «Рапира» класса «земля-воздух» на высотных зданиях вокруг мест проведения соревнований (операция, как позднее выяснилось, была продуманной и успешной демонстрацией военной мощи для иностранных правительств). Столичная полиция объявила, что для наблюдения за городом задействует дроны(2).

Последний пункт меня заинтересовал. В течение многих лет я следил за эволюцией беспилотных летательных аппаратов, дронов, – от секретных армейских разработок до обыденных военных приспособлений, а в гражданской сфере – от высококлассных платформ наблюдения до дешевых рождественских игрушек. Вот только британской полиции с дронами не везло. Полиция Эссекса, которая первой приобрела беспилотники, законсервировала программу еще в 2010 году. Тогда же выяснилось, что полиция Мерсисайда совершала полеты на дроне без лицензии Управления гражданской авиации. В 2011 году она получила новую лицензию, но дрон потерпел крушение где-то над рекой Мерси, и его решили не заменять(3).

Когда игры закончились, я подал в столичную полицию запрос в рамках закона о защите информации. Меня интересовало, действительно ли они использовали дроны во время игр, и если да, то где и при каких обстоятельствах(4). Через несколько недель мне пришел удивительный ответ: в полиции отказались подтвердить или опровергнуть, что у них есть какая-либо информация, относящаяся к моему запросу. Я несколько раз переформулировал вопрос, например, спросил, подавали ли они заявку на получение лицензии Управления гражданской авиации на пилотирование дронов, но снова получил отказ (хотя в Управлении гражданской авиации мне с радостью ответили, что заявка от полиции не поступала). Спросил, заключали ли они договор с третьей стороной, которая запускала бы для них дроны, – опять без ответа. На вопрос, какие воздушные судна есть у них в собственности или аренде, мне ответили, что они располагают тремя вертолетами, а любую другую информацию не могут ни подтвердить, ни опровергнуть.

Ответ про вертолеты показался странным. Если они говорят о вертолетах, почему молчат о дронах? Что делает их такими особенными? Несмотря на неоднократные попытки получить ответ на этот вопрос, в том числе передать мое дело на рассмотрение комиссара по информации, уполномоченного Великобритании по вопросам свободы информации, я так ничего и не добился. Любой запрос о дронах немедленно помещался в категорию потенциально секретных, что исключало возможность публичного раскрытия информации. Стало казаться, что дроны – это удобный саван, под которым можно спрятать все, что угодно. Призрачных и могущественных беспилотников, оборудованных камерами и вооружением, обволакивал такой ореол секретности, наводящий на мысли о тайных военных операциях, что режим неразглашения распространялся на все аспекты гражданской жизни. О военной секретности свидетельствовал язык, на котором полиция отвечала на мои вопросы. Что бы я ни спрашивал, ответ всегда был один: «Мы не можем ни подтвердить, ни опровергнуть наличие такой информации». Эти слова – сама формулировка – появились в ходе секретной операции времен «холодной войны» и стали своего рода магическим заклинанием или политической технологией, способной превратить обычную жизнь в почти военный конфликт между управляющими и управляемыми. Более того, они породили новый вид истины.

В марте 1968 года в Тихом океане пропала советская подводная лодка К-129 с баллистическими ракетами и всей командой на борту. Запад впервые узнал о катастрофе, когда Советский Союз направил флотилию кораблей к последнему известному местоположению К-129. Они прочесали огромную площадь моря почти в тысяче километров к северу от атолла Мидуэй, но после нескольких недель бесплодного траления военно-морское командование прекратило поиски.

Однако в отличие от Советов у Соединенных Штатов был козырь – доступ к сети подводных станций прослушивания, предназначенных для обнаружения ядерных взрывов. Поиски не в океанской воде, а в потоках гидрофонных данных позволили получить запись случившегося 8 марта взрыва. Эхо распространилось достаточно далеко, чтобы позволить провести триангуляцию и установить приблизительное расположение источника. На место отправили специальную американскую подводную лодку, и после трех недель поисков она наткнулась на обломки К-129, лежавшие на глубине около пяти километров.

Американские разведывательные службы пришли в полный восторг: помимо трех баллистических ракет, на К-129 должны были находиться кодовые книги и криптографическое оборудование. Их извлечение из-под носа советского флота стало бы ценнейшим достижением разведки, возможно, перевернувшим бы расстановку сил в «холодной войне». Проблема заключалась в том, что ни одна из когда-либо проводимых спасательных операций не проводилась на такой большой глубине, а любая попытка поднять подводную лодку требовала соблюдения условий строжайшей секретности.

В течение следующих нескольких лет Центральное разведывательное управление заключило соглашения с несколькими поставщиками секретных технологий на строительство уникального корабля, названного «Хьюз Гломар эксплорер» в честь бизнесмена-миллиардера Говарда Хьюза, который согласился предоставить прикрытие военной операции. «Хьюз Гломар эксплорер» был массивным и чрезвычайно дорогим кораблем, оснащенным двадцатиметровой буровой установкой. Компания Lockheed Ocean Systems построила специальную современную погружную баржу только для того, чтобы незаметно доставить на корабль массивный захватный карабин. Прессе Хьюз заявил, что корабль будет использоваться для добычи марганцевых конкреций – отложений драгоценных металлов, которые засоряют дно океана. Марганцевые конкреции действительно существуют и стоˊят больших денег, но никому никогда не удавалось извлечь прибыль из их добычи. Однако в 1960–70-х годах, во многом благодаря имени Хьюза и прикрытию ЦРУ, отсутствие экономической выгоды не казалось препятствием для крупного промышленного проекта. Настоящей же целью корабля была затопленная К-129.

В 1974 году «Хьюз Гломар эксплорер» вышел в плавание. Добравшись до затонувшей подлодки, остановился над ней, открыл потайные двери в киле, опустил зацеп и, успешно ухватившись за неповрежденный корпус субмарины, начал подъем, но в какой-то момент огромная стальная клешня вышла из строя, и большая часть субмарины оторвалась. До сих пор не известно, что на самом деле удалось извлечь с затопленной K-129, поскольку подробности операции засекречены. В некоторых отчетах утверждается, что были обнаружены две ракеты; в других упоминаются также документы и аппаратура. Единственными подтвержденными находками стали тела шести советских подводников, которых впоследствии захоронили в море, в стальном контейнере, из-за опасений радиационного заражения.

Спустя несколько месяцев после операции об этой истории узнал репортер-расследователь Сеймур Герш из газеты New York Times. Правительству США удалось задержать выход публикации, заявив, что операция еще не завершена и огласка вызовет международный скандал. Однако произошедшее ограбление офиса Говарда Хьюза в Лос-Анджелесе подтолкнуло другого репортера заняться этой историей, и в феврале 1975 года газета Los Angeles Times опубликовала частичный и во многом ошибочный отчет о глубоководной миссии, что привело к шумихе в прессе. New York Times незамедлительно опубликовала свою версию событий, и вся эта история получила широкую огласку(5).

Самым невероятным в операции было то, что она проводилась у всех на виду, и никто даже не догадывался о происходящем. От публичного прикрытия Хьюза до погружной баржи, открыто расположившейся недалеко от побережья острова Каталина в Калифорнии, весь процесс велся одновременно и тайно, и открыто. Субмарину поднимали на виду у посетителей пляжа и у советских кораблей, проходивших всего в 200 метрах от «Хьюз Гломар эксплорер». Вся операция продолжала стратегию непрозрачности и введения в заблуждение, распространившуюся на сферу повседневной жизни.

В 1981 году другой журналист, Харриэт Энн Филлиппи, использовала закон о свободе информации, чтобы оказать давление на ЦРУ и получить более подробную информацию о проекте и попытке его сокрытия. Разведывательное управление сформулировало ответ на ее запрос таким образом, что положило начало новому виду публичного дискурса.

Обеспокоенный тем, что любая информация, раскрытая сознательно или неосознанно, может сыграть на руку СССР, заместитель главного юрисконсульта ЦРУ под псевдонимом Уолт Логан написал следующее заявление: «Мы не можем ни подтвердить, ни опровергнуть существование запрошенной информации, но гипотетически, если бы такие данные существовали, предмет был бы засекречен и не мог бы быть раскрыт»(6).

Эта формулировка, которая стала известна в законодательстве США как «ответ Гломара», создает третью категорию логических утверждений между утверждением и отрицанием, между истиной и ложью. «Ответ Гломара», который часто сокращается до «ни подтвердить, ни опровергнуть», или простой аббревиатуры «NCND» [от англ. «neither confirm, nor deny»], впоследствии вышел из-под контроля своих кураторов из ЦРУ, перешагнул границы национальной безопасности и пустил метастазы в официальных и общественных дискуссиях.

Сегодня беглый поиск в Интернете показывает, что слова «ни подтвердить, ни опровергнуть» проникли во все сферы современного общения(7). В сентябре 2017 года в новостях появилась фраза, которую приписывают министру финансов Бразилии (относительно его президентских амбиций), офису шерифа округа Стэнли в Северной Каролине (в связи со звонками в службу экстренной помощи «911»), Йоханнесбургскому университету (по поводу обвинения в коррупции), аргентинскому вратарю (касательно его трансфера в Зимбабве), специальному советнику президента Биафры по вопросам СМИ и общественности (проблема обозначения террористов), производителю мотоциклов Honda (выпуск новых моделей), Департаменту полиции Нью-Йорка (наблюдение за кампусом), Квалификационной комиссии судей штата Джорджия (мочеиспускание в суде), редактору комиксов Marvel (возвращение Фантастической четверки), звезде реалити-шоу Кайли Дженнер (возможная беременность), а также ФБР, Секретной службе и Комиссии по ценным бумагам и биржам (в отношении дела о финансовом взломе). «Ни подтвердить, ни опровергнуть» стало стандартным ответом, за которым кроется отказ участвовать в обсуждении, раскрывать любого рода информацию, и эту позицию занимают именно те, от кого, за исключением разве что Дженнер, мы ожидаем получить достоверные сведения.

Возможно, ждать от кого-то достоверной информации наивно. Ничего нового в желании скрыть истинное положение вещей нет. Завеса тайны всегда играла на руку власть имущим. В Древнем Египте ежегодные разливы Нила имели решающее значение как для сельского хозяйства, так и для доходов государства. Если Нил разливался умеренно, плодородные равнины вдоль реки напитывались влагой и накапливали питательные вещества, но всегда существовал риск, что слишком сильное наводнение смоет поля и деревни или что недостаток воды приведет к засухе и голоду. Возглавив построенную вокруг этого годового цикла систему, египетская знать и духовенство создали необычайно богатую и стабильную цивилизацию, в которой их привилегированное положение основывалось на ежегодных предсказаниях наступления и силы наводнений, их вероятных последствий и способности, исходя из этого, определять уровень налогообложения. Каждый год, отмечая смерть и возрождение Осириса, жрецы проводили сложнейшие церемонии и ритуалы, посвященные Ахету, сезону затопления, кульминацией которого было объявление о разливе Нила. Со временем авторитетные предсказания жрецов получили статус божественных откровений, и правление стало по-настоящему теократическим. Быть может, власть в Египте и особые знания действительно исходили от бога, но люди приложили к этому огромные усилия. Внутри храмовых комплексов на островах и на берегах рек, куда был закрыт доступ непосвященным, располагались сооружения, называемые нилометрами. Отмеченные колоннами или ступенями глубокие колодцы служили научными инструментами для измерения глубины воды в реке. Жрецы считывали текущие показания и сопоставляли их с высеченными в стенах святилищ многовековыми данными, чтобы выдать очередное предсказание о поведении великой реки и распорядиться о соответствующих приготовлениях. Непосвященные жили в неведении. И если бы кто-то спросил египетских жрецов о существовании нилометров, те ответили бы, что не могут это «ни подтвердить, ни опровергнуть».

Рассмотрим применение аналогичной схемы в менее далеком прошлом на примере засекреченных цифр. С 1940-х годов Агентство национальной безопасности (АНБ) в США, Центр правительственной связи в Соединенном Королевстве и, без сомнения, их коллеги в России и Китае нанимали самых перспективных ученых с ведущих математических факультетов. Все, кто попадает в такие организации, исчезают из поля зрения широкой публики, а их деятельность засекречивается. Иногда новости о совершенных открытиях все же просачиваются. Так, обмен ключами Диффи – Хеллмана, названный в честь двух создавших его математиков, был впервые опубликован в 1976 году и лег в основу криптосистемы с открытым ключом, широко используемой сегодня для шифрования электронной почты и веб-страниц(8). Однако в 1997 году британское правительство рассекретило документы, из которых стало известно, что эта схема была независимо изобретена несколькими годами ранее Джеймсом Эллисом, Клиффордом Коксом и Малкольмом Уильямсоном – тремя математиками, работавшими в британском Центре правительственной связи(9).

Криптография с открытым ключом основана на создании математических задач, для которых нет эффективного решения: взлом кода без владения ключом требует невероятно сложных математических операций. Распространенный метод шифрования заключается в факторизации двух простых чисел. Кодирование выполняется числом, полученным путем перемножения двух очень больших простых чисел, а ключи – два исходных числа. В зависимости от размера этих чисел даже суперкомпьютеру могут потребоваться годы на вычисление ключа. Из этого утверждения следует несколько проблем. Первая носит общий характер: факторизация эффективна, если все используют разные простые числа, однако на практике оказывается, что в большинстве случаев для факторизации вновь и вновь применяется один и тот же небольшой набор простых чисел, что значительно снижает сложность расшифровки кода. Исследователи в области безопасности признают, что АНБ с его огромными компьютерами и годовым бюджетом в 11 миллиардов долларов фактически «взломало» ряд часто используемых простых чисел и теперь способно читать значительный объем зашифрованных сообщений(10). Квантовая вычислительная техника, в которую АНБ вкладывает большие средства, без сомнения, ускорит этот процесс(11). Причем важно не забывать о тех тысячах математиков, что на протяжении более семидесяти лет тайно работают в закрытых кабинетах Челтнема и Форт-Мид. Они изобрели шифрование с открытым ключом и никому об этом не рассказали. Кто поручится, что за прошедшие с тех пор десятилетия они не совершили прорывов в иных областях, например, разработали секретные числа, которые позволяют проводить принципиально новые виды вычислений? Подобные революции в математике случались и раньше, и если бы Евклид, Эйлер или Гаусс жили в наши дни, велика вероятность, что они работали бы на одно из агентств безопасности и их открытия томились бы в секретном архиве.

Новый Темный век полон таких призрачных возможностей. Тем, кому сложно в это поверить, стоит вспомнить, что ЦРУ потратило миллиарды долларов на проведение самой глубоководной спасательной операции в истории, сохраняя ее в секрете от общественности и противников, и что оно много десятилетий вело секретные технологические разработки. Именно ЦРУ, а не армия или военно-воздушные силы США, разработало и построило первые беспилотные летательные аппараты – беспилотники «Predator» и «Reaper», которые произвели революцию в ведении современных войн, – и сделало это прежде всего за счет распространения паранойи и секретности разведывательных служб на поле боя, а затем по всей планете. И несмотря на все инженерные достижения ЦРУ, больше всего оно инвестировало именно в информационные технологии, обменивая труд оборонных подрядчиков, таких как Raytheon и Lockheed Martin, на партнерство с технологическими компаниями Кремниевой долины, такими как Palantir, чтобы проникнуть в современные коммуникации и социальные сети. Или можно вспомнить, что в 2012 году еще более засекреченное Национальное разведывательное управление, которому было поручено наблюдение за спутниками, объявило, что передает в дар общественности два неиспользуемых космических телескопа. Представители NASA обнаружили, что телескопы, построенные в конце 1990-х годов, превосходили возможности самой мощной гражданской версии этой технологии – космического телескопа «Хаббл». А короткое фокусное расстояние телескопов означало, что они создавались для того, чтобы смотреть вниз, а не вверх. Как написал один научный журналист: «Если списываются телескопы такого калибра, представьте, какие тогда находятся в пользовании»(12). Именно эти трехбуквенные агентства и их эквиваленты в других странах являются символом новых темных веков. По мере того как они разрастались и набирали мощь, огромная часть мировых научных достижений осталась заперта в их засекреченном мире.

Секретность сведений государственной важности в корне разрушает нашу способность правильно понимать мир, потому что без доступа к информации нельзя узнать собственную историю или понять свой истинный потенциал. В 1994 году правительство США сформировало Комиссию по государственной тайне, двухпартийный комитет во главе с сенатором Дэниелом Патриком Мойниханом. Задача Мойнихана и его коллег заключалась в том, чтобы изучить все аспекты секретности в Соединенных Штатах от классификации документов до режима допуска к секретным материалам. По сути, они выясняли, что и кому дозволено было знать. Трехлетнее расследование показало, что Соединенные Штаты ежегодно помечают 400 000 новых документов как совершенно секретные, что является высшим уровнем секретности, и хранят более 1,5 миллиарда страниц секретных материалов более чем двадцатипятилетней давности.

Заключительный отчет Мойнихана включал заявление о том, что «из-за режима секретности американским историкам систематически отказывают в доступе к национальным историческим архивам. В последнее время мы все чаще полагаемся на архивы бывшего Советского Союза в Москве, чтобы выяснить, что происходило в Вашингтоне в середине века»(13). Двадцать лет спустя Дональд Трамп обнаружил, что, даже возглавив страну, он не смог убедить собственные спецслужбы опубликовать полные отчеты об убийстве президента Джона Кеннеди, мрачном событии, засекреченность которого десятилетиями отравляла отношения между американским правительством и народом(14).

В Соединенном Королевстве ситуация намного хуже. В 2011 году после судебной тяжбы, которая длилась более десяти лет, группа кенийцев, подвергшихся пыткам со стороны колониальных властей, получила право подать в суд на британское правительство. Были задокументированы 6000 таких показаний, но выбраны всего четыре – и все четверо в 1950-х годах находились в заключении в концентрационных лагерях и подвергались чудовищному обращению. Ндику Мутуа и Пауло Муока Нзили кастрировали; Джейн Мутони Мара изнасиловали бутылками с кипятком; в марте 1959 года Вамбугу Ва Ньинги выжил в резне в Хола, когда охранники лагеря забили до смерти одиннадцать заключенных и тяжело ранили еще семьдесят семь человек. В течение многих лет британское правительство отрицало как эти события, так и существование каких-либо подтверждающих документов, а также отказывало бывшим подданным колоний в праве оспаривать действия своих угнетателей после обретения независимости. После того как последнее из этих возражений было отклонено Высоким судом Лондона, правительство было вынуждено признать, что оно действительно располагало тысячами таких документов(15).

Огромная тайная коллекция документов колониальной эпохи, известная как «перенесенный архив», много десятилетий хранилась на секретных объектах по всей Великобритании. О существовании архива не было известно даже историкам, а власти все отрицали. Из 1,2 миллиона документов, хранившихся в секретном правительственном исследовательском центре в Ханслоуп-парке в Мидлендсе, стали известны детали работы кенийского «конвейера», которого историки сравнивают с нацистскими концентрационными лагерями. Тысячи мужчин, женщин и даже детей подверглись избиениям и изнасилованиям во время досмотров и допросов. Обычной практикой было морить заключенных голодом, пытать электрическим током, наносить увечья, насиловать, пороть, убивать, в том числе сжигать заживо. В рассекреченных документах содержались подробности о том, чтоˊ британцы творили на территории своих колоний по меньшей мере еще в 37 странах, помимо Кении. Среди открывшихся ужасов были массовые убийства сельских жителей в период чрезвычайного положения в Британской Малайе, систематическое нарушение демократических принципов в Британской Гвиане, организованный военной разведкой центр пыток в Адене и запланированные испытания отравляющего газа в Ботсване.

Из «перенесенного архива» следовало, что все хранящиеся в нем свидетельства ужасных преступлений составляют лишь небольшую часть намного более обширной истории, вероятно, навсегда стертой из документов. К оставшимся файлам, большинство из которых еще не обнародовано, прилагаются тысячи «сертификатов уничтожения» – записей, свидетельствующих об обширной программе обфускации, то есть запутывания кода, и зачистки. В последние годы существования Британской империи администрациям колоний было приказано собрать и скрыть все существующие записи; их можно было либо сжечь, либо отправить в Лондон. Эта операция, известная как операция «Наследие», была предназначена для обеления колониальной истории. Правительственные учреждения при поддержке службы безопасности МИ-5 и вооруженных сил Ее Величества либо разводили костры, либо, когда дым становился слишком очевидным, топили ящики с бумагами в море, чтобы уберечь свои секреты от правительств новых независимых государств и от будущих историков.

Даже когда компрометирующие материалы передаются на долгосрочное хранение, их сохранность не гарантирована. 170 ящиков с документами, помеченными как «Совершенно секретные отчеты о независимости (1953–1963 гг.)», были переправлены в Великобританию в рамках операции «Наследие» и до 1993 года хранились в Лондоне. Согласно уцелевшим записям, они занимали двадцать четыре метра полочного пространства в комнате 52A арки адмиралтейства и включали файлы по Кении, Сингапуру, Малайе, Палестине, Уганде, Мальте и пятнадцати другим колониям. В сохранившейся частичной описи отмечается, что кенийские файлы включали документы о жестоком обращении с заключенными и о психологической войне. Партия документов, озаглавленная «Ситуация в Кении – наём знахарей, шаманов, колдунов на работу в колониальный офис», содержала предупреждение: «Этот файл должен обрабатываться и приниматься только служащими мужского пола»(16).

В 1992 году, возможно, опасаясь, что победа лейбористов на предстоящих всеобщих выборах приведет к новому периоду прозрачности и раскрытия информации, министерство иностранных дел приказало отправить тысячи документов в Ханслоуп-парк. При этом совершенно секретные записи из коллекции «Отчетов о независимости» просто исчезли. Сертификатов об уничтожении выдано не было, никаких записей в других архивах не осталось. По закону требовалось подтвердить необходимость сохранения режима секретности либо передать документы в Национальный архив, но вместо этого они просто исчезли. Историки приходят к неутешительному выводу, что спустя пятьдесят лет после задокументированных событий единственные сохранившиеся записи о произошедших зверствах были уничтожены в самом центре британской столицы.

То, что случилось в Кении, «до боли напоминало события в нацистской Германии или коммунистической России», – писал генеральный прокурор колонии британскому губернатору в 1957 году(17). И, тем не менее, он законодательно разрешил эти зверства, при условии, что все будет держаться в секрете. «Если уж мы должны грешить, грешить надо тихо», – утверждал он. Операция «Наследие» была преднамеренной и осознанной попыткой скрыть империалистические насилие и принуждение. Из-за манипулирования документами и фальсификации истории от нас до сих пор остается скрытым такое наследие Британской империи, как расизм, злоупотребление властью и поощрение неравенства. Более того, устоявшаяся привычка поддерживать секретность делает возможным совершение все новых преступлений. Пытки, разработанные в колониальной Кении, легли в основу «пяти техник», применяемых британской армией в Северной Ирландии, а затем – правил ЦРУ по «усиленному допросу». В 1990 году неизвестные подожгли полицейский архив в Каррикфергусе, в огне были уничтожены важные доказательства действий британского государства в Северной Ирландии. Свидетельства связывают поджигателей с британской армией. Когда следователи попытались установить, останавливались ли рейсы ЦРУ по доставке задержанных на британской территории Диего-Гарсия, им ответили, что записи полетов были «неполными из-за повреждения водой»(18). Трудно придумать более неуместное или отвратительное оправдание. Не сумев скрыть факт, что задержанных пытали водой, спецслужбы решили утопить саму информацию.

Оглядываясь назад на многочисленные случаи подлога и обмана, можно предположить, что мы уже довольно давно живем в темном веке. Вместе с тем, многое указывает на то, что современные сети затрудняют сокрытие грехов прошлого или настоящего. Однако последнее верно лишь при условии, что мы будем не только замечать намеренное сокрытие информации, но и делать все, чтобы ему препятствовать. Как показала череда опубликованных за последние пять лет разоблачений глобальной системы слежения, знание о проблеме редко устраняет саму проблему.

Первые заголовки о деятельности АНБ и Центра правительственной связи начали появляться в газетах по всему миру в июне 2014 года, вызвав бурю негодования. Утверждалось, что оба агентства шпионят за миллионами людей во всем мире, включая своих сограждан, и состоят в сговоре с другими правительствами и интернет-корпорациями. Сначала выяснилось, что под постоянным колпаком наблюдения находятся 120 миллионов клиентов Verizon в США – при каждом звонке регистрируются номера обоих собеседников, их местоположение, а также время и продолжительность разговора. Компания собирала данные и передавала их ФБР, которое, в свою очередь, передавало их АНБ. На следующий день была раскрыта операция «PRISM», которая собирала все данные, проходившие через серверы крупнейших интернет-компаний, включая электронные письма, документы, голосовые и видеочаты, а также изображения и видео из Microsoft, Yahoo, Google, Facebook, YouTube, Skype, Apple и других сервисов. Вскоре выяснилось, что возможности спецслужб по взлому системы не ограничиваются сбором необработанных данных с кабелей, по которым информация передается по всему миру. Когда Эдварда Сноудена спросили о том, на что способна серверная система АНБ «XKeyscore», он ответил: «Можно читать электронную почту любого человека в мире, если знать его электронный адрес. Можно отслеживать входящий и исходящий трафик любого веб-сайта. Можно отслеживать все происходящее на любом включенном компьютере. Можно отследить перемещения любого ноутбука по всему миру»(19).

После этих откровений стало ясно, что международный характер глобальной Сети означает, что наблюдение за Интернетом ничем не ограничено и ничто не мешает правительствам подсматривать за собственными гражданами; любой человек для кого-то будет иностранцем. Данные отслеживаются, собираются и идут в ход. Ненасытный спрут разрастается: первыми были американское АНБ и Центр правительственной связи Великобритании. Затем появился разведывательный альянс англоязычных стран «Пять глаз», в который вошли США, Великобритания, Австралия, Новая Зеландия и Канада. Впоследствии к ним присоединились Дания, Франция, Нидерланды и Норвегия, а еще позднее в рамках группы «SIGINT Seniors Europe», или группы «четырнадцати глаз», ряды всемирных «стражей» пополнили Германия, Бельгия, Италия, Испания и Швеция, несмотря на то, что их собственные политики, посольства, торговые миссии и делегации в ООН попадали под наблюдение. Канцлер Германии Ангела Меркель пожаловалась на то, что ее частный мобильный телефон прослушивался в тот же период, когда немецкая Федеральная разведывательная служба БНД передавала международным партнерам огромные объемы информации о гражданах Европы, оборонных подрядчиках и важнейших отраслях промышленности(20). Подробности частной жизни миллиардов пользователей Интернета и телефонных абонентов попадали в огромные хранилища данных, масштаб и размер которых превышали то, что ранее считалось технически невозможным.

Программа «Optic Nerve» специально нацелена на веб-камеры пользователей Yahoo Messenger, самой популярной программы-чата как среди трейдеров, так и среди возбужденных подростков. Из каждой трансляции каждые пять минут сохранялось одно неподвижное изображение – это ограничение якобы было введено «в соответствии с законодательством о правах человека» – и пропускалось через программное обеспечение для распознавания лиц, чтобы идентифицировать участников чата. Центру правительственной связи Великобритании пришлось принять дополнительные меры по защите персонала от значительной части снимков, на которых можно было увидеть больше обнаженного тела, чем хотелось бы. В штабе электронной разведки это называлось «нежелательной наготой»(21). Появились истории о том, что подрядчики АНБ просматривали электронные письма и текстовые сообщения супругов, любовников, бывших и нынешних, и слежка за интимной жизнью распространилась так широко, что получила собственное шутливое кодовое название «LOVEINT» и продемонстрировала, с какой легкостью можно получить доступ к системе(22). Другие условные обозначения свидетельствовали об интересах и черном юморе своих создателей. «Regin», вредоносное ПО, которое использовали для проникновения в телекоммуникационные системы в Бельгии и на Ближнем Востоке, содержало кодовые слова на тему крикета, такие как «LEGSPIN» и «WILLISCHECK», которые, как считается, относятся к английскому игроку в крикет Бобу Уиллису(23). Еще одна операция Центра правительственной связи по сбору IP-адресов посетителей веб-сайтов была названа «KARMA POLICE», по-видимому, в честь одноименной песни группы Radiohead, в которой есть слова: «Вот что вы получите, если свяжетесь с нами»(24).

Истории с разоблачениями появлялись в течение нескольких месяцев, за которые непонятный технический жаргон стал общеизвестным, а плохо оформленные слайды «Powerpoint» навсегда остались в памяти миллионов людей. Кодовые слова множились, становясь своего рода зловещей поэзией: ТЕМПОРА, МУСКУЛИСТЫЙ, МИСТИЧЕСКИЙ, ПОДХАЛИМ и БЕЗГРАНИЧНЫЙ ИНФОРМАТОР; ЛЮБОПЫТНЫЙ СМУРФ, СКРЫТАЯ ВЫДРА, КРАДУЩАЯСЯ БЕЛКА, БОРОДАТЫЙ ПОРОСЕНОК и ПИСКЛЯВЫЙ ДЕЛЬФИН. По сути, эти бесконечные списки скрывают реальную глобальную систему наблюдения, которая не сводится к своим составным частям. Как Эдвард Сноуден написал в своем первом электронном письме режиссеру Лоре Пойтрас: «Знайте, что каждая граница, которую вы пересекаете; каждая покупка, которую совершаете; каждый номер, который набираете; каждая вышка сотового телефона, которую вы проезжаете; друг, с которым общаетесь; статья, которую пишете; сайт, который посещаете; строчка, которую вводите; и посылки, которые отправляете, – все это находится в руках системы, охват которой безграничен, а никаких гарантий безопасности нет»(25). И все же в конечном счете, по прошествии пары лет после разоблачений наиболее поразительным остается не их масштаб, а их очевидность и то, как мало ситуация изменилась с тех пор.

Различные ведомства согласованно используют технологии, чтобы перехватывать гражданские сообщения, о чем известно, по крайней мере, с 1967 года. Тогда телеграфист Роберт Лоусон обратился в лондонский офис газеты Daily Express и сообщил журналисту Чепману Пинчеру, что в Британии любая телеграмма перед доставкой адресату досматривается в здании адмиралтейства в министерстве общественных работ. На следующий день в газете появилась история, из которой было ясно, что, помимо перехвата телеграмм, также вскрывались письма и прослушивались телефонные звонки. В то время широкой общественности еще не было известно о существовании Центра правительственной связи, и дело быстро забылось, даже когда правительственная комиссия по расследованию подтвердила правильность опубликованных сведений и назвала ряд ранее сделанных официальных заявлений «вводящими в заблуждение».

В 2005 году, за восемь лет до разоблачений Сноудена, газета New York Times сообщила, что после 11 сентября президент Джордж Буш наделил АНБ обширными секретными полномочиями шпионить за средствами связи США даже без ордера(26). В статье рассказывалось о существовании программы под кодовым названием «Stellar Wind» по созданию обширной базы данных о коммуникациях американских граждан, включающей электронную почту, телефонные разговоры, финансовые транзакции и активность в Интернете. Бывший аналитик АНБ Уильям Бинни официально подтвердил размах программы, а в прессе ее критиковали за явное превышение конституционных мер защиты. Эта программа уже была предметом внутренних споров в правительстве, когда выяснилось, что, вопреки разрешению президента, АНБ не только прослушивало международную связь, но и собирало данные обо всех возможных коммуникациях. В ответ Белый дом просто повторно одобрил ту же программу, но уже под другим названием. Бинни продолжил привлекать внимание к программе в последующие годы, и уже в 2012 году журнал Wired опубликовал отчет о том, что АНБ строит в штате Юта новый огромный центр обработки данных. Также в отчете говорилось, что «Stellar Wind» все еще активна, и приводилась цитата Бинни касательно ее потенциала(27).

В мае 2006 года подрядчик компании AT&T Марк Кляйн сообщил, что АНБ способно отслеживать огромное количество сообщений. В 2002 году Кляйн познакомился с агентом АНБ, вербовавшим руководство AT&T для специального проекта; на следующий год он обнаружил секретную комнату внутри крупнейшей телефонной станции Сан-Франциско, доступ в которую был только у техника, нанятого АНБ. Помещение находилось рядом с аппаратурой, по которой проходили все телефонные звонки. Впоследствии самого Кляйна перевели на работу в другую комнату на АТС, которая обрабатывала интернет-трафик для компании Worldnet. Работа Кляйна заключалась в разделении оптоволоконных кабелей в определенных цепях и их прокладке в секретную комнату. Именно эти цепи связывали клиентов Worldnet с остальной частью Интернета. Беседы с другими сотрудниками AT&T показали, что аналогичные шкафы-разветвители установлены на телефонных станциях в разных городах. В каждом случае проведенное волокно вело к машине семантического анализатора «NarusInsight», которая могла обрабатывать огромные объемы информации и выделять заранее запрограммированные слова и фразы(28). Такой размах явно подразумевал, что АНБ контролировало не только внешние связи, но и без разбора перехватывало внутренний трафик. На этом основывался подкрепленный показаниями Кляйна судебный иск Electronic Frontier Foundation против AT&T. Несмотря на сенсацию в СМИ, правительство США быстро приняло закон, имеющий обратную силу, и тем самым остановило дело и обезопасило компанию.

Но даже если не брать в расчет громкие разоблачения, почему никто не замечал происходящего? Масштаб теневого бюджета был очевиден; станции прослушивания, построенные во время «холодной войны», все еще гудели, и их становилось даже больше; поля антенн и спутниковых тарелок, расположившиеся на белых скалах поверх проложенных кабелей, можно было увидеть на картах Google. Профсоюзная организация британского Центра правительственной связи просуществовала до 1984 года, когда ее деятельность была публично запрещена Маргарет Тэтчер в рамках одного из самых продолжительных трудовых споров XX века. Тем не менее, то, на что были способны службы безопасности и разведки, обсуждалось только в узком кругу специалистов и, как будет видно из следующей главы, дали пищу сторонникам теории заговора.

Лишь в 2013 году, когда Эдвард Сноуден передал в газеты секретные документы АНБ, паранойя достигла критической массы. Почему именно это событие стало поворотным моментом, можно объяснить по-разному. Возможно, дело было в масштабе утекших в прессу тайн, а также в визуальной подаче материала и таланте рассказчиков-журналистов. Разоблачение мало-помалу превозмогло нашу склонность закрывать на все глаза; день за днем в поле зрения общественности появлялись непонятные словечки, нелепые названия проектов, пестрые слайды «PowerPoint», будто сам дьявол проводил для нас бесконечную рекламную презентацию. Возможно, внимание к расследованию привлекла персона самого Сноудена – его внезапное появление в Гонконге, бегство в Россию. Остро ощущалась потребность в молодом, неуловимом герое, на котором держится повествование. Разоблачения Сноудена впервые связали известные программы АНБ и Центра правительственной связи и продемонстрировали, насколько запутанна и непонятна их деятельность. Разведывательные службы, прикрываясь мнимым превосходством интересов своего правительства над правами граждан, следят за каждым, и защититься от этого наблюдения невозможно.

К сожалению, никаких действий не последовало. В Соединенных Штатах предложения положить конец безосновательному прослушиванию телефонных разговоров и ограничить общий сбор данных спецслужбами, такие как поправка Амаша – Коньерса, были отклонены в обеих палатах конгресса, а другие аналогичные законопроекты застряли на рассмотрении в профильных комитетах. Американский «Акт о свободе», официально названный «Законом об объединении и укреплении Америки путем соблюдения прав и прекращения прослушивания, сбора данных и электронной слежки», вступил в силу 2 июня 2015 года, по сути, восстановив действовавший ранее «Патриотический акт». Хотя закон должен был стать нормативным ответом на разоблачения Сноудена, принятая норма практически ни в чем не ограничила возможности АНБ, и агентство могло и дальше собирать общие метаданные, то есть все сведения о сообщении, кроме самого содержания, которое несложно получить по секретному решению суда. В любом случае, этот акт, как и все предыдущие версии, принятые после 11 сентября, в любой момент можно отменить указом президента, а зарубежные операции США остались полностью неизменными. Нельзя законодательно остановить процесс, основанный на систематическом и скрытом нарушении закона. Что касается Британии, там ни до, ни после публикации разоблачений не было принято никаких законов, препятствующих слежке Центра правительственной связи за своими гражданами. Вместо этого правительство установило для газет, освещавших это дело, еще более драконовские требования цензуры, известные как «D-Notices». В условиях продолжающейся глобальной войны с террором и практически невообразимой мощи комплекса промышленной разведки протест остального мира напрасен.

В конце концов, общество никогда особо не сопротивлялось безумным, ненасытным требованиям спецслужб, и несмотря на небольшой всплеск интереса в 2013 году, люди быстро устали от все новых разоблачений и экзистенциального ужаса от происходящего. Нас, на самом деле, никогда не интересовало, чтоˊ прячется в секретных комнатах, в зданиях без окон в самом центре города; ответ – ничего хорошего. Как и изменение климата, тотальное наблюдение оказалось слишком масштабным и дестабилизирующим фактором, чтобы общество могло его осмыслить. Подобно неловким, полушутливым, но все же встревоженным разговорам о погоде, тотальная слежка стала просто еще одной паранойей в шуме повседневной жизни. Размышления об изменении климата омрачают самый погожий день, потому что в любой погоде начинаешь видеть экзистенциальную угрозу. Мысли, что все мы находимся под колпаком спецслужб, омрачают телефонные разговоры, видеозвонки, электронную переписку или личные беседы. Тень падает на все, чего бы мы ни касались. И последствия настолько глубоко въелись в повседневную жизнь, что о них лучше совсем не думать.

Очень жаль, что люди соглашаются забыть о массовой слежке, поскольку еще так много предстоит обдумать и обсудить, например, различные виды слежки и тайно добытые сведения. Массовая слежка в мировом масштабе опирается на политическую тайну и технологическую непрозрачность, и эти два аспекта подпитывают друг друга. Хотя правительства всегда шпионили за своим народом и за своими врагами, развитие сетей и вычислительных мощностей дало им в руки почти безграничные возможности. Вся окружающая техника – от уличных камер наблюдения и «умных» домов до автомобилей и смартфонов – может нас выдать. Существование технической возможности порождает политическую необходимость ее применить, потому что ни один политик не хочет, чтобы его обвиняли в недостаточных действиях, если случится жестокое преступление или вскроется что-то неладное. Наблюдение осуществляется потому, что возможно, а не потому, что эффективно. Более того, любая автоматизация позволяет перенести бремя ответственности на машину. Машины сами разберутся с накопившимися обвинениями.

В 2016 году в своих показаниях британскому парламентскому комитету вышеупомянутый информатор АНБ Уильям Бинни заявил, что массовый сбор данных спецслужбами «на 99 процентов бесполезен». Отсутствие эффективности он объяснил тем, что потоки данных захлестнули аналитиков, лишив их возможности вычленить информацию, которая действительно устраняла бы конкретные угрозы. То, о чем неоднократно предупреждали, со временем только усугубилось. После попытки взрыва самолета, летевшего из Амстердама в Детройт на Рождество 2009 года, президент Обама сам признал, что проблема заключалась в слишком большом объеме разведданных: «Это была не неудача в сборе разведывательных данных, а неспособность обобщить и понять имеющиеся у нас данные», – заявил он(29). Французский официальный представитель по борьбе с терроризмом прокомментировал случай так: «Мы испытываем зависть и благоговейный трепет перед размахом и возможностями американской разведки, и вместе с тем радуемся, что нам не приходится обрабатывать немыслимые объемы информации, которые она получает»(30).

Тотальное наблюдение усложняет вычисление: так в американской программе беспилотников много лет возникали проблемы с анализом и интерпретацией полученных данных. Дронов становится все больше, увеличивается время полета, растет разрешение и пропускная способность установленных на них камер – в результате мы абсолютно не способны отслеживать все, что они передают. Еще в 2010 году один из высших командиров военно-воздушных сил США предупреждал, что вскоре они будут «плавать в датчиках и тонуть в данных»(31). Даже для самых продвинутых разведывательных организаций больший объем данных не дает большей ясности. Скорее возникает путаница, часть информации скрывается, что приводит к будущим сложностям – гонка вооружений сродни проблеме прогнозирования погоды, когда вычисления отчаянно пытаются опередить само время. Как описал Уильям Бинни в своих свидетельских показаниях парламенту Великобритании: «При нынешнем подходе получается так, что люди умирают скорее [чем будет открыта информация], даже если исторические записи иногда могут предоставить дополнительные сведения об убийцах (которые к тому времени могут быть уже мертвы)»(32).

Массовая слежка просто не работает, причем сразу на нескольких уровнях. Исследования неоднократно показывали, что массовое наблюдение практически не дает полезной информации для контртеррористических служб. В 2013 году президентская группа по анализу разведывательных и коммуникационных технологий, обнаружив, что большинство потенциальных подозреваемых были выявлены с помощью традиционных методов расследования, таких как информаторы и сообщения о подозрительной деятельности, заявила, что массовое наблюдение «не является необходимым для предотвращения атак»(33). Хотя правительство заявляло об успехах программ слежения, в New American Foundation их назвали «преувеличенными и даже вводящими в заблуждение»(34).

С другой стороны, анализ систем видеонаблюдения в общественных местах показал, что оно столь же неэффективно, как и глобальное наблюдение. Внедрение публичных систем видеонаблюдения обходится очень дорого, отвлекает финансирование и внимание от других подходов к проблемам, которые пытается решить, принося лишь незначительные результаты. Хотя системы наблюдения часто называют фактором, сдерживающим преступность, это не так. Когда в середине 2000-х годов в Сан-Франциско установили сотни камер видеонаблюдения, количество убийств в пределах ста метров от камер уменьшилось – и резко возросло на следующих ста метрах. Чтобы совершить убийство, люди просто отходили дальше по улице(35). Видеонаблюдение, как и глобальная слежка, не делает ничего, кроме как подпитывает параноидальные настроения, усиливая страх перед преступностью и контролем, но ничего не делает для их устранения. Видеонаблюдение и глобальная слежка, по своей сути, ретроактивны и карательны, они позволяют собрать больше разведданных и произвести больше арестов, но только после совершения преступления. Критическое событие уже произошло, и причины не так важны.

Подобный взгляд на эффективность слежки заставляет задуматься о наших собственных стратегиях противодействия злоупотреблениям властью. Действительно ли помогает освещение улиц? Усовершенствование освещения долгое время было одной из аксиом безопасности, однако установка освещения на городских улицах нередко сопровождалась ростом преступности(36). Похоже, свет ободряет не только жертву, но и стимулирует преступника. Когда все хорошо освещено, злоумышленники выглядят менее подозрительно; более того, они знают, когда на горизонте чисто. Яркий свет способствует лишь чувству безопасности, а не самой безопасности(37).

Разоблачение мрачнейших сторон деятельности спецслужб не помогло их обуздать; скорее открывшаяся информация успокоила общественность, узаконив при этом ту же секретную деятельность. Операции, которые раньше происходили в сумеречной зоне неизвестности и отрицания, были одобрены законом, но не в наших интересах.

Можно восхищаться визуальной подачей разоблачительных документов Сноудена и радоваться возникшей широкой дискуссии о массовом наблюдении, но нужно учитывать, что картинка, сама визуальность, отвлекла наше внимание от понимания лежащих в их основе механизмов и того, насколько они устойчивы.

Сбор данных неэффективен без понимания, все сводится в единый нарратив, несмотря на погрешности. Будет ли тогда наблюдение эффективной контрмерой в борьбе с тотальной слежкой? Однако именно так мы и действуем: пытаемся секретности противопоставить прозрачность, требуем ясности и открытости, чтобы пресечь скрытность и засекречивание, следуя в конечном итоге той же логике. С этой точки зрения, Агентство национальной безопасности и WikiLeaks разделяют одинаковое мировоззрение, только с разным результатом. Они, по сути, верят, что в сердце мира есть некий секрет, раскрытие которого сделает мир лучше. WikiLeaks хочет прозрачности от всех, АНБ хочет прозрачности только от некоторых – своих врагов, но оба действуют в соответствии с одной и той же философией.

Первоначальная цель WikiLeaks заключалась не в том, чтобы стать своего рода зеркалом для АНБ, а в том, чтобы сломать всю машину. В 2006 году, на заре существования WikiLeaks, ее основатель Джулиан Ассанж выпустил исследование конспиративных систем управления и способов борьбы с ними «Заговор как управление». Для Ассанжа все авторитарные системы основаны на заговоре, потому что не могли бы существовать без сохранения секретов от своих народов – от утаивания зависит сила режима, а внутренний страх и паранойя перед возможными утечками снижают способность системы к тайному сговору. Разрушителен сам факт утечки, а не содержание раскрытой информации(38). Когда WikiLeaks попал в поле зрения общественности, а сам Ассанж стал влиятельнее и наглее, организация оказалась вовлеченной в серию разборок между разведывательными агентствами, инструментами в противостоянии государств, хотя никто этого не осознал. Преобладала только ошибочная вера в силу «дымящегося пистолета» в руках убийцы – явной улики, неоспоримого доказательства, которое могло бы подорвать авторитет властей.

Проблема «дымящегося пистолета», необходимости опираться на неопровержимое свидетельство, преследует любую стратегию, которая зависит от разоблачения, демонстрации доказательств, в качестве импульса для изменения мнения. Выводы о деятельности спецслужб могли быть сделаны задолго до Сноудена из множества собранных за десятилетия отчетов, но мы готовы не замечать злодеяния до тех пор, пока документальные подтверждения не достигнут критической массы. В 2005 году Кэролайн Элкинс опубликовала подробный отчет о зверствах британцев в Кении, но ее работа была широко раскритикована за то, что основывалась на рассказах и свидетельствах очевидцев(39). И только когда британское правительство опубликовало документы, подтверждающие эти сообщения, их признали историческим фактом. Жертве начинали верить, только когда ее версия событий совпадала с рассказами угнетателей, что в большинстве случаев недостижимо. Точно так же культ «крота», «инсайдера», информатора зависит от изменения сознательности сотрудников разведывательных служб. Тем, кто не вхож в систему, не остается ничего другого, кроме как ждать, пока какой-нибудь неизвестный правительственный чиновник соизволит поделиться своими знаниями. Принципиально недостаточная основа для нравственного действия.

Подобно тому, как доступность огромных вычислительных мощностей стимулирует внедрение глобальной слежки, логика последней определяет нашу реакцию на нее и на другие экзистенциальные угрозы нашему когнитивному и физическому благополучию. Потребность в доказательствах, которые позволят нам со стопроцентной уверенностью что-либо утверждать, перевешивает нашу способность действовать здесь и сейчас. Консенсус (к примеру, согласие научного сообщества по поводу безотлагательности климатического кризиса) игнорируется, если возникает малейшая неопределенность. Мы застряли в своего рода стазисе, требуя, чтобы стрела Зенона попала в цель, несмотря на все большее сопротивление среды. Нам недостает уверенности, подтверждений никогда не бывает достаточно, отчего создается ощущение глубокой отчужденности. Все знают, что происходит, и ничего не могут с этим поделать.

Мы хотим получить истинные знания о мире путем вычислительной логики наблюдений и от этого оказываемся в опасном и парадоксальном положении. Вычислительное знание требует наблюдения, потому что извлекает истину только из непосредственно доступных данных. В свою очередь, всякое знание сводится к тому, что познаваемо с помощью вычислений, поэтому всякое знание становится формой наблюдения. Таким образом, вычислительная логика лишает нас способности обдумывать ситуацию и действовать рационально, если не будет достигнута абсолютная уверенность. Более того, по этой логике мы можем действовать только реакционно, когда уже собрано достаточно доказательств, и не можем ничего сделать в настоящем, когда это больше всего необходимо.

Наблюдение, слежка и наше соучастие в ней – одна из фундаментальных характеристик новой темной эпохи, поскольку требует своего рода слепоты – все освещено, но ничего не видно. Мы пришли к убеждению, что пролить свет на предмет – значит помыслить его и получить над ним власть. В то же время свет вычислений делает нас слабее либо из-за информационной перегрузки, либо из-за ложного чувства безопасности. Нас соблазнило вычислительное мышление, и мы купились на эту ложь.

Рассмотрим пример из самой Сети. Незадолго до мая 2016 года Джеймс О’Рейли, житель форта Макмюррей в Альберте, Канада, установил в своем доме систему безопасности Canary. Продукты Canary, вроде Google Home, идеально воплощают логику наблюдения и вычислительного мышления. Набор связанных между собой и имеющих выход в Интернет камер, датчиков и сигнализаций обеспечивает полную ситуационную осведомленность о доме в режиме реального времени. Всевидящие машины обещают защиту и гарантируют душевное спокойствие.

1 мая 2016 года в лесу к юго-западу от форта Макмюррей начался лесной пожар, который, раздуваемый сильным ветром, распространился в сторону города. 3 мая был издан приказ об обязательной эвакуации, и 88 000 человек, включая О'Рейли, покинули свои дома. Когда хозяин выехал, на телефон пришло уведомление от домашней системы безопасности и началась прямая трансляция из дома. Позднее запись была размещена на YouTube(40).

На первых кадрах видео в гостиной О’Рейли все еще горят настольные лампы и подсветка в аквариуме с золотыми рыбками. Деревья за окном шатаются под сильным ветром, но кажется, что нет ничего страшного. В течение следующих нескольких минут в дверь начинают биться тени, медленно переходящие в клубящийся дым. Еще через минуту окно чернеет и загорается – ломаются жалюзи, а затем рама. Комнату заволакивает черным дымом, и камера переключается на черно-белое ночное изображение. В сгущающейся темноте периодически звучит сигнализация, но, в конце концов, она стихает, и все, что можно услышать, – это треск пламени.

Это кошмарная сцена, но она, кажется, олицетворяет новый Темный век. Виˊдение становится все более универсальным, но наши возможности все более ограниченны. Мы знаем о мире все больше и больше, однако все меньше и меньше можем что-либо с этим поделать. Возникающее в результате чувство беспомощности, вместо того, чтобы дать паузу, когда мы могли бы пересмотреть свои предположения, кажется, еще глубже погружает нас в паранойю и социальную дезинтеграцию – усиливается наблюдение, растет недоверие, и мы все больше и больше полагаемся на силу визуализации и компьютеризации в надежде исправить положение, в которое нас загнала наша же безоговорочная вера в их авторитет.

Наблюдение не действует, как и праведные разоблачения. Ни одна из сторон не может привести ни одного окончательного аргумента, ни одного решающего заявления, которое успокоило бы нашу совесть и изменило мнение наших оппонентов. Нет никакого «дымящегося пистолета», который с абсолютной точностью может что-либо подтвердить или опровергнуть. Ответ Гломара, а не мертвые слова беспечной бюрократии, оказывается самым верным описанием мира, которое нам под силу сформулировать.

Глава 8

Заговор

В романе Джозефа Хеллера «Поправка-22» летчики 256-й эскадрильи военно-воздушных сил США оказываются в серьезном положении. Война в разгаре, и бои в небе над Италией становятся все ожесточеннее. Каждый вылет может стать последним, и разумнее бы отказаться от воздушных операций. Чтобы не лететь, нужно назваться безумцем, но уже одна эта попытка спастись выдаст здравость суждений. «Орр был сумасшедшим, и его можно было освободить от полетов. Единственное, что он должен был для этого сделать, – попросить. Но как только он попросит, его тут же перестанут считать сумасшедшим и заставят снова летать на задания. Орр сумасшедший, раз он продолжает летать. Он был бы нормальным, если бы захотел перестать летать; но если он нормален, то обязан летать. Если он летает, значит, он сумасшедший и, следовательно, летать не должен; но если он не хочет летать, – значит, он здоров и летать обязан»(1).

«Поправка-22» иллюстрирует дилемму рациональных субъектов, оказавшихся в большой и запутанной иррациональной системе, где рациональные действия приводят к непредсказуемым результатам. Осознавая свою иррациональность, человек теряет способность действовать в собственных интересах. Мы сталкиваемся с бурлящим потоком информации и в попытке получить хотя бы какой-то контроль над миром рассказываем о нем истории, то есть пытаемся овладеть им с помощью повествований. Любые наши рассказы – не более чем упрощения, потому что ни одна история не способна объяснить всего происходящего, ведь реальный мир слишком сложен. И поскольку мы не способны смириться с таким положением вещей, наши истории становятся все причудливее и запутаннее, сложнее и непонятнее. В мире, оплетенном сетями, круг замыкается. Необходимость сочинять сложные истории ведет к спросу на большие объемы информации, которые только затуманивают наше понимание мира, повышают уровень его сложности, что требует еще более изощренных теорий для его объяснения. Чем больше информации, тем больше неясного.

В экранизации «Поправки-22» 1970 года капитан военно-воздушных сил Джон Йоссариан, которого играет Алан Аркин, произносит бессмертную фразу: «То, что ты параноик, не означает, что за тобой не следят». Сегодня эти слова обрели вторую жизнь из-за сводящей с ума паранойи, порожденной технологическим прогрессом и тотальным наблюдением. Ощущение постоянной слежки – один из первичных признаков паранойи; но сегодня такой страх обоснован, и если вам кажется, что за вами следят, – то вам это не кажется. Каждое отправленное электронное письмо, каждое текстовое сообщение, каждый телефонный звонок, каждое путешествие, каждый шаг, вдох, сон и высказывание стали объектом глобальных систем автоматизированного сбора информации, алгоритмов, анализирующих социальные Сети и генерирующих тонны спама. Мы оказались под неусыпным наблюдением собственных гаджетов. Так кто теперь параноик?

Ноябрь 2014 года. Я стою на подъездной дороге в поле недалеко от Фарнборо в английском Хэмпшире и жду, когда над головой пролетит самолет. Я не знаю, когда он промчится в воздухе и полетит ли вообще. На капоте моей машины установлена камера, которая уже пару часов снимает пустое небо; примерно каждые полчаса я обнуляю карту памяти и снова включаю запись. Легкое облако в вышине рябит и превращается в дымку.

Самолет, который я жду, – один из трех «Reims-Cessna F406», базирующихся в аэропорту Фарнборо, где проходило знаменитое авиашоу и где в 1908 году был совершен первый в Великобритании полет на устройстве с двигателем. В 1904 году здесь появилось Королевское авиастроительное учреждение, занимавшееся исследованием и строительством первых воздушных судов, изначально – воздушных шаров, а позднее военно-воздушной техники. К югу от взлетно-посадочных полос расположены ангары, в которых Отдел по расследованию авиакатастроф пытается по фрагментам разбившихся самолетов выяснить обстоятельства их крушения. Это Мекка для тех, кто, как и я, грезит самолетами, а еще для олигархов и заморских королевских особ, прилетающих инкогнито на частных самолетах.

«Сессна» – это маленькие двухместные реактивные самолеты с турбонаддувом, предназначенные для гражданского и военного наблюдения, пользующиеся особой популярностью у береговой охраны и авиационных разведывательных компаний. Три самолета из Фарнборо впервые привлекли мое внимание, когда я заметил, как один из них долго кружил над островом Уайт. Я проводил много времени на веб-сайте FlightRadar24: сначала искал частные чартеры, на которых тайком депортировали тех, кому было отказано в предоставлении убежища(2), но постепенно предался очарованию замысловатых узоров, которые выписывали самолеты в небе над Южной Англией. В любое время суток тысячи самолетов, больших и малых, мчатся или неспешно проплывают в этом сильно забитом воздушном пространстве, одном из самых загруженных в мире. Огромное количество данных поступает от трансатлантических рейсов, учебно-тренировочных самолетов, военного транспорта и даже от тех судов, полеты которых правительство предпочло бы скрыть.

Мало кому известно столько о тайнах британского правительства, сколько знает журналист-расследователь Дункан Кэмпбелл, который еще в 1976 году первым публично сообщил о Центре правительственной связи Великобритании. В 1978 году в отношении Кэмпбелла и его коллег Криспина Обри (еще одного журналиста) и Джона Берри (бывшего офицера разведки) было возбуждено дело о нарушении закона о государственной тайне(3), известное также как судебное разбирательство по делу «ABC» [от английских инициалов фигурантов – Обри, Берри и Кэмпбелла], которое длилось несколько месяцев и в рамках которого было доказано, что почти вся опубликованная Кэмпбеллом информация уже являлась публичной. «Не было никаких секретов, только ленивые следователи», – писал специалист по истории разведывательных служб Ричард Олдрич в отчете о том судебном разбирательстве(4). В 2010 году в журнале New Statesman была опубликована рецензия Кэмпбелла на книгу Олдрича о Центре правительственной связи Великобритании:

«Установка Центра правительственной связи в Бьюде в графстве Корнуолл была началом проекта англоязычных союзников «Эшелон», сопоставимого, как предполагает Олдрич, с сегодняшней системой оповещений Google, которая постоянно сканирует Интернет на предмет новых дополнений. Это гениальное сравнение, но в нем упускается важнейшее различие. Google часто переходит границы, но собирает только то, что находится в общественном доступе. Те же, кто получает секретную информацию, перехватывая частные сообщения, в лучшем случае, прикрываются сомнительными полномочиями и, конечно же, ни перед кем не отчитываются, как принято считать.

Сейчас, когда вы читаете это, на востоке Лондона над Кэнэри-Уорф в трех километрах над землей, вероятно, кружит самолет-сборщик секретной информации. Он сканирует столичные сотовые Сети и, как сообщается, сопоставляет телефонные звонки, совершенные в этом районе, с организаторами взрывов, вернувшимися в Великобританию после учений в «Талибане». Такая деятельность не вызывает возражений, если действительно позволит вычислить тех, кто планирует причинить вред жителям города. Но как защитить частную жизнь сотен тысяч людей, чьи сообщения перехватываются, от злоупотребления информацией, от ошибок или еще чего похуже?»(5)

Эти и другие разрозненные свидетельства я обнаружил, когда начал искать информацию о самолетах «Сессна», кружащих над островом Уайт. В G-INFO, общедоступной базе данных самолетов, зарегистрированных в Великобритании, я обнаружил два принадлежащих Nor Aviation, некой загадочной организации с тем же адресом, что у магазина Mail Boxes Etc. в Сурбитоне, в нескольких милях от аэродрома. По тому же таинственному адресу был зарегистрирован второй самолет «Сессна» компании Nor Aviation, в то время как третий самолет, низко пролетающий над Бембриджем и Блэкгангом, числился за компанией Aero Lease UK, зарегистрированной по адресу магазина Mail Boxes Etc. в самом Фарнборо. Имена нескольких владельцев совпадали с именами действующих или бывших офицеров столичной полиции. Странность этого факта только подчеркнула обнаруженная мной газетная статья 1995 года, подробно описывавшая мошенничество, которое в течение десяти лет совершал бывший бухгалтер Лондонской полиции Энтони Уильямс(6). Он создавал подставные компании для секретного авиационного подразделения полиции, но направлял боˊльшую часть средств – на общую сумму около 5 миллионов фунтов стерлингов – на свой банковский счет, с которого оплатил покупку большой части недвижимости в шотландской деревне Томинтоул, а также титула лорда Уильямса из Чирнсайда.

Попытки узнать больше о самолетах на профильных форумах пилотов и авиалюбителей ничего не дали. Пользователи не решились ослушаться запрета администраторов групп на любое упоминание бортовых номеров самолетов из Фарнборо. Впрочем, такой поворот событий не удивлял – меня уже заблокировали на нескольких форумах еще в ту пору, когда я изучал рейсы, на которых депортировали беженцев. «Нас интересуют самолеты, а не пассажиры», – сказали мне. А когда речь зашла о сомнительном, с правовой точки зрения, тотальном прослушивании телефонных разговоров, в котором участвовали секретные полицейские самолеты, любители авиации не проявили никакого интереса, хотя в Интернете можно найти много фотографий этих судов, сделанных энтузиастами аэрофотосъемки. (У меня есть подозрение, что именно из-за этих самолетов прослушки полиция так озаботилась сохранением секретности в ответ на мой наивный вопрос о возможностях беспилотников, о чем говорилось в предыдущей главе.)

Итак, приехав в поле в Хэмпшире, я несколько часов выжидал, прежде чем вдали послышался шум двигателя и в поле зрения возник двухмоторный самолет, регистрационный номер которого легко читался на нижней стороне крыльев, так что, когда он скрылся за горизонтом, на FlightRadar24 можно было отследить его перемещение. Самолет двигался на юго-запад. В течение следующего часа на экране телефона я видел, как он сделал несколько кругов над южным побережьем, а затем повернул обратно и через полтора часа после взлета вернулся в Фарнборо. Я до сих пор не знаю, что они там делают. Когда-нибудь я напишу программу, чтобы собрать на сайте все полеты тех трех самолетов; все рейсы, на которых из аэропорта Станстед в три часа ночи депортировали беженцев, или люди из ЦРУ совершали тайные «экскурсии» над Лос-Анджелесом и Бостоном; а также информацию о тайных самолетах «Islander» британской контрразведки, летающих высоко в небе над Нортхолтом. Я едва успеваю собирать огромные объемы информации о воздушных перемещениях и действительно не знаю, что с ней делать. С 2016 года информация о местонахождении самолета в воздухе стала недоступна.

Пока я стою у аэродрома, подъезжает еще одна машина – такси, судя по наклейке на заднем стекле. На этой подъездной дороге рядом с автомагистралью А325 удобно остановиться и отдохнуть между заказами. Водитель выходит из машины, и я пользуюсь возможностью одолжить у него зажигалку. Пока мы курим, он замечает у меня радио и бинокль. Разговариваем о самолетах, а затем неизбежно речь заходит о химиотрассах.

«Правда, облака уже не те?» – говорит таксист. К таким разговорам все привыкли. Зайдите на YouTube, и вы найдете там бесчисленное количество видеороликов, в которых подробно и зачастую очень эмоционально рассказывается об изменениях в небе и о том, что всему виной авиация. Когда я активно искал информацию о самолетах, отслеживающих телефонные звонки, многие запросы в Интернете приводили меня к материалам не о слежке, а о скрытой геоинженерии, когда с самолетов распыляют химикаты, чтобы контролировать атмосферу.

Творится нечто странное. В современном гиперсвязанном и перегруженном информацией мире происходит раскол в массовом восприятии. Все мы смотрим на одно и то же небо, но видим каждый свое. Там, где я вижу тайные депортации и самолеты слежения, что подтверждается журналами учета полетов, данными технологии автоматического зависимого наблюдения-вещания АЗН-В, сообщениями в прессе и запросами в рамках закона о защите информации, другие видят глобальный заговор, направленный на то, чтобы разрушить атмосферу планеты, контролировать умы, поработить человечество, перестроить климат – и все это ради наивных, а может, и гнусных целей. Многие верят, что в атмосферу, и без того ощутимо наполняющуюся двуокисью углерода, которая разогревает планету и притупляет наш разум, поступают далеко не только парниковые газы.

Химиотрассы, а вернее, оставленные в небе следы химического загрязнения, появились еще в 1990-е годы, когда, по мнению сторонников теории заговора, военно-воздушные силы США допустили промах и какая-то информация об их деятельности стала достоянием общественности. В отчете «Погода как фактор силы: владение погодой в 2025 году» группа исследователей, работавших на вооруженные силы, предложила ряд мер по управлению погодой, которые позволили бы американским военным «достичь невиданного ранее господства в воздушном пространстве над районом боевых действий». Предлагалось влиять на выпадение осадков, например, вызывать или останавливать дождь, управлять грозами, выборочно активировать ионосферу микроволновыми лучами, чтобы улучшить качество или, наоборот, помешать радиосвязи(7). Хотя попытки влиять на погоду совершались с давних пор, особое сочетание спекулятивной метеорологии, военных разработок и появление Интернета привели к тому, что легенды о таинственных химиотрассах получили широчайшее распространение. Возможно, этому также способствовало по-настоящему народное творчество в Сети.

За несколько лет поддержанная на радио и интернет-форумах теория о том, что самолеты преднамеренно распыляют химические вещества в верхних слоях атмосферы, стала по-настоящему глобальной. Этот вопрос поднимался в парламентах, ответа требовали от научных организаций; ученых-метеорологов высмеивали на конференциях. В Интернете множились любительские видео, на которых смог окутывал голубое небо, а за самолетами тянулся черный дым. На форумах и в группах в соцсетях пользователи обменивались шутками и картинками.

Конспирологическая теория о химиотрассах многогранна и многоголова. Ее приверженцы верят в раздробленные версии одной и той же общей идеи. Кто-то считает, что гражданские, военные и вообще любые самолеты распыляют химикаты в рамках программы по управлению солнечным излучением – хотят создать вокруг Земли особый покров, чтобы остановить солнечные лучи и замедлить (или ускорить?) глобальное потепление. Говорят, что химия вызывает рак, болезнь Альцгеймера, кожные заболевания и уродства. Возможно, само глобальное потепление – одна большая ложь, заговор «серых кардиналов», задумавших захватить мир. Иные полагают, что химикаты сделают из людей безмозглых марионеток, или, быть может, испортят здоровье, чтобы фармацевтические компании обогатились на их болезнях. Подозрения о существовании тайной геоинженерии, нового мирового порядка и заговора об изменении климата подпитываются сетевой дезинформацией, любительскими видео, ничем не подкрепленными заявлениями, развенчаниями «мифов» и обуявшим всех недоверием.

Химиотрассы лежат в самом центре теорий заговоров, втягивая другие мифы на свою орбиту. «Верните себе власть: голосуйте за выход из ЕС», – призывает видеоблогер на YouTube. Имя этого пользователя даже не удивляет – Flat Earth Addict [англ. «фанат плоской Земли»]. На видео смонтированы кадры исполосованного инверсионными следами голубого неба(8). За этим воззванием, очевидно, стоит идея, что климатическая инженерия – это проект Европейского союза по подавлению воли народа. Через несколько дней после публикации видео, когда Британия действительно проголосовала за выход из ЕС, на национальном телевидении выступил Найджел Фараж, фактический лидер кампании по выходу из ЕС: «Солнце взошло над независимой Британией, и вы только посмотрите – даже погода улучшилась»(9).

Распространенность идеи химиотрасс во многом объясняется гиперобъектным пониманием изменения климата, предложенного Тимоти Мортоном, – оно буквально «прилипает», пронизывает все стороны жизни. Об этом феномене красноречиво говорит журналистка Кэри Данн, которая опубликовала материал о том, как целый месяц она провела в Калифорнии в окружении сторонников теории химиотрасс: «Я бы предпочла ни о чем таком не знать, потому что теперь это знание действительно меня расстраивает» (10). Теории заговора воплощают в себе невысказанный ужас, который мы ощущаем вокруг себя.

Первоначально Данн с энтузиазмом восприняла возможность провести идиллические каникулы на ферме, но все изменилось, когда она узнала, что ее работодатели нашли на Facebook сообщество местных сторонников теории химиотрасс и поддельный твит Дональда Трампа о том, что его администрация остановит распыление химикатов. Вот что говорит одна из этих хиппи, стремящихся вернуться к матери-природе:

«Откуда мне и таким, как я, знать, что правда, а что нет? Мне 54 года. Я не смотрю новости. Я не слушаю новости по радио. А потом захожу в Интернет, вижу что-то невероятное и думаю: «Черт возьми! Серьезно?!» Меня подводят к тому, чтобы я поверила. Я же не журналист и не могу судить, достоверна ли эта информация. Обычного человека можно убедить в чем угодно. В Интернете каждый может вывешивать новости. Как мне узнать, правдивы ли они? Поэтому так сложно выбирать президента. Люди выбрали Трампа, потому что думали, что он действительно написал в Twitter, что остановит химиотрассы. Понимаете?»(11)

Тем не менее, теория заговора выполняет жизненно важную функцию, выявляя объекты и дискурсы, которые иначе остались бы незамеченными, поскольку находятся на периферии проблемного пространства. Термин «теория заговора» имеет больше общего с отношением людей к власти, чем с отношением людей к истине. Нельзя просто проигнорировать убежденных сторонников теории химиотрасс, когда они столь очевидным образом указывают на происходящие в атмосфере катаклизмы. Вероятно, чумное облако Рёскина было первым видимым климатическим последствием индустриализации Британии, заполненной дымовыми трубами, но, может, за ним скрывалась более глубокая метафора: облако как миазм, исходящий от тысяч трупов, оставшихся на полях сражений в Европе, первых жертв войн промышленного капитала XX века.

Как и во времена Рёскина, фундаментальная неопределенность настоящего проявляется в виде погодных явлений, например, множества новых и странных облаков. В последнем издании Международного атласа облаков, опубликованном в 2017 году Всемирной метеорологической организацией, в официальный список облачных образований попал новый классификатор – «антропогенные облака». Так описывают облака, которые образуются в результате деятельности человека(12).

В нижних слоях атмосферы теплый и влажный воздух от городских выбросов и транспортных средств создает туман – это слоистые антропогенные облака. В нестабильной атмосфере эти слои поднимаются вверх, образуя свободно плавающие кучевые антропогенные облака.

Тепловые электростанции, которые из уходящих ввысь труб выбрасывают отработанное тепло в средние слои атмосферы, нагнетают существующие слоисто-дождевые и высокослоистые облака, а сами оказываются в тени. Но именно в высоких слоях атмосферы, вдали от поверхности земли, антропогенные облака обретают настоящую форму.

При сгорании керосина в реактивных двигателях образуется водяной пар и углекислый газ. В холодном воздухе водяной пар быстро охлаждается, сначала образуя крошечные капельки воды, а затем затвердевая в кристаллики льда. На больших высотах для образования кристаллов льду требуется крошечное ядро, его обеспечивают примеси в реактивном топливе. Так из миллиардов кристаллов за пролетающим самолетом формируется облачная дорожка. Это перистое антропогенное облако. Такие инверсионные следы, официально относящиеся к искусственным облакам, в холодные безветренные дни могут сохраняться много часов.

Полосы на небе похожи, независимо от того, где они встречаются. В графическом романе Гранта Моррисона «Незримые» один из персонажей снимает на «Поляроид» небо над пустыней и комментирует: «Над холмом в Дульсе, штат Нью-Мексико, поднимается облако, один в один похожее на то, что я фотографировал в Новой Зеландии в городе Квинстаун». Во вселенной «Незримых» это ключевой и очень напряженный момент, когда повествование прерывается и обнаруживаются свидетельства путешествий во времени и других необычных явлений. Для нас такой поворотный момент наступает, когда мы наблюдаем за перистыми антропогенными облаками и их бесконечными пересечениями, а после видим в Сети их отражение в климатических исследованиях и теориях заговора. Именно тогда погода становится конкретной информацией – неограниченной в физическом пространстве и расползающейся по Интернету «грозовым облаком антропоцена» и параноидальными фантазиями.

Ученые изо всех сил стараются отделить обычные инверсионные следы от конспирологических химиотрасс, хотя и те, и другие произрастают из единой большой проблемы. Инверсионные следы – видимый признак невидимых выбросов из реактивных двигателей; в их основе – углекислый газ, так стремительно и опасно накапливающийся в атмосфере и действующий наподобие термоизоляции. В реактивных выхлопах также содержатся оксиды азота, серы, свинца и технического углерода, которые вступают в сложные реакции друг с другом и с окружающим воздухом, и мы до конца не понимаем, как происходит это взаимодействие. Авиакомпании много десятилетий работают над оптимизацией расхода топлива, но достигнутые успехи в плане экономии и экологии полностью перечеркиваются быстрым ростом самой авиации как отрасли. Если сохранятся нынешние темпы роста, к 2050 году на одну только авиацию будет приходиться весь допустимый объем выбросов, при котором глобальное потепление не преодолеет критической точки в два градуса по Цельсию(13).

Инверсионные следы действительно влияют на климат, особенно когда сохраняются долго, тянутся по всему небу, образуя обширные полосы белизны, напоминающие перистые и высококучевые облака. На атмосферу влияет не только их химический состав, но и плотность, создаваемая ими облачность: они удерживают длинноволновое тепловое излучение, препятствуя его отражению обратно в космос. Все это приводит к еще большему глобальному потеплению. Разница особенно заметна по ночам и зимой(14). Долгосрочные исследования атмосферы показали, что облачность действительно повышается: инверсионные следы меняют небо, и не в лучшую сторону(15).

В Древней Греции провидцы практиковали орнитомантию, предсказывавшую будущее по полету птиц. Согласно Эсхилу, именно титан Прометей, который принес людям знания о технологиях, открыл древним орнитомантию, обозначив, какие птицы приносят удачу, а какие сулят несчастья(16). Прометей также продвигал гаруспицизм – исследование внутренностей птиц на предмет предзнаменований, своего рода примитивное хакерство. Сегодняшний гаруспекс – это одержимый онлайн-исследователь, часами перебирающий следы событий, потроша их, вытаскивая внутренности, роясь в суставах и выковыривая осколки стали, пластика и сажи.

Таким образом, многие теории заговора могут быть своего рода народным знанием – бессознательное предсказание событий теми, кто на глубинном уровне осознает и анализирует текущие условия, но не имеет возможности сформулировать их в научно приемлемых терминах. Тем не менее, если мир не сможет признать такие по-разному сформулированные версии, он рискует стать жертвой гораздо худшего развития событий – от всеобщей антинаучной паники до кровавых наветов, если не услышит подлинных и столь необходимых предупреждений.

Коренные жители Крайнего Севера Канады утверждают, что солнце больше не садится там, где раньше, и что звезды сместились. Погода меняется странным и непредсказуемым образом. С новых направлений дуют теплые, неустойчивые ветры, сильные наводнения угрожают городам и деревням. Даже животные меняют свой образ жизни, пытаясь приспособиться к неопределенным, меняющимся условиям. Именно так мир описан в «Знаниях иннуитов и изменении климата», созданных режиссером фильма «Нунавут: Наша земля» Захариасом Кунуком и ученым-экологом Яном Мауро. В этой серии интервью старейшины иннуитов рассказывают о своем опыте взаимодействия с окружающим миром, опыте, основанном на десятилетиях непосредственного наблюдения за климатом. Они говорят, что солнце уходит за горизонт в другом месте, часто за километры от той точки, где оно садилось раньше. Сама Земля отклонилась от нормы.

Когда фильм был показан на Копенгагенской конференции по изменению климата в декабре 2009 года, многие ученые пожаловались на то, что, хотя точка зрения иннуитов важна, их утверждение о том, что Земля на самом деле меняет положение относительно своей привычной оси, опасно и подрывает их мнение(17). Однако то, к чему иннуиты пришли на основании своего опыта, подтверждается научной теорией – в высоких широтах на появление солнца сильно влияет снежный покров, который отражает и преломляет свет. При изменении снежного и ледяного покрова неизбежно меняется видимость. Более того, атмосфера, бесспорно, заполняется твердыми частицами, примесями из отработанного реактивного топлива и выхлопными газами от сгорания ископаемого топлива. Ярко-красные закаты над грязными городами возникают из-за смога и дыма, которые выдыхает сам город. Таким образом, атмосфера над Арктикой искажается, и кажется, будто солнце садится все дальше и дальше. Небо, как и все остальное, мы наблюдаем через призму изменения климата. То, что нам непонятны причинно-следственные связи, не отменяет самого факта изменений.

«Многие годы эти голоса оставались неуслышанными. Каждый раз, когда заходит речь о глобальном потеплении, о потеплении в Арктике, туда отправляются ученые. Политики и все, кто участвует в принятии важных политических решений, опираются на результаты работы ученых, а местные жители и их знания никого не интересуют», – делает вывод Кунук(18).

В связи с этим вспоминаются кенийские жертвы пыток, чей личный непосредственный опыт отрицался до тех пор, пока не был доказан на языке их угнетателей, на языке документации и анализа. Знания, основанные на непосредственных наблюдениях и ощущениях и имеющие научное или политическое значение, не могут преодолеть рамки индивидуального опыта, хотя это не значит, что знания ошибочны или что носители знания не пытаются найти новые способы его выразить.

За последнее время в Европе самые невообразимые и впечатляющие закаты можно было наблюдать после извержения вулкана Эйяфьядлайёкюдль в апреле 2010 года, когда небеса наполнились пеплом и дымом. Этим закатам способствовали распыленные в атмосфере аэрозоли, особенно диоксид серы. По мере того как солнце садится, пепел и двуокись серы создают на горизонте белую облачную дымку, а рассеянный атмосферными частицами синий свет объединяется с красным светом заката, образуя уникальный оттенок, известный как вулканическая лаванда(19). Такие закаты в течение нескольких дней можно было видеть по всему континенту по мере того, как облако пепла двигалось на юго-запад. Известно, что вулканический пепел может помешать работе реактивных двигателей, но, хотя за несколько десятилетий было зафиксировано несколько таких происшествий, исследований проводилось крайне мало, поэтому в результате извержения пришлось закрыть для полетов все европейское воздушное пространство. В течение восьми дней было отменено более 100 000 рейсов, почти половина мирового воздушного трафика, и 10 миллионов пассажиров оказались в затруднительном положении.

Закаты после извержения вулкана Эйяфьядлайёкюдль были прекрасны; тревожным знаком стала тишина. Впервые за много десятилетий небо над Европой было безмолвно. Поэтесса Кэрол Энн Даффи отметила его неподвижность:

Британские птицы,

Пойте этой весной, от Инвернесса до Ливерпуля,

От Криффа до Кардиффа, Оксфорда, Лондона,

От Лэндс-Энд до Джона О’Гроутса.

Тишина взывает к музыке,

Что слышали Шекспир, Бёрнс, Эдвард Томас.

Коротко – взывает к нам.(20)

Другие отмечали, как странно и архаично выглядит небо без инверсионных следов. Эта странность – обратная сторона, инверсия происходящего – подкралась к нам. Пока СМИ писали о «хаосе», вызванном перебоями в авиасообщении, мы сидели в лучах солнца под чистым голубым небом. Извержение было гиперобъектом – событие почти немыслимого размаха и яростной силы, отразившееся повсеместно, но локально воспринимавшееся как отсутствие. В этом извержение было очень похоже на сформулированный Рони Хорном парадокс погоды: «Улучшения кратковременны и индивидуальны, тогда как аномалии долговечны и глобальны».

Долгое время климатические скептики утверждали, что вулканы производят больше углекислого газа, чем деятельность человека. Действительно, вулканы исторически были причиной периодов глобального похолодания и паранойи. В 1815 году колоссальное извержение вулкана Тамбора в Индонезии стало последним катаклизмом в череде событий, из-за которых 1816 год стал известен как «год без лета». В Северной Америке и Европе посевы были неурожайными, в июле и августе наблюдались снег, лед и заморозки. Небо окрасилось в пурпурно-алый цвет, по земле поползли голод, зловещие предзнаменования и апокалиптические настроения. Тогда в Женеве собралась группа друзей, которые делились друг с другом своими самыми пугающими историями. Одним из результатов этих бесед стал «Франкенштейн, или Современный Прометей» Мэри Шелли; другим – стихотворение Байрона «Тьма», в котором есть такие строки:

Погасло солнце светлое, и звезды

Скиталися без цели, без лучей

В пространстве вечном; льдистая земля

Носилась слепо в воздухе безлунном.(21)

Взрыв вулкана Кракатау в августе 1883 года также вызвал пурпурные закаты и глобальное падение температуры, и его связывают как с чумным облаком Рёскина, так и с пылающим небом из «Крика» Эдварда Мунка(22). Подобное произошло ранее с Тамборой; новости о случившемся извержении шли до Европы несколько месяцев, и все это время множились апокалиптические предсказания.

Извержение Эйяфьядлайёкюдля позволило развеять заблуждения относительно вулканического углекислого газа. По оценкам ученых, вулкан выбрасывал от 150 000 до 300 000 тонн углекислого газа в день(23); для сравнения, приостановка полетов всего европейского авиатранспорта всего за восемь дней предотвратила выброс около 2,8 миллиона тонн углекислого газа(24), что на порядок больше общего объема выбросов от всех вулканов в мире за целый год(25). Если сегодня рисовать картину наподобие «Крика» Мунка, подходящим фоном будет не кроваво-красное небо после извержения Кракатау, а небосвод, пересеченный инверсионными следами – теми же инверсионными следами, которые оставляют на форумах в Интернете конспирологи-любители, особенно те, кто отрицает антропогенную природу изменения климата. Все мы смотрим в одно и то же небо, но видим противоположное.

Человеческое насилие уже не раз отражалось на климатических условиях. Например, в XIII веке нашествие монголов вызвало такие перебои в сельском хозяйстве на обширной территории Евразии, что леса существенно восстановились, отчего заметно (на 0,1 %) упал уровень углерода в атмосфере(26). Небольшой ледниковый период, кульминацией которого стал 1816 год, тот самый «год без лета», отсчитывается с 1600 года, но до этого ему предшествовал ряд глобальных потрясений, начавшихся еще в 1492 году с открытия Америки Христофором Колумбом. За 150 лет после прибытия европейцев в Америку было уничтожено от 80 до 95 % коренного населения, в некоторых регионах – все 100 %. Многие из смертей были связаны с вооруженными конфликтами, но большинство – с болезнями, завезенными из Старого Света. Коренное население Америки сократилось с 50–60 миллионов человек примерно до 6 миллионов. В результате 50 миллионов гектаров ранее возделываемых земель оказались заброшенными. По прошествии времени в Америку повезли невольников из Африки, 12 миллионов обращенных в рабство африканцев перевезли с континента на континент. Миллионы других умерли в пути. На этот раз пострадало сельское хозяйство по обе стороны Атлантики. Леса снова разрослись, одновременно с этим сжигалось меньше топлива, и в результате содержание углекислого газа в атмосфере сократилось на 7–10 долей на миллион в период между 1570 и 1620 годами(27). Больше такого снижения концентрации углекислого газа с тех пор не происходило.

Возможно, началом антропоцена следует считать именно это событие, а не какое-то чудесное изобретение, которое впоследствии задним числом было признано самоубийственным. Таким образом, отсчет антропоцена нужно начинать не с изобретения угольного парового двигателя в XVIII веке на заре индустриализации, не с изобретения Габером и Бошем процесса, позволяющего связать азот; не с выброса миллиардов частиц радиоактивного загрязнения в результате взрыва сотен ядерных бомб. Нет, антропоцен начинается с массового геноцида, с планетарного насилия в таких масштабах, что он оставил след в толще льда и отразился на опылении сельскохозяйственных культур. Характерной чертой антропоцена является то, что в отличие от тех эпох, которые начались с падения метеорита или продолжительных извержений вулканов, его происхождение туманно и неясно. А его последствия, которые мы наблюдаем прямо сейчас, куда более значительны. По сравнению с другими эпохами, эту первую по-настоящему человеческую эру, к которой мы ближе всех и с которой наиболее тесно связаны, труднее всего увидеть и понять.

11 сентября 2001 года в 9:08 утра, через пять минут после того, как второй самолет врезался в башни Всемирного торгового центра, Федеральное управление гражданской авиации США закрыло воздушное пространство Нью-Йорка и все свои аэропорты. В 9:26 управление остановило взлеты самолетов по всей стране. В 9:45 национальное воздушное пространство было полностью закрыто. Гражданским самолетам запретили взлетать, а всем самолетам, находившимся в воздухе, велели как можно скорее приземлиться в ближайших аэропортах. Транспортное агентство Канады поступило аналогично. К 12:15 воздушное пространство над континентальной частью США было очищено от гражданских и коммерческих самолетов. В течение трех дней над Северной Америкой не перемещался никто, кроме военных самолетов и транспорта для заключенных.

В течение этих трех дней, с 11 по 14 сентября, разница между дневными и ночными температурами, известная как средний дневной температурный диапазон, заметно увеличилась. По всему континенту средний дневной температурный диапазон увеличился более чем на один градус по Цельсию, в то время как для регионов Среднего Запада, Северо-Востока и Северо-Запада, где инверсионный след обычно был самым большим, дневной температурный диапазон более чем вдвое превысил среднесезонное значение(28). И снова акт насилия отразился на погоде.

11 сентября 2001 года в нижней части экрана по время выпусков новостей, сначала на канале Fox News, затем на CNN и MSNBC, стали появляться бегущие строки. Они и раньше использовались, чтобы сообщить о важных происшествиях, поскольку продюсеры изо всех сил пытались передать максимальный объем информации и держать зрителей в курсе главных событий. Однако после 11 сентября бегущие строки никуда не делись, потому что кризис стал обыденным и непрерывным явлением, в котором плавно переплелись война с террором, страхи перед «грязными» ядерными бомбами, крахом фондового рынка и безработицей. В формате бегущей строки дискретный эмпирический подход информационных бюллетеней прошлого сменился постоянным потоком неиссякающей информации. Новостные бегущие строки стали прообразом будущих новостных потоков на стенах в Facebook и Twitter. Огромные объемы все поступающей информации без иных сведений (например, даты или источника), кроме самого сообщения, лишили нас возможности рассказывать связные истории о мире; наше представление о нем стало разрозненным. Не само 11 сентября как событие, а сформировавшая его и сформировавшаяся вокруг него медиасреда ознаменовала наступление новой эры всеобщей паранойи. Лучше всего ее иллюстрируют конспирологические теории на уровне правительства, но свидетельства можно найти во всех слоях общества.

Американский физик и информатик Дуглас Хофштадтер в 1964 году ввел термин «параноидальный стиль», который, по его мнению, характеризует американскую политику. Ссылаясь на множество примеров, начиная от масонской и антикатолической паники в 1800-х годах до утверждений сенатора Джо Маккарти о заговоре правительства на высоком уровне в 1950-х годах, Хофштадтер обрисовал в общих чертах историю отчуждения, то есть представления невидимого врага как «олицетворения злого умысла, своего рода аморального сверхчеловека – зловещего, вездесущего, могущественного, жестокого, чувственного, любящего роскошь»(29). Наиболее распространенным атрибутом этого врага является его всевластие: «В отличие от нас враг не попадает в жернова истории, будучи жертвой собственного прошлого, своих желаний, своих ограничений. Он повелевает, вернее, сам создает механизм истории либо пытается воспрепятствовать нормальному ходу истории». Короче говоря, враг – это тот, кто возвышается над перипетиями настоящего, кто схватывает ситуацию во всей ее сложности и способен манипулировать ею так, как не умеют остальные. Теории заговора – крайнее прибежище бессильных, пытающихся вообразить, что значит быть могущественным.

Эту тему подхватил американский литературный критик и теоретик марксизма Фредрик Джеймисон, когда написал, что заговор – «прибежище бедняков в эпоху постмодерна, тщетная попытка отразить логику капитала»(30). Сложность окружает нас во всем, что для историка-марксиста является символом повсеместного разобщения, порождаемого капитализмом, и каким бы возмущенным ни был человек, он прибегает ко все более упрощенным повествованиям и историям, чтобы восстановить хотя бы видимость контроля над ситуацией. Чтобы объяснить технологически развивающийся и ускоряющийся мир, который все дальше и дальше уходит от простоты, заговор неизбежно должен стать более причудливым, запутанным и жестоким.

Хофштадтер выделил еще один ключевой аспект параноидального стиля: отражение в нем собственных желаний субъекта. «Трудно отказаться от вывода, что этот враг во многих отношениях является проекцией нас самих; ему приписываются как идеальные, так и неприемлемые аспекты личности»(31). Сама идея химиотрасс застревает у нас в голове, становится бессознательным, но устойчивым проявлением более широкого экологического бедствия. Мой друг однажды рассказывал, как летел в отпуск на одном из самолетов, на которых среди ночи депортируют беженцев; адепты теории химиотрасс делают видео «химических распылений» с не менее пагубных для атмосферы самолетов, на которых сами же совершают путешествия. Сложная ситуация, в какой все мы находимся, замкнута – в ней нет ничего «внешнего», нет точки зрения «со стороны», которая могла бы всех объединить. Нас опутала Всемирная сеть, она несет информацию, просвещает нас о бессчетном числе точек зрения, но вместе с тем дезориентирует.

В последние несколько лет параноидальный стиль стал не просто распространенным, а главенствующим. Легко закрывать глаза на конспирологов химиотрасс и «знатоков» событий 11 сентября и называть их сумасшедшими маргиналами, пока они не начнут свергать правительства и захватывать целые страны. Пусть Дональд Трамп и не хвастал в Twitter о том, что положит конец химическим трассам, зато он неоднократно писал, что глобальное потепление – это заговор (скорее всего китайского происхождения) против американского бизнеса(32). Политический подъем Трампа случился на волне движения, возникшего как реакция на избрание Барака Обамы президентом. Его противники считали, что Обама не был рожден в США, не был американским гражданином и, следовательно, не мог возглавлять страну. Движение спровоцировало радикализацию республиканцев, стало центральной темой митингов в рамках «Движения чаепития» и звучало на собраниях в городских ратушах. В 2011 году в ходе национального пресс-тура Дональд Трамп возвращался к теме законности свидетельства о рождении Барака Обамы. На своей странице в Twitter Трамп заявлял, что Обама – самозванец и уроженец Кении по имени Барри Соето, и предлагал пожертвовать деньги в любой указанный президентом фонд, если Обама представит всем свое заявление на получение паспорта. Акцентирование внимания на вопросе о гражданстве президента помогло Трампу не только удвоить количество голосов избирателей-республиканцев, но и заручиться поддержкой политиков, включая Митта Ромни, с которым Трамп позднее конкурировал за право выдвигаться от республиканской партии. В 2016 году, спустя много времени после того, как Барак Обама предъявил полное свидетельство о рождении, Трамп наконец отказался от конспирологии и заявил, что она исходила от Хиллари Клинтон(33).

Уже участвуя в гонке за президентское кресло, Трамп продолжал придерживаться взглядов некоторых из самых крайних и наиболее известных теоретиков онлайн-заговора. Его призыв к созданию стены на границе с Мексикой, чтобы не дать «убийцам и насильникам» проникнуть в Соединенные Штаты, был оправдан ссылкой на видео, созданное Алексом Джонсом на сайте Infowars.com – известном оплоте теорий заговора, входящем в крупную медиаимперию. Часто звучавшие в его предвыборной кампании призывы к тюремному заключению Хиллари Клинтон также зародились на Infowars.com. Готовность Трампа повторить то, что он читал в Интернете или что исходило от его советников, тесно связанных с правыми сетями заговора, удивила даже Джонса: «Просто нереально. Говоришь о проблемах здесь в эфире, а через два дня Трамп буквально повторяет те же слова»(34), – сказал он. То, что существовало на периферии Интернета, снова оказалось в самом центре.

В отчете военно-воздушных сил США «Погода как фактор силы: владение погодой в 2025 году», положившем начало заговору о химиотрассах, авторы отметили:

«Хотя эффект от усилий по изменению погоды зависит, как правило, от определенных условий, некоторые погодные события можно вызвать искусственно, независимо от текущих условий. Такую виртуальную погоду можно создать, например, меняя метеоинформацию, которую получают конечные пользователи. Если показатели или изображения, передаваемые глобальными и местными метеорологическими информационными системами, будут отличаться от реальности, разница в восприятии приведет к тому, что конечный пользователь начнет принимать неэффективные операционные решения»(35).

В этом случае нет необходимости менять фактическую погоду, достаточно просто нарушить работу инструментов, с помощью которых объект воздействия воспринимает погоду. Не нужно создавать в стратосфере искусственные облака – их можно записать в виде кода в информационных сетях, заменивших нам незамутненное восприятие мира своими глазами. Как говорится в одной из многочисленных версий конспирологической теории химиотрасс, нам вредит не настоящая, а виртуальная погода.

Виртуальная погода мешает нам рассказывать связные истории о мире, потому что бросает вызов ранее существовавшим моделям согласованной реальности и консенсусу в целом. При анализе самых радикальных теорий заговора, распространяемых на просторах Интернета, рушатся традиционные психологические модели. Согласно определению из учебника – в данном случае из «Руководства по диагностике и статистике психических расстройств», опубликованного Американской психиатрической ассоциацией и широко используемого практикующими врачами, исследователями и судебными экспертами, – убеждение не является заблуждением, если относится к «культуре или субкультуре» человека. Но Сеть изменила то, как мы создаем и формируем культуры; люди из самых разных уголков мира могут собираться в Интернете, чтобы делиться своим опытом и убеждениями и формировать собственные культуры.

30 декабря 1796 года лондонский торговец чаем Джеймс Тилли Мэтьюз прервал заседание палаты общин криком с галерки: «Измена!» Он был немедленно арестован и вскоре помещен в Королевскую больницу Бетлем, более известную как Бедлам. В ходе проверки Мэтьюз утверждал, что был вовлечен в секретные государственные дела, которые скрывало правительство Уильяма Питта. Он также подробно описал работу машины, называемой «воздушный ткацкий станок», которая использовала систему гидравлических насосов и магнитных излучений для управления его телом и разумом(36). Мэтьюз вошел в историю как пациент с первым задокументированным случаем параноидальной шизофрении. Его подробные описания воздушного ткацкого станка также вошли в литературу, поскольку представляют собой первый пример параноидальных иллюзий, основанных на научных открытиях того времени.

В 1796 году Великобритания и вся континентальная Европа гудели от революций в науке и политике – Джозеф Пристли разделил воздух на составные элементы, а в Париже Антуан Лавуазье только что опубликовал работу о химических элементах, которые создали новое понимание физического мира. Эти открытия, произошедшие всего через несколько лет после Французской революции, имели политическое значение. Пристли был убежденным республиканцем и публиковал брошюры, пропагандирующие веру в то, что наука и разум способны развеять тиранические ошибки и суеверия. В свою очередь, консервативные противники новой науки и социальных реформ сравнивали политическую турбулентность с «диким газом» Пристли – неестественным и неконтролируемым(37). Пневматический ткацкий станок Мэтьюза спутал пневматические и политические механизмы, в результате чего появилась идея заговора.

Этот процесс повторяется для каждой последующей технологии, от радио до телевидения, от фонографа до Интернета. Конспирологические и псевдонаучные теории являются результатом попыток непрофессионалов интегрировать странные и плохо изученные новые технологии в свою модель мира, но мир несет определенную ответственность за то, насколько он допускает и поддерживает такие убеждения. Мэтьюз – умный и тонкий человек, который позднее помог создать госпиталь, наследующий Бедламу, чтобы лучше удовлетворять потребностям его обитателей, – признал свою болезнь, но продолжал настаивать на совершенных политических преступлениях. Вероятно, он был прав; историки обнаружили доказательства того, что Мэтьюза наняли для выполнения секретных государственных миссий, но позднее от него открестились.

Сегодня ближайшие последователи Мэтьюза, хотя и не подпадают под диагноз клинической паранойи, утверждают, что являются объектом «преследования банд» и «экспериментов по контролю над разумом». Это наиболее распространенные поисковые запросы тех, кому свойственен набор симптомов, включающих манию преследования и наблюдения (на улицах они сталкиваются со слежкой и принуждением), электронного прослушивания и телепатического внушения. Субъекты группового преследования и контроля над разумом называют себя «целевыми лицами» и собираются на веб-сайтах с такими названиями, как «Борьба с бандитским преследованием» и «Свобода от скрытого преследования и наблюдения». В сообщества, которые образуются вокруг таких мест, входит значительно больше людей, чем лечится от психических заболеваний. Действительно, отказ от медицинского лечения и принадлежность к тем, кто разделяет их убеждения, – вот вокруг чего складываются такие группы. Люди, считающие себя объектом слежки, рассказывают примерно ту же историю, что и Мэтьюз: неизвестные подставные лица используют новейшие технологии, чтобы подчинить их своей воле. Но в отличие от Мэтьюза за ними стоят целые сообщества, чья культура оправдывает и поддерживает их убеждения.

Таким образом, возникают сложности с диагностированием и определением клинической картины заболевания тех, чьи убеждения, какими бы невероятными они ни были, разделяют и «принимают другие члены группы или субкультуры»(38). Те, кого в психиатрических лечебницах сочли бы бредящими, могут излечиться от своих нездоровых фантазий, если примкнут к онлайн-сообществу единомышленников. Любое противодействие или высказывание, противоречащее принятому группой мировоззрению, будет отвергнуто как попытка сокрытия правды об истинном опыте, а другие «объекты слежения» их в этом поддержат. Более того, возможно, согласие с их убеждениями полезнее открытого противостояния, неприязни и страха, с которыми «бредящие» сталкиваются в остальном обществе. Группа, для которой характерно недоверие к чужакам, привлекла на свою сторону сетевые технологии, чтобы создать собственное динамичное, сложное и информативное сообщество, самодостаточное и обеспечивающее коллективную поддержку своих членов. Люди отделились от общепринятых представлений о нормах медицины и социума, чтобы построить мир, в котором их миропонимание подтверждают и ценят.

По такому принципу формируются самые разные объединения «по интересам». Моргеллонова болезнь – самодиагностируемое заболевание, которое уже много лет беспокоит медиков. Больные жалуются на кожный зуд и говорят о том, что из тела «выходят волокна». В результате многочисленных исследований выяснилось, что болезнь носит скорее психологический, нежели физиологический характер, однако страдающие от данного недуга самоорганизовываются и активно продвигают свои группы в Интернете(39). Другие утверждают, что болезнь вызвана электромагнитными волнами от мобильных телефонов, точками беспроводной связи Wi-Fi и линиями электропередачи. По некоторым данным, гиперчувствительность к электромагнитным волнам характерна для 5 % населения США, у которых излучение вызывает неописуемые страдания. Чтобы остановить распространение электромагнитных волн, больные покрывают стены своих жилищ фольгой, такие комнаты известны как «клетки Фарадея», или переезжают в Западную Виргинию, где в научном заповеднике «Тихая зона Национального радио» отсутствуют какие-либо электрические сигналы(40).

Можно сказать, что новый темный век характеризуется появлением самоорганизующихся групп «объектов слежения», страдающих моргеллоновой болезнью, «знатоков» теории заговора 11 сентября и любителей «чаепитий». Это еще одно свидетельство того, о чем нам говорят оставленные самолетами следы в небе: наша способность описывать мир напрямую зависит от инструментов, которыми мы располагаем. Все мы смотрим на один и тот же мир, но видим его абсолютно по-разному. Более того, мы создали систему, которая усиливает популизм автоматизации, поскольку постоянно дает людям то, что они хотят получить.

Поищите в соцсетях информацию о вакцинах, и вы очень скоро наткнетесь на так называемых антипрививочников. Точно так же другие любители конспирологии, которые верят в химиотрассы, плоскую Землю и заговор 11 сентября, легко попадают в социальную ленту новостей и, подхваченные эхом сторонников, могут подменить своим мнением мнение большинства, независимо от того, о чем идет речь. Что произойдет, когда наше любопытство и желание больше узнать о мире столкнется с системой, которая в ответ на заданный вопрос транслирует любое решение, не задумываясь о его правильности?

Если вы ищете единомышленников в Интернете, вы их найдете. Вас завалят подтверждениями вашей теории, вам беспрестанно будет поступать все более радикальная и бескомпромиссная информация. Именно так защитники прав мужчин оказываются в числе белых националистов, а разочарованная мусульманская молодежь присоединяется к джихадизму. Радикализация совершается по определенной схеме и работает на руку экстремистам, которые используют поляризацию общества в своих целях.

Через месяц после терактов в газете Charlie Hebdo в Париже в январе 2015 года онлайн-журнал Исламского государства Ирака и Леванта Dabiq опубликовал свой седьмой выпуск с редакционной статьей, в которой излагалась стратегия их организации. Как и в предыдущих заявлениях ИГИЛ, в передовице пропагандировалось сектантство и осуждалось сосуществование и сотрудничество различных религий(41). В 2006 году иракская «Аль-Каида» атаковала и разрушила мечеть Аль-Аскари в Самарре, одно из святейших мест в шиитском исламе, что стало одним из многих актов преднамеренной провокации, которые спровоцировали затяжную гражданскую войну в стране. С момента своего появления в 2014 году ИГИЛ распространила этот подход на всю планету. Беря на себя ответственность за террористические атаки по всему миру, группировка надеется вызвать обратную реакцию против мусульманских общин на Западе, добиться поляризации общества и создать спираль насилия, отчуждения и возмездия(42).

ИГИЛ называет пространство сосуществования и сотрудничества между правоверными мусульманами и другими сообществами «серой зоной» и обещает его разрушить. Стравливая между собой мусульманские традиции и немусульман, они стремятся изобразить себя единственными защитниками истинного ислама, а халифат – единственным местом, где мусульмане могут быть по-настоящему в безопасности. Для успеха этой стратегии необходимо, чтобы большинство людей покинули «серую зону» под непрекращающимся давлением насилия и паранойи и присоединились к черно-белому виˊдению мира, не допускающему сомнений и неопределенности.

Иначе термин «серая зона» может использоваться для описания современной формы военных действий, которые немного недотягивают до статуса полноценной войны. Война в «серой зоне» характеризуется нетрадиционной тактикой, включающей кибератаки, пропаганду и политическую войну, экономическое принуждение и саботаж, а также финансирование вооруженных наемников, окутанных облаком дезинформации и обмана(43). Российские «зеленые человечки», задействованные в восточной Украине и в Крыму, экспансия Китая в Южно-Китайском море, а также прокси-война Ирана и Саудовской Аравии в Сирии – все указывает на эволюцию войны в двусмысленное и неопределенное понятие. Никто не знает, кто с кем воюет, – все отрицается. Американские военные – наиболее высококлассные специалисты по изменению климата, военные стратеги в Вест-Пойнте и Академии Генерального штаба – находятся в авангарде туманных реалий новой темной эпохи.

А если мы решим обосноваться в «серой зоне»? Где-то между джихадистами и военными стратегами, между войной и миром, между черным и белым, «серая зона» – это то место, где сегодня живет большинство из нас. Она – лучшее описание ландшафта, изобилующего недоказуемыми фактами и доказуемой ложью, которые, тем не менее, преследуют нас, как зомби, посредством разговоров, уговоров и убеждений. «Серая зона» – скользкая, почти непостижимая местность, в которой мы сегодня оказались в результате использования своих же чрезвычайно широких технологических инструментов для создания знаний. Она – это мир ограниченного познания и экзистенциальных сомнений, ужасающий как экстремистов, так и сторонников теории заговора. В этом мире мы вынуждены признать ограниченность эмпирических расчетов и низкую отдачу от огромных потоков информации.

«Серую зону» победить невозможно. Ее нельзя осушить или затопить – она уже переполнена. Теория заговора – главное оружие пропаганды и общепринятый язык коммуникации. Действительно, если правильно ее прочитать, она все объясняет. В ней инверсионные следы являются одновременно и химиотрассами, и ранними признаками наступающего глобального потепления; они могут быть и тем, и другим одновременно. В «серой зоне» выхлопные газы промышленных дымоходов смешиваются со свободными молекулами верхней атмосферы, провоцируя естественное (и неестественное) броуновское движение, происхождение которого нам непонятно. Волокна, исходящие из зудящей кожи страдающих моргеллоновой болезнью, по сути – микроэлементы оптоволоконных кабелей и электромагнитных колебаний, связанных с вышками сотовой связи, передающими высокочастотные финансовые данные. В «серой зоне» заходящее солнце преломляется сквозь дымку взвешенных в воздухе частиц, и Земля действительно отклоняется от привычной оси. Пора уже нам это признать.

Если мы решим оставаться в «серой зоне», то сможем выбирать подходящее из множества объяснений, которое наше ограниченное познание растягивает, словно защитную маскировку, покрывающую все непонятные свидетельства и сомнительные истины мира. И такая стратегия скорее приближает нас к реальности, чем любой двоичный код, как бы он ни стремился к истине. Самая сильная сторона этого подхода – признание, что все наши опасения относительны. «Серая зона» позволяет нам примириться с неразрешимым, ужиться с противоположными точками зрения, мешающими нам действовать здесь и сейчас.

Глава 9

Совпадение

На экране мужские руки медленно вращают коробку с двадцатью четырьмя киндер-сюрпризами, шоколадными яйцами с игрушкой внутри, в этот раз из тематической серии по мультфильму «Тачки». Мужчина снимает полиэтиленовую обертку, осторожно приподнимает коробку и вращает ее, чтобы показать верх и низ. Монтажная склейка – и вот десяток яиц из коробки уже аккуратно разложены на столе. Руки снимают с одного из них красно-синюю фольгу и разъединяют шоколадные половинки, чтобы достать небольшую пластиковую капсулу с игрушкой. Если к игрушке приложены наклейки, их следует аккуратно наклеить, а саму игрушку медленно повертеть перед камерой. И все это действо происходит под шуршание полиэтилена, звуки рвущейся фольги и ломающегося шоколада. Показав все, что можно было показать, невидимый человек переходит ко второму яйцу, потом к третьему, и так пока не откроет их все. Общий кадр, и видео заканчивается. Распаковка заняла семь минут и набрала более 26 миллионов просмотров на YouTube.

Киндер-сюрприз – это шоколадное яйцо, в котором находится упакованная в пластиковую капсулу игрушка. «Киндеры» появились в 1974 году, и с тех пор по всему миру (кроме США, где запрещены продукты питания, содержащие несъедобные части) были проданы миллионы таких шоколадных яиц. «Тачки» – диснеевский мультипликационный фильм 2006 года, в нем показаны захватывающие приключения гоночного автомобиля по имени Молния Маккуин и его друзей. Мультфильм стал очень популярен у маленьких зрителей, собрал 450 миллионов в мировом прокате, обзавелся парой сиквелов, а символика «Тачек» широко используется в рекламных кампаниях других брендов, в данном случае в продукции Kinder. Неужели из всех сладостей мира только киндер-сюрпризы с «Тачками» заслуживают такого почтительного обзора?

Конечно же, нет. В приведенном выше примере нет ничего особенного. Видео под запутанным названием «Тачки-2 серебристый Молния Маккуин Гонщик яйцо с сюрпризом Disney Pixar Zaini гоночные машины» пользователя ToyCollector – это всего лишь один из миллионов роликов про «яйца с сюрпризом» на YouTube. Все видео строятся по одному сценарию: вот яйцо с сюрпризом, открываем, сюрприз раскрыт. Но у этой нехитрой схемы бесконечное количество вариаций – сюрпризы с супергероями, с героями Диснея, рождественские и так далее. А еще есть стилизованные под киндер-сюрприз подделки, пасхальные яйца, яйца из пластилина, из деталей LEGO, из воздушных шаров… С безмолвным трепетом можно открывать что угодно, например, игрушечные гаражи или кукольные домики. Есть видео, которые длятся больше часа, а всего их столько, что жизни не хватит все посмотреть.

С тех пор как появилась возможность выкладывать видео хорошего качества, распаковка стала основным лейтмотивом потоковых интернет-сервисов. Видео с распаковкой, фетишизирующие новые товары, зародились в технической среде: долгие крупные планы новых, только что из коробки, iPhone и игровых консолей. Странности начались примерно с 2013 года, когда эта мода распространилась на детские игрушки. Посмотрев видео, дети уже не могли оторваться и проигрывали его по много раз, как предыдущие поколения засматривали до дыр кассеты с любимыми диснеевскими мультфильмами. Чем меньше дети, тем реалистичнее им кажется происходящее на экране. Их поражает повторяющаяся красочная картинка, которая, похоже, воспринимается ими как откровение. Они часами могут смотреть видео за видео, завороженные многократным повторением и одурманенные бесконечными сюрпризами, а алгоритмы системы манят их все новыми рекомендациями(1).

Детское телевидение, особенно предназначенное для детей дошкольного возраста, взрослым всегда кажется странным. Прежде чем этот вид программ исчез из стандартного телевещания и обрел новую жизнь на специализированных цифровых каналах и в Интернете, последним громким событием детского эфира были «Телепузики» – шоу, в котором пять неведомых существ, похожих на плюшевых медвежат, бродят по зеленым полям и холмам, играют и укладываются спать. Передача имела огромный успех, однако многих беспокоило отсутствие в программе для детей чего-то поучительного. Телепузики общались между собой на примитивном языке, гуляли, чем, по мнению родителей и газетчиков, тормозили развитие маленьких зрителей. Однако на самом деле речь телепузиков была разработана логопедами и подчинялась внутренней логике; в ней можно найти многие темы, которые затем подхватили создатели видео о яйцах с сюрпризом. Например, подводки типа «стимул – реакция» и крики «Еще! Еще!» перед очередным повторением заведенной последовательности действий(2). То, что взрослым казалось бессмысленным и нелепым, давало маленьким детям ощущение безопасности и спокойствия. Сознательно или неосознанно, именно эти психологические особенности сделали видео с сюрпризами и аналогичные видео такими популярными на YouTube. Только в сегодняшних видео ужасает сочетание привлекательности для детской аудитории, обещания вознаграждения и алгоритмов рекомендаций.

Алгоритмы рекомендаций YouTube определяют, чтоˊ нравится зрителям. Совершенно новый и не включенный в какую-либо категорию контент должен распространяться по Сети самостоятельно, существовать в своего рода подвешенном состоянии, которое может быть нарушено только входящими ссылками и посторонними рекомендациями. Но если ролик находит аудиторию, если начинает собирать просмотры, алгоритмы могут соизволить разместить его среди рекомендуемых видео, то есть на боковой панели других просматриваемых видео, таким образом привлекая к нему новых зрителей и повышая его «выдачу» при поисковых запросах. Еще лучше, если он снабжен описанием, «правильно» назван и помечен тегами, чтобы идентифицировать его понятным для алгоритмов способом, в таком случае система может сгруппировать его с другими похожими видео. Все работает довольно просто: если вам нравится одно, вам понравится и другое, так вы попадаете в бездонную кроличью нору. Можно даже включить автовоспроизведение, чтобы по окончании одного видео включалось следующее из очереди рекомендаций, и так до бесконечности. Когда дети останавливаются на определенном типе видео и постоянно его смотрят, у них довольно быстро формируется профиль рекомендаций, и однообразные видео форсируются. Алгоритмы довольны – они выявляют явную потребность и пытаются ее удовлетворить.

По другую сторону экрана находятся люди, снимающие видео. Создание видео – это бизнес, и у него есть один простой стимул: получить больше просмотров и, следовательно, больше денег. YouTube, которым владеет Google, сотрудничает с компанией AdSense, входящей в медиаимперию Google. Когда YouTube показывает видео – до, после и даже во время просмотра, – AdSense транслирует рекламу. Когда AdSense фиксирует просмотры рекламы, сопровождающей видео, его создатели получают деньги – обычно в виде «стоимости за тысячу показов» или «стоимости за тысячу просмотров». Цена за тысячу показов для конкретного автора сильно различается, потому что не все видео и не все просмотры сопровождаются рекламой, а сама цена за тысячу показов может меняться в зависимости от множества факторов. Иногда одно видео может принести целое состояние. Корейский поп-хит «Gangnam Style», первым набравший миллиард просмотров на YouTube, получил от AdSense 8 миллионов долларов с первых 1,23 миллиарда просмотров, что составило около 0,65 цента за просмотр(3). Необязательно добиваться таких показателей, чтобы зарабатывать на жизнь с YouTube. Очевидно, легче получить более высокую прибыль, создавая все больше и больше видео, пытаясь привлечь к ним внимание все большего и большего числа людей и ориентируясь на аудиторию, например детей, которые без конца пересматривают видео.

Официальные правила YouTube гласят, что сайт предназначен для пользователей в возрасте от тринадцати лет и старше, а для лиц моложе восемнадцати требуется разрешение родителей, но ничто не может помешать тринадцатилетнему ребенку получить к нему доступ. Более того, нет необходимости заводить учетную запись. Как и большинство веб-сайтов, YouTube отслеживает уникальных посетителей по их адресам, профилю браузера и устройства, а также поведению, и может создать подробный демографический профиль и профиль предпочтений для выдачи в системе рекомендаций, даже если пользователь не будет сознательно предоставлять какую-либо информацию о себе. Это применимо даже в случаях, когда зрителем является трехлетний ребенок, оставленный с родительским планшетом и давящий на экран кулачком.

Распространенность такой ситуации становится очевидной, если посмотреть на собственную статистику сайта. Канал Ryan’s Toy Review [англ. «Обзор игрушек Райана»], специализирующийся на видео с распаковкой и другими детскими роликами, является шестым по популярности на платформе сразу после Джастина Бибера и канала WWE, на котором транслируют рестлинг(4). В какой-то момент в 2016 году он был самым популярным. Райану шесть лет, он стал звездой YouTube в три года, и сейчас у него 9,6 миллиона подписчиков. По оценкам, на своих видео его семья зарабатывает около миллиона долларов в месяц(5). Следующим в списке идет канал Little Baby Bum с детскими песенками для малышей. Разместив всего 515 видеороликов, они собрали 11,5 миллиона подписчиков и 13 миллиардов просмотров.

YouTube для детей – обширная и прибыльная отрасль, потому что видео по запросу – это наркотик как для родителей, так и для их детей, а значит, и для создателей контента и рекламодателей. Маленькие дети, очарованные знакомыми персонажами и песнями, яркими цветами и успокаивающими звуками, могут часами сидеть перед экранами, тихие и довольные. Распространенная тактика объединения множества детских стишков или эпизодов мультфильмов в многочасовые сборники и указание на их длину в описаниях и заголовках видео дает представление о том, сколько времени некоторые дети проводят за их просмотром.

В результате авторы контента на YouTube разработали огромное количество тактик, чтобы привлечь внимание родителей и детей к своим видео и повысить доходы от рекламы. Одна из схем, как показано на примерах «яиц с сюрпризом», – это мешанина ключевых слов, когда в заголовок видео добавляется как можно больше релевантных поисковых запросов. В результате получается «словесный винегрет» из случайно выбранных слов, например, под видео на одном из каналов написано следующее: «Сюрприз Play Doh яйца Свинка Пеппа Stamper Тачки Pocoyo Minecraft Смурфики Киндер Play Doh Блестящий Brilho», или «Тачки Крики Банши Ест Молния Маккуин Disney Pixar», или «Disney Малыш Pop Up Друзья Пасхальные яйца СЮРПРИЗ», или «150 гигантских яиц-сюрпризов Kinder ТАЧКИ Звездные войны Marvel Мстители LEGO Disney Pixar Nickelodeon Пеппа», или «Шоколадные Игрушки Сюрприз Mashems & Fashems DC Marvel Мстители Бэтмен Халк ЖЕЛЕЗНЫЙ ЧЕЛОВЕК»(6).

Этот непонятный набор названий брендов, персонажей и ключевых слов указывает на реальную аудиторию, для которой создаются описания; они рассчитаны не на живого зрителя, а на алгоритмы, которые решают, кто какие видео будет смотреть. Чем больше ключевых слов втиснуть в заголовок, тем больше вероятность, что видео попадет в рекомендации или, что еще лучше, просто автоматически воспроизведется, когда похожее видео закончится. В результате мы получаем миллионы видео с каскадными бессмысленными названиями, но YouTube — это видеоплатформа, и ни алгоритмы, ни целевая аудитория не заботятся о значении ключевых слов.

Есть и другие способы получить просмотры на канале, и самый простой и проверенный временем – копировать и воровать чужой контент. Быстрый поиск по запросу «Свинка Пеппа» на YouTube дает более 10 миллионов результатов, причем видео на первой странице результатов почти полностью взяты с официального канала «Свинка Пеппа», зарегистрированного создателями мультфильма. Но если листать дальше, список выдачи начинает быстро заполняться другими каналами, хотя из-за того, как единообразно YouTube отображает результаты поиска, это трудно заметить. Одним из таких каналов является неофициальный канал Play Go Toys с 1800 подписчиками, который состоит из пиратских эпизодов про Свинку Пеппу, видео с распаковкой, а также видео официальных эпизодов из мультсериала про Свинку Пеппу, разыгрываемых с использованием фирменных игрушек и названных так, как если бы они были настоящими сериями(7). Кое-где проскальзывают видео, на которых дети, предположительно, собственные дети владельца канала, играют с игрушками или гуляют в парке.

Хотя этот канал просто занимается безобидным пиратством, он показывает, как структура YouTube способствует разделению контента и авторов и, таким образом, влияет на нашу осведомленность и доверие к источнику. Обычно контент, выпущенный известным брендом, свидетельствует о надежности источника. Будь то Свинка Пеппа на детском телевидении или фильм студии Disney – каким бы ни было ваше отношение к поставленной на поток индустрии развлечений, – в их производство вложено много труда, а контроль качества гарантирует, что они не вредят детям, значит, таким продуктам можно доверять. Дело обстоит иначе, когда на платформе допускается расхождение бренда и брендированного контента: качественный контент открывает дорогу непроверенным и потенциально опасным видео.

Точно так же происходит с новостями в лентах Facebook и результатами поисковика Google, отчего страдает наша способность познавать и понимать, а политическим системам наносится ущерб. Качественная и основанная на достоверной информации статья газеты New York Times, процитированная на Facebook или всплывающая на сайте Google, имеет вид ссылки, почти не отличимой от ссылки на NewYorkTimesPolitics.com – созданный подростком из Восточной Европы веб-сайт, на котором публикуются выдуманные, провокационные и пристрастные истории о выборах в США(8). О подобных сайтах речь пойдет позднее, а если вернуться к видео на YouTube, то из-за особенностей платформы сомнительный и не соответствующий заявленному контент сложно отличить от того, который предоставляют надежные источники.

Еще один яркий пример странностей детского видео – это «Семья пальчиков» [англ. Finger Family Song]. В 2007 году пользователь YouTube под ником Leehosok загрузил видео, в котором две пары пальчиковых марионеток танцуют под музыку со словами из детского стишка: «Пальчик-папа, пальчик-папа, где же ты? Вот он я, вот он я, как дела?» И так далее поется про пальчик-маму, пальчик-брата, пальчик-сестру и мизинец. Песня возникла раньше, чем вышло видео, но на YouTube она появилась впервые(9).

По состоянию на конец 2017 года по платформе распространилось не менее 17 миллионов версий «Семьи пальчиков». Как и видео с яйцами-сюрпризами, «пальчики» можно встретить во всевозможных жанрах, а счет совокупных просмотров идет на миллиарды и миллиарды. Одна только версия этой песенки на канале Little Baby Bum набрала 31 миллион просмотров, на популярном канале ChuChu — полмиллиарда. Простота замысла делает его удобным для автоматизации; простейшее программное обеспечение может «дорисовать» на анимированной руке любой объект или персонаж, например, бесконечное количество разнообразных семейств: пальцев-супергероев, пальцев-героев Диснея, мармеладных мишек, пальцев-леденцов на палочке. Дети листают страницу ниже и ниже, а видео набирают миллионы и миллионы просмотров. Бесконечный поток видео создается из бесчисленных вариаций стандартной анимации, звуковых дорожек и списков ключевых слов. Сложно понять, что именно происходит, если не перечислить все существующие вариации видео, но важно понимать, насколько обширна эта система и насколько неопределенны ее действия, механизм и аудитория. Подобные схемы интернациональны: есть варианты видео «Семьи пальчиков» и «Учим цвета» для тамильских эпосов и малазийских мультфильмов, которые вряд ли появятся в результатах для англоязычных поисковых запросов. Сама система и последствия ее существования связаны с неопределенностью и размахом. А система настолько огромна, что ее сложно не только понять, но и помыслить.

К количеству просмотров таких видео следует отнестись очень серьезно. Многие из них создаются автоматизированными системами, или ботами, для таких же ботов, которые их «смотрят» и комментируют. По большинству параметров компания Google уже давно проиграла «гонку вооружений» между программным обеспечением создателей ботов и алгоритмами машинного обучения. К тому же у Google нет реальных причин вести настоящую борьбу: компания может публично осуждать или преуменьшать активность ботов, но они значительно увеличивают количество показываемой рекламы и, следовательно, прибыль. Но это «взаимовыгодное сотрудничество» не должно заслонять тот факт, что где-то в мире очень много настоящих живых детей, прильнув к экранам планшетов и телефонов, до одури пересматривающих эти видео, что тоже отражается на числе просмотров. Кто-то учится вводить в поисковую строку простейшие запросы, кто-то нажимает на картинки на боковой панели, чтобы открыть новое видео, а все чаще дети включают видео несложными голосовыми командами.

Когда в кадре появляются настоящие люди, странности только усугубляются. Мы неплохо понимаем, как работают механизмы для таких несуразных видео, как «Чипсы Pringles» и «Семья пальчиков 3D. Невероятный Халк», но популярные каналы, чтобы набирать просмотры, вынуждены следовать той же машинной логике, и в какой-то момент становится непонятно, где контент создан людьми, а где – машинами.

Создатели детских развлекательных шоу Bounce Patrol и Wiggles из Австралии следуют доцифровым традициям и дарят детям массу ярких эмоций. У канала Bounce Patrol Kids на YouTube почти два миллиона подписчиков; здесь примерно раз в неделю выкладывают профессионально снятые видео с живыми актерами из их команды(10). И, тем не менее, в том, что показывает Bounce Patrol, четко прослеживается нечеловеческая логика алгоритмических рекомендаций. В результате мы получаем видео, в которых люди бесконечно разыгрывают комбинации алгоритмически сгенерированных ключевых слов: «Семья пальчиков Хэллоуин Песенки на Хэллоуин для детей Сборник детских хэллоуинских песен»; «Детские стишки Песня Семья пальчиков | Австралийские животные Семья пальчиков»; «Животные на ферме Семья пальчиков Песни о животных | Коллекция Семья пальчиков Учим звуки животных»; «Животные на Сафари Песня пальчиков | Слон, лев, жираф, зебра и бегемот! Дикие животные для детей»; «Семья пальчиков Супергерои Новые песни семьи пальчиков! Сборник Песни пальчиков Супергерои»; «Песня Семья пальчиков Бэтмен – Супергерои и суперзлодеи! Бэтмен, Джокер, Загадочник, Женщина-кошка» и т. д. и т. п. Импровизации вполне старомодны, только указания исполнителям дают машины, считывающие требовательные крики миллиарда гиперактивных малышей. Так выглядит производство контента в эпоху алгоритмических открытий; даже будучи человеком, в конце концов, приходится уподобляться машине.

Мы уже видели тревожные примеры того, что происходит в результате полной автоматизации: чехлы для телефонов на Amazon и футболки с надписями об изнасиловании. Никто не ставил цели создать странные чехлы с лекарствами и медицинским оборудованием – все это произошло случайно. А футболки с надписью «Сохраняй спокойствие и много насилуй» удручают, но ситуация с ними понятна – никакого злого умысла, просто список случайных глаголов и местоимений соединился с онлайн-генератором изображений. Вполне возможно, что ни одна из этих футболок никогда не существовала физически, никто ее не купил и не носил, то есть не случилось никакого вреда. Однако важно, что такую ошибку не заметили ни производители, ни продавцы. Они буквально понятия не имели, что творят.

Все яснее становится, что всему виной масштаб и логика системы, а нам нужно задуматься о возможных последствиях такой ситуации. Если смотреть шире, описанные примеры свидетельствуют о расовых и гендерных предрассудках в системах, основанных на больших данных и машинном интеллекте. И для этих проблем нет простых или даже предпочтительных решений.

Как насчет видео «Неправильные головы Disney Неправильные уши Неправильные ноги Дети Учим цвета Семья пальчиков 2017 Детские стихи»? Само название подтверждает его нечеловеческую природу. Происхождение выражения «Неправильные головы» пока остается загадкой. Но легко можно представить, что где-то существует совершенно безобидная первоначальная версия, которая рассмешила столько детей, что начала подниматься в алгоритмических рейтингах, пока не попала в списки словесной мешанины. Там «неправильные головы» дополнили «учим цвета», «семья пальчиков» и «детские стихи» и прочие ключевые слова – причем не просто слова, а образы, процессы и действия, – и в результате получился этот ролик.

Видео состоит из песни «Семья пальчиков», проигранной поверх анимации с вращающимися головами и телами персонажей из диснеевского «Аладдина». Хотя тела и головы перепутаны, поначалу все выглядит вполне невинно, но потом начинается необычное. Среди персонажей «Аладдина» появляется девочка Агнес из мультфильма «Гадкий Я». Когда тело и голова персонажа совпадают, Агнес радуется, если нет – заливается искусственными слезами. Простейший механизм и минимум усилий создают бессмысленную жвачку.

На канале авторов этого видео BABYFUN TV много похожих роликов. Персонаж Радость из диснеевского мультфильма «Головоломка» визжит, когда Смурфики или Тролли меняются головами. Чудо-женщина плачет, если не совпадают головы и тела героев из «Люди Икс». Перечислять можно долго. У BABYFUN TV всего 170 подписчиков и совсем мало просмотров, зато таких каналов тысячи и тысячи. Количество просмотров на YouTube и других платформах имеет значение не в абстрактном смысле, а в их накоплении. В основе «Неправильных голов» лежит ясный и понятный механизм, но постоянное наложение и смешение различных приемов вызывает беспокойство у взрослых: нарастает ощущение чего-то бесчеловечного, жуткой пропасти между нами и системой, производящей такой контент. Проблема кроется не в самих видео, а где-то глубже.

Во всех видеороликах BABYFUN с «неправильными головами» присутствует одна и та же звуковая вставка с детским плачем, сродни смеющемуся малышу-солнцу в «Телепузиках». Нам это может показаться тревожным, но, возможно, этот звук привлекает младенцев, напоминая о чем-то из их собственного опыта. Этот ход не был никем придуман; алгоритмическое повторение и создание многочисленных комбинаций привели к возникновению неожиданного для всех результата. И что произойдет, когда этот контент, претерпев бесконечные метаморфозы, снова вернется к людям?

Канал Toy Freaks с 8,4 миллиона подписчиков чрезвычайно популярен и занимает шестьдесят восьмую строчку на платформе YouTube. В выложенных видео отец и две его дочери разыгрывают многие из известных нам приемов, следуя тем же принципам, что и Bounce Patrol. Девочки открывают яйца-сюрпризы и поют сезонные вариации песни «Семья пальчиков». Помимо детских стишков и разучивания цветов, Toy Freaks специализируется на грубых или жестоких сценах, когда дети кидают друг в друга едой или наполняют ванну игрушечными насекомыми. Канал вызвал неоднозначную реакцию, поскольку многие сочли, что видео на нем демонстрируют примеры жестокого обращения и эксплуатации: в некоторых роликах детей тошнит, у них идет кровь или им больно(11). Канал Toy Freaks получил от YouTube значок подлинности, хотя это свидетельствует только о том, что он набрал 100 000 подписчиков(12).

И при этом Toy Freaks выглядит почти безобидно по сравнению со своими подражателями. Во вьетнамском варианте Freak Family девочка пьет шампунь и режет себя бритвой(13). В других – дети вылавливают из мутной воды ярко раскрашенное автоматическое оружие. Эльза из мультфильма «Холодное сердце» тонет в бассейне. Человек-паук вторгается на тайский пляжный курорт и обучает цветам с помощью клейкой ленты, оборачивая ее вокруг одетых в бикини подростков. Полицейские с огромными головами и в резиновых масках Джокера терроризируют посетителей в российском аквапарке. Таких видео множество. Форсирование одних и тех же приемов популярными каналами, управляемыми людьми, приводит к тому, что эти сюжеты бесконечно повторяются в Сети, создавая все более диковинные и искаженные альтернативные комбинации, среди которых есть элементы насилия и деградации. Нам остается надеяться, что эту темную сторону создали алгоритмы, а не мрачные фантазии настоящих детей.

В разделе комментариев на YouTube, как, впрочем, и во всем Интернете, давно процветает культура обмена оскорбительными комментариями, для которых нет ничего святого. Субкультура YouTube Poop – тип специфического контента, которым описывают в большинстве своем безобидные, хотя и умышленно оскорбительные видеомонтажи. Часто именно такие видео первыми привлекают внимание обеспокоенных родителей: в роликах с нецензурной лексикой и отсылками к наркотикам обыгрываются детские видео. Это сбивает с толку. Например, в одной из серий мультсериала Свинка Пеппа идет к стоматологу, но есть и альтернативная версия, которая внешне почти не отличается от оригинала. Если в официальной версии добрый врач проводит осмотр, то в подделке, которую можно найти по запросу «Свинка Пеппа у стоматолога», дантист фактически пытает Пеппу: выдернутые зубы, кровь, крики. Тревожно то, как часто встречаются пугающие видеоролики о том, как Свинка Пеппа ест своего отца или пьет отбеливатель. Многие из них, очевидно, сделаны как пародия или сатира, и в этом качестве защищены от исков о нарушении авторских прав. На самом деле их создали не для запугивания детей, но вот они – в выдаче на YouTube, и это приводит к неожиданным результатам.

Однако нельзя просто списать все странности и ужасы YouTube на действия троллей и черных юмористов. В видео, о котором говорилось выше, после кошмарного похода к стоматологу Пеппа превращается в помесь Железного Человека, свинки и робота и исполняет танец «Узнай цвета». Сложно сказать, кто стоит за этим, человек или алгоритм, потому что, начинаясь как пародия на мультсериал, видео переходит к автоматическому повторению шаблонов, которые мы уже разбирали. Дело не просто в троллях или автоматизации, это даже не просто люди, учитывающие логику алгоритмов и механизмы создания рекомендаций. Налицо масштабная и почти полностью скрытая матрица взаимодействий между желаниями и вознаграждениями, технологиями и аудиторией, шаблонами и масками.

В других примерах дикие видео скорее преднамеренны, нежели случайны. Целый поджанр на YouTube строится на том, что в кадрах из видеоигр вместо солдат или бандитов участвуют супергерои и персонажи мультфильмов. Человек-паук ломает ноги другому герою комиксов, Мрачному Жнецу, и Эльзе из «Холодного сердца» и закапывает их по шею в яму. Телепузики – да, снова они – оказываются в игре «Grand Theft Auto», участвуют в погонях на мотоциклах, перестрелках и ограблениях банков. Динозавры, пронзенные мороженым и леденцами, крушат городские кварталы. Медсестры едят фекалии под звуки песни «Семья пальчиков». Все лишено смысла, и все перевернуто с ног на голову. Знакомые персонажи, рассчитанные на детей приемы, мешанина из ключевых слов, полная автоматизация, насилие и все самые страшные детские сны соединяются в нелепые и ужасные комбинации и еженедельно выходят на многих-многих каналах. Дешевые технологии и еще более дешевые методы распространения поставлены на службу производству кошмаров в промышленных масштабах.

Что нужно для создания этих видео, и кто их делает? Как мы вообще можем знать? Тот факт, что в кадре нет людей-актеров, не означает, что люди не участвовали в производстве. В наши дни анимация не представляет никакой сложности, особенно та, что рассчитана на детей ввиду низких эстетических стандартов, а прибыль обеспечивается эффектом масштаба. Используются существующие и легкодоступные составляющие, такие как модели персонажей и варианты движений, а повторять и немного менять их можно сколь угодно – даже в самых бредовых и бессмысленных сочетаниях, – ни дети, ни алгоритмы не заметят подвоха. В производстве видео заняты как маленькие студии, в которых пяти «энтузиастам» стало не хватать их основной работы, так и потогонные заводы, огромные цеха, штампующие новые и новые видео. Иногда видео появляется усилиями одного только бездумного искусственного интеллекта или некоего эксперимента, в процессе которого ролик, выложенный на YouTube, набирает миллионы просмотров. Если бы за всем этим ужасом стояло государство или тайная организация педофилов, намеренно растлевающая молодое поколение, мы бы этого не узнали. Возможно, весь немыслимый контент – просто прихоть машины. Попытки обсудить этот вопрос в Интернете только уводят в кроличью нору, где вас ждут конспирология и травмы. Сеть, безусловно, не способна диагностировать себя, так же как система не способна усмирять свои запросы.

Подобные видео травмируют. Дети смотрят, как их любимые герои мультфильмов участвуют в сценах убийств и изнасилований(14). Родители говорят об изменениях в поведении своих детей после просмотра тревожных видеороликов. Нанесенный ущерб реален и, вероятно, долгосрочен. Показывать детям, в том числе малышам, жестокие и неприятные сцены – это форма насилия. Проблему не решить простым заламыванием рук и призывом: «Подумайте о детях!» Несомненно, этот контент совершенно неуместен. Определенно, есть те, кто его создает со злым умыслом. Безусловно, некоторые видео необходимо удалить. Очевидно, что встают вопросы добросовестного использования, апроприации, свободы слова и так далее. Но прочтение этой ситуации только через призму цензуры не позволяет полностью понять задействованные механизмы и, следовательно, осмыслить совокупные последствия и отреагировать соответствующим образом.

Во многих из «странных» видео поражает степень демонстрируемого ужаса и насилия. Иногда за этим стоят грубые детские запросы, порой намеренная провокация интернет-троллей, но в большинстве случаев все происходит на более глубоком и бессознательном уровне. Интернет может усиливать и реализовывать многие из наших скрытых желаний – на самом деле, именно в этом, как видится, он преуспел. Безусловно, расцвет сетевых технологий позволил многим реализовать и выразить себя новыми способами, которые ранее были невозможны, обрести личную свободу и право выражать свою идентичность, и это прекрасно. Никогда голоса самых разных людей не звучали так громко, как сегодня. Однако, когда миллионы детей и взрослых, часами, днями, неделями, месяцами и годами проводящих время онлайн, открывают хищным алгоритмам свои самые сокровенные желания – эта тенденция в подавляющем большинстве случаев кажется насильственной и разрушительной.

Насилие сопровождается немыслимой эксплуатацией: дети страдают не потому, что они дети, а потому что они бессильны. Автоматизированные системы вознаграждения, такие как алгоритмы YouTube, обеспечивают доходность за счет эксплуатации и воплощают в себе худшие аспекты хищного капитализма свободного рынка. Управлять этой системой можно, только если ее разрушить. Эксплуатация закодирована, вплетена в ткань самой системы, поэтому ее сложно увидеть, определить и объяснить, ей труднее противостоять и сложно от нее защищаться. Тревожит то, что в данном случае мы говорим не о научной фантастике, рисующей ужасающее будущее, где людей порабощают искусственные сверхинтеллекты и вездесущие роботы-рабочие. Нет, сейчас те же вычислительные механизмы берут над нами верх в гостиных, игровых комнатах, мы сами кладем их себе в карман. Эксплуатация происходит по обе стороны экрана. С одной стороны, есть те, кто в оцепенении и отупении смотрит видео; с другой – те, кто их создает, несмотря на плохую оплату и принуждение. А между двумя этими полюсами, наживаясь и на тех, и на других, расположились автоматизированные корпорации.

Все эти видеоролики, независимо от того, где, как и с какими намерениями они создаются, – порождение системы, основанной на получении прибыли от показа видео детям. Бессознательные и неожиданные последствия мы наблюдаем повсеместно.

Показывать такое детям – значит издеваться над ними. И это совсем не то же самое, что происходит с подростками, которые смотрят жестокие фильмы или играют в игры, где много насилия, – о влиянии такого контента, как и о воздействии порнографических и вопиющих образов на неокрепшие умы, еще можно поспорить. И хотя разговор о последнем очень важен, сейчас речь о другом. На кону благополучие малышей, буквально младенцев, на которых YouTube намеренно направляет весь свой арсенал травмирующих и пугающих видео, и из-за особенностей сетей делает это очень эффективно. И проблема не в злом умысле, а в сочетании денежных стимулов и заложенного в цифровые системы насилия.

Насилие возникает из самой системы, а YouTube и Google участвуют в ней. Они выстроили архитектуру, чтобы извлекать максимальный доход от показа видео, а некто – и их очень, очень много, – взламывает ее и оборачивает против детей. Намеренно оно или нет, масштабы насилия огромны. Полная ответственность за происходящее лежит на владельцах цифровых платформ, то же самое касается их вины в радикализации (в основном) молодых (в основном) мужчин из-за экстремистских видео любого политического толка. До последнего времени цифровые гиганты не проявили никакой заинтересованности в решении проблемы, и это отвратительно, хотя, к сожалению, не удивляет. На вопрос, как остановить порочную практику, не отключив сами сервисы, нет простого ответа.

Наступило очень темное время. Средства, которые мы создали, чтобы расширить возможности общения и каналы коммуникации, автоматически и системно используются против нас – всех нас. Как сохранить веру в Сеть, если она порождает подобные ужасы? Хотя есть соблазн списать самые дикие примеры видео на YouTube на троллинг, которым, безусловно, многие из них являются; нельзя не заметить, какая огромная доля контента тяготеет к этим нездоровым трендам. Решение проблемы неприемлемого контента таит в себе множество опасностей: попытки пресечь откровенно недопустимое могут запустить механизмы усиления контроля за Интернетом, жесткой цензуры, слежки и подавления свободы слова. Кризис в детском разделе YouTube отражает более широкий когнитивный кризис, вызванный автоматизированными системами, слабым машинным интеллектом, социальными и научными сетями и культурой в целом. Там тоже легко найти подходящих козлов отпущения и оставить без внимания туманные и запутанные структуры, на которых все на самом деле держится.

В последние недели предвыборной гонки в США 2016 года международные СМИ обрушили свой гнев на небольшой город Велес в Республике Македония. Велес расположен в нескольких часах езды от македонской столицы Скопье, это бывший промышленный центр с населением всего 44 000 человек, но он удостоился внимания на самом высоком уровне. В последние дни кампании даже президент Обама стал одержим этим местом. Велес стал олицетворением новой медиаэкосистемы, в которой, по словам Обамы, «все правда, и нет никакой правды»(15).

В 2012 году два брата из Велеса создали веб-сайт HealthyFoodHouse.com, на котором разместили собранные из случайных интернет-источников рекомендации по снижению веса и нетрадиционной медицине. Год за годом ресурс привлекал все больше посетителей, и сейчас у их страницы в Facebook 2 миллиона подписчиков, еще 10 миллионов пользователей каждый месяц переходят на сайт из поисковика Google, привлеченные заголовками вроде «Как избавиться от складок на спине и боках за 21 день» и «5 незаменимых массажных масел для седалищного нерва. Мгновенное обезболивание». Вместе с посетителями начали расти доходы от монетизации AdSense; братья стали местными знаменитостями и спускали деньги на крутые машины и дорогое шампанское в ночных клубах Велеса.

Успех братьев многим вскружил голову: местные дети бросали учебу, чтобы плодить новые веб-сайты и зарабатывать на создании онлайн-контента, как правило, ворованного или поддельного. В начале 2016 года они обнаружили, что самыми жадными до новостей читателями были сторонники Трампа, которые к тому же собирались в больших группах на Facebook, следовательно, до них легко было достучаться. Как и непроверенные каналы YouTube, созданные детьми веб-сайты были неотличимы от тысяч альтернативных новостных сайтов, возникших из-за того, что Трамп объявил бойкот основным СМИ. Чаще всего различие даже не имело значения. Как мы видели, в социальных сетях все источники выглядят одинаково, а сенсационные заголовки в сочетании с близкими по духу идеями воздействовали на консервативную аудиторию подобно алгоритмам YouTube, продвигающим «Эльза Человек-паук Семья пальчиков Учим цвета». Чем больше людей проходило по ссылкам, тем выше поднимались такие статьи в рейтинге выдачи Facebook. Несколько подростков рискнули опробовать те же приемы на сторонниках Берни Сандерса, но результаты не были такими впечатляющими: «Сторонники Берни Сандерса очень умные. Они ничего не принимают на веру»(16).

В течение нескольких месяцев появлялись заголовки о том, что против Хиллари Клинтон выдвинуты обвинения или что Папа Римский поддержал Трампа. Велес озолотился – на улицах города появились новые BMW, а в ночных клубах лилось рекой шампанское. Американские СМИ, со своей стороны, осуждали «аморальность» и «самоуверенное поведение» македонской молодежи(17). При этом игнорировалась сложность истинных причин бума на фальшивые новости в Македонии (ее история и сложные взаимоотношения в регионе) и по всему миру, поэтому невозможно было понять, к каким системным последствиям приводит распространение ложной информации.

До образования Македонии Велес был югославским городом Велес Тито. Когда Югославия распалась и исторически сложившиеся Сети были разрушены, Македонии удалось избежать самых кровавых конфликтов, раздиравших центрально-балканские государства. В 2001 году при поддержке ООН был заключен мир между правительством большинства и этническими албанскими сепаратистами, а в 2005 году страна подала заявку на присоединение к Европейскому союзу. Хотя существовало одно серьезное препятствие – спор о названии со своим южным соседом, Грецией. По мнению греков, название «Македония» принадлежит одноименной греческой провинции, и они обвинили новых македонцев в планах территориальной экспансии. Многолетний спор препятствовал вступлению республики в ЕС, а затем и в НАТО, и тормозил дальнейшее проведение демократических реформ.

Народ был разочарован отсутствием прогресса, раскол в обществе увеличился, возродился этнический национализм. Одним из результатов стала проводимая правящей партией политика «антиквизации», то есть преднамеренное присвоение и даже фальсификация истории(18). Аэропорты, вокзалы и стадионы были переименованы в честь Александра Македонского и Филиппа Македонского – героев греческой истории, которые мало связаны со славянской или греческой Македонией. Огромные районы Скопье были снесены и перестроены в более классическом стиле. Стране с одними из самых высоких в Европе показателей безработицы программа обошлась в сотни миллионов евро. В центре города появились массивные статуи, официально именуемые просто «Воин» и «Воин на коне», но известные всем как Филипп и Александр. Некоторое время на официальном флаге страны была изображена Вергинская звезда – символ, найденный на гробнице Филиппа в Вергине на севере Греции. Националистическая риторика поддерживала историческую апроприацию для подавления меньшинств и центристских партий. Политическим деятелям и историкам, которые выступали за компромисс с Грецией, угрожали смертью(19). Короче говоря, Македония – страна, которая пыталась построить свою идентичность на основе фальшивых новостей.

В 2015 году из серии утечек секретной информации стало известно, что правительство, продвигавшее антиквизационную программу, также спонсировало широкомасштабную операцию по прослушиванию телефонных разговоров службами безопасности страны, и за более чем десятилетие они незаконно записали около 670 000 разговоров с более чем 20 000 телефонных номеров(20). В отличие от демократических стран, таких как Соединенные Штаты или Великобритания, когда выяснилось, что спецслужбы следили за собственным народом, в Македонии сменилось правительство, а перехваченные сообщения были возвращены гражданам. Журналисты, члены парламента, активисты и сотрудники гуманитарных неправительственных организаций получили компакт-диски с многочасовыми записями своих приватных разговоров(21). Впрочем, как и везде, разоблачения ничего глобально не изменили и только усилили паранойю. Правые политические силы подключили националистическую риторику и обвинили иностранные державы в организации скандала. Доверие к правительству и демократическим институтам упало до нового минимума.

Неудивительно, что в таком климате молодежь Велеса без возражений приняла правила игры в дезинформацию, особенно если она проходила на самых передовых цифровых платформах, за которыми, как им казалось, и есть будущее. Фальшивые новости родились не в эпоху Интернета: те же силы и заинтересованные стороны, которые всегда стремились манипулировать информацией в своих целях, взяли на вооружение новые технологии. Произошла демократизация пропаганды, она «ушла в народ», и теперь любой может стать пропагандистом. В итоге усиливается существующее в обществе разделение, точно так же, как веб-сайты, посвященные конспирологии, например пситеррору, подогревают шизофрению. Огульное обвинение Велеса без учета исторического и социального контекста свидетельствует о коллективной неспособности понять рукотворные механизмы, среди которых мы живем, и признать тот факт, что мы пытаемся найти четкий ответ на проблемы, которые осознаем весьма смутно.

Через несколько месяцев после выборов посыпались новые обвинения в манипуляции. Чаще всего они касались России, на которую теперь принято все сваливать, когда дело касается нечестной игры, особенно в Интернете. После российских демократических протестов 2011 года, в которых существенную роль сыграл Интернет, сторонники президента стали активнее действовать в социальных сетях через армию прокремлевских марионеток. В одной из провластных организаций в Санкт-Петербурге, известной как «Агентство интернет-исследований», работают сотни россиян. Они координируют кампанию публикаций в блогах, комментариев, вирусных видеороликов и инфографики, продвигающих прокремлевскую точку зрения как внутри России, так и за ее пределами(22). Эти «фабрики троллей» являются электронным эквивалентом российских военных кампаний в «серой зоне» – они намеренно сбивают с толку, участников сложно поймать за руку и от них всегда можно откреститься. Тысячи троллей действуют на всех административных уровнях и создают постоянный дезинформирующий и агрессивный фон.

Фабрики троллей пытались поддержать правящую партию в России и очернить оппонентов в таких странах, как Украина, но быстро выяснилось, что независимо от количества постов и комментариев, довольно сложно заставить людей изменить свое мнение по какому-либо вопросу. Тогда тактика изменилась: тролли больше не пытаются убедить, а вносят неразбериху в сам спор. Во время предвыборной кампании в США российские тролли одновременно поддерживали Клинтон, Сандерса, Ромни и Трампа, а российские спецслужбы, похоже, участвовали в организации утечек с обеих сторон. В результате сначала на просторах Интернета, а потом и в обществе в целом усилилась поляризация, был запятнан сам политический дискурс. Один российский активист писал: «Цель была в создании атмосферы ненависти, чтобы от политических дебатов так плохо пахло, что нормальные люди хотели бы держаться от них подальше»(23).

Другие выборы тоже пострадали от действий неизвестных сил и были окружены атмосферой конспирологии и паранойи. В преддверии референдума о выходе из Европейского союза пятая часть электората Великобритании считала, что службы безопасности сфальсифицируют результаты опроса(24). Участники кампании за выход из Евросоюза советовали избирателям ставить голоса не карандашом, а ручкой, чтобы их нельзя было стереть(25). Впоследствии внимание сосредоточилось на компании Cambridge Analytica, принадлежащей миллиардеру Роберту Мерсеру, бывшему разработчику искусственного интеллекта, управляющему хедж-фондом и самому влиятельному стороннику Дональда Трампа. Сотрудники Cambridge Analytica охарактеризовали свою работу как «психологическую войну» – использование огромных массивов данных для целенаправленного убеждения избирателей. И, конечно же, выяснилось, что в фальсификации выборов действительно участвовали службы безопасности. Как это обычно и происходит, в правлении и среди персонала Cambridge Analytica, которая направила свою деятельность на помощь сторонникам выхода из ЕС, есть бывшие британские военнослужащие, в частности бывший директор психологических операций британских сил в Афганистане(26). Как на референдуме о выходе из Евросоюза, так и на выборах в США военные подрядчики использовали технологии военной разведки, чтобы повлиять на демократические выборы в своих странах.

Кэрол Кадвалладр, журналистка, которая неоднократно подчеркивала связи между кампанией сторонников выхода из Европейского союза и правых сил США с сомнительными фирмами, собирающими данные, писала:

* * *

«Попробуйте ежедневно следить за новостями, и голова пойдет кругом. Паутина взаимоотношений, сетей власти, патронажа и союзов по обе стороны Атлантического океана опутала информационные фирмы, аналитические центры и СМИ. Речь идет о сложных корпоративных структурах в малоизвестных юрисдикциях, включающих офшорные фонды, направляемых через непонятные алгоритмы монопольных технологических платформ. То, что система невероятно сложна и географически рассредоточена, не случайно. Путаница и шум – лучшие друзья шарлатана. Пустые споры в Twitter служат удобной завесой тьмы»(27).

Как и на выборах в США, внимание вновь обратили на Россию. Исследователи обнаружили, что Агентство интернет-исследований активно писало о Брекзите в характерном полемическом стиле, разжигающем вражду. С одной из учетных записей в Twitter, якобы принадлежавшей техасскому республиканцу, но заблокированной из-за связи с Агентством, в Twitter написали: «Я надеюсь, что после #ГолосуйЗаВыход земли Великобритании очистятся от наплыва мусульман!» и «Великобритания проголосовала за выход из будущего Европейского халифата! #ГолосуйЗаВыход». Этот же «пользователь» ранее засветился на первых полосах бульварных газет, когда на его странице в Twitter появились изображения, на которых мусульманская женщина якобы безразлично проходит мимо жертв теракта в Лондоне(28).

Помимо 419 учетных записей, относительно которых установили, что ими активно пользуются сотрудники Агентства, огромное количество было автоматизировано – с них писали исключительно боты. В другом отчете, опубликованном через год после референдума, говорилось о целой сети из более чем 13 000 аккаунтов-ботов, которые оставляют разнообразные сообщения в Twitter, при этом сообщения за выход из ЕС встречались в восемь раз чаще(29). За несколько месяцев после референдума Twitter удалил все 13 000 учетных записей. Кому они принадлежали, установлено не было. Согласно другим источникам, пятая часть всех онлайн-дебатов, посвященных избирательной кампании в США 2016 года, была автоматизирована, а действия ботов существенно повлияли на общественное мнение(30). Прогнило что-то в демократической системе – огромное количество участников дебатов анонимны, неуловимы, и мы о них никогда не узнаем. Влияние анонимов на общество растет в геометрической прогрессии, но мотивы и происхождение ботов совершенно непонятны. Боты повсюду.

Летом 2015 года был взломан AshleyMadison.com, веб-сайт знакомств для женатых людей, ищущих романы на стороне, и в Сеть просочилась информация о 37 миллионах пользователей. Изучение обширных баз данных с интимной перепиской быстро показало, что на сайте, где мужчины и женщины могли знакомиться напрямую, а премиум-членам обещали обязательно найти пару, существовало огромное расхождение между числом аккаунтов женщин и аккаунтов мужчин. Из 37 миллионов пользователей только пять миллионов были женщинами, да и те, заведя страницу, больше никогда на нее не заходили. Исключение составляла очень активная когорта из примерно 70 000 женских аккаунтов, которых на сайте называли «ангелами». «Ангелы» знакомились с мужчинами, которым приходилось платить за каждое отправленное сообщение, и вступали в долгую переписку, чтобы те возвращались и платили больше. Разумеется, «ангелы» были автоматизированными(31).

Создатели сайта заплатили третьим лицам за регистрацию миллионов поддельных профилей на тридцать одном языке, выстроив для них сложную систему администрирования и анимации. Некоторые мужчины оставляли на платформе тысячи долларов. Некоторым повезло, в конце концов, даже обзавестись романом, но подавляющее большинство просто потратили годы на откровенные и бесплодные разговоры с ботами. Вот еще одна иллюстрация антиутопии автоматизации: социальный сайт, где невозможно быть социальным, половина участников – тени, а участие позволено только за деньги. Те, кто попадал в систему, подозревали неладное, но ничего не могли выяснить, а принять свои подозрения за правду значило разрушить фантазию, ради которой все и затевалось. Взлом выявил несостоятельность системы, что, впрочем, было заметно даже по недобросовестной технологической структуре.

Когда я впервые опубликовал в Интернете исследование о странностях и жестокости детского YouTube, то получил массу сообщений и электронных писем от незнакомцев, считавших, что знают, откуда поступают видео. Некоторые потратили месяцы на отслеживание владельцев веб-сайтов и IP-адресов. Другие соотносили места съемок с задокументированными случаями жестокого обращения. Видео всегда приходили откуда-то издалека: из Индии, Малайзии, Пакистана. Так международная Сеть педофилов уходила от ответственности. Именно они стояли за всеми этими видео. Их породил сошедший с ума искусственный интеллект. Они были частью согласованного, международного и поддерживаемого государством плана развращения западной молодежи. Одни электронные письма были от чудаков, другие – от самоотверженных исследователей, но все считали, что каким-то образом взломали код и докопались до сути. Большинство их оценок были убедительными в отношении некоторых типов или аспектов видео, но ни одна из версий не была целостной и не выдержала проверки.

Общим для кампании о выходе Великобритании из Евросоюза, выборов в США и тревожащей бездны YouTube является то, что, несмотря на многочисленные подозрения, в конечном итоге невозможно сказать, кто и что делает, каковы их мотивы и намерения. Просмотр бесконечного потокового видео, сообщений в Twitter и обновлений статуса в соцсетях не помогает. Бесполезно пытаться различить, что случайно сгенерировано алгоритмами, а что тщательно сконструировано; что из этого болезненный бред параноика, спам или пропаганда; за чем стоит государство или любители легкой наживы; что из этого преднамеренная дезинформация, а что создано из лучших побуждений. Подобная путаница, безусловно, идет на руку иностранным спецслужбам и мучителям детей, но она намного шире и касается не одной какой-то группы – таков мир на самом деле. Никто не принимал такого решения, не выбирал этого будущего. Никто не хотел возвращеня темных веков, но мы создали условия для их возвращения, и теперь нам придется в этих новых условиях жить.

Глава 10

Облако

В мае 2013 года компания Google пригласила примерно двести особых гостей в отель «Гроув» в английском Хартфордшире на свою ежегодную конференцию «Zeitgeist». Проводимая с 2006 года двухдневная конференция, за которой следует публичное мероприятие, носит строго конфиденциальный характер, и только отдельные видеозаписи выступлений публикуются в Интернете. За эти годы на конференции выступали бывшие президенты США, члены королевских семей, звезды шоу-бизнеса, а в 2013 году в список гостей вошли несколько глав государств и министров правительств, руководители крупнейших европейских корпораций, бывший глава вооруженных сил Великобритании, а также директора Google и мотивационные спикеры. Несколько участников, включая генерального директора Google Эрика Шмидта, спустя месяц вновь собрались в том же отеле на еще более секретной ежегодной встрече мировых лидеров в рамках Бильдербергского клуба(1). Заявленные темы включали «Действия сегодня», «Наше наследие», «Мужество в связанном мире», «Принцип удовольствия». Одна за одной звучали речи влиятельнейших людей мира о том, как важно поддерживать благотворительные инициативы и стремиться к личному счастью.

Сам Шмидт открыл конференцию гимном освободительной силе технологий. «Думаю, мы что-то упускаем, – сказал он, – возможно, из-за того, как у нас устроена политика, возможно, из-за того, как работают СМИ. Нам недостает оптимизма… Природа инноваций, то, что происходит в Google и по всему миру, весьма положительно влияет на человечество, и нам следует оптимистичнее смотреть в будущее»(2).

В ходе последовавшей дискуссии, отвечая на вопрос, в котором такому утопическому мышлению противопоставлялась книга Джорджа Оруэлла «1984», Шмидт сослался на распространение мобильных телефонов, в особенности оснащенных камерами, чтобы проиллюстрировать, как технологии сделали мир лучше:

«Сегодня, в век Интернета, очень и очень сложно творить системное зло. И я приведу вам пример. Мы были в Руанде. В 1994 году в Руанде творилось ужасное… настоящий геноцид. За четыре месяца 750 000 людей были убиты мачете – страшная смерть. Это нужно было спланировать. Приходилось что-то записывать. Я думаю, что, если бы в 1994 году у всех были смартфоны, такое было бы невозможно. Люди бы заметили происходящее. Планы просочились бы. Кто-то бы догадался, кто-то бы среагировал и предотвратил ужасную резню»(3).

Мировоззрение Шмидта и Google полностью определяется верой в то, что сделать видимым значит улучшить, а технологии позволяют сделать вещи зримыми. Этот преобладающий сегодня взгляд не только в корне ошибочен, но и очень опасен, как в глобальном масштабе, так и в конкретном случае, о котором говорил Шмидт.

Мировые лидеры, в особенности США, а также Франция и Бельгия, у которых ранее в этом регионе были колонии, обладали огромным массивом информации за месяцы и недели, предшествовавшие ужасным события в Руанде, и непосредственно во время геноцида – все эти данные подробно задокументированы(4). В Руанде на тот момент находились представители неправительственных организаций, сотрудники посольств и ведомств многих стран, в то время как ООН, иностранные и государственные департаменты, военные и разведывательные группы – все отслеживали ситуацию и в ответ на эскалацию конфликта эвакуировали свой персонал. Агентство национальной безопасности прослушало и записало теперь уже печально известный всем радиоэфир, в котором звучали призывы к «последней войне», чтобы «истребить тараканов». Генерал Ромео Даллер, командующий миротворческой операцией ООН в Руанде, позднее заметил, что «просто заглушить вещание и вывести в эфир послания, призывающее к миру и согласию, уже значило бы существенно повлиять на ход событий»(5).

В течение многих лет США заявляли, что не располагали данными о творившихся в Руанде зверствах, но в 2012 году в ходе судебного процесса о геноциде обвинение неожиданно предъявило сделанные в мае-июле 1994 года, в период «ста дней геноцида», спутниковые снимки высокого разрешения(6). На снимках, взятых из большого архива, засекреченного Национальным управлением военно-космической разведки и Национальным агентством геопространственной разведки, изображены блокпосты, разрушенные здания, места массовых захоронений и даже трупы, лежавшие на улицах бывшей столицы Бутаре(7).

Ситуация повторилась на Балканах в 1995 году, когда из ситуационной комнаты в Вене сотрудники ЦРУ через спутник наблюдали за расправой над 8000 мусульманских мужчин и мальчиков в Сребреннице(8). Через несколько дней сделанные самолетом-разведчиком U-2 фотографии запечатлели свежие братские могилы. Президенту Клинтону показали эти изображения только спустя месяц(9). Но с тех пор уже произошло то, к чему призывал Шмидт, и мы видим, что основная проблема не в инертности институтов власти. Сегодня спутниковые снимки массовых захоронений доступны не только военным и спецслужбам. Напротив, на картах Google можно найти изображения заваленных телами канав до и после – как в 2013 году с мечетью Дария к югу от Дамаска(10).

Во всех этих случаях наблюдение со стороны является исключительно ретроспективной силой и совершенно не способно вызвать действия в настоящем; оно полностью подчинено устоявшимся и абсолютно скомпрометировавшим себя властным интересам.

Если в Руанде и Сребреннице чего-то и не хватало, то не свидетельств зверств, а желания на них реагировать. Как отмечалось в одном из отчетов о расследовании убийств в Руанде, «любая неспособность в полной мере оценить геноцид проистекает из слабости политики, недостатка морали и воображения, а не информации»(11). Эта фраза могла бы стать ключевым посылом этой книги: суровое обвинение нашей способности закрывать глаза на происходящее или гоняться за доказательствами, когда проблема заключается не в знании, а в наших действиях.

Заявление о том, что изображения перестали оказывать должное воздействие, не следует воспринимать как аргумент в поддержку тезиса, что чем больше информации, – из каких бы демократичных и децентрализованных источников она ни поступала, – тем больше пользы. Мы вновь и вновь убеждаемся, что технология, которая, если верить Шмидту, противодействует системному злу, на деле сама приводит к насилию и разрушительным последствиям. В 2007 году после оглашения результатов президентских выборов в Кении наступил политический кризис. Если в Руанде ненависть разжигали через радиотрансляции, здесь эта роль перешла мобильным телефонам – вихрь насилия подпитывался текстовыми сообщениями, призывающими этнические группы убивать друг друга. В ходе столкновений погибло более 1000 человек. Вот пример такого «письма ненависти», в котором людей просят распространять личные данные своих врагов:

«Мы заявляем, что кровь невинных кикуйю больше не прольется. Мы забьем их [наших врагов] прямо здесь, в столице. Чтобы справедливость восторжествовала, составьте список луо и калу [этнические группы], с которыми живете рядом или работаете. Напишите, куда и как их дети добираются в школу. Мы дадим номера для отправки этой информации».(12)

Проблема сообщений ненависти была настолько серьезной, что в качестве ответной меры правительство пыталось распространять свои собственные послания о мире и примирении. Именно на риторику в закрытых телефонных чатах возлагали ответственность за эскалацию конфликта гуманитарные неправительственные организации. Последующие исследования показали, что распространение зоны охвата сотовой связи коррелирует с более высоким уровнем насилия, даже если сделать поправку на неравенство доходов, этническую раздробленность и географическое положение(13).

Я вовсе не утверждаю, что спутники или смартфоны провоцируют насилие. Скорее тому виной вера в технологии как благо, бездумная убежденность в их этической нейтральности и, как следствие, наша неспособность переосмыслить свои отношения с миром. Любое некритически воспринятое утверждение о пользе технологий только закрепляет статус-кво. Аргумент со ссылкой на трагедию в Руанде не выдерживает критики – на самом деле все обстоит наоборот. И то, что Шмидт, один из самых влиятельных сторонников цифровой экспансии и сбора данных, выступает с этой идеей перед лидерами государств и международного бизнеса, не только в корне неправильно, но и опасно.

Информация и насилие тесно и неразрывно связаны, а технологии, которые стремятся установить контроль над миром, ускоряют превращение информации в оружие. Это становится очевидным, если проследить исторически сложившуюся связь между военными, правительственными и корпоративными интересами, с одной стороны, и развитием новых технологий – с другой. Мы везде и всюду наблюдаем последствия этой связи, но по-прежнему придаем чрезмерное значение информации, загоняющей нас в порочный круг насилия, разрушения и смерти. Учитывая, что то же самое происходило столетиями с другими ресурсами, у нас нет ни права, ни возможности пренебречь этим пониманием.

О том, что «данные – это новая нефть», в 2006 году первым сказал Клайв Хамби, британский математик и разработчик программы лояльности для супермаркетов Tesco(14). С тех пор фраза обрела популярность сначала среди маркетологов, затем предпринимателей и в конечном итоге среди руководителей больших компаний и политиков. В мае 2017 года журнал The Economist посвятил этому тезису целый выпуск, заявляя, что «смартфоны и Интернет сделали данные большими, повсеместными и гораздо более ценными… Собранные данные дают компаниям больше возможностей улучшать свои продукты, что привлекает больше пользователей, генерирует еще больше данных и так далее»(15).

Во время выступления в Саудовской Аравии, крупнейшем в мире поставщике нефти, генеральный директор Mastercard назвал данные «общественным благом» и сравнил их с нефтью по эффективности создания богатства(16). В британском парламенте при обсуждении выхода страны из Европейского союза, когда речь шла о данных, «нефтяные метафоры» звучали с обеих сторон(17). Между тем, такие сравнения крайне редко отражают последствия долгосрочной, системной и глобальной зависимости от токсичного ресурса или сомнительные обстоятельства его добычи.

В первоначальной формулировке Хамби данные сравнивались с нефтью на том основании, что «она ценна, но ее нельзя использовать в сыром виде. Ее необходимо превратить в бензин, пластик, химикаты и тому подобное, чтобы создать ценный товар, который будет приносить прибыль; так и данные приобретают ценность, когда упорядочены и проанализированы»(18). Рост вычислительных мощностей и развитие машинного интеллекта привели к тому, что с годами акцент на работе, которую необходимо проделать, чтобы информация стала полезной, был утерян и его заменили чистые спекуляции. В процессе упрощения были забыты исторические уроки, нынешние опасности и долгосрочные последствия этой аналогии.

Наша жажда данных, как и наша жажда нефти, исторически является империалистической и колониалистской и тесно связана с капиталистическими сетями эксплуатации. Выборочная видимость, определяемая из центра, всегда служила расширению самых успешных империй. Данные используются для обозначения и классификации объектов империалистического интереса точно так же, как подданные империй должны были регистрироваться и называть себя в соответствии с указаниями хозяев(19). Те же самые империи сначала оккупировали, а затем начинали эксплуатировать природные резервы своих владений, и Сети, которые они создали, по сей день живут в цифровых инфраструктурах – информационным супермагистралям предшествовали Сети телеграфных кабелей, проложенных старыми империями для осуществления контроля. Самые быстрые маршруты глобальной передачи данных из Западной Африки по-прежнему проходят через Лондон, а британо-голландская транснациональная компания Shell продолжает разрабатывать нефть в Нигерии. Несмотря на все старания государств Южной Америки контролировать свои нефтяные доходы, подводные кабели, опоясывающие континент, принадлежат корпорациям, базирующимся в Мадриде. Финансовые транзакции проходят по оптоволоконным каналам через офшорные территории, напоминая о временах колонизации. Империи по большей части отказались от территориальных притязаний, но продолжают господствовать на уровне инфраструктуры, сохраняя свою власть в виде Сети. Режимы, основанные на данных, повторяют расистскую, сексистскую и репрессивную политику своих предшественников, потому что именно эти предубеждения и отношения заложены в ее основу.

В настоящее время добыча, обработка и использование данных / нефти приводят к загрязнению земли и атмосферы. Происходят утечки. Ничто не остается вне зоны поражения. Яд проникает в грунтовые воды наших социальных отношений и отравляет их. Он навязывает нам вычислительное мышление, вызывает глубокие разногласия в обществе из-за ошибочного разделения, фундаментализма, популизма и усиливающегося неравенства. Яд поддерживает и подпитывает неправильные, асимметричные отношения с властью; в большинстве случаев мы «делимся» своими данными не добровольно, их принудительно извлекают или вынуждают отдать. Так каракатица в моменты паники выбрасывает чернильное облако, пытаясь скрыться от хищника.

Учитывая наши знания об изменении климата, то, с какой легкостью политики и технократы одобрительно говорят о данных / нефти, должно бы шокировать, не будь мы так зомбированы их лицемерием. Данные / нефть будут представлять опасность, когда нас уже не станет. На то, чтобы исправить нанесенный ущерб, уйдут столетия, а мы еще даже близко не испытали наихудшие, но неизбежные последствия своих действий.

Однако даже при адекватном подходе к сравнению данных с нефтью оно остается в корне неточным: мирный переход к экономике, основанной не на данных, невозможен. Нефть – исчерпаемый ресурс. Мы уже приближаемся к пику добычи нефти, и, хотя после каждого нефтяного кризиса задействуем либо осваиваем какую-то новую территорию или разрушительную технологию, подвергая еще большей опасности планету и самих себя, скважины в конечном итоге иссякнут. Чего нельзя сказать об информации, несмотря на то, что сегодня ее добывают чрезвычайно агрессивно. Спецслужбы отслеживают каждое электронное письмо, каждый щелчок мышью и перемещения каждого мобильного устройства. Хотя достижение пиковых объемов данных, вероятно, ближе, чем мы думаем, использование необработанной информации может продолжаться бесконечно, как и ущерб, который она наносит нам и нашей способности понимать мир.

В этом отношении информация больше похожа не на нефть, а на атомную энергию – фактически неограниченный ресурс, который по-прежнему несет огромную разрушительную силу и который даже более явно, чем нефть, несет на себе отпечаток случившихся трагедий. Однако «атомная» информация заставляет нас подойти к решению экзистенциальных вопросов, связанных со временем и загрязнением, способами, которые бурлящая на протяжении веков нефтекультура старательно избегала.

Мы проследили, как вычислительное мышление развивалось с помощью машин, разработанных для создания атомной бомбы, и как архитектура современной обработки данных и сетей формировалась в горниле Манхэттенского проекта. Мы рассмотрели, как происходит утечка данных – критические отклонения и цепные реакции подрывают конфиденциальность, возникает ризоматическое грибовидное облако. Эти аналогии реальны, это непременное и всеобщее последствие принятых нами социальных и технических решений.

Подобно тому, как мы сорок пять лет жили в условиях «холодной войны», которая могла обернуться гарантированным взаимным уничтожением, сегодня мы находимся в интеллектуальном онтологическом тупике. Наш основной метод оценки мира, основанный на больших данных, дает сбой. Он не учитывает сложные, управляемые человеком системы, и его несостоятельность становится очевидной — не в последнюю очередь потому, что мы именно для этого построили обширную, охватывающую всю планету систему обмена информацией. Примеров несостоятельности много. Крах конфиденциальности вызван осуществляемой государством слежкой, с одной стороны, и активизмом по противодействию наблюдению и утечкам данных – с другой, а сам сбор данных перегружает систему и приводит к путанице. В фармакологии дела обстоят не лучше: на исследования расходуются миллиарды долларов, но прорывов неоправданно мало. И все же наиболее очевидным является, пожалуй, то, что, несмотря на огромный объем информации в Интернете, где хватает умеренных взглядов и альтернативных объяснений, теории заговора и фундаментализм не просто выживают, а процветают. Как и во времена атомной гонки, мы раз за разом извлекаем неверный урок. Мы смотрим на выросшее в небе грибовидное облако, видим разрушительную силу технологии и вновь вступаем в гонку вооружений.

Наш главный долг – увидеть Сеть во всей ее сложности. Сеть – это последний, но, безусловно, самый продвинутый инструмент для самоанализа в масштабе цивилизации, созданный нашим биологическим видом. Работать с Сетью – значит иметь дело с бесконечной библиотекой, как в рассказе Борхеса, и всеми ее внутренними противоречиями; библиотека не сводится к единому целому, а смысл ее постоянно ускользает. Наши категории, резюме и авторитетные источники не просто недостаточны – они буквально бессмысленны. Как отметил Г. Ф. Лавкрафт, объявляя наступление новой Темной эры, существующие способы мышления о мире не выдерживают натиска всей этой необработанной информации, как и мы не можем пережить ядерный взрыв.

«Черная комната», предшественница Агентства национальной безопасности, была создана в 1919 году в США как первая криптоаналитическая организация мирного времени, по поручению правительства занимающаяся взломом, обработкой и уничтожением информации. Ее физический аналог был построен Энрико Ферми под трибунами стадиона Стэг-Филд в Чикаго в 1942 году из 45 000 блоков черного графита и использовался для экранирования первой в мире искусственной ядерной реакции. Подобно тому, как современным аналогом некогда секретного города Лос-Аламос стали строящиеся в пустыне Юты центры обработки данных АНБ, так и «Черная комната» сегодня воплощается в непрозрачном стекле и стали штаб-квартиры АНБ в Форт-Мид, штат Мэриленд, а также в бесконечных, непостижимых серверах Google, Facebook, Amazon, Palantir, Lawrence Livermore, Sunway TaihuLight и Национального центра управления обороной.

Комната Ферми и центры АНБ представляют два вида самоаннигиляции: в одном случае – аннигиляции тела, во втором – разума. Оба символизируют бесконечно разрушительное стремление ко все более точному знанию ценой отказа признавать собственное незнание. Современная цивилизация построена на диалектике, согласно которой больше информации означает принятие лучших решений, но эта философия едва ли успевает за развитием технологий. Писатель и активист Арундати Рой, говоря о взрыве первой в Индии ядерной бомбы, назвал происходящее «концом воображения». То, что когда-то было откровением, сейчас буквально воплощено нашими информационными технологиями(20).

В ответ на конец воображения, безошибочно видимого не только в нависшем над нами грибовидном облаке, но и в сверхчеловечески длительных периодах полураспада атомов, которые останутся радиоактивными, когда человечество давно уже исчезнет, мы обратились к мифам и замалчиванию. Например, для обозначения мест долговременного хранения отходов в США предлагается установить настолько ужасающие скульптуры, что даже животные и птицы почувствуют недоброе и не приблизятся. Надпись на скульптуре будет гласить: «Это место стыда. Оно не отражает ни одного достойного дела. Здесь нет ничего ценного»(21). Другой пример. Целевая группа по человеческому вмешательству, созванная министерством энергетики в 1980-х годах, рассматривала идею разведения «радиационных кошек», которые меняли бы цвет при воздействии радиации и служили бы живыми индикаторами опасности. Предполагалось, что посредством произведений искусства и мифов значение этого изменения пронзит толщу веков и станет известно в новых культурных эпохах(22). В случае с Онкало, глубоким геологическим хранилищем отработанного ядерного топлива в Финляндии, план другой: после заполнения хранилища его уберут с карт, на местоположение ничто не будет указывать, и оно в конечном итоге забудется(23).

Аналогия информации и атомной энергии полезна уже тем, что рисует картину такого катастрофического будущего, что единственный шанс его предотвратить – начать действовать прямо сейчас. Нигилистическим отсылкам к изначальным грехам и (анти)утопическим представлениям о будущем противостоит понятие опеки, одно из направлений экологического и атомного активизма(24). Опека подразумевает необходимость взять на себя полную ответственность за токсичные плоды атомной культуры, даже когда они якобы служат нам во благо. Идея опеки основана на принципах наименьшего вреда в настоящем и нашей ответственности перед будущими поколениями, хотя вовсе не предполагает, что мы можем все знать или контролировать. Иными словами, для того чтобы что-то изменить к лучшему, необходимо осознание своей ответственности за уже сделанное. Глубокое захоронение радиоактивных материалов, которые могут привести к обширному заражению, свидетельствует об обратном. Вот наша точка соприкосновения с новым Темным веком, где будущее принципиально темно и неизвестно, прошлое поставлено под сомнение, но в настоящем мы еще можем ясно представлять окружающий мир и действовать в нем ответственно. Описанные выше принципы недоступны внеэтическому вычислительному мышлению, но могут быть осуществлены в рамках нашей затемненной реальности.

В конечном счете любая стратегия жизни в новые темные века зависит от внимания к «здесь и сейчас», а не от иллюзорных обещаний, подпитываемых вычислительными технологиями, тотальной слежкой, идеологиями и репрезентациями. Настоящее – всегда там, где мы живем и думаем, балансируя между гнетущей историей и неизвестным будущим. Технологии, которые выдают нам информацию и сегодня формируют наше восприятие реальности, никуда не денутся, да к этому и не нужно стремиться. Наши нынешние системы жизнеобеспечения на планете с населением в 7,5 миллиарда человек полностью зависят от технологий. Мы совершенно точно в состоянии понять эти системы и то, как они на нас влияют, а также осознанно делать выбор при их разработке уже здесь и сейчас. Мы не бессильны, не лишены свободы воли и не ограничены тьмой. Нам нужно только подумать, потом подумать еще, и не переставать думать. Этого требует Сеть, в которой находимся все мы, наши машины и все то, над чем мы совместно работаем.

Выражение признательности

Моему партнеру во всем Навин Г. Хан-Доссос – спасибо тебе за поддержку, терпение, безумные идеи и беззаветную любовь. Особая благодарность Расселу Дэвису, Робу Фауре-Уолкеру, Кэтрин Бридан, Калли Спунер и Чарли Ллойду, которым я признателен за то, что они читали мои наброски и делились своими мыслями. Спасибо Тому Тэйлору, Бену Террету, Крису Хиткоуту, Тому Армитажу, Филу Гифорду, Элис Бартлетт, Дэну Уилльямсу, Нэту Бакли, Мэтту Джонсу, командам RIG,BRIG,THFT и Shepherdess, а также всем членам инфраструктурного клуба. Спасибо Кевину Славину, Хито Стейэрл, Сьюзен Шаппли, Трэвору Паглену, Карен Барал, Ингрид Буррингтон, Бену Викерсу, Джею Спрингетту, Джорджу Воссу, Тобиасу Ревеллу и Кириаки Гони за их труд и беседы. Спасибо Луке Барбени, Хонору Харгеру и Катрине Слуис за то, что верили в мою работу. Спасибо Лео Холлису за предложение, и всем в издательстве «Verso» за то, что сделали возможной публикацию книги. Спасибо Джине Фасс и всем в культурном центре «Romantso» в Афинах, где была написана боˊльшая часть этой книги; Хелене Блэк и Яннису Колакидесу в центре искусств «NeMe» в Лимассоле, которые помогли мне с заключительными главами. Спасибо Тому и Элеаноре, Говарду и Алексу, моим родителям Джону и Клеманси за вашу незаменимую поддержку и энтузиазм.

Примечания

Глава 1. Пропасть

1. ‘The Cloud of Unknowing’, анонимный источник, XIV век.

2. «Недостаточно науки, религии, искусства, политики и экономики. Недостаточно любви, долга, даже самого бескорыстного действия и самого тонкого разумения. Нужно все, и не менее» (Олдос Хаксли, «Остров», 1962 г.).

3. H. P. Lovecraft,‘The Call of Cthulhu’, Weird Tales, February 1926. (Цит. в переводе С. Б. Лихачевой.)

4. Rebecca Solnit, ‘Woolf’s Darkness: Embracing the Inexplicable’, New Yorker, April 24, 2014, newyorker.com.

5. Donna Haraway, ‘Anthropocene, Capitalocene, Chthulucene: Staying with the Trouble’ (лекция ‘Anthropocene: Arts of Living on a Damaged Planet’ на конференции UC Santa Cruz, May 9, 2014), opentranscripts.org.

6. Virginia Woolf, Three Guineas, New York: Harvest, 1966.

Глава 2. Компьютеризация

1. John Ruskin, The Storm-Cloud of the Nineteenth Century: Two Lectures Delivered at the London Institution February 4th and 11th, 1884, London: George Allen, 1884.

2. Ibid.

3. Ibid.

4. Александр Грэм Белл в письме отцу, 26 февраля 1880 г., цит. по Robert V. Bruce, Bell: Alexander Graham Bell and the Conquest of Solitude, Ithaca, NY: Cornell University Press, 1990.

5. ‘The Photophone’, New York Times, August 30, 1880.

6. Oliver M. Ashford, Prophet or Professor? The Life and Work of Lewis Fry Richardson, London: Adam Hilger Ltd, 1985.

7. Lewis Fry Richardson, Weather Prediction by Numerical Process, Cambridge: Cambridge University Press, 1922.

8. Ibid.

9. Vannevar Bush, ‘As We May Think’, Atlantic, July 1945.

10. Ibid.

11. Ibid.

12. Ibid.

13. Vladimir K. Zworykin, Outline of Weather Proposal, Princeton, NJ: RCA Laboratories, October 1945, доступно на сайте meteohistory.org.

14. Цит. по Freeman Dyson, Infinite in All Directions, New York: Harper & Row, 1988.

15. ‘Weather to Order’, New York Times, February 1, 1947.

16. John von Neumann, ‘Can We Survive Technology?’, Fortune, June 1955.

17. Peter Lynch, The Emergence of Numerical Weather Prediction: Richardson’s Dream, Cambridge: Cambridge University Press, 2006.

18. ‘50 Years of Army Computing: From ENIAC to MSRC’, Army Research Laboratory, Adelphi, MD, November 1996.

19. George W. Platzman, ‘The ENIAC Computations of 1950 – Gateway to Numerical Weather Prediction’, Bulletin of the American Meteorological Society, April 1979.

20. Emerson W. Pugh, Building IBM: Shaping an Industry and Its Technology, Cambridge, MA: MIT Press, 1955.

21. Herbert R. J. Grosch, Computer: Bit Slices from A Life, London: Third Millennium Books, 1991.

22. George Dyson, Turing’s Cathedral: The Origins of the Digital Universe, New York: Penguin Random House, 2012.

23. IBM Corporation, ‘SAGE: The First National Air Defense Network’, IBM History, ibm.com.

24. Gary Anthes, ‘Sabre Timeline’, Computerworld, May 21, 2014, computerworld.com.

25. ‘Flightradar24.com blocked Aircraft Plane List’, Radarspotters, форум на radarspotters.eu.

26. Federal Aviation Administration, ‘Statement By The President Regarding The United States’ Decision To Stop Degrading Global Positioning System Accuracy’, May 1, 2000, faa.gov.

27. David Hambling, ‘Ships fooled in GPS spoofing attack suggest Russian cyberweapon’, New Scientist, August 10, 2017, newscientist.com.

28. Kevin Rothrock, ‘The Kremlin Eats GPS for Breakfast’, Moscow Times, October 21, 2016, themoscowtimes.com.

29. Chaim Gartenberg, ‘This Pokémon Go GPS hack is the most impressive yet’, Verge, Circuit Breaker, July 28, 2016, theverge.com.

30. Rob Kitchin and Martin Dodge, Code/Space: Software and Everyday Life, Cambridge, MA: MIT Press, 2011.

31. Brad Stone, ‘Amazon Erases Orwell Books From Kindle’, New York Times, July 17, 2009, nytimes.com.

32. R. Stuart Geiger,‘The Lives of Bots’, in Geert Lovink and Nathaniel Tkaz, eds, Critical Point of View: A Wikipedia Reader, Institute of Network Cultures, 2011, доступно на сайте networkcultures.org.

33. Kathleen Mosier, Linda Skitka, Susan Heers, and Mark Burdick, ‘Automation Bias: Decision Making and Performance in High-Tech Cockpits’, International Journal of Aviation Psychology 8:1, 1997, 47–63.

34. ‘CVR transcript, Korean Air Flight 007 – 31 Aug 1983’, Aviation Safety Network, aviation-safety.net.

35. K. L. Mosier, E. A. Palmer, and A. Degani, ‘Electronic Checklists: Implications for Decision Making’, Proceedings of the Human Factors Society 36th Annual Meeting, Atlanta, GA, 1992.

36. ‘GPS Tracking Disaster: Japanese Tourists Drive Straight into the Pacific’, ABC News, March 16, 2012, abcnews.go.com.

37. ‘Women trust GPS, drive SUV into Mercer Slough’, Seattle Times, June 15, 2011, seattletimes.com.

38. Greg Milner, ‘Death by GPS’, Ars Technica, June 3, 2016, arstechnica.com.

39. S. T. Fiske and S. E. Taylor, Social Cognition: From Brains to Culture, London: SAGE, 1994.

40. Lewis Fry Richardson, цит. по Ashford, Prophet or Professor?

41. Lewis F. Richardson, ‘The problem of contiguity: An appendix to Statistics of Deadly Quarrels’, in General systems: Yearbook of the Society for the Advancement of General Systems Theory, Ann Arbor, MI: The Society for General Systems Research, 1961, 139–187.

Глава 3. Климат

1. ‘Trembling tundra – the latest weird phenomenon in Siberia’s land of craters’, Siberian Times, July 20, 2016, siberiantimes.com.

2. US Geological Survey, ‘Assessment of Undiscovered Oil and Gas in the Arctic’, USGS, 2009, energy.usgs.gov.

3. ‘40 now hospitalised after anthrax outbreak in Yamal, more than half are children’, Siberian Times, July 30, 2016, siberiantimes.com.

4. Roni Horn, ‘Weather Reports You’, официальный сайт Artangel, February 15, 2017, artangel.org.uk.

5. ‘Immigrants Warmly Welcomed’, Al Jazeera, July 4, 2006, aljazeera.com.

6. Food and Agriculture Organization of the United Nations, ‘Crop biodiversity: use it or lose it’, FAO, 2010, fao.org.

7. ‘Banking against Doomsday’, Economist, March 10, 2012, economist.com.

8. Somini Sengupta, ‘How a Seed Bank, Almost Lost in Syria’s War, Could Help Feed a Warming Planet’, New York Times, October 12, 2017, nytimes.com.

9. Damian Carrington, ‘Arctic stronghold of world’s seeds flooded after permafrost melts’, Guardian, May 19, 2017, theguardian.com.

10. Alex Randall, ‘Syria and climate change: did the media get it right?’, Climate and Migration Coalition, climatemigration.atavist.com.

11. Jonas Salomonsen, ‘Climate change is destroying Greenland’s earliest history’, Science Nordic, April 10, 2015, sciencenordic.com.

12. J. Hollesen, H. Matthiesen, A. B. Møller, and B. Elberling, ‘Permafrost thawing in organic Arctic soils accelerated by ground heat production’, Nature Climate Change 5:6 (2015), 574–8. 260

13. Elizabeth Kolbert, ‘A Song of Ice’, New Yorker, October 24, 2016, newyorker.com.

14. Council for Science and Technology, ‘A National Infrastructure for the 21st century’, 2009, cst.gov.uk.

15. AEA, ‘Adapting the ICT Sector to the Impacts of Climate Change’, 2010, gov.uk.

16. Council for Science and Technology, ‘A National Infrastructure for the 21st century’.

17. AEA, ‘Adapting the ICT Sector to the Impacts of Climate Change’.

18. Tom Bawden, ‘Global warming: Data centres to consume three times as much energy in next decade, experts warn’, Independent, January 23, 2016, independent.co.uk.

19. Institute of Energy Economics, ‘Japan Long-Term Energy Outlook – A Projection up to 2030 under Environmental Constraints and Changing Energy Markets’, Japan, 2006, eneken.ieej.or.jp.

20. Eric Holthaus, ‘Bitcoin could cost us our clean-energy future’, Grist, December 5, 2017, grist.org.

21. Digital Power Group, ‘The Cloud Begins With Coal – Big Data, Big Networks, Big Infrastructure, and Big Power’, 2013, tech-pundit.com.

22. Bawden, ‘Global warming’.

23. Alice Ross, ‘Severe turbulence on Aeroflot flight to Bangkok leaves 27 people injured’, Guardian, May 1, 2017, theguardian.com.

24. Anna Ledovskikh, ‘Accident on board of plane Moscow to Bangkok’, видео на YouTube, May 1, 2017.

25. Aeroflot, ‘Doctors Confirm No Passengers Are In Serious Condition After Flight Hits Unexpected Turbulence’, May 1, 2017, aeroflot.ru.

26. M. Kumar, ‘Passengers, crew injured due to turbulence on MAS flight’, Star of Malaysia, June 5, 2016, thestar.com.my.

27. Henry McDonald, ‘Passenger jet makes emergency landing in Ireland with 16 injured’, Guardian, August 31, 2016, theguardian.com.

28. National Transportation Safety Board, ‘NTSB Identification: DCA98MA015’, ntsb.gov.

29. Federal Aviation Administration, FAA Advisory Circular 120-88A, 2006.

30. Paul D. Williams & Manoj M. Joshi, ‘Intensification of winter transatlantic aviation turbulence in response to climate change’, Nature Climate Change 3 (2013), 644–8.

31. Wolfgang Tillmans, Concorde, Cologne: Walther Konig Books, 1997.

32. William B. Gail, ‘A New Dark Age Looms’, New York Times, April 19, 2016, nytimes.com.

33. Joseph G. Allen, et al., ‘Associations of Cognitive Function Scores with Carbon Dioxide, Ventilation, and Volatile Organic Compound Exposures in Office Workers: A Controlled Exposure Study of Green and Conventional Office Environments’, Environmental Health Perspectives 124 (June 2016), 805–12.

34. Usha Satish, et al., ‘Is CO2 an Indoor Pollutant? Direct Effects of Low-to-Moderate CO2 Concentrations on Human Decision-Making Performance’, Environmental Health Perspectives 120:12 (December 2012), 1671–7.

Глава 4. Вычисления

1. William Gibson в интервью David Wallace-Wells, ‘William Gibson, The Art of Fiction No. 211’, Paris Review 197 (Summer 2011).

2. Tim Berners-Lee, ‘How the World Wide Web just happened’, Do Lectures, 2010, thedolectures.com.

3. ‘Cramming more components onto integrated circuits’, Electronics 38:8 (April 19, 1965).

4. ‘Moore’s Law at 40’, Economist, March 23, 2005, economist.com.

5. Chris Anderson, ‘End of Theory’, Wired Magazine, June 23, 2008.

6. Jack W. Scannell, Alex Blanckley, Helen Boldon, and Brian Warrington, ‘Diagnosing the decline in pharmaceutical R&D efficiency’, Nature Reviews Drug Discover 11 (March 2012), 191–200.

7. Richard Van Noorden, ‘Science publishing: The trouble with retractions’, Nature, October 5, 2011, nature.com.

8. F. C. Fang, and A. Casadevall, ‘Retracted Science and the Retraction Index’, Infection and Immunity 79 (2011), 3855–9.

9. F. C. Fang, R. G. Steen, and A. Casadevall, ‘Misconduct accounts for the majority of retracted scientific publications’, FAS, October 16, 2012, pnas.org.

10. Daniele Fanelli, ‘How Many Scientists Fabricate and Falsify Research? A Systematic Review and Meta-Analysis of Survey Data’, PLOS ONE, May 29, 2009, PLOS ONE, journals.pl.

11. F. C. Fang, R. G. Steen, and A. Casadevall, ‘Why Has the Number of Scientific Retractions Increased?’, PLOS ONE, July 8, 2013, journals.plosone.org.

12. ‘People Who Mattered 2014’, Time, December 2014, time.com.

13. Yudhijit Bhattacharjee, ‘The Mind of a Con Man’, New York Times, April 26, 2013, nytimes.com.

14. Monya Baker, ‘1,500 scientists lift the lid on reproducibility’, Nature, May 25, 2016, nature.com.

15. Подробнее о математической составляющей эксперимента см. Jean-Francois Puget, ‘Green dice are loaded (welcome to p-hacking)’, публикация в блоге IBM developer-Works, March 22, 2016, ibm.com.

16. M. L. Head, et al., ‘The Extent and Consequences of P-Hacking in Science’, PLOS Biology 13:3 (2015).

17. John P. A. Ioannidis, ‘Why Most Published Research Findings Are False’, PLOS ONE, August 2005.

18. Derek J. de Solla Price, Little Science, Big Science, New York: Columbia University Press, 1963.

19. Siebert, Machesky, and Insall, ‘Overflow in science and its implications for trust’, eLife 14 (September 2015), ncbi.nlm.nih.gov.

20. Ibid.

21. Michael Eisen, ‘Peer review is f***ed up – let’s fix it’, публикация в личном блоге, October 28, 2011, michaeleisen.org.

22. Emily Singer, ‘Biology’s big problem: There’s too much data to handle’, Wired, October 11, 2013, wired.com.

23. Lisa Grossman and Maggie McKee, ‘Is the LHC throwing away too much data?’, New Scientist, March 14, 2012, newscientist.com.

24. Jack W. Scannell, et al., ‘Diagnosing the decline in pharmaceutical R&D efficiency’, Nature Reviews Drug Discovery 11 (March 2012) 191–200.

25. Philip Ball, Invisible: The Dangerous Allure of the Unseen, London: Bodley Head, 2014.

26. Daniel Clery, ‘Secretive fusion company claims reactor break- through’, Science, August 24, 2015, sciencemag.org.

27. E. A. Baltz, et al., ‘Achievement of Sustained Net Plasma Heating in a Fusion Experiment with the Optometrist Algorithm’, Nature Scientific Reports 7 (2017), nature.com.

28. Albert van Helden and Thomas Hankins, eds, Osiris, Volume 9: Instruments, Chicago: University of Chicago Press, 1994.

Глава 5. Сложность

1. Guy Debord, ‘Introduction to a Critique of Urban Geography’, Les Lèvres Nues 6 (1955), доступно на сайте library.nothingness.org.

2. James Bridle, The Nor, essay series, 2014–15, доступно на сайте shorttermmemoryloss.com.

3. James Bridle, ‘All Cameras are Police Cameras’, The Nor, November 2014.

4. James Bridle, ‘Living in the Electromagnetic Spectrum’, The Nor, December 2014.

5. Christopher Steiner, ‘Wall Street’s Speed War’, Forbes, September 9, 2010, forbes.com.

6. Kevin Fitchard, ‘Wall Street gains an edge by trading over microwaves’, GigaOM, February 10, 2012, gigaom.com.

7. Luis A. Aguilar, ‘Shedding Light on Dark Pools’, US Securities and Exchange Commission, November 18, 2015, sec.gov.

8. ‘Barclays and Credit Suisse are fined over US “dark pools”’, BBC, February 1, 2016, bbc.com.

9. Martin Arnold, et al., ‘Banks start to drain Barclays dark pool’, Financial Times, June 26, 2014, ft.com.

10. Care Quality Commission, Hillingdon Hospital report, 2015, cqc.org.uk/location/RAS01.

11. Aneurin Bevan, In Place of Fear, London: William Heinemann, 1952.

12. Переписка с фондом больницы Хиллингдона. Hillingdon Hospital NHS Trust, 2017, whatdotheyknow.com/request/hillingdon_hospital_structure_us.

13. Chloe Mayer, ‘England’s NHS hospitals and ambulance trusts have £700 million deficit’, Sun, May 23, 2017, thesun.co.uk.

14. Michael Lewis, FlashBoys, NewYork: W. W. Norton & Company, 2014.

15. Ibid.

16. ‘Forget the 1 %’, Economist, November 6, 2014, economist.com.

17. Thomas Piketty, Capital in the Twenty-First Century, Cambridge, MA: Harvard University Press, 2014.

18. Jordan Golson, ‘Uber is using in-app podcasts to dissuade Seattle drivers from unionizing’, Verge, March 14, 2017, theverge.com.

19. Carla Green and Sam Levin, ‘Homeless, assaulted, broke: drivers left behind as Uber promises change at the top’, Guardian, June 17, 2017, theguardian.com.

20. Ben Kentish, ‘Hard-pressed Amazon workers in Scotland sleeping in tents near warehouse to save money’, Independent, December 10, 2016, independent.co.uk.

21. Kate Knibbs, ‘Uber Is Faking Us Out With “Ghost Cabs” on Its Passenger Map’, Gizmodo, July 28, 2015, gizmodo.com.

22. Kashmir Hill, ‘“God View”: Uber Allegedly Stalked Users For Party-Goers’ Viewing Pleasure’, Forbes, October 3, 2014, forbes.com.

23. Julia Carrie Wong, ‘Greyball: how Uber used secret software to dodge the law’, Guardian, March 4, 2017, theguardian.com.

24. Russell Hotten, ‘Volkswagen: The scandal explained’, BBC, December 10, 2015, bbc.com.

25. Guillaume P. Chossière, et al., ‘Public health impacts of excess NOx emissions from Volkswagen diesel passenger vehicles in Germany’, Environmental Research Letters 12 (2017), iopscience.iop.org.

26. Sarah O’Connor, ‘When Your Boss Is An Algorithm’, Financial Times, September 8, 2016, ft.com.

27. Jill Treanor, ‘The 2010 “flash crash”: how it unfolded’, Guardian, April 22, 2015, theguardian.com.

28. ‘Singapore Exchange regulators change rules following crash’, Singapore News, August 3, 2014, singaporenews.net.

29. Netty Idayu Ismail and Lillian Karununga, ‘Two-Minute Mystery Pound Rout Puts Spotlight on Robot Trades’, Bloomberg, October 7, 2017, bloomberg.com.

30. John Melloy, ‘Mysterious Algorithm Was 4 % of Trading Activity Last Week’, CNBC, October 8, 2012, cnbc.com.

31. Samantha Murphy, ‘AP Twitter Hack Falsely Claims Explosions at White House’, Mashable, April 23, 2013, mashable.com.

32. Bloomberg Economics, публикация в Twitter, April 23, 2013, 12:23 p.m.

33. Больше примеров с Zazzle можно найти у Babak Radboy, ‘Spam-erican Apparel’, DIS magazine, dismagazine.com.

34. Roland Eisenbrand and Scott Peterson, ‘This Is The German Company Behind The Nightmarish Phone Cases On Amazon’, OMR, July 25, 2017, omr.com.

35. Jose Pagliery, ‘Man behind “Carry On” T-shirts says company is “dead”’, CNN Money, March 5, 2013, money.cnn.com.

36. Hito Steyerl and Kate Crawford, ‘Data Streams’, New Inquiry, January 23, 2017, thenewinquiry.com.

37. Ryan Lawler, ‘August’s Smart Lock Goes On Sale Online And At Apple Retail Stores For $250’, TechCrunch, October 14, 2014, techcrunch.com.

38. Iain Thomson, ‘Firmware update blunder bricks hundreds of home “smart” locks’, Register, August 11, 2017, theregister. co.uk.

39. John Leyden, ‘Samsung smart fridge leaves Gmail logins open to attack’, Register, August 24, 2017, theregister.co.uk.

40. Timothy J. Seppala, ‘Hackers hijack Philips Hue lights with a drone’, Engadget, November 3, 2016, engadget.com.

41. Lorenzo Franceschi-Bicchierai, ‘Blame the Internet of Things for Destroying the Internet Today’, Motherboard, October 21, 2016, motherboard.vice.com.

42. Yossi Melman, ‘Computer Virus in Iran Actually Targeted Larger Nuclear Facility’, Haaretz, September 28, 2010, haaretz.com.

43. Malcolm Gladwell, ‘The Formula’, New Yorker, October 16, 2006, newyorker.com.

44. Gareth Roberts, ‘Tragedy as computer gamer dies after 19-hour session playing World of Warcraft’, Mirror, March 3, 2015, mirror.co.uk; Kirstie McCrum, ‘Tragic teen gamer dies after “playing computer for 22 days in a row”’, Mirror, September 3, 2015, mirror.co.uk.

45. Интервью автора с сотрудниками афинской больницы Evangelismos, Evangelismos Hospital, Athens, Greece, 2016.

46. Например, Nick Srnicek and Alex Williams, Inventing the Future: Postcapitalism and a World Without Work, London and New York: Verso, 2015.

47. Deborah Cowen, The Deadly Life of Logistics, Minneapolis, MN: University of Minnesota Press, 2014.

48. Цит. по Bernard Stiegler, Technics and Time 1: The Fault of Epimetheus, Redwood City, CA: Stanford University Press, 1998; cited in Alexander Galloway, ‘Brometheanism’, boundary 2, June 21, 2017, boundary2.org.

Глава 6. Познание

1. Jeff Kaufman, ‘Detecting Tanks’, публикация в блоге, 2015, jefftk.com.

2. ‘New Navy Device Learns by Doing’, New York Times, July 8, 1958.

3. Joaquín M. Fuster, ‘Hayek in Today’s Cognitive Neuroscience’, in Leslie Marsh, ed., Hayek in Mind: Hayek’s Philosophical Psychology, Advances in Austrian Economics, volume 15, Emerald Books, 2011.

4. Jay Yarow, ‘Google Cofounder Sergey Brin: We Will Make Machines That “Can Reason, Think, And Do Things Better Than We Can”’, Business Insider, July 6, 2014, businessinsider.com.

5. Quoc V. Le, et al., ‘Building High-level Features Using Large Scale Unsupervised Learning’, Proceedings of the 29th International Conference on Machine Learning, Edinburgh, Scotland, UK, 2012.

6. Tom Simonite, ‘Facebook Creates Software That Matches Faces Almost as Well as You Do’, MIT Technology Review, March 17, 2014, technologyreview.com.

7. Xiaolin Wu and Xi Zhang, ‘Automated Inference on Criminality using Face Images’, ARXIV, November 2016, arxiv.org.

8. Xiaolin Wu and Xi Zhang, ‘Responses to Critiques on Machine Learning of Criminality Perceptions’, ARXIV, May 2017, arxiv.org.

9. Stephen Wright and Ian Drury, ‘How old are they really?’, Daily Mail, October 19, 2016, dailymail.co.uk.

10. Wu and Zhang, ‘Responses to Critiques on Machine Learning’.

11. Wu and Zhang, ‘Automated Inference on Criminality using Face Images’.

12. ‘Racist Camera! No, I did not blink. . I’m just Asian!’, публикация в блоге, May 2009, jozjozjoz.com.

13. ‘HP cameras are racist’, видео на YouTube, пользователь wzamen01, December 10, 2009.

14. David Smith, Racism of early colour photography explored in art exhibition’, Guardian, January 25, 2013, theguardian.com.

15. Phillip Martin, ‘How A Cambridge Woman’s Campaign Against Polaroid Weakened Apartheid’, WGBH News, December 9, 2013, news.wgbh.org.

16. Hewlett-Packard, ‘Global Citizenship Report 2009’, hp.com.

17. Trevor Paglen, ‘re: publica 2017 | Day 3 – Livestream Stage 1 – English’, видео на YouTube, пользователь re: publica, May 10, 2017.

18. Walter Benjamin, ‘Theses on the Philosophy of History’, in Walter Benjamin: Selected Writings, Volume 4: 1938–1940, Cambridge, MA: Harvard University Press, 2006.

19. PredPol, ‘5 Common Myths about Predictive Policing’, predpol.com.

20. G. O. Mohler, M. B. Short, P. J. Brantingham, et al., ‘Self-exciting point process modeling of crime’, JASA 106 (2011).

21. Daniel Jurafsky and James H. Martin, Speech and language processing: an introduction to natural language processing, computational linguistics, and speech recognition, 2nd edition, Upper Saddle River, NJ: Prentice Hall, 2009. 268.

22. Walter Benjamin, ‘The Task of the Translator’, in Selected Writings Volume 1 1913–1926, Marcus Bullock and Michael W. Jennings, eds, Cambridge, MA and London: Belknap Press, 1996.

23. Murat Nemet-Nejat, ‘Translation: Contemplating Against the Grain’, Cipher, 1999, cipherjournal.com.

24. Tim Adams, ‘Can Google break the computer language barrier?’, Guardian, December 19, 2010, theguardian.com.

25. Gideon Lewis-Kraus, ‘The Great A.I. Awakening’, New York Times, December 14, 2016, nytimes.com.

26. Cade Metz, ‘How Google’s AI viewed the move no human could understand’, Wired, March 14, 2016, wired.com.

27. Iain M. Banks, Excession, London: Orbit Books, 1996.

28. Sanjeev Arora, Yuanzhi Li, Yingyu Liang, et al.,‘RAND-WALK: A Latent Variable Model Approach to Word Embeddings’, ARXIV, February 12, 2015, arxiv.org.

29. Alec Radford, Luke Metz, and Soumith Chintala, ‘Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks’, Nov 19, 2015, ARXIV, arxiv.org.

30. Robert Elliott Smith, ‘It’s Official: AIs are now re-writing history’, публикация в блоге, October 2014, robertelliottsmith.com.

31. Stephen Levy, ‘Inside Deep Dreams: How Google Made Its Computers Go Crazy’, Wired, November 12, 2015, wired.com.

32. Liat Clark, ‘Google’s Artificial Brain Learns to Find Cat Videos’, Wired, June 26, 2012, wired.com.

33. Melvin Johnson, Mike Schuster, Quoc V. Le, et al., ‘Google’s Multilingual Neural Machine Translation System: Enabling Zero-Shot Translation’, ARXIV, November 14, 2016, arxiv.org.

34. Martín Abadi and David G. Andersen, ‘Learning to Protect Communications with Adversarial Neural Cryptography’, ARXIV, 2016, arxiv.org.

35. Isaac Asimov, I, Robot, New York: Doubleday, 1950.

36. Chris Baraniuk, ‘The cyborg chess players that can’t be beaten’, BBC Future, December 4, 2015, bbc.com.

Глава 7. Сопричастность

1. Nick Hopkins and Sandra Laville, ‘London 2012: MI5 expects wave of terrorism warnings before Olympics’, Guardian, June 2012, theguardian.com.

2. Jerome Taylor, ‘Drones to patrol the skies above Olympic Stadium’, Independent, November 25, 2011, independent.co.uk.

3. ‘£13,000 Merseyside Police drone lost as it crashes into River Mersey’, Liverpool Echo, October 31, 2011, liverpoolecho.co.uk.

4. FOI Request, ‘Use of UAVs by the MPS’, March 19, 2013, доступно на сайте whatdotheyknow.com.

5. David Robarge, ‘The Glomar Explorer in Film and Print’, Studies in Intelligence 56:1 (March 2012), 28–9.

6. Цит. по мнению большинства, приведенному в постановлении судьи J. Skelly Wright, Phillippi v. CIA, United States Court of Appeals for the District of Columbia Circuit, 1976.

7. См. также ˊglomarbot в Twitter, бот создан автором.

8. W. Diffie and M. Hellman, ‘New directions in cryptography’, IEEE Transactions on Information Theory 22:6 (1976), 644–54.

9. ‘GCHQ trio recognised for key to secure shopping online’, BBC News, October 5, 2010, bbc.co.uk.

10. Dan Goodin, ‘How the NSA can break trillions of encrypted Web and VPN connections’, Ars Technica, October 15, 2015, arstechnica.co.uk.

11. Tom Simonite, ‘NSA Says It “Must Act Now” Against the Quantum Computing Threat’, Technology Review, February 3, 2016, technologyreview.com.

12. Rebecca Boyle, ‘NASA Adopts Two Spare Spy Telescopes, Each Maybe More Powerful Than Hubble’, Popular Science, June 5, 2012, popsci.com.

13. Daniel Patrick Moynihan, Secrecy: The American Experience, New Haven, CT: Yale University Press, 1998.

14. Zeke Miller, ‘JFK Files Release Is Trump’s Latest Clash With Spy Agencies’, New York Times, October 28, 2017, nytimes.com. 270.

15. Ian Cobain, The History Thieves, London: Portobello Books, 2016.

16. Ibid.

17. Ibid.

18. Ian Cobain and Richard Norton-Taylor, ‘Files on UK role in CIA rendition accidentally destroyed, says minister’, Guardian, July 9, 2014, theguardian.com.

19. ‘Snowden-Interview: Transcript’, NDR, January26, 2014, ndr.de.

20. Glyn Moody, ‘NSA spied on EU politicians and companies with help from German intelligence’, Ars Technica, April 24, 2014, arstechnica.com.

21. ‘Optic Nerve: millions of Yahoo webcam images intercepted by GCHQ’, Guardian, February 28, 2014, theguardian.com.

22. ‘NSA offers details on “LOVEINT”’, Cnet, September 27, 2013, cnet.com.

23. Kaspersky Lab, The Regin Platform: Nation-State Ownage of GSM Networks, November 24, 2014, доступно на сайте securelist.com.

24. Ryan Gallagher, ‘From Radio to Porn, British Spies Track Web Users’ Online Identities’, Intercept, September 25, 2015, theintercept.com.

25. Andy Greenberg, ‘These Are the Emails Snowden Sent to First Introduce His Epic NSA Leaks’, Wired, October 13, 2014, wired.com.

26. James Risen and Eric Lichtblau, ‘Bush Lets U.S. Spy on Callers Without Courts’, New York Times, December 16, 2005, nytimes.com.

27. James Bamford, ‘The NSA Is Building the Country’s Biggest Spy Center (Watch What You Say)’, Wired, March 14, 2012, wired.com.

28. ‘Wiretap Whistle-Blower’s Account’, Wired, April 6, 2006, wired.com.

29. ‘Obama admits intelligence failures over jet bomb plot’, BBC News, January 6, 2010, news.bbc.co.uk.

30. Bruce Crumley, ‘Flight 253: Too Much Intelligence to Blame?’, Time, January 7, 2010, time.com.

31. Christopher Drew, ‘Military Is Awash in Data From Drones’, New York Times, January 20, 2010, nytimes.com.

32. ‘GCHQ mass spying will “cost lives in Britain”, warns ex-NSA tech chief’, The Register, January 6, 2016, theregister.co.uk.

33. Ellen Nakashima, ‘NSA phone record collection does little to prevent terrorist-attacks’, Washington Post, January 12, 2014, washingtonpost.com.

34. New America Foundation, ‘Do NSA’s Bulk Surveillance Programs Stop Terrorists?’, January 13, 2014, newamerica.org.

35. Jennifer King, Deirdre Mulligan, and Stephen Rafael, ‘CITRIS Report: The San Francisco Community Safety Program’, UC Berkeley, December 17, 2008, доступно на сайте wired.com.

36. K. Pease, ‘A Review Of Street Lighting Evaluations: Crime Reduction Effects’, Crime Prevention Studies 10 (1999).

37. Stephen Atkins, ‘The Influence Of Street Lighting On Crime And Fear Of Crime’, Crime Prevention Unit Paper 28, UK Home Office, 1991, доступно на сайте popcenter.org.

38. Julian Assange, ‘State and Terrorist Conspiracies’, Cryptome, November 10, 2006, cryptome.org.

39. Caroline Elkins, Imperial Reckoning: The Untold Story of Britain’s Gulag in Kenya, New York: Henry Holt and Company, 2005.

40. ‘Owners Watched Fort McMurray Home Burn to Ground Over iPhone’, видео YouTube, пользователь Storyful News, May 6, 2016.

Глава 8. Заговор

1. Joseph Heller, Catch-22, New York: Simon & Schuster, 1961.

2. См. также James Bridle, ‘Planespotting’, публикация в блоге, December 18, 2013, booktwo.org, и другие публикации автора.

3. Подробный обзор судебного разбирательства представлен: Kevin Hall, The ABC Trial (2006), изначально опубликован на сайте ukcoldwar.simplenet.com, хранится в архиве на archive.li/1xfT4.

4. Richard Aldrich, GCHQ: The Uncensored Story of Britain’s Most Secret Intelligence Agency, New York: HarperPress, 2010.

5. Duncan Campbell, ‘GCHQ’ (book review), New Statesman, June 28, 2010, newstatesman.com.

6. Chris Blackhurst, ‘Police robbed of millions in plane fraud’, Independent, May 19, 1995, independent.co.uk.

7. US Air Force, Weather as a Force Multiplier: Owning the Weather in 2025, 1996, csat.au.af.mil.

8. ‘Take Ur Power Back!: Vote to leave the EU’, видео на YouTube, пользователь Flat Earth Addict, June 21, 2016.

9. ‘Nigel Farage’s Brexit victory speech in full’, Daily Mirror, June 24, 2016, mirror.co.uk.

10. Carey Dunne, ‘My month with chemtrails conspiracy theorists’, Guardian, May 2017, theguardian.com.

11. Ibid.

12. International Cloud Atlas, cloudatlas.wmo.int.

13. A. Bows, K. Anderson, and P. Upham, Aviation and Climate Change: Lessons for European Policy, New York: Routledge, 2009.

14. Nicola Stuber, Piers Forster, Gaby Rädel, and Keith Shine, ‘The importance of the diurnal and annual cycle of air traffic for contrail radiative forcing’, Nature 441 (June 2006).

15. Patrick Minnis, et al., ‘Contrails, Cirrus Trends, and Climate’, Journal of Climate 17 (2006), доступно на сайте areco.org.

16. Aeschylus, Prometheus Bound, c.430 BC, 477:‘ The flight of crook-taloned birds I distinguished clearly – which by nature are auspi cious, which sinister.’

17. Susan Schuppli, ‘Can the Sun Lie?’, in Forensis: The Architecture of Public Truth, Forensic Architecture, Berlin: Sternberg Press, 2014, 56–64.

18. Kevin van Paassen, ‘New documentary recounts bizarre climate changes seen by Inuit elders’, Globe and Mail, October 19, 2010, theglobeandmail.com.

19. SpaceWeather.com, Time Machine, conditions for July 2, 2009.

20. Carol Ann Duffy, ‘Silver Lining’, Sheer Poetry, 2010, доступно на сайте sheerpoetry.co.uk.

21. Lord Byron, ‘Darkness’, 1816. Цит. по переводу Ивана Тургенева (1845).

22. Richard Panek, ‘“The Scream”, East of Krakatoa’, New York Times, February 8, 2004, nytimes.com.

23. Leo Hickman, ‘Iceland volcano gives warming world chance to debunk climate sceptic myths’, Guardian, April 21, 2010, theguardian.com.

24. David Adam, ‘Ice land volcano causes fall in carbon emissions as eruption grounds aircraft’, Guardian, April 19, 2010, theguardian.com.

25. ‘Do volcanoes emit more CO2 than humans?’, Skeptical Science, skepticalscience.com.

26. J. Pongratz, et al., ‘Coupled climate – carbon simulations indicate minor global effects of wars and epidemics on atmospheric CO2 between AD 800 and 1850’, Holocene 21:5 (2011).

27. Simon L. Lewis and Mark A. Maslin, ‘Defining the Anthropocene’, Nature 519 (March 2015), nature.com.

28. David J. Travis, Andrew M. Carleton, and Ryan G. Lauritsen, ‘Climatology: Contrails reduce daily temperature range’, Nature 418 (August 2002), 601.

29. Douglas Hofstader, ‘The Paranoid Style in American Politics’, Harper’s magazine, November 1964, harpers.org.

30. Fredric Jameson, ‘Cognitive Mapping’, in C. Nelson, L. Grossberg, eds, Marxism and the Interpretation of Culture, Champaign, IL: University of Illinois Press, 1990.

31. Hofstader, ‘The Paranoid Style in American Politics’.

32. Dylan Matthews, ‘Donald Trump has tweeted climate change skepticism 115 times. Here’s all of it’, Vox, June 1, 2017, vox.com.

33. Tim Murphy, ‘How Donald Trump Became Conspiracy Theorist in Chief’, Mother Jones, November/December 2016, motherjones.com.

34. The Alex Jones Show, August 11, 2016, доступно на сайте mediamatters.org.

35. US Air Force, ‘Weather as a Force Multiplier’.

36. Mike Jay, The Influencing Machine: James Tilly Matthews and the Air Loom, London: Strange Attractor Press, 2012.

37. Edmund Burke, Reflections on the Revolution in France, London: James Dodsley, 1790.

38. V. Bell, C. Maiden, A. Munoz-Solomando, and V. Reddy, ‘“Mind control” experiences on the internet: implications for the psychiatric diagnosis of delusions’, Psychopathology 39:2 (2006), 87–91.

39. Will Storr, ‘Morgellons: A hidden epidemic or mass hysteria?’, Guardian, May 7, 2011, theguardian.com.

40. Jane O’Brien and Matt Danzico, ‘Wi-fi refugees’ shelter in West Virginia mountains’, BBC, September 13, 2011, bbc.co.uk.

41. ‘The Extinction of the Grayzone’, Dabiq 7, February 12, 2015.

42. Murtaza Hussain, ‘Islamic State’s goal: “Eliminating the Grayzone” of coexistence between Muslims and the West’, Intercept, November 17, 2015, theintercept.com.

43. Hal Brands, ‘Paradoxes of the Gray Zone’, Foreign Policy Research Institute, February 5, 2016, fpri.org.

Глава 9. Совпадение

1. Adrienne Lafrance, ‘The Algorithm That Makes Preschoolers Obsessed With YouTube’, Atlantic, July 25, 2017, theatlantic.com.

2. Paul McCann, ‘To Teletubby or not to Teletubby’, Independent, October 12, 1997, independent.co.uk.

3. Christopher Mims, ‘Google: Psy’s “Gangnam Style” Has Earned $8 Million On YouTube Alone’, Business Insider, January 23, 2013, businessinsider.com.

4. ‘Top 500 Most Viewed YouTube Channels’, SocialBlade, October 2017, socialblade.com.

5. Ben Popper, ‘Youtube’s Biggest Star Is A 5-Year-Old That Makes Millions Opening Toys’, Verge, December 22, 2016, theverge.com.

6. Blu Toys Club Surprise, канал на YouTube.

7. Play Go Toys, канал на YouTube.

8. Samanth Subramanian, ‘The Macedonian Teens Who Mastered Fake News’, Wired, February 15, 2017, wired.com.

9. ‘FingerFamily’, видео на YouTube, пользователь Leehosok, May25, 2007.

10. Bounce Patrol Kids, канал на YouTube.

11. Charleyy Hodson, ‘We Need To Talk About Why THIS Creepy AF Video Is Trending On YouTube’, We The Unicorns, January 19, 2017, wetheunicorns.com.

12. В ноябре 2017 г. я опубликовал об этом статью, и «Toy Freaks» и многие другие упомянутые в ней каналы были удалены с YouTube. Однако на момент написания книги можно легко найти множество аналогичных каналов. См. также ‘Children’s YouTube is still churning out blood, suicide and cannibalism’, Wired, 23 March 2018, wired.co.uk.

13. ‘Freak Family’ страница на Facebook, принадлежащая Nguyễn Hùng, facebook.com/touyentb2010.

14. Sapna Maheshwari, ‘On YouTube Kids, Startling Videos Slip Past Filters’, New York Times, November 4, 2017, nytimes.com.

15. David Remnick, ‘Obama Reckons with a Trump Presidency’, New Yorker, November 28, 2016, newyorker.com.

16. Subramanian, ‘The Macedonian Teens Who Mastered Fake News’.

17. Lalage Harris, ‘Letter from Veles’, Calvert Journal, 2017, calvert-journal.com.

18. ‘The name game’, Economist, April 2, 2009, economist.com.

19. ‘Macedonia police examine death threats over name dispute’, International Herald Tribune, March 27, 2008, доступно на сайте archive.li/nkYzJ.

20. Joanna Berendt, ‘Macedonia Government Is Blamed for Wiretapping Scandal’, New York Times, June 21, 2015, nytimes.com.

21. ‘Macedonia: Society on Tap’, видео на YouTube, пользователь Privacy International, March 29, 2016.

22. Adrian Chen, ‘The Agency’, New York Times, June 2, 2015, nytimes.com.

23. Adrian Chen, ‘The Real Paranoia-Inducing Purpose of Russian Hacks’, New Yorker, July 27, 2016, newyorker.com.

24. YouGov Poll, ‘The Times Results EU Referndum 160613’, June 13–14, 2016, доступно по ссылке bit.ly/1Ypml3w.

25. Andrew Griffin, ‘Brexit supporters urged to take their own pens to polling stations amid fears of MI5 conspiracy’, Independent, June 23, 2016, independent.co.uk.

26. Carole Cadwalladr, ‘The great British Brexit robbery: how our democracy was hijacked’, Guardian, May 7, 2017, theguardian.com.

27. Carole Cadwalladr, ‘Trump, Assange, Bannon, Farage… bound together in an unholy alliance’, Guardian, October 27, 2017, theguardian.com.

28. Robert Booth, Matthew Weaver, Alex Hern, and Shaun Walker, ‘Russia used hundreds of fake accounts to tweet about Brexit, data shows’, Guardian, November 14, 2017, theguardian.com.

29. Marco T. Bastos and Dan Mercea, ‘The Brexit Botnet and User-Generated Hyperpartisan News’, Social Science Computer Review, October 10, 2017.

30. Alessandro Bessi and Emilio Ferrara, ‘Social bots distort the 2016 U.S. Presidential election online discussion’, First Monday 21:11 (November 2016), firstmonday.org.

31. Annalee Newitz, ‘The Fembots of Ashley Madison’, Gizmodo, August 27, 2015, gizmodo.com.

Глава 10. Облако

1. Matthew Holehouse, ‘Bilderberg Group 2013: guest list and agenda’, Telegraph, June 6, 2013, telegraph.co.uk.

2. Eric Schmidt, ‘Action This Day – Eric Schmidt, Zeitgeist Europe 2013’, видео на YouTube, пользователь ZeitgeistMinds, May 20, 2013.

3. Ibid.

4. William Ferroggiaro, ‘The U.S. and the Genocide in Rwanda 1994’, The National Security Archive, March 24, 2004, nsarchive2.gwu.edu.

5. Russell Smith, ‘The impact of hate media in Rwanda’, BBC, December 3, 2003, news.bbc.co.uk.

6. Keith Harmon Snow, ‘Pentagon Satellite Photos: New Revelations Concerning “The Rwandan Genocide”’, Global Research, April 11, 2012, globalresearch.ca.

7. Keith Harmon Snow, ‘Pentagon Produces Satellite Photos Of 1994 Rwanda Genocide’, Conscious Being, April 2012, consciousbeingalliance.com.

8. Florence Hartmann and Ed Vulliamy, ‘How Britain and the US decided to abandon Srebrenica to its fate’, Observer, July 4, 2015, theguardian.com.

9. ‘Srebrenica: The Days of Slaughter’, New York Times, October 29, 1995, nytimes.com.

10. Ishaan Tharoor, ‘The Destruction of a Nation: Syria’s War Revealed in Satellite Imagery’, Time, March 15, 2013, world.time.com.

11. Samantha Power, ‘Bystanders to Genocide’, Atlantic, September 2001, theatlantic.com.

12. Ofeiba Quist-Arcton, ‘Text Messages Used to Incite Violence in Kenya’, NPR, February 20, 2008, npr.org.

13. Jan H. Pierskalla and Florian M. Hollenbach, ‘Technology and Collective Action: The Effect of Cell Phone Coverage on Political Violence in Africa’, American Political Science Review 107:2 (May 2013).

14. Michael Palmer, ‘Data is the New Oil’, публикация в блоге, ANA, November 2006, ana.blogs.com.

15. ‘The world’s most valuable resource is no longer oil, but data’, Economist, May 6, 2017, economist.com.

16. David Reid, ‘Mastercard’s boss just told a Saudi audience that “data is the new oil”’, CNBC, October 24, 2017, cnbc.com.

17. Stephen Kerr MP, Kevin Brennan MP, запись во время дебатов ‘Leaving the EU: Data Protection’, October 12, 2017.

18. Palmer, ‘Data is the New Oil’.

19. Подробности имперской классификации и принудительного именования можно найти у James C. Scott, Seeing Like a State, New Haven, CT: Yale University Press, 1998.

20. Arundhati Roy, ‘The End of Imagination’, Guardian, August 1, 1998, theguardian.com.

21. Sandia National Laboratories, ‘Expert Judgment on Markers to Deter Inadvertent Human Intrusion into the Waste Isolation Pilot Plant’, report, SAND92-1382 / UC-721, page F-49, доступно на сайте wipp.energy.gov.

22. And into Eternity… Communication over 10000s of Years: How Will We Tell our Children’s Children Where the Nuclear Waste is?, Zeitschrift für Semiotik (in German), Berlin: Deutschen Gesellschaft für Semiotik 6:3 (1984).

23. Michael Madsen, dir., Into Eternity, Films Transit International, 2010.

24. См. также Rocky Flats Nuclear Guardianship project, ‘Nuclear Guardianship Ethic statement’, 1990, rev. 2011, rockyflatsnuclearguardianship.org.

Content

Джеймс Брайдл
Новые темные века

Глава 1 Пропасть

Глава 2 Компьютеризация

Глава 3 Климат

Глава 4 Вычисления

Глава 5 Сложность

Глава 6 Познание

Глава 7 Сопричастность

Глава 8 Заговор

Глава 9 Совпадение

Глава 10 Облако

Выражение признательности

Примечания

Глава 1. Пропасть

Глава 2. Компьютеризация

Глава 3. Климат

Глава 4. Вычисления

Глава 5. Сложность

Глава 6. Познание

Глава 7. Сопричастность

Глава 8. Заговор

Глава 9. Совпадение

Глава 10. Облако