Аджей Агравал, Джошуа Ганс, Ави Голдфарб

Искусственный интеллект на службе бизнеса

Как машинное прогнозирование помогает принимать решения

Издано с разрешения Ajay Agrawal, Joshua Gans and Avi Goldfarb c/o Levine Greenberg Rostan Literary Agency

Все права защищены.

Никакая часть данной книги не может быть воспроизведена в какой бы то ни было форме без письменного разрешения владельцев авторских прав.

© Ajay Agrawal, Joshua Gans and Avi Goldfarb, 2018. This edition published by arrangement with Levine Greenberg Rostan Literary Agency and Synopsis Literary Agency.

© Перевод на русский язык, издание на русском языке, оформление. ООО «Манн, Иванов и Фербер», 2019

* * *

Нашим семьям, коллегам, студентам и стартапам, вдохновившим нас всесторонне и глубоко задуматься над искусственным интеллектом

Предисловие партнера

Мое первое знакомство с решениями в области искусственного интеллекта (ИИ) состоялось в далеком 1993 году. На выставке CEBIT в Ганновере исследовательская команда Инновационного центра при Академии наук, который я возглавлял, впервые продемонстрировала работающий алгоритм распознавания рукописных текстов. Несмотря на то что наша экспериментальная установка представляла собой штатив с примотанной к нему изолентой бытовой камерой, наш стенд вызывал неподдельный интерес посетителей. Алгоритм на базе нейронной сети успешно распознавал рукописные цифры независимо от их размера, наклона, толщины линий и графического стиля, приводя в восторг любознательную публику. Тогда все только начиналось, и мы не представляли себе возможностей коммерческого использования этих решений. Только в конце 90-х на основе этого опыта появились первые индустриальные решения для фотовидеофиксации, которые нашли широкое применение в системах безопасности по всему миру.

По оценкам аналитиков, мировой рынок искусственного интеллекта и нейротехнологий к 2025 году превысит 500 млрд долларов США, а размер российского рынка составит около 20 млрд долларов. Многие лидеры стран определили технологии ИИ как важнейший фактор конкурентоспособности. Только за последние три года более чем в двадцати ведущих странах были разработаны национальные стратегии развития ИИ. Россия имеет хорошие шансы занять достойное место среди глобальных лидеров в области ИИ.

Спектр используемых технологий, связанных с ИИ, очень широк. Это и компьютерное зрение, распознавание и синтез речи, системы принятия решений, предиктивная аналитика, машинное обучение и т. п. Уже сегодня сложно представить себе жизнь без систем навигации и голосовых помощников. В ближайшее время не останется банков, которые проводят оценку надежности заемщика вручную, а в недалеком будущем мы будем повсеместно пользоваться услугами автономного транспорта. Технологии ИИ активно вторгаются в наш быт и играют огромную роль в процессе цифровой трансформации бизнеса.

Если ранее стратегический выбор был в первую очередь следствием меняющихся потребительских предпочтений, то сегодня к ключевым драйверам изменений добавились технологии.

Развитие технологий приводит к трансформации бизнес-моделей, а также того, как мы находим своих клиентов, понимаем их потребности и создаем для них ценность: таргетированная реклама, динамические модели ценообразования и системы лояльности, цифровые продукты, переход на сервисные модели и управление жизненным циклом, оптимальный клиентский опыт.

Меняется логика производственных процессов и принятия управленческих решений: роботизированная логистика и производственные системы, оптимальные технологические процессы, сокращение простоев оборудования посредством предиктивной аналитики, минимум потерь вследствие рационального управления ресурсами, а также системы управления рисками и принятия инвестиционных решений, системы мотивации и вознаграждения сотрудников. Все это сегодня уже невозможно без применения решений в области ИИ.

Русский перевод книги «Искусственный интеллект на службе бизнеса» появился очень своевременно. Авторы превзошли себя, описав простым и доступным языком очень сложные понятия, определения и возможные последствия распространения ИИ. Книга включает четыре основных раздела: прогностика, решения, инструменты и стратегия. Очень хорошо структурированное и последовательное описание, изобилующее многочисленными примерами, можно смело назвать библией ИИ. Книга не только описывает, как ИИ повлияет на бизнес, но и позволяет лучше понять, какими будут социальные последствия, как будет меняться роль человека в альянсе с машинами.

Данная книга безусловно полезна для предпринимателей и менеджеров – тех, кто ищет новые возможности для долгосрочной конкурентоспособности бизнеса. Также книга будет полезна для чиновников, отвечающих за формирование стратегической повестки страны или региона. Несмотря на некоторую сложность книги, я бы все-таки рекомендовал ее в качестве учебного пособия для студентов вузов и бизнес-школ.

Александр Идрисов, президент Strategy Partners

Предисловие. Машинный интеллект

Если следующая ситуация вам пока в новинку, скоро вы к ней привыкнете. Ребенок в соседней комнате делает уроки, вы слышите, как он говорит: «Назови столицу Делавэра». Вы погружаетесь в размышления: «Балтимор?.. Нет, это первое, что пришло в голову… Уилмингтон?.. Нет, не столица». Не успели вы продолжить, как «Алекса» дает правильный ответ: «Столица Делавэра – Довер». «Алекса» – искусственный интеллект[1] компании Amazon.сom, она обрабатывает вербальный запрос и молниеносно выдает результат. В глазах ребенка «Алекса» как источник информации заменила всезнающих родителей.

ИИ – повсюду. В наших телефонах, автомобилях, больницах, банках, без него не обходятся покупки, знакомства и электронные СМИ. Понятно, что руководители и вице-президенты компаний, менеджеры, начальники отделов, предприниматели, инвесторы, коучи и политики стремятся узнать о нем как можно больше: они понимают, что скоро ИИ коренным образом изменит всю их деятельность.

Мы наблюдали за преимуществами ИИ втроем: мы – экономисты, добившиеся профессиональных успехов на ниве последнего технологического достижения современности – интернета. Много лет занимаясь исследованиями и научившись отделять зерна от плевел, выявляя истинное значение технологий для руководителей, мы организовали «Лабораторию созидательного разрушения» (ЛСР) – программу для ранних этапов развития бизнеса, повышающую вероятность успеха наукоемких стартапов. Изначально ЛСР предназначалась для любых стартапов, но к 2015 году большинство самых интересных начинаний основывались на ИИ. В сентябре 2017-го ЛСР третий год подряд подтвердила высокую эффективность ИИ-стартапов по сравнению с остальными разработками.

В результате немало стартап-лидеров регулярно приезжали в Торонто для участия в ЛСР. Например, один из основных разработчиков ИИ, лежащего в основе «Алексы», Уильям Танстолл-Пидоу, каждые восемь недель прилетал из Кембриджа в Англию для участия в программе. Как и Барни Пелл из Сан-Франциско, ранее возглавлявший в НАСА команду из 85 человек, которая запустила в космос первый ИИ.

Такого успеха в своей сфере ЛСР добилась отчасти благодаря расположению в Торонто, где зарождалось и развивалось большинство ключевых разработок в области так называемого машинного обучения, способствовавших недавнему всплеску интереса к ИИ. Специалисты, ранее занятые на кафедре IT-наук Университета Торонто, ныне возглавляют команды ведущих мировых компаний ИИ, в том числе в Facebook, Apple и проекте Илона Маска Open AI.

Близость к практическому применению ИИ заставила нас сосредоточиться на том, как данные технологии влияют на стратегии бизнеса. Как вы скоро узнаете, ИИ – это прогностическая технология, а поскольку решения принимаются на основе прогнозов, экономика предоставляет идеальную схему для понимания вариантов выбора, лежащих в основе принятия любого решения. Итак, благодаря везению и некоторым усилиям мы оказались в нужном месте в нужное время, чтобы наладить связь между техническими специалистами и представителями сферы бизнеса. Результатом стала эта книга.

Первоначально ее основная идея заключалась в том, что новая волна ИИ принесла нам не в полной мере разум, а лишь его критическую составляющую – прогнозирование. Когда ребенок произнес запрос, «Алекса» преобразовала звуки в слова и спрогнозировала, какая информация им соответствует. «Алекса» «не знает» столицу Делавэра, но способна спрогнозировать, что в ответ на такой запрос люди получат конкретный ответ: «Довер».

Каждый стартап в нашей лаборатории базируется на преимуществах улучшенного прогнозирования. Компания Deep Genomics сделала шаг вперед в медицине, предполагая, какие процессы начнутся в клетке после изменений в последовательности ДНК. Компания Chisel усовершенствовала правовую практику прогнозом, какая именно часть документа подлежит редактированию. Компания Validere повысила эффективность нефтедобычи, рассчитав процент содержания влаги в поступающем на переработку и хранение сырье. Все это – лишь малый перечень всех возможностей применения, которые появятся в бизнесе в ближайшем будущем.

Если вы плохо представляете, что значит ИИ для вас, мы поможем вам понять все его возможности и сориентироваться в преимуществах технологии, даже если вы ни разу не программировали свёрточную нейронную сеть и не изучали байесовскую статистику[2].

Руководителям бизнеса мы объясним влияние ИИ на управление и принятие решений. Студентам и недавним выпускникам дадим пищу для размышлений о перспективах развития трудовой деятельности и карьеры. Финансовым аналитикам и венчурным инвесторам предложим схему, на основании которой они разработают инвестиционные декларации. Политикам предоставим примерный план изменений общества с помощью ИИ, обсудим, какие меры можно предпринять, с тем чтобы перемены оказались к лучшему.

Экономика представляет собой надежную основу для понимания неопределенности и ее роли в принятии решений. Поскольку качественное прогнозирование снижает неопределенность, мы объясним в терминах экономики значение ИИ для принятия решений по развитию бизнеса, что, в свою очередь, даст представление о том, какие инструменты с наибольшей вероятностью помогут максимизировать прибыль от рабочих бизнес-процессов. Это приведет нас к схеме разработки новых стратегий – например, изменения масштаба и диапазона бизнеса для применения новых экономических реалий, проистекающих из удешевления прогнозов. И, наконец, мы изложим основные плюсы и минусы влияния ИИ на трудовую деятельность, концентрацию корпоративной власти, конфиденциальность и геополитику.

Какие прогнозы важны для вашего бизнеса? Как дальнейшее развитие ИИ повлияет на предположения, из которых вы исходите? Как изменятся рабочие места в вашей сфере деятельности с развитием прогностических технологий, что уже происходило с появлением ПК и интернета? ИИ – это новая и еще не до конца понятая технология, но существуют надежные инструменты экономики по оценке возможных последствий удешевления прогностики, хотя приводимые нами примеры, без сомнения, когда-нибудь устареют, в отличие от предложенной схемы. Идеи сохранят свою эффективность и с развитием технологий, и с повышением точности и сложности прогнозов.

Наша книга не предлагает рецептов успеха в экономике ИИ – напротив, мы подчеркиваем его преимущества и недостатки. Чем больше данных, тем меньше конфиденциальность; чем выше скорость, тем ниже точность; чем больше независимости – тем слабее контроль. Мы не предлагаем рекомендаций для выработки оптимальной бизнес-стратегии: это ваша забота. Лучшая стратегия для компании, карьеры или страны зависит от вашей оценки соотношения плюсов и минусов. Мы разработали схему определения ключевых преимуществ и недостатков, а также способы оценки всех «за» и «против» для оптимального решения какой-либо задачи. Разумеется, даже располагая нашей схемой, вы заметите, что все меняется очень быстро и вам придется действовать, не обладая исчерпывающей информацией, но, как правило, это все же лучше пассивности.

Выводы

• Новая волна ИИ принесла нам не в полной мере разум, а лишь его критическую составляющую – прогнозирование.

• Любое решение по большей части зависит от прогнозов. В экономике наработаны схемы принятия решений. Новые и не совсем понятные последствия развития прогностических технологий можно объединить с проверенной логикой экономической теории принятия решений и вывести ряд идей, помогающих сориентироваться в том, как применить ИИ в вашей организации.

• Единственного верного ответа на вопрос о том, какая стратегия или инструменты ИИ оптимальны, не существует, потому что неизбежно придется искать компромисс: больше скорость – ниже точность, больше независимости – слабее контроль, больше данных – меньше конфиденциальности. Мы предлагаем метод определения благоприятных и неблагоприятных последствий принятия связанных с ИИ решений, чтобы вы оценили потенциальную выгоду и потери в свете миссии и целей организации, а затем нашли оптимальный для вашего бизнеса вариант.

Дешевизна меняет все

Каждый человек уже соприкасался с ИИ либо очень скоро откроет его для себя. Мы привыкли к регулярным сообщениям в СМИ о новых технологиях, изменяющих нашу жизнь. Технофилы предвкушают возможности будущего, технофобы горюют о старых добрых временах. Впрочем, все уже привыкли к бомбардировке технологическими новостями и, не задумываясь, повторяют: «Единственное, что остается неподвластным переменам, – это сами перемены». Пока не сталкиваются с ИИ. И тогда понимают, как эта технология отличается от остальных.

Некоторые IT-специалисты впервые оценили потенциал ИИ в 2012 году, когда команда студентов Университета Торонто одержала триумфальную победу на ежегодных соревнованиях по распознаванию визуальных образов ImageNet (Large Scale Visual Recognition Challenge). В последующие годы все финалисты ImageNet использовали новаторский для того времени подход «глубокого обучения»: распознавание объектов – не просто игра, оно наделяет машину «зрением».

Ряд руководителей технологических компаний увидели новые возможности ИИ, узнав о том, что в 2014 году Google приобрела британскую компанию DeepMind за более чем $600 млн, несмотря на ничтожный по сравнению с этой суммой доход. Крупнейшая сделка состоялась только потому, что DeepMind продемонстрировала свой ИИ, который научился – самостоятельно, без всякого программирования – играть в некоторые видеоигры Atari со сверхчеловеческой эффективностью.

Всемирно известной новостью ИИ стал в том же 2014 году благодаря решительному заявлению знаменитого физика Стивена Хокинга: «Все в нашей цивилизации является продуктом человеческого интеллекта… и создание искусственного интеллекта стало бы крупнейшим событием в истории человечества»[3].

Кто-то другой осознал грандиозность ИИ, впервые отпустив руль едущей «Теслы», управляемой автопилотом.

В Китае откровением стал момент, когда AlphaGo – ИИ DeepMind – выиграл у Ли Седоля, корейского профессионального игрока в го, а позднее в том же году победил лучшего китайского игрока Кэ Цзе. «Нью-Йорк Таймс» назвала эту игру «моментом Спутника»[4] для Китая[5]. Как после запуска спутника в СССР в Америке вложили огромные средства в науку, так и Китай отреагировал национальной стратегией повсеместного распространения ИИ к 2030 году и внушительным финансированием осуществления этого плана.

В своей компании мы осознали значимость ИИ в 2012 году, когда в ЛСР сначала обратились несколько стартапов, применяющих ультрасовременные методики машинного обучения, а затем они хлынули потоком. Обращения следовали почти из всех сфер: исследовательской фармакологии, клиентского обслуживания, производства, контроля качества, розничных продаж, медицинской техники. Технологии были мощными, широко применимыми, обещали заметное повышение эффективности. Понимая их экономическую ценность, мы углубились в работу. Мы знали, что ИИ будет развиваться в той же экономике, что и остальные технологии.

Говоря проще, технология сама по себе потрясающая. Как метко сказал знаменитый венчурный инвестор Стив Джурвертсон: «Почти каждый продукт, который в ближайшие пять лет покажется волшебством, наверняка будет построен на этих же алгоритмах»[6]. Джурвертсон назвал ИИ «волшебством», что перекликается с распространенным сюжетом таких фильмов, как «2001 год: Космическая одиссея», «Звездные войны», «Бегущий по лезвию», и недавних «Она», «Превосходство» и «Из машины».

Мы согласны с Джурвертсоном: это действительно волшебство. И наша задача как экономистов состоит в том, чтобы воплотить волшебство ИИ в простой, понятной и практичной форме.

Отделить зерна от плевел

Экономисты смотрят на мир иначе, чем большинство людей. Мы воспринимаем все относительно схемы, управляемой такими силами, как спрос и предложение, производство и потребление, цена и издержки. Иногда экономисты расходятся во мнениях, но всегда действуют в рамках общей схемы. Мы оспариваем допущения и интерпретации, не сомневаясь в фундаментальных понятиях вроде роли дефицита и конкуренции в регулировании цен. Такой подход дает нам уникальную позицию наблюдателей, что можно отнести к плюсам нашей профессии. Минус же состоит в том, что наша точка зрения суха и бесстрастна, поэтому нас не очень жалуют на званых вечеринках. Тем не менее она добавляет ясности в принятии деловых решений.

Начнем с азов – цен. Когда снижается цена на какой-либо предмет, товар или услугу, спрос немедленно повышается. Более дешевые вещи покупают чаще. Так действует простейшая экономика, именно это сейчас и происходит с ИИ. Он повсюду: встроен в приложения для телефона, оптимизирует сети электроснабжения и заменил управляющего вашим портфелем акций. Скоро он будет возить вас по городу и прилетать к двери вашего дома с посылками.

Экономисты лучше всех умеют отделять зерна от плевел. Где другие замечают трансформационные инновации, мы видим всего лишь снижение цен. Но не все так просто. Чтобы понять влияние ИИ на вашу организацию, следует точно знать, как изменилась цена и как это отразится на экономической ситуации в целом. Только после этого можно приступать к разработке плана действий. История экономики учит, что последствия крупных инноваций часто проявляются в самых неожиданных местах.

Вспомним пример 1995 года из коммерческого интернета. Тогда очень многие смотрели сериал Seinfeld, а Microsoft выпустила Windows 95 – первую многозадачную операционную систему. В том же году правительство США отменило все ограничения на коммерческий трафик в интернете, и Netscape – изобретатель интернет-браузера – отпраздновала первое публичное размещение (IPO) в данном сегменте.

Так и произошел перелом в сфере IT, когда интернет из технологической диковины превратился в коммерческую приливную волну, омывающую экономику.

Первое публичное размещение Netscape оценивалось более чем в $3 млрд, хотя не принесло существенной прибыли. Венчурные инвесторы оценивали стартапы в миллионах, даже если они были (используем возникший тогда термин) «преддоходными». Новоиспеченные выпускники МБА отказывались от прибыльных традиционных профессий ради заработка в интернете. Когда влияние интернета начало распространяться на все сферы вверх и вниз по цепи издержек, проповедники технологий стали называть его «новой экономикой» вместо «новой технологии». Термин прижился. Интернет вышел за технологические границы и проник в человеческую деятельность на фундаментальном уровне. Политики, руководители, инвесторы, предприниматели и крупные СМИ ввели термин в широкое употребление. Все кому не лень называли интернет новой экономикой, за исключением экономистов.

Мы не видели ни новой экономики, ни новых экономистов. Для нас это была все та же старая экономика. Хотя следует признать, что ряд важных изменений все же произошел. Появилась возможность распространять через интернет товары и услуги. Коммуникации упростились. Информацию теперь получали, просто нажав на кнопку «поиск». Но все это было доступно и раньше – разница лишь в том, что снизилась цена. Расцвет интернета ознаменовал падение цен на распределение, коммуникацию и поиск. Чтобы понять последствия для бизнеса, необходимо оценить результаты технологического развития, заключающиеся в переходе от дорогостоящего к дешевому или от дефицита к изобилию. К примеру, вспомните, когда вы впервые использовали Google, – новоприобретенная способность мгновенно, словно по волшебству, получать нужную информацию завораживала. С экономической же точки зрения Google удешевила поиск. И в результате компании, зарабатывавшие на продаже информации другими средствами (справочники, турагентства, рекламные издания), потеряли конкурентное преимущество. В то же время компании, которым требовалось, чтобы их нашли, – самодеятельные авторы, продавцы коллекционных товаров и доморощенные режиссеры – процветали.

Изменение относительных издержек определенной деятельности радикально повлияло на ряд бизнес-моделей и даже преобразовало некоторые сферы. Однако законы экономики остались прежними: мы еще могли рассматривать все что угодно с точки зрения спроса и предложения, разрабатывать стратегии, устанавливать политику и предвидеть будущее с помощью стандартных законов экономики.

«Дешево» значит «повсеместно»

Когда цена на что-то внезапно и существенно падает, может измениться целый мир. Возьмем, к примеру, свет. Не исключено, что вы читаете эту книгу при искусственном освещении. И более того, включая свет, вы, скорее всего, никогда не подсчитывали, во сколько вам обойдется чтение. Электричество настолько дешево, что им пользуются, не задумываясь. Однако, согласно подробному исследованию экономиста Уильяма Нордхауса, в начале XIX века освещение стоило в сотню раз дороже[7]. Всего два века назад вы сто раз подумали бы, прежде чем читать при свете. Падение цен на электричество осветило мир. Ночь легко превращалась в день, стало возможным жить и работать в больших зданиях, куда не проникал естественный свет. Практически ничего из того, что мы имеем сейчас, не существовало бы без мизерной платы за электричество.

С технологическими новшествами удешевляется все. С изменением цены за бытовое электричество изменилось и наше поведение – от раздумий, стоит ли включать свет, к бездумному щелчку выключателем. Существенное падение цен дает шанс делать то, что мы не делали раньше; невозможное становится возможным. И неудивительно, что экономисты озабочены последствиями грандиозного падения цен на такие фундаментальные результаты прогресса, как свет.

Одни последствия дешевизны света были более предсказуемы, другие – менее. Не всегда полностью очевидно, на что именно повлияет падение цены вследствие появления новых технологий, будь то искусственное освещение, паровые машины, автомобили или вычисления.

Тим Бреснахан, экономист из Стэнфорда и один из наших наставников, подчеркивал, что компьютеры выполняют расчеты, и ничего более. Распространение и коммерциализация компьютеров понизили стоимость вычислений[8]. Теперь мы не только чаще используем их для обычных расчетов, но и применяем новую, дешевую арифметику в сферах, традиционно не связываемых с ней, например в музыке.

Ада Лавлейс, которая считается первым программистом, раньше всех разглядела эти возможности. Работая при дорогостоящем освещении в начале XIX века, она написала первую программу расчета последовательности чисел (называемых «числами Бернулли») для компьютера, разработанного Чарльзом Бэббиджем тогда еще в теории. Бэббидж тоже был экономистом, и, как вы узнаете из нашей книги, это не единственный случай пересечения экономики и IT-дисциплин. Лавлейс понимала, что арифметика может, выражаясь современным жаргоном стартапов, «масштабироваться» и содержит огромный потенциал. Ада догадывалась, что возможности компьютеров не сводятся к арифметическим операциям: «Если предположить, например, что фундаментальные соотношения тонов звукоряда в гармонии и музыкальной композиции можно выразить и адаптировать в таком виде, то машина могла бы сочинять затейливые и искусные музыкальные произведения любой степени сложности»[9]. Никаких компьютеров тогда и в помине не было, но Лавлейс предполагала, что вычислительные машины могут хранить и воспроизводить музыку – форму искусства, повлиявшую на все его остальные жанры и человечество в целом.

Так и произошло. Когда полтора века спустя цена на расчеты опустилась достаточно низко, арифметике нашлось столько применений, сколько никому и не снилось. Она внесла такой важный вклад во множество сфер деловой и обычной жизни, что с ее удешевлением мир, как это уже бывало, преобразился. Если свести что-либо к чистым издержкам, легко отделить зерна от плевел, хотя это и не самый увлекательный способ поведать о новейших передовых технологиях. Стив Джобс никогда не анонсировал выпуск «счетной машины», хотя только ими всю жизнь и занимался. Новые счетные машины Джобса имели успех, потому что снижали цену на что-то значимое.

Это возвращает нас к ИИ. Для экономики он имеет огромное значение именно потому, что удешевит что-то важное. Сейчас вы, вероятно, думаете об интеллекте, логических рассуждениях и мышлении вообще. А может, представляете себя среди роботов или бестелесных существ, таких как дружелюбные компьютеры из фильма «Звездный путь», которые избавят вас от необходимости думать. У Лавлейс было похожее предположение, но она быстро от него отказалась. Во всяком случае в отношении компьютеров она писала, что «у них нет никаких притязаний к созиданию. Они могут только то, что умеем мы. Они способны следовать порядку расчетов, но не обладают возможностью предвосхищать аналитические соотношения или истины»[10].

Несмотря на ажиотаж вокруг ИИ, «возражения леди Лавлейс», как позднее назвал их Алан Тьюринг[11], все еще актуальны. Компьютеры пока не умеют думать, так что мысли подешевеют нескоро. Однако цена снизится на нечто настолько привычное и повсеместно используемое (как и арифметика), что никто, скорее всего, еще не догадывается, насколько удешевление повлияет на нашу жизнь и экономику.

Что же подешевеет благодаря ИИ? Ответим: прогнозы. Следовательно, согласно законам экономики, мы не только станем чаще пользоваться ими, но и начнем применять в самых неожиданных областях нашей жизни.

Дешевизна создает преимущества

Прогнозирование (или прогностика) – это процесс заполнения информационных пробелов. Берется имеющаяся информация, называемая данными, и из нее выводится отсутствующая информация. В многочисленных обсуждениях ИИ акцентируется разнообразие прогностических методов с непонятными названиями: классификация, кластеризация, регрессия, дерево решений, байесовское оценивание, нейронные сети, топологический анализ данных, глубокое обучение, стимулированное обучение, глубокое стимулированное обучение, капсульные сети и т. д. Специалисты используют для внедрения ИИ соответствующие конкретной прогностической задаче способы.

В книге мы избавим вас от математики, лежащей в основе этих методов. Хотим лишний раз подчеркнуть, что все они касаются прогностики: использования имеющейся информации для генерации отсутствующей. Мы поможем вам определить, в каких ситуациях необходимо иметь прогноз и как получить от него максимальную выгоду.

Удешевление прогностики ведет к ее распространению. Снова элементарная экономика в действии: мы покупаем больше товаров или услуг, если цены на них падают. Например, когда в 1960-е годы зарождалась компьютерная индустрия, цена на арифметику начала быстро снижаться, и там, где она была уже востребована, к ней обращались чаще – например, в Бюро переписи населения США, Министерстве обороны США, НАСА (что отображено в фильме 2016 года «Скрытые фигуры»). Позднее новая, дешевая арифметика нашла применение в сферах, к которым прежде не имела отношения, – таких как фотография. Когда-то фотоновинки разрабатывались благодаря химии, но с удешевлением арифметики появилось и соответствующее решение – цифровые камеры. Цифровой снимок представляет собой всего лишь последовательность нулей и единиц, посредством арифметики преобразуемую в визуальное изображение.

То же касается и прогнозов. Они используются в привычных задачах: управлении ресурсами и прогнозировании спроса, – но благодаря удешевлению все чаще применяются в сферах, не относящихся к прогностике. Кэтрин Хауи из Integrate.ai призывает переформулировать любую проблему в контексте прогностики, и современные инженеры всего мира все чаще так и поступают. Беспилотный транспорт существует в управляемой среде уже больше двадцати лет, однако функционировал он при наличии подробных планов этажей на заводах и складах. С поэтажным планом разработчики программировали своих роботов двигаться согласно логической схеме «если, то»: если перед роботом находится человек, то следует команда «стоп». Если полка пуста, то нужно двигаться к следующей. Обычные улицы оставались для роботов недоступными – в городском пространстве может случиться все что угодно – слишком много возникает условий «если, то», всего не предусмотреть.

Беспилотный транспорт не будет работать вне полностью предсказуемой и контролируемой среды до тех пор, пока инженеры не переформулируют проблему навигации в прогностическую. Они уже поняли, что вместо того, чтобы просчитывать для машины действия во всех возможных обстоятельствах, необходимо поставить одну прогностическую задачу: что сделал бы человек? И сейчас компании вкладывают миллиарды долларов в обучение машин беспилотному передвижению в неконтролируемой среде, в том числе на городских улицах и шоссе.

Представьте ИИ сидящим в автомобиле рядом с водителем. Человек проезжает миллионы километров, получает зрительную и звуковую информацию из окружающей среды, обрабатывает ее мозгом и реагирует соответственно: едет прямо или сворачивает, тормозит или разгоняется. Инженеры оснастили ИИ собственными глазами и ушами – датчиками (камерами, радарами, лазерами). Таким образом ИИ собирает поступающие к нему со всех сторон данные, пока человек управляет автомобилем, и одновременно регистрирует реакцию водителя. При совокупности конкретных данных человек поворачивает направо, тормозит или нажимает на газ. Чем дольше ИИ наблюдает за водителем, тем лучше предсказывает его действия, исходя из поступающих данных. ИИ учится водить машину, прогнозируя, как поступил бы человек в соответствующих обстоятельствах.

И вот что самое главное: когда такая важная вводная, как прогноз, дешевеет, возрастает ценность других вещей. Экономисты называют их «дополняющими факторами». Как падение цены на кофе повысило ценность сахара и сливок, так для беспилотных автомобилей падение цены прогноза повышает ценность датчиков сбора данных окружающей среды. Например, в 2015 году Intel заплатила больше $15 млрд за израильский стартап Mobileye, в первую очередь за технологию сбора данных, позволяющую транспортному средству эффективно распознавать объекты (дорожные знаки, людей и т. д.) и разметку (на улицах и дорогах).

Дешевея, прогностика станет использоваться чаще, возрастет количество дополняющих ее факторов: данные базовые экономические силы приводят в действие новые возможности, создаваемые прогностическими машинами. На элементарном уровне они снимут с человека задачи прогнозирования и таким образом снизят издержки. По мере распространения машин прогностика изменит и улучшит качество принятия решений. Но в какой-то момент прогностические машины, вероятно, станут столь точными и надежными, что изменят и деятельность организаций. Некоторые ИИ настолько заметно повлияют на деловую экономику, что перестанут использоваться только для повышения продуктивности в соответствии со стратегией; они изменят саму стратегию.

От дешевизны к стратегии

Руководители постоянно спрашивают нас: «Как ИИ повлияет на нашу стратегию бизнеса?» Проведем для ответа мысленный эксперимент. Большинство людей делали покупки на Amazon. Как и в остальных онлайн-магазинах, вы открываете сайт, находите нужные вещи, кладете их в корзину, оплачиваете и затем получаете по почте. Сейчас модель Amazon такова: «покупка – затем доставка».

Когда вы заходите на сайт, ИИ Amazon прогнозирует, что вы хотели бы купить, и предлагает соответствующие товары. Это целесообразный труд, однако его результаты далеки от идеала. В нашем случае точность прогнозов не превышает 5 %. И мы заказываем одну из множества рекомендуемых вещей. С учетом миллионного ассортимента это совсем не плохо!

Представьте, что ИИ Amazon собрал больше информации о нас и использует ее для улучшения качества прогнозов, – это усовершенствование сравнимо с поворотом регулятора громкости на колонках, только вместо звука регулируется точность прогнозов.

В определенный момент поворота ручки точность прогнозов ИИ достигает порогового значения и меняет бизнес-модель Amazon. Прогнозы становятся настолько точными, что компании выгоднее присылать вам товары, которые вы предположительно захотите купить, чем ждать, пока вы закажете их на сайте.

В таком случае другие магазины вам уже не нужны, а каждая покупка будет стимулировать следующую. Amazon получит основную долю содержимого вашего кошелька. Очевидно, что это выгодно Amazon, но также удобно и вам. Магазин доставляет покупки до того, как вы их совершили, и таким образом избавляет вас от траты времени на шопинг. С поворотом регулятора точности на максимум бизнес-модель Amazon меняется с «покупка – затем доставка» на «доставка – затем покупка».

Разумеется, покупатели не захотят возиться с возвратом нежелательных товаров. Поэтому Amazon вложится в отладку этого процесса – скажем, раз в неделю служба доставки будет собирать невостребованные посылки[12].

Но если такая бизнес-модель лучше, почему Amazon до сих пор ее не внедрил? Дело в том, что сегодня издержки сбора и обработки возвратов перевешивают рост дохода от основной доли кошелька. Например, сейчас мы вернули бы 95 % доставленных товаров. Это трудоемко для нас и затратно для Amazon. Для освоения новой бизнес-модели прогнозы пока еще недостаточно точны.

Возможен иной вариант: Amazon обращается к новой стратегии до того, как точность прогнозов достигнет качественного уровня, исходя из предположения, что однажды это принесет выгоду. Благодаря раннему запуску ИИ соберет больше данных за короткий срок и усовершенствуется. В Amazon понимают, что чем раньше они стартуют, тем сложнее будет конкурентам их нагнать. Качественный прогноз привлечет больше покупателей, что увеличит объем данных для обучения ИИ и, в свою очередь, приведет к повышению качества прогнозов, а далее этот цикл неоднократно повторится. Раннее внедрение обойдется дорого, но опоздание может стать роковым[13].

Мы не утверждаем, что Amazon будет или должен внедрять такую практику, хотя для скептиков у нас есть неожиданная новость: в 2013 году Amazon получил патент США на «опережающую доставку»[14]. Несомненно, вращение регулятора точности прогнозов коренным образом повлияет на стратегию. В данном примере оно меняет бизнес-модель Amazon с «покупка – затем доставка» на «доставка – затем покупка», создает стимул для вертикальной интеграции посредством организации услуги по возврату товаров (в том числе грузового автопарка) и ускоряет процесс инвестирования. И все это вследствие поворота регулятора точности прогностической машины.

Что это означает для стратегии? Во-первых, необходимо инвестировать в сбор информации относительно того, как быстро и насколько высоко вырастет точность прогнозов в вашем и в смежных секторах. Во-вторых, разработка тезиса о стратегических возможностях, образовавшихся в результате вращения регулятора точности, потребует финансовых вложений.

Чтобы начать «научное фантазирование», закройте глаза, мысленно возьмитесь за регулятор прогностической машины и, следуя бессмертным словам члена группы Spinal Tap[15], поверните его на 11 часов.

План книги

Прежде всего необходимо построить фундамент для стратегического внедрения прогностических машин в своей организации. Именно так мы структурировали книгу – возводили пирамиду от основания.

В части I мы заложим фундамент и объясним, как машинное обучение повышает качество прогнозов. Затем разберемся, чем новые преимущества отличаются от статистики, которой вас учили или которой уже занимаются ваши аналитики. Далее мы затронем ключевые дополняющие факторы прогнозов – данные, особенно те, что необходимы для качественной прогностики, – и расскажем, как убедиться, что они у вас есть. И в завершение рассмотрим, когда прогностические машины работают эффективнее человека и в каких случаях людям и машинам целесообразно объединить усилия для получения максимально точных прогнозов.

В части II мы опишем роль прогнозов в качестве вводных для принятия решений и объясним значение еще одной составляющей, пока недооцененной в сфере ИИ, – суждений. Прогнозы помогают принимать решения, снижая неопределенность, а суждения определяют ценность. В экономической терминологии суждением называется определение окупаемости, целесообразности, дохода и прибыли. Самое значительное свойство прогностических машин состоит в том, что они повышают ценность суждения.

В части III перейдем к практике. Прогностические машины оснащены инструментами ИИ в соответствии с конкретными задачами. Мы опишем шаги, помогающие определить, когда создание (или покупка) инструментов ИИ максимально повысит доход. Иногда такие инструменты идеально укладываются в рабочий процесс, но бывает, что побуждают изменить его. Также мы познакомим вас с важным подспорьем для уточнения ключевых требований к инструментам – «шаблоном ИИ».

В части IV вернемся к стратегии. Как в описанном нами эксперименте с Amazon, иногда ИИ настолько масштабно влияет на экономику задачи, что преобразует компанию или промышленность. Тогда он становится краеугольным камнем стратегии организации. В результате воздействия на стратегию ИИ переключает на себя внимание высшего руководства помимо менеджеров продукта и инженеров.

Как правило, заранее предусмотреть степень влияния ИИ на стратегию нельзя. Например, немногие, опробовав инструменты поиска Google, предсказывали, что они преобразуют медиаиндустрию и лягут в основу самых успешных компаний планеты.

Помимо возможностей получения прибыли ИИ несет системные риски, способные повлиять на бизнес. Все сосредоточены на рисках ИИ для человечества, но мало кто обращает внимание на опасность ИИ для организаций. К примеру, некоторые прогностические машины, обучаемые на полученных от человека данных, заодно усваивают ненужные отклонения и стереотипы.

Книгу завершает часть V, в которой мы отвечаем на вопросы о широком влиянии ИИ на общество и касаемся пяти основных спорных тем.

1. Сохранятся ли рабочие места? Ответим: да.

2. Усугубится ли проблема неравенства? Вероятно.

3. Будут ли несколько крупнейших компаний контролировать весь мир? Зависит от обстоятельств.

4. Страны погрузятся в политику «гонки уступок», лишат нас приватности и безопасности ради конкурентного преимущества отечественных компаний? Некоторые – да.

5. Наступит ли конец света? До него достаточно времени, чтобы успеть с пользой применить полученную информацию.

Выводы

• Экономика предлагает четкое представление о влиянии удешевления прогнозов на бизнес. Прогностические машины будут использоваться как для традиционных (управление ресурсами и прогнозирование спроса), так и для новых задач. Падение цен на прогнозы повлияет на ценность других понятий и предметов, повысит ценность дополняющих факторов (данных, суждения и действий) и снизит ценность эквивалентов (человеческого прогноза).

• Организации могут использовать прогностические машины, внедряя инструменты ИИ с целью выполнения текущей стратегии. Когда инструменты станут мощнее, они изменят саму стратегию. Например, если Amazon сможет прогнозировать желания покупателей, то перейдет с модели «покупка – затем доставка» на модель «доставка – затем покупка» – будет доставлять товары до размещения заказов. Такой переход преобразит организацию.

• В результате новых стратегий, разработанных с учетом преимуществ ИИ, мы встанем перед фактом его влияния на общество. Наш выбор будет зависеть от потребностей и предпочтений и наверняка в разных странах и культурах окажется разным. Мы разделили книгу на пять частей в соответствии с уровнями влияния ИИ и от основы пирамиды – прогнозов – начнем подниматься выше: прогностика, принятие решений, инструменты, стратегия и общество.

Часть I. Прогностика

Глава 1. Волшебство прогностических машин

Что общего у Гарри Поттера, Белоснежки и Макбета? Их действиями движет пророчество, то есть прогноз. Даже сюжет «Матрицы», вроде бы описывающий прогностические машины, построен на вере персонажей в предсказание. Везде, от религии до сказок, знание будущего имеет решающее значение. Предсказания влияют на наше поведение и принятие решений.

Древние греки чтили своих многочисленных оракулов за пророческие способности, но их предсказания иногда бывали такими туманными, что сбивали с толку вопрошающих. Например, однажды царь Лидии Крез задумал рискованный штурм Персидской империи. И поскольку не доверял полностью ни одному оракулу, решил проверить каждого, прежде чем просить совета о нападении на Персию. Ко всем оракулам он разослал гонцов. На сотый день они должны были спросить, что Крез делает прямо сейчас. Ближе всех к истине оказался оракул из Дельф, поэтому царь обратился за пророчеством к нему[16].

Как и в примере с Крезом, прогноз может касаться и настоящего. Мы предполагаем, правомерная или мошенническая операция проводится по кредитной карте, злокачественная опухоль на снимке или доброкачественная, в камеру телефона смотрит владелец iPhone или посторонний человек.

Слово «прогноз» происходит от греческого слова πρόγνωσις, буквально означающего «предузнавание» (то есть знание того, что произойдет), но в современном понимании это скорее способность видеть скрытую информацию как в будущем, так и в прошлом и настоящем. Наверное, самый известный символ магического предсказания – хрустальный шар. И хотя в нашем представлении он связан с гадалками, обещающими финансовое процветание или успех в любви, в книге Фрэнка Баума «Волшебник страны Оз» Дороти с его помощью видит, что делает ее тетя Эм в настоящем. Все это приводит нас к определению прогностики.

Волшебство прогностики

Несколько лет назад Ави Голдфарб обнаружил, что в казино Лас-Вегаса с его кредитной карты снята крупная сумма. Но он в это время был совершенно в другом месте. А в Лас-Вегас ездил лишь однажды и очень давно – азартные игры не вписываются в его экономическое мировоззрение. После продолжительных переговоров банк отменил транзакцию и выдал новую карту.

Недавно неприятность повторилась. Кто-то снова сделал покупку по кредитной карте Ави. Но на этот раз он даже не успел увидеть транзакцию, так что ему не пришлось сто раз описывать ситуацию вежливому, но строгому сотруднику службы поддержки. Ави сообщили по телефону о подозрительной операции по карте и что уже выслали новую по почте.

Банк совершенно правильно заключил, исходя из потребительских привычек Ави и тонны другой информации, что транзакция мошенническая. И был настолько уверен в этом, что даже не стал блокировать карту до выяснения обстоятельств.

Вместо этого у Ави, как по волшебству, появилась другая карта, для чего он и пальцем не шевельнул. Конечно, хрустального шара у банка нет, но есть данные и надежная предсказательная модель: прогностическая машина. Повышение качества прогнозов позволило снизить риск мошенничества и одновременно, как выразился президент MasterСard по вопросам безопасности Аджай Бхалла, «избавить клиентов от ошибочного отклонения транзакций»[17].

В сфере бизнеса применение прогностики полностью соответствует ее определению как процесса заполнения информационных пробелов. Эмитентам необходимо знать, не была ли недавняя транзакция мошеннической. Для прогноза по конкретной операции используются данные о совершенных мошеннических (и правомерных) переводах денежных средств. В случае подтверждения неправомерности эмитент может заблокировать карту, а если прогноз сделан достаточно быстро, то успеет отменить и текущую транзакцию.

Данный принцип – когда из имеющейся информации выводится отсутствующая – положен в основу главных современных достижений ИИ в области перевода. Об этой цели говорилось еще в предании тысячелетней давности о Вавилонской башне; цивилизация шла к ней на протяжении всей своей истории. Раньше для разработки автоматических переводчиков нанимали лингвиста (владеющего каким-либо конкретным языком), чтобы он изложил грамматические правила в приемлемой для программирования форме[18]. Таким образом, например, если требовалось перевести фразу с испанского языка, слова не просто последовательно переводились, но существительные и прилагательные менялись местами, чтобы в итоге получилось грамотно составленное и понятное предложение.

Недавний рывок в развитии ИИ позволил поместить переводы в сферу прогностических задач. После этого качество онлайн-переводчика Google прямо-таки чудесным образом изменилось. Рассказ Эрнеста Хемингуэя «Снега Килиманджаро» начинается такими словами: «Килиманджаро – покрытый вечными снегами горный массив высотой в 19 710 футов, как говорят, высшая точка Африки».

В ноябре 2016 года профессор Юн Рекимото, ученый, IT-специалист из Токийского университета, переводил рассказ в Google-переводчике с японского языка на английский и получил такой результат: «Килиманджаро высота 19 710 футов гора снежный покров, и сказал самая высокая в Африке». На следующий день перевод выглядел уже по-другому: «Килиманджаро гора высотой 19 710 футов покрыта снегом и считается самой высокой в Африке».

Разница невероятная! Прошла всего одна ночь, а вместо корявого автоматического перевода получилось складное предложение, словно вместо недоучки работу делал человек, одинаково хорошо владеющий обоими языками.

Конечно, следует признать, что автору перевода до Хемингуэя далеко, но налицо явный прогресс. Вавилон возродился. И это не случайная перемена и не сбой: Google перекроила машинный переводчик с учетом недавних достижений в области ИИ, о которых мы рассказываем. Если быть точнее, современная программа Google-переводчик базируется на глубоком обучении повышению точности прогнозов.

Перевод заключается в определении японских эквивалентов английских слов и выражений. Прогнозируемые отсутствующие данные – это японские слова и их грамматический порядок. Если на основании данных иностранного языка составлять алгоритм слов и их правильный порядок на известном языке, то перевод получается читабельным. А если сделать все точно, то не всегда можно догадаться, что это перевод.

Компании, не теряя времени, начали коммерческое применение этой волшебной технологии. Например, более 500 миллионов граждан Китая уже пользуются сервисом на основе глубокого обучения, разработанным iFlytek, для перевода, транскрибирования и переписки на родном языке. С его помощью домовладельцы договариваются с иностранными арендаторами, пациенты больниц получают справочную информацию, врачи дают рекомендации, а водители общаются со своими автомобилями[19].

Чем чаще используется ИИ, тем больше он собирает данных и учится и тем лучше становится. А с таким количеством пользователей он совершенствуется очень быстро.

Насколько сейчас прогнозы лучше, чем раньше?

Изменения в программе Google-переводчик иллюстрируют, как машинное обучение (один из его подразделов – глубокое обучение) снижает цену на качественные прогнозы. За ту же цену в единицах вычислительной мощности Google предоставляет перевод более высокого качества. Цена прогнозов аналогичного качества значительно снизилась.

Инновации в прогностических технологиях влияют на традиционно связанные с прогнозом сферы, такие как обнаружение финансового мошенничества. Здесь наблюдается такой прогресс, что эмитенты кредитных карт выявляют и пресекают случаи мошенничества раньше, чем пользователи успевают их заметить. И все же улучшение происходит постепенно. В конце 1990-х с помощью передовых тогда методов удавалось предотвратить около 80 % мошеннических транзакций[20]. К 2000 году эти показатели поднялись до 90–95 %, а сегодня достигают 98–99,9 %[21]. Последний рывок стал результатом машинного обучения: разница между 98 и 99,9 % огромна.

Кажется, что от 98 % совсем недалеко до 99,9 %, но, если ошибки обходятся дорого, важно действовать постепенно. Улучшение с 85 до 90 % означает, что количество ошибок уменьшилось на треть. А с улучшением с 98 до 99,9 % ошибок стало в 20 раз меньше. Про такой показатель уже не скажешь «постепенно».

Падение цены на прогноз меняет и человеческую деятельность. Как первоначально компьютеры использовались для арифметических вычислений, таких как учет численности и разнообразные таблицы, так и первые прогнозы, полученные в результате машинного обучения, применялись для решения обычных прогностических задач. Помимо обнаружения мошенничества в них входили кредитоспособность, медицинская страховка и управление ресурсами.

Кредитоспособность – это прогноз вероятности погашения кредита заемщиком. Для медицинской страховки рассчитывали сумму, которую страхователь потратит на лечение. В управлении ресурсами важен прогноз загрузки склада в определенный день.

Не так давно возникли совершенно новые категории прогностических задач. Многие из них считались невыполнимыми до недавнего прогресса в технологии машинного интеллекта, в том числе распознавание объектов, языковой перевод и разработка лекарственных средств. Возьмем, к примеру, широко известный ежегодный конкурс ImageNet Challenge. Распознавание объектов – не всегда легкая задача и для человека. В данных ImageNet содержится множество категорий объектов, в том числе породы собак и другие схожие изображения. Не всегда можно уловить разницу между тибетским мастифом и бернским зенненхундом или между сейфовым и кодовым замком. Люди ошибаются примерно в 5 % случаев[22].

Если сравнивать первый (2010) и последний (2017) конкурсы, то прогнозы заметно улучшились. На рис. 1 приводится график точности победителей по годам. На вертикальной оси отмечена частота ошибок (поэтому чем ниже, тем лучше). В 2010 году лучшие прогностические машины неверно распознавали 28 % изображений. В 2012 году конкурсанты впервые использовали глубокое обучение, и частота ошибок снизилась до 16 %. Как отмечает профессор Принстона, IT-специалист Ольга Русаковская, «2012-й действительно стал годом огромного прорыва в точности, и это доказывает эффективность модели глубокого обучения, существующей уже несколько десятков лет»[23].

Рис. 1. Временной график ошибок в распознавании объектов

Алгоритмы улучшались быстро, впервые человеческий эталон был превзойден в 2015-м. К 2017 году у большинства участников было уже в два раза меньше ошибок. Машины стали распознавать объекты лучше человека[24].

Последствия удешевления прогнозов

Нынешнее поколение ИИ пока отстает от разумных машин из научной фантастики. У нас нет ЭАЛа из «2001: Космическая одиссея», «Скайнет» из «Терминатора», Си-Три-Пи-О из «Звездных войн». Если современный ИИ способен только на прогностику, почему вокруг него такой ажиотаж? Да потому, что прогноз действительно важен. Не все это понимают, но прогноз имеет значение во всех сферах человеческой деятельности, в том числе в деловой и частной жизни. Решения принимаются на основе прогнозов; чем они качественнее, тем полнее информация и, следовательно, тем лучше результаты.

Прогноз можно назвать «добычей полезной информации», что слегка отдает шпионажем[25]. Машинный же прогноз – это искусственная выработка полезной информации, а она всегда во главе угла. Качество прогноза влияет на итоги чего бы то ни было, как мы объяснили в примере с выявлением мошенничества. Благодаря снижению цены на прогноз мы делаем его полезным для многих других сфер, открывая его безграничные возможности, – например, машинный языковой перевод, который раньше нельзя было даже вообразить.

Выводы

• Прогресс роста точности прогнозов обманчив. Например, улучшение с 85 до 90 % кажется больше, чем с 98 до 99,9 % (в первом случае на 5 %, а во втором – на 2 %). Однако улучшение с 85 до 90 % означает, что количество ошибок уменьшилось на 30 %. А с улучшением с 98 до 99,9 % ошибок стало в 20 раз меньше. В некоторых условиях это меняет все.

• За волшебством прогностических машин стоит самое что ни на есть заурядное заполнение информационных пробелов. Машины умеют видеть (распознавание объектов), ориентироваться (беспилотные автомобили) и переводить.

Глава 2. Почему это называется «интеллект»

В 1956 году группа учеников Дартмутского колледжа в Нью-Гемпшире планировала исследование с целью создания ИИ. Их интересовало, можно ли запрограммировать компьютер на познавательный процесс, чтобы он учился, скажем, играть, доказывать математические теоремы и прочее. Также они предусмотрели язык и соответствующие данные, с тем чтобы компьютер мог описывать вещи. Они хотели, чтобы компьютер выбирал лучший из предложенных вариантов. Исследователи видели возможности ИИ в самом радужном свете. В обращении за финансированием к Фонду Рокфеллера они написали:

«Мы намерены выяснить, как научить компьютер использовать язык, оперировать абстрактными понятиями, решать разные типы задач, которые сейчас решают люди, и самосовершенствоваться. Полагаем, что за лето при условии сплоченной работы коллектива ученых мы заметно продвинемся в направлении одной из этих целей»[26].

Но эти планы по большей части остались в мечтах. Помимо прочего, в 1950-х компьютеры были недостаточно мощными и быстродействующими для воплощения в жизнь всех замыслов студентов.

После этого заявления ИИ показал некоторый прогресс в языковых переводах, но незначительный. Разработки ИИ для узкоспециализированной среды (например, создания программы-психотерапевта) были неприменимы в других случаях. В начале 1980-х появилась надежда на создание экспертных систем для замены квалифицированных специалистов, в том числе для постановки медицинских диагнозов, но проекты оказались дорогостоящими, громоздкими и не могли учитывать миллиарды исключений и вариантов, что привело к периоду, называемому «зимой ИИ».

Но, похоже, зима закончилась. Сейчас данных больше, модели лучше, компьютеры мощнее, поэтому недавние разработки в сфере машинного обучения привели к повышению качества прогнозов. Усовершенствования в сборе и хранении большого объема данных обеспечили основу для новых алгоритмов машинного обучения. По сравнению со своими предшественниками современные компьютеры оборудованы более мощными процессорами, а новые модели машинного обучения гибче и выдают более точные прогнозы – настолько, что эту отрасль IT снова стали называть «искусственным интеллектом».

Прогнозирование оттока клиентов

В основе развития прогностики лежат улучшенные данные, модели и компьютеры. Для понимания их ценности давайте рассмотрим давнюю проблему прогнозирования «оттока клиентов», как выражаются маркетологи. Большинству компаний привлечение клиентов обходится дорого, и, следовательно, их отток приносит убытки. С набранной клиентской базой компания экономит на этих расходах, снижая отток. Сложнее всего его контролировать в сферах профессиональных услуг: страховании, финансовых операциях и телекоммуникации. Первый шаг к снижению оттока – выявление ненадежных клиентов, для чего компании могут использовать прогностические технологии.

Раньше отток клиентов прогнозировали статистическим методом, называемым «регрессия». Научные исследования позволили усовершенствовать его.

Ученые предложили и протестировали сотни различных методов регрессии в теории и на практике.

Регрессия делает прогноз на основе средних показателей прошлого. Например, если вам необходимо определить, пойдет ли завтра дождь, и у вас есть только данные за предыдущие семь дней, то оптимально использовать средний показатель. Если дождь лил два дня из семи, то вероятность завтрашних атмосферных осадков составит примерно два из семи, то есть 29 %. Но благодаря всему, что нам теперь известно о прогностике, мы можем сконструировать модели, способные извлекать из контекста больше данных и точнее рассчитывать средний показатель.

Мы делали это с помощью так называемого условного среднего значения. Например, если вы живете на севере Калифорнии, то из опыта знаете, что вероятность осадков зависит от времени года – она ниже летом и выше зимой. Таким образом, если зимой вероятность дождя достигает 25 %, а летом – 5 %, вы не считаете, что завтра она составит 15 %. Почему? Потому что вам известно, зима сейчас или лето, и прогнозируете вы с учетом этих данных.

Поправка на сезон – только одно из условий среднего значения (хотя и распространенное в розничной торговле). Учитываются также время суток, уровень загрязнения, облачность, температура океана и вообще любая доступная информация.

Поправки можно делать на несколько факторов одновременно: пойдет ли завтра дождь, если сегодня пасмурно, сейчас зима, дождь идет в 320 км к западу, в 160 км к югу солнечно, земля влажная, температура Северного Ледовитого океана низкая и дует юго-западный ветер со скоростью 24 км/ч? Однако все это обрастает громоздкими вычислениями. Только расчет среднего для семи категорий данных дает 128 комбинаций, а с дополнительными данными – в разы больше.

До машинного обучения множественная регрессия была эффективна для учета нескольких условий без необходимости рассчитывать десятки, сотни и тысячи условных средних значений.

Регрессия собирает данные и пытается извлечь результат с минимумом прогностических ошибок и с максимальной «точностью приближения», как ее называют.

К счастью, математическое значение термина точнее, чем это может показаться, исходя из формулировки. Регрессия минимизирует прогностические ошибки среднего значения и за крупные ошибки карает строже, чем за мелкие. Это достаточно надежный метод, особенно для работы с относительно небольшим объемом данных и при условии понимания, что в прогнозе самое главное. Например, если оценивать отток аудитории кабельного телевидения, то важны привычки людей; те, кто включает телевизор редко, с большей вероятностью откажутся от подписки на канал.

Кроме того, регрессионные модели способствуют генерации объективных результатов, поэтому при достаточном количестве прогнозов в среднем они будут точными. Хотя мы предпочитаем объективные прогнозы субъективным (в которых систематически переоценивается или недооценивается какой-либо показатель, например ценность), первые все еще не идеальны. Это утверждение можно проиллюстрировать старой статистической шуткой.

Физик, инженер и статистик отправились на охоту. В лесу они увидели оленя.

Физик прикинул расстояние до цели, скорость и понижение траектории пули, сделал нужные поправки, выстрелил – и промахнулся на полтора метра влево.

Расстроенный инженер упрекнул его: «Ты забыл сделать поправку на ветер. Дай сюда ружье!» Он лизнул палец, поднял руку вверх, определил направление и скорость ветра, выстрелил – и промахнулся на полтора метра вправо.

И тут статистик закричал: «Ура! Попали!» Заметим, что он даже не расчехлил ружье.

Идеальная точность в среднем иногда говорит о том, что каждый отдельный результат ошибочен. Регрессия может постоянно промахиваться на полтора метра влево и вправо. Даже если средний показатель оказывается верным, не исключено, что регрессия ни разу не попала в цель.

В отличие от регрессии, прогноз методом машинного обучения может быть ошибочным в среднем, но если промахивается, то ненамного. Статистики называют это допущением незначительных отклонений ради снижения расхождений.

Важное отличие машинного обучения от регрессионного анализа заключается в способе разработки новых методов. В процессе создания нового метода машинного обучения необходимо доказать повышенную эффективность на практике, для разработки же новых методов регрессии достаточно их работоспособности в теории. Сосредоточившись на практике, разработчики машинного обучения получают свободу для экспериментов, даже если их методы дают неверные оценки или отклонения в среднем. Именно свобода экспериментировать способствовала стремительным улучшениям, благодаря которым стало возможным воспользоваться преимуществами большого объема данных и быстродействующих компьютеров, появившихся в последние годы.

В конце 1990-х и начале 2000-х успех экспериментов с машинным обучением для прогнозирования оттока клиентов был скромным. Методы машинного обучения совершенствовались, но регрессия все еще давала в целом лучшие результаты. Данных хватало, а компьютеры не были настолько мощными, чтобы реализовать все преимущества машинного обучения.

Например, центр Teradata в Университете Дьюка в 2004 году провел турнир по анализу данных для прогнозирования оттока клиентов. Тогда подобные события были редкостью; любой мог подать заявку, а выигрыш выплачивался наличными. В призовых заявках использовались регрессионные модели. Некоторые методы машинного обучения продемонстрировали неплохие результаты, но методы нейронной сети, впоследствии совершившие революцию в ИИ, никуда не годились. В 2016 году все выглядело уже наоборот: в лучших моделях прогнозирования оттока клиентов использовалось машинное обучение, а модели с глубоким обучением (нейронными сетями) обошли все остальные.

Что же изменилось? Во-первых, объем данных и мощность компьютеров стали достаточными для повсеместного использования машинного обучения. В 1990-е было трудно собрать действительно большой объем данных. Например, в классическом исследовании прогнозирования оттока использовалось 650 клиентов и менее 30 переменных.

К 2004 году компьютерная обработка и хранение данные усовершенствовались. В турнире Дьюка обучающий набор данных содержал информацию о сотнях переменных для десятков тысяч клиентов. При таких условиях методы машинного обучения улучшились до уровня регрессии, если не превзошли его.

Современные исследователи прогнозируют отток на основе тысяч переменных и миллионов клиентов. Возросшая мощность компьютеров дала возможность анализировать огромный объем данных, включая, помимо чисел, тексты и изображения.

Например, в модели прогнозирования оттока клиентов мобильной связи исследователи использовали данные почасовой истории звонков помимо стандартных переменных, таких как сумма счета и пунктуальность оплаты.

Методы машинного обучения улучшились также за счет эффективного использования доступных данных. В конкурсе Дьюка ключевой составляющей успеха был выбор, какие данные использовать из сотен имеющихся и какую применять статистическую модель. В лучших методах того времени, будь то машинное обучение или классическая регрессия, переменные и модель выбирали с помощью комбинации статистических критериев и интуиции. Современные методы машинного (и особенно глубокого) обучения позволяют гибкость, то есть переменные сочетаются самым неожиданным образом. Скажем, клиенты со счетами на большие суммы, расходующие минуты в начале расчетного периода, уйдут с меньшей вероятностью, чем клиенты со счетами на более крупные суммы, но расходующие минуты в конце расчетного периода. Или клиенты с внушительным счетом за роуминг в выходные, которые к тому же задерживают оплату и часто обмениваются текстовыми сообщениями, уйдут с повышенной вероятностью. Такие комбинации могут сыграть в прогнозах решающую роль, но их трудно предусмотреть. И поэтому их не включают в стандартные регрессионные модели. Машинное обучение предоставляет компьютеру выбор комбинаций и взаимодействий, имеющий значение для него, а не для программиста.

Прогресс методов машинного обучения в целом и глубокого обучения в частности свидетельствует о возможности эффективного применения доступных данных для точного прогнозирования оттока клиентов. И сейчас очевидно их превосходство над регрессией и многими другими методами.

Прогнозирование в других сферах

Помимо оттока клиентов машинное обучение улучшило прогнозирование во многих других сферах, от рынка до погоды.

Финансовый кризис 2008 года ознаменовал крах основанных на регрессии прогностических методов. Отчасти в кризисе виновны прогнозы вероятности дефолта по обеспеченным долговым обязательствам. В 2007 году агентства уровня Standard & Poor прогнозировали, что в ближайшие пять лет вероятность не получить доход по обязательствам с рейтингом ААА[27] составит 1 из 800. Пятью годами спустя больше одного из четырех обеспеченных долговых обязательств не принесли дохода. Изначальный прогноз оказался провальным, несмотря на обширные данные по предыдущим дефолтам.

Проблема заключалась не в недостатке данных, а в том, как аналитики использовали их для прогнозирования. Рейтинговые агентства исходили из моделей множественной регрессии, в которых цены на недвижимость на разных рынках друг с другом не сопоставлялись. В этом и состояла ошибка, и не только в 2007 году, но и раньше. Прибавьте сюда одновременное потрясение нескольких рынков недвижимости, и вероятность потерь на обеспеченных долговых обязательствах резко возрастает, даже если они распределены по многим городам США.

Аналитики создают регрессионные модели на основе гипотез о том, что именно (и с какими характеристиками) имеет значение, – для машинного обучения все это не нужно. Модели машинного обучения особенно хороши для вычленения полезных переменных из множества и определения, что не имеет значения, а что, как ни удивительно, наоборот. К сегодняшнему дню интуиция и гипотезы аналитиков утратили свою значимость. Таким образом, машинное обучение позволяет делать прогнозы на основе непредусмотренных сопоставлений, как, например, то, что цены на недвижимость в Лас-Вегасе, Фениксе и Майами изменятся одновременно.

Если это всего лишь прогноз, за что его называют интеллектом?

Недавний прогресс в машинном обучении преобразовал применение статистики для прогнозирования. Последний рывок в развитии ИИ наводит на мысль, что машинное обучение – это всего-навсего «навороченная традиционная статистика». В каком-то смысле так и есть, поскольку цель та же – заполнение информационных пробелов. К тому же в процесс машинного обучения входит поиск решения с минимизацией ошибок.

Итак, за что же машинное обучение считается революционной вычислительной технологией и заслужило название «искусственный интеллект»? В некоторых случаях прогнозы настолько хороши, что их можно использовать вместо основанной на правилах логики.

Эффективная прогностика меняет компьютерное программирование. Ни традиционные статистические методы, ни алгоритмы «если, то» не работают в сложной среде настолько успешно. Хотите найти кошку на одном изображении из нескольких представленных? Уточните, что кошки бывают разного окраса и с шерстью длинной, короткой, курчавой и т. д. Они могут стоять, сидеть, лежать, прыгать, хмуриться, как Грампи-кэт, и находиться где угодно. Все сразу усложняется: даже для более или менее сносных результатов следует предусмотреть очень многое. И это только в отношении кошек. А если необходимо описать все объекты на изображении? Для каждого придется составлять отдельные спецификации.

Ключевая технология глубокого обучения основана на так называемом обратном распространении. С ним машина учится примерно так же, как наш мозг – на примерах (насколько искусственные нейроны похожи на настоящие – еще один интересный вопрос помимо достоинств технологии). Когда ребенка учат слову «кошка», то повторяют его каждый раз при появлении животного; в машинном обучении действует тот же самый принцип. Снабдите компьютер фотографиями кошек с названием «кошка» и фотографиями без кошек и, соответственно, без этого названия. Машина научится распознавать паттерны пикселей, связанные с названием «кошка».

При наличии фотографий с кошками и собаками связь между кошкой и четырехногим объектом укрепится, как и связь между ним же и собакой. Без дальнейших уточнений можно загрузить несколько миллионов разных изображений (в том числе без собак) с названиями, тогда у машины появится больше ассоциаций, и она научится отличать кошек от собак.

Большинство проблем перешли из алгоритмической категории («Каковы признаки кота?») в прогностическую («Есть ли на этом изображении без названия что-нибудь похожее на кошек, которых я уже видел?»). Для решения задач машинное обучение использует вероятностные модели.

Почему же технические специалисты называют машинное обучение интеллектом искусственным? Потому что его результат – прогноз – представляет собой ключевую составляющую интеллекта, точность прогнозов возрастает в процессе обучения, а высокая степень точности позволяет машинам выполнять задачи, которые до недавнего времени считались прерогативой человеческого интеллекта, – такие как распознавание объектов.

В книге «Об интеллекте»[28] Джефф Хокинс одним из первых заявил, что прогноз являет собой основу человеческого интеллекта. Суть теории Хокинса такова: интеллект человека, лежащий в основе творческого начала и продуктивной деятельности, обусловлен тем, как мозг использует память для прогнозирования: «Мы осуществляем непрерывное прогнозирование на низком уровне всеми органами чувств одновременно. И это еще не все. У меня есть более серьезное предположение. Прогностика – не просто одна из функций мозга, это первичная функция неокортекса и базис интеллекта. Кора головного мозга является прогностическим органом»[29].

Хокинс считает, что наш мозг постоянно делает прогнозы относительно всего, что мы испытаем в ближайшие мгновения: что увидим, почувствуем или услышим. С развитием и взрослением прогнозы становятся все точнее и чаще всего сбываются. Если же нет, мы замечаем несоответствие между предполагаемым и произошедшим, информация поступает в мозг, который обновляет свои алгоритмы и таким образом учится и совершенствуется.

Теорию Хокинса воспринимают неоднозначно. Его идеи обсуждаются в психологической литературе, а многие IT-специалисты категорически отрицают утверждение о коре головного мозга как модели для прогностических машин. Предположение, что ИИ может пройти тест Тьюринга (на способность обмануть человека, убедив его, что тоже является человеком), пока еще далеко от реальности. Современные алгоритмы не умеют убеждать, к тому же с ними сложно вести переговоры для выяснения основания их прогнозов.

Независимо от того, насколько уместна аналогия Хокинса, его утверждение о прогностике как базисе интеллекта удобно для понимания значения недавнего развития ИИ. Мы хотим подчеркнуть огромные последствия усовершенствования прогностических технологий. Теперь до вдохновенных идей Дартмутского семинара 1956 года рукой подать. Прогностические машины различными способами могут «использовать язык, оперировать абстрактными понятиями, решать разные типы задач, которыми сейчас [в 1955 году. Прим. авт.] занимаются люди, и самосовершенствоваться»[30].

Мы не строим домыслов о том, возвещает ли этот прогресс появление общего ИИ – приход технологической сингулярности, подобной «Скайнет». Однако, как вы убедитесь, если пристально посмотрите на прогностику, грандиозные перемены в ближайшие несколько лет вполне реальны.

Так же как дешевая арифметика с распространением компьютеров ознаменовала волну перемен в деловой и частной жизни, аналогичные преобразования не заставят себя долго ждать с удешевлением прогнозов.

Интеллект это или нет, но в целом переход от детерминированного программирования к вероятностному произошел скачком, хотя и параллельно с прогрессом в общественных и естественных науках. Канадский философ Ян Макдугалл Хакинг в книге «Укрощение случайности» сказал, что до начала XIX века вероятность была прерогативой азартных игроков[31]. С наступлением XIX века и ростом государственной статистики зарождающаяся вероятностная математика стала применимой к общественным наукам. В ХХ веке произошло фундаментальное изменение нашего понимания физики, и мы перешли от детерминистских ньютоновских взглядов к неопределенности квантовой механики. Важнейший прорыв XXI века в IT сравним с предыдущими достижениями в социальных и естественных науках: осознание того, что алгоритмы лучше работают с вероятностной структурой данных.

Выводы

• Цели машинного обучения отличаются от статистических. Статистика стремится к точности среднего показателя, в машинном обучении этого не требуется. Его цель – практическая эффективность. Смещение прогнозов допускалось при условии, что они были точнее (что стало возможным из-за увеличения мощности компьютеров). Это дало ученым простор для экспериментов и быстро принесло улучшения, благодаря которым стало возможным воспользоваться преимуществами большого объема данных и быстродействующих компьютеров, появившихся в последние годы.

• В традиционных статистических методах для спецификаций модели необходимы сформулированные гипотезы или, по крайней мере, человеческая интуиция. Машинное обучение не требует предварительной спецификации и вмещает в себя эквиваленты гораздо более сложных моделей с большим количеством взаимодействий между переменными.

• Прогресс машинного обучения называют достижением ИИ, поскольку:

• основанные на данном методе системы учатся и постепенно совершенствуются;

• системы выдают значительно более точные прогнозы, чем другие при аналогичных условиях, а некоторые специалисты считают прогностику базисом интеллекта;

• повышенная точность прогнозов таких систем позволяет им выполнять задачи, такие как языковой перевод и навигация, ранее считавшиеся прерогативой исключительно человеческого интеллекта.

• По поводу связи между прогнозом и интеллектом мы придерживаемся агностической точки зрения. Ни одно из наших заключений не основано на позиции, утверждающей, что достижения прогностики представляют собой интеллектуальные достижения. Мы рассматриваем последствия удешевления прогнозов, а не интеллекта.

Глава 3. Данные – это новая нефть

Хэл Вариан, ведущий экономист Google, в обращении к Роберту Гойцуэте из Coca-Cola сказал в 2013 году: «Миллиард лет назад появился современный “человек разумный”. Миллиард минут назад зародилось христианство. Миллиард секунд назад выпустили IBM PC. А миллиард поисковых запросов назад… наступило сегодняшнее утро»[32]. И Google – не единственная компания с неохватным объемом данных. Для всех, от гигантов вроде Facebook и Microsoft до местных государственных органов и стартапов, сбор данных стал проще и дешевле, чем когда-либо. Эти данные обладают ценностью. Миллиарды поисковых запросов – это миллиарды строк данных, с которыми Google совершенствует свои службы. Данные даже называют «новой нефтью».

Прогностические машины полагаются на данные. Чем их больше и чем они лучше, тем качественнее прогнозы. Выражаясь языком экономистов, данные остаются ключевым компонентом прогнозирования, их ценность растет с удешевлением прогнозов.

В ИИ данные представлены в трех ипостасях. Первая – входные данные, которые загружаются в алгоритмы и используются для прогнозирования. Вторая – обучающие данные, необходимые для создания самих алгоритмов; с их помощью ИИ учится прогнозировать в реальной среде. И наконец, существуют также данные обратной связи, призванные постепенно улучшить эффективность алгоритмов. В некоторых случаях виды данных пересекаются, например одна и та же информация выполняет все три роли.

Но сбор данных может стоить дорого, следовательно, объем капиталовложений рассчитывается исходя из компромисса между выгодой от получения дополнительных данных и затратами на них. Чтобы принять оптимальное решение по инвестированию средств в данные, необходимо понимать, как машины их используют.

Для прогностики необходимы данные

До недавнего ажиотажа вокруг ИИ возникало много шумихи по поводу большого объема данных. Их разнообразие, количество и качество заметно выросли за последние 20 лет. Изображения и тексты переводят в цифровую форму, чтобы машины могли их анализировать. Все оснащено датчиками. Такой активный интерес основан на возможности этих данных помочь людям снизить неопределенность и оставаться в курсе происходящего.

Рассмотрим улучшенные датчики сердечного ритма. Многочисленные компании и некоммерческие организации с медицинскими названиями, такие как AliveCor и Cardiio, разрабатывают продукты, использующие данные о сердечном ритме. Например, стартап Cardiogram сделал приложение для iPhone, которое получает показатели сердечного ритма от Apple Watch и выдает огромный объем информации: посекундные замеры частоты сердцебиения. Пользователи могут отслеживать, не подскакивает ли она в течение дня и повысилась или уменьшилась за год или даже за десять лет.

Изобилие данных и возможности прогностических машин открывают подобным разработкам широкие перспективы. Научные и производственные исследователи продемонстрировали, как смартфоны прогнозируют нарушения сердечного ритма («мерцательную аритмию», как говорят медики)[33]. Продукты, разрабатываемые Cardiogram, AliveCor и Cardiio с помощью прогностических машин, используют данные о сердечном ритме, необходимые для диагностики кардиологических заболеваний. Общий подход компаний заключается в том, чтобы на основе выявленных данных прогнозировать информацию о наличии у пользователя отклонений в работе сердца.

Без входных данных прогностические машины не смогут работать, поэтому их называют просто «данными», в отличие от обучающих и данных обратной связи.

Неподготовленные пользователи не улавливают в необработанных данных связи между информацией о частоте сердечных сокращений (ЧСС) и нарушением сердечного ритма. А приложение Cardiogram выявляет его с 97 %-ной точностью благодаря работе глубокой нейронной сети[34]. Отклонения в работе сердца становятся предвестниками 25 % всех инфарктов, а усовершенствования анамнеза позволят врачам вовремя назначить лечение. Для профилактики инфаркта существуют лекарства.

Но для этого потребители должны предоставить сведения о своем сердечном ритме. Машина не сможет прогнозировать риски для конкретного человека, не имея о нем необходимой информации. При наличии у прогностической машины индивидуальных данных человека она выдаст прогноз вероятности нарушений сердечного ритма.

Как машины учатся с помощью данных

Нынешнее поколение технологий ИИ не без причины называется «машинным обучением». Оно учится на данных. В только что описанном примере машина для составления прогноза нарушений сердечного ритма (и вероятности развития инфаркта) устанавливает связь между ЧСС и случаями диагностированной мерцательной аритмии. Для этого она сопоставляет входные данные Apple Watch – их статистики называют «независимыми переменными» – с информацией о нарушениях сердечного ритма («зависимой переменной»).

Чтобы обучить машину, информация о нарушениях сердечного ритма должна исходить от тех же людей, что входные данные Apple Watch. Другими словами, прогностической машине необходимы данные о большой выборке людей с нарушениями сердечного ритма наряду с полученными от них данными. Кроме того (и это важно), необходимы также аналогичные показатели большой выборки людей, не страдающих кардиологическими заболеваниями. Прогностическая машина сравнивает данные обеих групп, на основании чего выдает прогноз. И если паттерн сердечного ритма нового пациента ближе к данным «обучающей» выборки людей с нарушениями, то машина прогнозирует у него нарушение сердечного ритма.

Как и большинство медицинских приложений, Cardiogram собирает данные научных исследований с участием шести тысяч пользователей. Из них примерно у двухсот человек уже диагностировано нарушение сердечного ритма, Cardiogram остается только получить с помощью Apple Watch данные и сравнить их с предыдущими показателями.

Такие продукты продолжают совершенствовать точность прогнозов даже после выпуска. Прогностическим машинам необходимы данные обратной связи о корректности прогнозов: в данном случае это частота нарушений сердечного ритма среди пользователей продукта. Машина объединяет эти данные со входными данными кардиомониторинга и на основе полученной информации непрерывно повышает качество прогнозов.

Однако добыть обучающие данные не всегда легко. Для прогноза одной группы (в нашем случае это пациенты с риском сердечных заболеваний) необходима информация как о потенциальном риске (нарушении сердечного ритма), так и о том, что необходимо для уточнения прогноза данного прецедента в новом контексте (кардиомониторинг).

Еще сложнее, когда прогноз касается будущих событий. Вы можете предоставить прогностической машине подтвержденную информацию только на настоящий момент. Скажем, вы надумали купить билет на игры любимой команды на следующий сезон. В Торонто большинство болеет за местную хоккейную команду Maple Leafs. Вы хотите ходить только на матчи, в которых любимая команда победит, и не желаете платить за проигрышные. Вы решили, что стоит купить билет только в случае, если команда в следующем году выиграет минимум половину матчей. Но для этого вам необходимо спрогнозировать количество побед.

В хоккее выигрывает команда, загнавшая больше шайб в ворота противника. Поэтому вы предполагаете, что команда, забивающая больше голов, побеждает чаще. Вы загружаете в прогностическую машину данные за прошлые сезоны: сколько каждой команде засчитали голов, сколько она пропустила, каково количество побед каждой команды. Вам кажется, что это великолепный способ прогнозировать вероятность победы. Теперь вы собираетесь таким же образом прогнозировать количество выигрышей на следующий год.

Но ничего не выйдет, поскольку это невозможно. У вас нет информации о том, как сыграет команда в предстоящем сезоне, следовательно, вы не узнаете ничего о предстоящих спортивных победах или поражениях. У вас есть данные за прошлый сезон, но они не пригодятся, потому что вы научили машину прогнозировать по данным за текущий год.

Для вашего прогноза необходимы данные, доступные на момент прогнозирования. Возможно переучить прогностическую машину использовать забитые в прошедшем году шайбы для прогнозирования предстоящих побед. Можно добавить другую информацию, например о выигранных ранее матчах или возрасте игроков команды и качестве их игры.

Так работают многие коммерческие приложения ИИ: для создания прогностической машины берут входные данные вместе с критериями исходов, а затем используют входные данные новой ситуации для прогнозирования ее исхода. Если вы располагаете данными по исходам, то ваша прогностическая машина может непрерывно обучаться на данных обратной связи.

Решения по данным

Сбор информации нередко стоит дорого, но прогностические машины иначе работать не могут. Исходные данные необходимы для их создания, функционирования и совершенствования.

Следовательно, нужно найти решение относительно масштаба и диапазона приобретаемых данных. Сколько разных типов данных вам понадобится? Сколько различных объектов требуется для обучения? Как часто вам необходимо собирать данные? Большее число типов, объектов и частый сбор означают, что цена будет выше, но и выгода тоже увеличится. Взвешивая решение, следует тщательно продумать, что именно вы собираетесь прогнозировать. Конкретные предсказательные задачи подскажут ответ.

Программа Cardiogram разработана для прогнозирования риска развития и возникновения инфарктов. Нарушения сердечного ритма в ней использовались в качестве индикатора (подтвержденного медициной)[35]. В качестве цели установили выявление нарушений, после чего оставалось только получить данные о ЧСС пользователей. Могли также использоваться данные о сне, физической активности, родственниках, истории болезни и возрасте. После получения данной информации приложению требовался всего один прибор, точно измеряющий единственный параметр – ЧСС.

Данные были необходимы Cardiogram и для обучения – в базе состояло шесть тысяч человек, и некоторые из них страдали нарушениями сердечного ритма.

Несмотря на обилие датчиков и разнообразие потенциально доступных данных о пользователях, по большинству людей Cardiogram собирала немного информации. И доступ требовался только к данным об отклонениях сердечного ритма у людей из обучающей ИИ выборки. Таким образом, количество переменных оказалось относительно малым.

Для качественного прогноза в распоряжение машины должны быть предоставлены обучающие данные по достаточному количеству людей (или единиц анализа). Количество зависит от двух факторов: первый – стабильность «сигнала» по отношению к «шуму», второй – насколько точным должен быть прогноз, чтобы он имел смысл. Иными словами, требуемое количество людей зависит от того, считаем мы ЧСС сильным или слабым прогностическим критерием нарушений сердечного ритма, и того, насколько дорого обойдется ошибка. Если ЧСС считается сильным прогностическим критерием, а ошибки не принесут проблем, то достаточно нескольких человек. Если же это слабый критерий или любая ошибка может стоить жизни, то необходимы тысячи людей, а лучше миллионы. В предварительном исследовании Cardiogram, как мы уже говорили, использовалась выборка из шести тысяч человек, в том числе двухсот с нарушениями сердечного ритма. Впоследствии сбор дополнительной информации осуществлялся посредством обратной связи о том, диагностировано ли у пользователей нарушение сердечного ритма.

Почему именно шесть тысяч? Специалисты по обработке и анализу данных пользуются отличным инструментарием для получения необходимого объема информации с учетом желаемой надежности и степени точности прогноза. Эти инструменты называют «расчетом мощности» – они сообщают, сколько единиц требуется для проведения анализа, с тем чтобы прогноз имел смысл[36]. Очевидно, придется искать компромисс: для более точного прогноза необходимо больше анализируемых показателей, а они могут дорого стоить.

Cardiogram требует постоянного сбора данных – посекундного, – и для этого используется Apple Watch: ритм сердечных сокращений варьируется в течение дня, а для точности измерений необходим многократный анализ того, насколько измеренный показатель типичен для конкретного человека. Алгоритмы Cardiogram используют устойчивый поток данных от устройства, которое человек постоянно носит на теле, в противовес результатам отдельных измерений при посещении врача.

Сбор данных потребовал существенных вложений. Пациенты постоянно носили устройства, что не всегда удобно в повседневных действиях (особенно тем, у кого нет Apple Watch). Поскольку речь шла о здоровье, было необходимо соблюдать конфиденциальность, и Cardiogram разрабатывалась с ее учетом, что повысило расходы и снизило способности машины совершенствоваться при помощи обратной связи. Она собирала данные для прогнозов посредством приложения, а все данные хранились на устройстве.

Далее мы обсудим разницу между статистическим и экономическим подходами к количеству требуемой информации. (Вопросы конфиденциальности мы рассмотрим вместе со стратегиями в части IV.)

Экономия на масштабе

Чем больше данных, тем лучше прогноз. Но сколько их нужно? Преимущества дополнительной информации (единиц анализа, типов переменных и частоты) могут увеличиваться или уменьшаться вместе с имеющимся объемом данных. Выражаясь экономическим языком, отдача от масштаба может быть возрастающей или убывающей. С чисто статистической точки зрения у данных убывающая отдача от масштаба. Мы получаем больше ценной информации из третьего наблюдения, чем из сотого, и больше из сотого, чем из миллионного. По мере добавления наблюдений к обучающей информации они все меньше и способствуют улучшению прогноза.

Каждое наблюдение приносит дополнительные данные для обоснования прогноза. Cardiogram учитывает промежутки между ударами сердца. Говоря «у данных убывающая отдача», мы подразумеваем, что первых ста ударов достаточно для того, чтобы убедиться, есть у человека нарушения сердечного ритма или нет. Каждый последующий удар менее важен для уточнения прогноза, чем предыдущие.

Для примера рассмотрим расчет времени выхода из дома, чтобы вовремя приехать в аэропорт. Если вы там ни разу не были, первая поездка даст много полезной информации. После второй и третьей вы определите среднее время в пути. В сотый же раз вы вряд ли узнаете что-то новое. Вот что означает убывающая отдача от масштаба данных: по мере поступления дополнительных показателей данных каждый следующий раз дает меньше информации (и отдачи), чем предыдущий.

С экономической точки зрения это неверно, однако не в плане улучшения прогноза с помощью дополнительных данных. Смысл в том, что данные повышают ценность, которую вы извлекаете из прогноза. Если прогноз и исход совпадают, то убывающая отдача от наблюдений статистически подразумевает убывающую отдачу в отношении интересующих вас итогов. Но иногда прогноз и исход различаются.

К примеру, у пользователей есть выбор: брать продукт вашего или какого-то другого производства. И ваш они выберут только в том случае, если он так же хорош или лучше, чем у конкурента. При условии постоянной доступности данных все продукты будут одинаково хороши. Например, большинство поисковых машин на одинаковые запросы выдает похожие результаты. И в Google, и в Bing на запрос «Джастин Бибер» вы получите одно и то же.

Ценность поисковой машины зависит от ее способности выдать лучший результат на необычные запросы. Попробуйте набрать в строке поиска Google или Bing слово «подрыв» (disruption). На момент, когда мы пишем эти строки, Google показал словарное определение и ссылки на упоминания подрывных инноваций профессора Гарвардской школы бизнеса Клея Кристенсена. В первых девяти результатах Bing содержались словарные определения. Результаты Google были лучше, потому что для предположения о том, что именно ищет пользователь с необычным запросом, требуются данные о таких пользователях. Большинство людей пользуется Google и для обычных, и для непростых запросов. Даже небольшие преимущества поисковой машины могут увеличить долю рынка и доход.

Итак, с технической позиции у данных убывающая отдача от масштаба – миллиардный поиск менее полезен для улучшения поисковой машины, чем первый, – но с точки зрения бизнеса данные обладают огромной ценностью, если у вас их больше и они лучше, чем у конкурента. Некоторые утверждают, что данные об уникальных факторах приносят несоразмерно большие преимущества на рынке[37]. И увеличение объема данных приводит к такому же результату. Следовательно, с экономической точки зрения в обоих случаях для данных характерна прибывающая отдача от масштаба.

Выводы

• Прогностические машины используют три типа данных:

• обучающие данные для ИИ;

• входные данные для прогнозирования;

• данные обратной связи для повышения точности прогноза.

• Сбор данных требует затрат – вложения. Его размер зависит от того, сколько данных вам необходимо и чем осложнен процесс сбора. Крайне важно уравновесить издержки на приобретение данных с выгодой от повышенной точности прогноза. Для определения оптимального подхода требуется оценить окупаемость затрат для каждого типа данных: сколько нужно вложить для сбора и насколько ценным окажется повышение точности соответствующих прогнозов?

• Увеличение ценности с поступлением дополнительных данных зависит от статистических и экономических причин. С точки зрения статистики у данных – убывающая отдача. Каждая следующая порция данных улучшает прогноз меньше, чем предыдущая; десятое наблюдение более существенно для прогноза, чем тысячное. С точки зрения экономики все не так однозначно. Добавление данных к существующему большому объему может быть эффективнее, чем к маленькому, – например, если дополнительные данные делают прогностическую машину пригодной к использованию, повышают ее продуктивность или позволяют обойти конкурента. Таким образом, организация должна понимать взаимосвязь между добавлением данных, повышением точности прогнозов и увеличением ценности.

Глава 4. Новое разделение труда

Каждое изменение в электронном документе можно зафиксировать. Для большинства людей это просто более удобный способ отслеживать правки, но Рон Глозман увидел в нем возможность применять ИИ к данным для прогнозирования редактирования. В 2015 году Глозман запустил стартап Chisel, и его первый продукт прогнозировал конфиденциальную информацию в юридических документах. Продукт представляет ценность для юридических компаний, потому что при разглашении документов они обязаны скрывать информацию такого рода. Раньше редактировали вручную, люди вычитывали и исправляли тексты документов. Предложение Глозмана позволяло сэкономить время и силы.

Машинное редактирование работало, но не идеально. Бывало, что машина по ошибке скрывала информацию, подлежащую разглашению, или пропускала конфиденциальную. Для соответствия юридическим стандартам требовалась проверка исправленного текста человеком. На тестовом этапе Chisel предлагала фрагменты для редактирования, и человек подтверждал или опровергал предложение. На практике такая совместная работа экономила много времени, а ошибок оказывалось меньше, чем если бы редактирование осуществлялось только человеком.

Разделение труда между человеком и компьютером оказалось эффективным, потому что устранило недостатки работы читающего – низкую скорость и недостаточную внимательность – и ошибки машинной интерпретации текста.

Ошибаются и люди, и машины. Не зная типичных неточностей, мы не понимаем, как объединить их для прогнозирования. Зачем? Согласно идее разделения труда, существующей еще с XVIII века, со времен экономики Адама Смита[38], – роли распределяются в соответствии со способностями. В нашем случае с целью прогнозирования разделение труда должно произойти между человеком и машиной. Для этого необходимо разобраться, какие обязанности лучше выполняют люди, а какие – компьютеры. Таким образом мы определим отдельные роли.

Слабые стороны человека в прогнозировании

В известном психологическом эксперименте испытуемому показывали случайную последовательность Х и О и просили ее продолжить. Например, такую:

OXXOXOXOXOXXOOXXOXOXXXOXX

Почти все сразу замечают, что Х здесь больше, чем О, – если подсчитать, получится 60 % Х и 40 % О. Поэтому чаще выбирают Х и иногда разбавляют О. Однако для повышения шансов на точный прогноз нужно всегда выбирать Х. Тогда ответ окажется верным в 60 % случаев. Если рандомизировать 60/40 (как это делают большинство испытуемых), прогноз окажется верным только в 52 % случаев. И это немногим лучше, чем выбирать, вообще не задумываясь о соотношении Х и О, а просто угадывать (с вероятностью 50/50)[39].

Из подобных экспериментов напрашивается вывод, что из людей получаются плохие статистики даже в ситуации, когда они способны оценить вероятности. Такую ошибку не сделала бы ни одна прогностическая машина. Но люди, вероятно, не относятся к подобным задачам ответственно, для них это просто игра. Допускали бы они такие ошибки, если последствия были бы серьезнее, чем в игре?

Ответ на этот вопрос подтвержден психологами Дэниелом Канеманом и Амосом Тверски в многочисленных экспериментах: несомненно «да»[40]. Они предлагали людям решить задачу про две больницы: если в одной рождается 45 младенцев в день, а в другой 15, то в какой из них будет больше дней, когда 60 % новорожденных или более окажутся мальчиками? Верный ответ давали очень немногие – в маленькой. Он правильный, потому что чем больше количество событий (в данном случае рождений), тем выше вероятность, что итог каждого дня будет ближе к среднему (в данном случае к 50 %). Попробуем понять почему: представьте, что вы подбрасываете монетку. Вероятность выпадения нескольких орлов подряд выше, если подбросить монетку пять, а не пятьдесят раз. Таким образом, в маленькой больнице – потому что там рождается меньше младенцев – вероятность отклонений от среднего значения выше.

О подобных эвристических опытах и отклонениях написано немало книг[41]. Большинство людей не умеют составлять прогноз на основе статистических правил, поэтому нанимают специалистов. Но и те, к сожалению, не всегда могут избежать таких же отклонений и сложностей со статистикой во время принятия решений. Отклонениями заражены разнообразные сферы, такие как медицина, право, спорт и бизнес. Тверски вместе с исследователями Гарвардской школы медицины описывал медикам два вида лечения рака легких: лучевую терапию и операцию. На основании показателей выживаемости за пять лет он рекомендовал операцию. Для двух групп участников информацию о краткосрочной выживаемости после операции – более рискованного варианта, чем лучевая терапия, – сформулировали по-разному. Исходя из формулировки «в течение месяца выжили 90 % пациентов», операцию предпочли 84 % врачей, а когда данные перефразировали: «в первый месяц смертность составляет 10 %» – уже всего 50 %. Суть обоих вариантов одна и та же, а на решение влияла исключительно формулировка. Машина не учитывала бы ее.

Дэниел Канеман обнаружил множество ситуаций, когда специалисты не способны дать качественный прогноз на основе сложной информации. Опытные рентгенологи в оценке снимков в одном случае из пяти противоречили сами себе. Аудиторы, врачи клинической лабораторной диагностики, психологи и менеджеры демонстрировали такую же непоследовательность.

Канеман пришел к выводу: если для прогноза вместо человека возможно использовать формулу, так и следует поступать.

Низкое качество экспертных прогнозов стало темой книги Майкла Льюиса Moneyball[42]. Бейсбольная команда Oakland Athletics оказалась в затруднении после ухода трех лучших игроков, поскольку не располагала средствами приобрести новых. Ее менеджер Билли Бин (в фильме «Человек, который изменил всё» роль Бина исполнил Брэд Питт) для прогноза эффективности игроков использует статистическую систему Билла Джеймса. Билли и его аналитики махнули рукой на рекомендации скаутов и собрали собственную команду с помощью саберметрики[43]. Несмотря на скромный бюджет, команда обошла соперников и дошла до игр Мировой серии 2002 года. Суть новой системы заключалась в смене приоритетных критериев – вместо таких показателей, как кражи базы, средний уровень, баттинг[44], учитывались другие, в том числе эффективность на базе и процент сильных ударов. Заодно удалось исключить иногда совершенно непостижимую логику скаутов. Один из них в фильме обронил: «Его подружка – уродина. Значит, у него низкая самооценка». В свете подобных алгоритмов принятия решений неудивительно, что основанные на данных прогнозы в бейсболе взяли верх над человеческими.

Новые показатели учитывали вклад игрока в эффективность команды в целом. Прогностическая машина позволила подобрать в Oakland Athletics игроков с более низкими показателями по традиционной шкале оценки и, следовательно, более высокой ценностью из расчета отношения стоимости к повышению продуктивности команды. Без прогностики на их качества никто не обратил бы внимания. Oakland Athletics сыграли на отклонениях в свою пользу[45].

Явственное представление о проблемах с прогнозами, которые делают люди, даже если это опытные и маститые специалисты, дает исследование решений о выдаче под залог в судах США[46]. Ежегодно там принимается 10 млн таких решений – с последствиями для семьи, работы и других сфер жизни, не говоря уже о государственных расходах на тюремное содержание. Судья в своем решении должен исходить из того, не сбежит ли обвиняемый и не совершит ли другие преступления, будучи отпущенным под залог, а не из вероятности признания его виновным. Критерии ясные и четко описаны.

В исследовании использовали машинное обучение для разработки алгоритмов, прогнозирующих вероятность того, что данный обвиняемый совершит побег или снова нарушит закон, если его выпустить под залог. Обучающих данных было предостаточно: 750 тыс. человек, отпущенных под залог в Нью-Йорке с 2008 по 2013 год. В алгоритмы также включили список предыдущих правонарушений, предъявленные обвинения и демографические сведения.

Машинный прогноз оказался точнее человеческого. Например, согласно прогнозу, из 1 % обвиняемых, причисленных машиной к самым опасным, 62 % совершат преступление, будучи отпущенными под залог. Судьи же (у которых не было доступа к прогнозам машины) выпустили почти половину из них. Прогноз оказался почти идеальным – 63 % обвиняемых действительно совершили повторные преступления, а половина из них не явилась на следующее заседание суда. Из них 5 % совершили изнасилования и убийства.

Если бы судьи последовали рекомендациям машины, то могли бы отпустить то же количество обвиняемых и снизить показатель преступности среди выпущенных под залог на 75 %. Или сохранить показатели преступности и посадить за решетку вдвое меньше обвиняемых[47].

В чем же дело? Почему прогноз судей так заметно расходится с машинным? Одна из причин, возможно, в том, что судьи пользуются недоступной алгоритмам информацией, скажем, внешностью и поведением обвиняемых в суде. Она бывает полезной, но может и вводить в заблуждение. С учетом высоких показателей совершения преступлений выпущенными под залог разумно заключить, что последнее более вероятно; прогнозы судей никуда не годятся. В исследовании достаточно и других подтверждений данного неутешительного вывода.

Прогностика в такой ситуации представляет сложность для человека из-за неоднозначных факторов, влияющих на показатели преступности. Прогностические машины гораздо лучше людей определяют факторы сложных взаимодействий отдельных показателей.

Получается, когда вы уверены, что прошлые преступления обвиняемого повышают риск побега, машина подсчитывает, что это произойдет только в случае, скажем, если он не сможет найти работу в течение определенного периода. Иными словами, эффект взаимодействия может быть важнее, а поскольку многоплановость таких взаимодействий возрастает, способность человека к составлению точных прогнозов снижается.

Отклонения не просто проявляются время от времени в медицине, бейсболе и суде, это неотъемлемая часть любой профессиональной деятельности. Специалисты обнаружили, что и менеджеры, и рабочие прогнозируют часто – причем с полной уверенностью, – не догадываясь, что их предположения несостоятельны. Занимаясь исследованием 15 агентств по найму неквалифицированных рабочих, экономисты Митчелл Хоффман, Лиза Кан и Даниэль Ли обнаружили: когда решения по найму принимались на основании объективного проверяемого теста и обычного собеседования, стаж работы на следующем месте был выше на 15 %, чем в результате одного только собеседования[48]. А перед менеджерами при этом стояла задача по увеличению стажа.

Достаточно объемный тест включал вопросы на проверку когнитивных способностей и соответствие обязанностям. А после того как свободу действий менеджеров ограничили – запретили аннулировать баллы при неудовлетворительных результатах теста, – стаж дополнительно вырос и доля увольнений по собственному желанию снизилась. Итак, даже с учетом поставленной задачи по увеличению продолжительности стажа и при наличии весьма точных машинных прогнозов менеджеры все же умудрялись делать неверные предположения.

Слабые стороны машин в прогнозировании

Бывший министр обороны Дональд Рамсфелд однажды сказал:

«Есть известные известные – вещи, в знании которых мы уверены. Еще есть известные неизвестные – когда мы знаем, что есть кое-что, чего мы не знаем. Но есть еще и неизвестные неизвестные – мы их не знаем и не подозреваем об их существовании. Если посмотреть на историю нашей страны и других свободных государств, самой сложной является последняя категория»[49].

Это обеспечивает удобную структуру понимания условий, на которых «спотыкаются» прогностические машины. Первое: «известные известные» – это наличие большого объема данных, когда есть уверенность в правильности прогноза. Второе: «известные неизвестные» – когда данных мало и очевидно, что сделать прогноз будет сложно. Третье: «неизвестные неизвестные» – события, не знакомые по опыту или не имеющиеся в данных и тем не менее вероятные, поэтому прогнозировать их трудно, хотя мы можем об этом не подозревать. И наконец, не упомянутая Рамсфелдом категория – «неизвестные известные»: когда подтвержденный в прошлом опыт представляет собой результат неизвестного или ненаблюдаемого фактора, изменяющегося со временем, из-за чего прогноз становится ненадежным. Прогностические машины ошибаются именно в тех случаях, когда не могут исходить из хорошо известных рамок статистики.

Известные известные

С достаточным объемом данных машинный прогноз чаще всего верен. Машине известна ситуация, она выдает качественный прогноз, и мы убеждаемся в этом. Вот что составляет зону комфорта нынешнего поколения машинного интеллекта: выявление мошенничества, медицинская диагностика, бейсбол и решения по выпуску осужденных под залог – все попадает в эту категорию.

Известные неизвестные

Даже лучшие на сегодня (и ближайшее будущее) прогностические модели требуют огромного количества данных. Следовательно, в случаях, когда их не хватает, точность прогноза соответственно понизится. Мы знаем, чего мы не знаем: известные неизвестные.

Недостаток данных обычно сопутствует достаточно редко происходящим событиям, поэтому их прогнозировать сложно. Президентские выборы в США проводятся только раз в четыре года, а кандидаты и политическая обстановка всегда разные. Предугадать итоги президентских выборов на несколько лет вперед практически невозможно. Как показали выборы 2016 года, трудно предположить итоги даже недели или хотя бы одного дня. Крупные землетрясения тоже достаточно редки (к счастью), и прогнозировать, когда они произойдут, где и с какой интенсивностью, пока нереально (но сейсмологи работают над этим)[50].

В отличие от машин, людям иногда отлично удаются прогнозы на основе ограниченного объема данных. Мы опознаём лица, даже если видели их лишь пару раз и в другом ракурсе. Сорок лет спустя мы узнаём одноклассника, с которым учились в четвертом классе, как бы он ни изменился внешне. С ранних лет мы угадываем траекторию полета мяча (даже если у нас еще недостаточно развита координация, чтобы его поймать). Мы легко проводим аналогии, усмотрев схожие с прошлым опытом обстоятельства в новой ситуации. Например, ученые в течение нескольких десятилетий представляли атом как миниатюрную солнечную систему, и во многих школах его до сих пор так и описывают[51].

IT-специалисты стараются снизить потребность машин в данных и разрабатывают такие методы, как «обучение на одном примере», в которых машины учатся прогнозировать объекты, увидев их единожды, но полный успех пока не достигнут[52]. Поскольку люди пока лучше умеют прогнозировать на основе известных неизвестных, можно запрограммировать машины так, чтобы в подобных ситуациях они призывали человека на помощь.

Неизвестные неизвестные

Чтобы машина выдала прогноз, ей необходимо указать, что именно следует прогнозировать. Если какое-то событие не происходило никогда, машина не сможет с ним работать (во всяком случае, без предоставления человеком сформулированного суждения с адекватной аналогией, позволяющей сделать прогноз с использованием информации о других событиях).

В книге «Черный лебедь»[53] Нассим Николас Талеб подчеркивает значение неизвестных неизвестных[54]. Он утверждает, что мы не можем на основе прошлого опыта прогнозировать то, чего в нем не было. Название книги навеяно открытием в Австралии нового вида лебедей, совершенным европейцами. В XVIII веке в Европе считалось, что лебеди бывают только белыми. Прибыв в Австралию, европейцы увидели нечто совершенно новое и неожиданное: черных лебедей. Никто их раньше не видел и поэтому не имел оснований предполагать, что они существуют[55].

Талеб считает, что появление неизвестных неизвестных приводит к серьезным последствиям – в отличие от черных лебедей, которые не повлияли на общество Европы и Австралии.

Возьмем, к примеру, расцвет музыкальной индустрии в 1990-х[56]. Продажи компакт-дисков увеличивались, доход стабильно рос. Будущее выглядело оптимистично. Но в 1999 году восемнадцатилетний Шон Фэннинг придумал Napster – программу, позволяющую людям бесплатно обмениваться музыкальными файлами в интернете. Вскоре были загружены миллионы таких файлов, и доходы от продажи дисков начали снижаться. Индустрия до сих пор не оправилась от этого краха.

Фэннинг стал неизвестной неизвестной, машины не смогли бы прогнозировать его появление. Стоит согласиться с мнением Талеба и многих других – людям тоже плохо дается прогноз неизвестных неизвестных. Перед ними пасуют и люди, и машины.

Неизвестные известные

Возможно, самый большой недостаток прогностических машин заключается в неверных прогнозах, причем обоснованных. Как мы уже обсудили, в случае известных неизвестных люди предполагают неточности в прогнозе: он выдается с доверительным интервалом, из чего следует вероятность погрешностей. О неизвестных неизвестных люди ничего не знают. При наличии же неизвестных известных прогностическая машина выдает точный прогноз, но он может быть очень далек от истины.

Почему так получается? Дело в следующем: хотя решения и выносят исходя из данных, но и данные иногда получают посредством решений. Если машина не понимает процесса принятия решений для получения данных, то ее прогноз неточен. К примеру, вы хотите прогнозировать, будете ли использовать прогностическую машину в своей организации. Считайте, что она у вас уже есть. Если вы читаете эту книгу, то почти наверняка обзаведетесь прогностической машиной.

Вы так поступите по меньшей мере по трем причинам. Первая и самая непосредственная – изложенные в книге идеи покажутся многообещающими: читая, вы больше узнаете о прогностических машинах и, следовательно, захотите повысить с их помощью эффективность своего бизнеса.

Вторая причина называется «обратной причинностью». Вы читаете эту книгу потому, что у вас уже есть прогностическая машина или вы собираетесь в скором времени приобрести ее. Не книга привела к применению технологий, а применение технологий (в настоящее время), наоборот, привело к чтению книги.

Третья причина называется «пропущенной переменной». Вы интересуетесь техническими новинками и занимаете руководящую позицию, поэтому решили прочитать книгу. В работе вы применяете новые технологии, в том числе прогностические машины. В этом случае ваша склонность к технологиям и управлению становится причиной и чтения книги, и использования прогностических машин.

Причина не всегда существенна. Если нужно знать, воспользуется ли читатель прогностическими машинами, то неважно, что будет причиной, а что – следствием. Если вы видите человека, читающего эту книгу, можете обоснованно прогнозировать, что он внедрит прогностические машины в свой рабочий процесс.

Но иногда причина все же имеет значение. Вы порекомендуете эту книгу друзьям в случае, если благодаря ей повысите свое мастерство в качестве менеджера в сфере прогностических машин. Что вы хотели бы узнать? Сначала вы прочитаете книгу. Затем попробуете заглянуть в будущее и посмотреть, насколько хорошо пойдет работа с ИИ. Предположим, вы увидели радужные перспективы и замечательно преуспели на поприще прогностических машин: они играют главную роль в вашей организации, и вы добились больших успехов, чем в самых смелых мечтах. Можно ли сказать, что книга привела вас к этому?

Нет.

Если вы хотите убедиться в том, что такое влияние оказала именно книга, необходимо знать, что случилось бы, если бы вы ее не читали. Но таких данных у вас нет. Следует рассмотреть «отсутствие вмешательства», как говорят экономисты и статистики: что произошло бы, если бы вы предприняли иные действия. Для утверждения, что действие служит причиной результата, требуется два прогноза: первый – что будет, если предпринять это действие, и второй – что будет, если предпринять другое действие. Но это невозможно. У вас никогда не появится данных о последствиях того, чего вы не делали[57].

Это хроническая проблема прогностических машин. В книге Deep Thinking Гарри Каспаров обсуждает похожие проблемы первых алгоритмов машинного обучения в шахматах: «В начале 1980-х Мичи с коллегами написали экспериментальную шахматную программу машинного обучения, основанную на данных. Результат оказался очень забавным. Они загрузили в машину сотни тысяч позиций гроссмейстерских игр в надежде, что она разберется, какие ходы удачные и какие нет. Сначала вроде бы все получалось. Анализ позиций был точнее, чем у других программ. Проблемы начались, когда машина начала сама играть в шахматы. Она сделала несколько ходов, пошла в атаку и сразу же пожертвовала ферзем! Через пару ходов она проиграла, отдав ферзя без всякой причины. Почему? Когда гроссмейстер жертвует ферзем, обычно это ловкое и продуманное решение. Обучаясь на одних только гроссмейстерских играх, машина сделала вывод, что выигрывает тот, кто остается без ферзя!»[58]

Машина неверно истолковала причинно-следственную связь. Не понимая, что гроссмейстер жертвует ферзем только в случае, если это прямой и верный путь к победе, она сделала вывод, что игрок побеждает вскоре после того, как отдаст ферзя, то есть ошибочно связала потерю шахматной фигуры и победу. Данную проблему прогностические машины решили, но обратная причинность остается слабым местом этих технологий.

В бизнесе такие задачи тоже встречаются. В большинстве сфер низким ценам сопутствует падение продаж. Например, в гостиничном бизнесе в несезонное время цены снижаются, но вырастают, когда спрос большой и отели переполнены. На основании таких данных машина может наивно предположить, что если поднять цены, то повысится спрос. Человек – хотя бы с минимальными познаниями в экономике – понимает, что рост цен служит следствием повышения спроса, а не наоборот. То есть, если поднять цены, продажи не вырастут.

Человек может предоставить машине верные данные (например, предложения индивидуального комфорта гостиничного номера исходя из цены) и соответствующие модели (с учетом сезонного спроса, а также других требований и предложений), чтобы лучше прогнозировать продажи по различным ценам. Для машины это неизвестные известные, но человек, разбирающийся в ценообразовании, воспринимает их как известные неизвестные или даже известные известные, если способен принимать решения по ценам самостоятельно.

Проблема с неизвестными известными и причинно-следственная зависимость становятся еще важнее в присутствии стратегического поведения других людей. Поиск Google работает по секретным алгоритмам. Они создаются с помощью прогностических машин, прогнозирующих, на какую ссылку пользователь нажмет с наибольшей вероятностью. Для администратора веб-сайта высокое ранжирование означает больше посетителей и продаж. Большинство администраторов знают об этом и делают оптимизацию в поисковых системах: стараются повысить рейтинг сайта в результатах поиска Google. Оптимизация, как правило, заключается в построении обходных путей существующих алгоритмов, в результате чего со временем поисковая машина замусоривается спамом и неинтересными пользователю ссылками.

Прогностические машины великолепно выполняют краткосрочные задачи – прогнозируют, на какую ссылку нажмут пользователи. Но через недели и месяцы обмануть систему ухитряется так много администраторов, что Google приходится постоянно обновлять прогностическую модель. Такое «перетягивание каната» между поисковой машиной и спамерами обусловлено возможностью обмануть прогностическую машину. Google пыталась разработать систему, в которой это было бы невыгодно, и попутно обнаружила, что полностью полагаться на прогностические машины неразумно. По этой причине Google начала использовать человеческие суждения для реоптимизации от подобного спама[59]. Instagram тоже постоянно борется со спамерами и возмутительной информацией обновлением алгоритмов для их отсева[60]. Вообще, как только эту проблему осознали, она перестала быть неизвестной известной: люди находят решение для улучшения прогноза, чтобы проблема стала известной известной, иногда требующей совместной работы человека и машины, либо не могут найти решения, и тогда проблема переходит в разряд известной неизвестной.

Возможности прогностических машин огромны, но не беспредельны. Они не очень хорошо работают с ограниченным объемом данных.

Квалифицированные специалисты способны разглядеть причину затруднений машины, будь то недостаток событий или причинно-следственные проблемы, и улучшить прогнозы. Но для этого нужно разбираться в IT очень хорошо.

Улучшенный прогноз совместными усилиями

Иногда в результате сотрудничества людей и машин, компенсирующего слабые стороны друг друга, получаются более точные прогнозы. В 2016 году команда исследователей ИИ из Гарварда и Массачусетского технологического института получила главный приз в конкурсе Camelyon Grand Challenge за компьютерную диагностику метастатического рака молочной железы по слайдам биопсии. Алгоритм глубокого обучения выдавал верный прогноз в 92,5 % случаев, а врач клинической лабораторной диагностики – в 96,6 %. Казалось бы, человек победил, но исследователи пошли дальше и объединили прогнозы алгоритма и врача. В результате точность повысилась до 99,5 %[61]. Процент ошибок человека таким образом упал с 3,4 до 0,5 %, то есть на 85 %.

Это классическое разделение труда, но не физического, описанного Адамом Смитом, а когнитивного, о котором экономист и первооткрыватель компьютеров Чарльз Бэббидж писал в XIX веке: «Разделение труда, как механического, так и мыслительного, позволяет осваивать и применять точно такой объем знаний и навыков, который для него требуется»[62].

Людям и машинам лучше всего удаются разные аспекты прогнозов. Врач редко ошибается, диагностируя рак. С другой стороны, ИИ точнее определяет отсутствие онкологического заболевания, то есть человек и машина совершают разные типы ошибок. Различие в способностях учли при их объединении с прогностической целью, человек и машина компенсировали недостатки друг друга, и в результате процент ошибок существенно снизился.

Как такое сотрудничество применимо в сфере бизнеса? Машинный прогноз может повысить прогностическую эффективность человека двумя способами. Первый – машинный прогноз проверяет человек и сравнивает со своей оценкой. Второй способ предполагает проверку человеческого прогноза машинным, для контроля над решениями людей. Таким образом, начальник будет уверен, что сотрудник старается составить качественный прогноз. Если же его не контролировать, он не всегда будет прилагать максимальные усилия. Теоретически человек, который должен обосновать, почему его предположения отличаются от прогноза беспристрастных алгоритмов, возьмет над машиной верх только в случае, если приложит достаточно усилий, чтобы быть уверенным в своем прогнозе.

Отличная сфера для проверки совместной работы – прогноз платежеспособности заемщиков. Ученые-экономисты профессор Дэниел Паравизини и Антуанетта Шоар после введений новой системы рейтинга кредитоспособности проверяли оценку центрального банка Колумбии в отношении подавших заявку на кредит на организацию малого бизнеса[63]. В компьютерную систему ввели разнообразную информацию о заявителях, и она выдала оценку предполагаемого риска. Затем сотрудники кредитного комитета банка сопоставляли эти результаты с собственными предположениями и одобряли, отказывали или передавали заявку региональному руководству.

Порядок рассмотрения машинного прогноза до или после вынесения решения определялся не распоряжением менеджеров, а рандомизированным контролируемым испытанием. Таким образом можно было научно обосновать влияние рейтинга на принятие решения. Одной группе сотрудников его сообщили непосредственно перед их встречей для вынесения решения (аналогично первому способу сотрудничества людей и машин, в котором люди выносят решения на основании машинного прогноза). Другой группе о рейтинге не говорили, пока они не закончили работу над собственным анализом (пример второго способа, в котором прогноз помогает следить за качеством решений, принятых людьми; разница между способами состоит в том, как люди принимают собственное решение – на основании прогноза или без него).

Рейтинг принес пользу в обоих случаях, но все же она оказалась гораздо большей, когда информацию предоставляли заранее. Комитет выносил оптимальные решения и обращался за помощью к руководству реже, благодаря прогнозу сотрудники располагали достаточно полным объемом информации.

У второй группы, участникам которой рейтинг сообщали после того, как они дадут свою оценку, тоже улучшилось качество принятых решений, потому что прогнозы помогли руководству контролировать их работу. У сотрудников появился стимул стремиться к высокому качеству решений.

В прогностической паре «человек – машина» для улучшения прогнозов требуется понимание пределов возможностей обоих. В примере с заявками на кредит люди склонны к смещенным прогнозам или прилагают недостаточные усилия. Машинам же может не хватать информации. В коллективах часто делается упор на командную работу и сплоченность, но работа машины и человека бок о бок пока непривычна. Чтобы людям удалось улучшить качество прогнозов машин и наоборот, важно знать слабые стороны тех и других и строить их совместную работу таким образом, чтобы они компенсировали недостатки друг друга.

Прогноз исключений

Одно из основных преимуществ прогностических машин заключается в возможности экономии на масштабе. Минус же их – в том, что они не умеют прогнозировать необычные ситуации с недостаточным количеством прецедентов. Если сложить то и другое, получается, что сотрудничество людей и машин оптимально для «прогноза исключений».

Как мы уже говорили, прогностические машины учатся на больших объемах данных, накопленных для привычных, часто встречающихся ситуаций, и в таких случаях они не требуют участия человека. Но как только появляются исключения – нестандартные ситуации, – подключаются люди и вносят свой вклад в качество и точность прогноза. Пример с кредитным комитетом центрального банка Колумбии как раз и есть такой «прогноз исключений».

Это название происходит от метода «управление исключениями». В прогностике человек во многих смыслах становится руководителем машины. У него много сложных задач; для экономии времени нужно наладить работу машины так, чтобы она требовала внимания только в случае необходимости. Если непосредственно контактировать с машиной можно нечасто, значит, один человек без затруднений использует ее преимущества для рутинных прогнозов.

На прогнозе исключений основан первый продукт Chisel (его мы упоминали в начале главы): он использовался для распознавания конфиденциальной информации, подлежащей редактированию в документах. Необходимость в трудоемкой процедуре возникает во многих юридических ситуациях, когда документ оглашается третьим сторонам или публично при условии частичного сокрытия информации.

Для первичной обработки текста в редакторе Chisel применялся прогноз исключений, когда пользователь может выбирать усиленный или легкий режим[64]. В усиленном режиме порог предполагаемой для скрытия информации выше, чем в легком. Например, если вы беспокоитесь, что редактор пропустит конфиденциальную информацию, то выбираете усиленный режим, а если нужно раскрыть максимум информации – настраиваете слабый. У Chisel удобный для просмотра и подтверждения результатов интерфейс. Иными словами, машинная редакция выдавала скорее рекомендательный, чем окончательный вариант. Последнее слово оставалось за человеком.

В продукте Chisel предпринята попытка преодолеть недостатки человека и машины с помощью их сотрудничества. Машина работает быстрее и обеспечивает логичный подход, а человек вмешивается, если у нее недостаточно данных для составления точного прогноза.

Выводы

• Люди, в том числе профессионалы в какой-либо области, в определенных условиях неспособны давать точный прогноз. Они часто переоценивают очевидное и не учитывают статистические свойства. Эти несовершенства подтверждены многочисленными научными исследованиями; на них построен сюжет художественного фильма «Человек, который изменил все».

• В прогностике машины и человека есть свои сильные и слабые стороны. Машины постоянно совершенствуются, что требует изменений в сфере разделения труда. Прогностические машины лучше людей анализируют сложные взаимодействия между разными признаками, особенно при наличии большого объема данных. Поскольку многоплановость таких взаимодействий возрастает, способность человека к составлению точных прогнозов снижается по сравнению с машинами. Однако человек превосходит их в случаях, когда понимание происхождения данных дает прогностическое преимущество, особенно при скудном объеме данных. Мы классифицировали условия прогноза (известные известные, известные неизвестные, неизвестные известные и неизвестные неизвестные) для удобства выбора подходящей схемы разделения труда.

• Прогностические машины позволяют экономить на масштабе. Цена за единицу прогноза падает с повышением частоты прогнозов. С человеческими прогнозами все по-другому. Однако люди придерживаются когнитивной модели всего происходящего в мире и поэтому могут делать прогнозы исходя из ограниченного объема данных. Это предвещает распространение «человеческого прогноза исключений», поскольку прогнозы машин по большей части основаны на рутинных данных о регулярно повторяющихся событиях, а в нетипичных ситуациях машина не способна на точный прогноз – и тогда ей требуется помощь человека. Человек обеспечивает прогноз исключений.

Часть II. Принятие решений

Глава 5. Анализ решений

Под принятием решений обычно подразумевают нечто важное: покупать ли дом, куда пойти учиться, вступать ли в брак. Несомненно, что такие шаги играют в жизни важную роль, но раздумывать над ними приходится нечасто.

Мы постоянно совершаем менее значимый выбор: остаться ли сидеть в кресле, продолжать ли идти вперед по улице, оплачивать ли ежемесячный счет. Как утверждала популярная канадская группа Rush в гимне свободе воли, «если отказываешься принимать решения, это тоже решение». Большинство мелких решений принимаются автоматически, как правило, по умолчанию, чтобы сохранить ресурсы для важного выбора. При этом решить ничего не решать – тоже решение.

Принятие решений лежит в основе любой деятельности. Школьные учителя решают, как учить детей, каждый из которых обладает собственной индивидуальностью. Менеджеры решают, кого нанимать в команду и кого повышать. Работники жилищно-эксплуатационных контор решают, как поступать в случае протечки канализации или угрозы безопасности жильцов дома. Водители грузовиков решают, что делать, если перекрыта трасса или произошло ДТП. Полицейские выбирают, как действовать по отношению к подозрительным личностям или при поступлении сигнала об опасности. Врачи решают, какое лекарство прописать, когда и как его назначать, какие необходимы медицинские обследования. Родители решают, сколько часов в день дети могут проводить за компьютером.

Такие решения, как правило, приходится принимать в условиях неопределенности. Учитель не знает наверняка, станет конкретный ребенок учиться лучше по одной или другой методике. Менеджер не уверен, насколько хорошо будет работать нанятый им сотрудник. Доктор неточно знает, необходимо ли дорогостоящее обследование. Все люди вынуждены прогнозировать.

Но прогноз – не решение. Чтобы принять решение, следует вынести суждение о прогнозе последующих действий. До недавнего прогресса машинного интеллекта данное разделение этапов интересовало только ученых, потому что люди всегда прогнозировали и судили одновременно, но сегодня развитие машинного прогнозирования привело нас к необходимости выяснить анатомию решений.

Анатомия решений

Влияние прогностических машин ощутимее всего на уровне решений. Но у них еще шесть ключевых составляющих (рис. 5.1). Когда кто-то (или что-то) принимает решение, то использует входные данные из окружающей обстановки, позволяющие сделать прогноз. Этот прогноз стал возможным вследствие обучения, из которого известно об отношениях между разными типами данных и о том, какой из них ближе всего к рассматриваемой ситуации. Объединив суждение о ней с прогнозом, принимающий решение выбирает действие. Оно ведет к результату (положительному или отрицательному). Результат есть следствие решения, он необходим для завершения картины. Также результат дает обратную связь, полезную для улучшения последующих решений.

Рис. 5.1. Анатомия решений

Представьте, что у вас заболела нога и вы пошли к врачу. Он осмотрел вас, сделал рентген, взял анализ крови, задал несколько вопросов – собрал входные данные. С их учетом, а также опираясь на полученные во время обучения знания и опыт лечения пациентов с похожими симптомами (обучающие данные и данные обратной связи), врач делает прогноз: «Скорее всего, у вас мышечные судороги, хотя есть и небольшая вероятность тромба».

Суждение осуществляется одновременно с анализом. Врач принимает во внимание и другие данные (в том числе интуицию и опыт). Если предположить мышечные судороги, то для выздоровления вам нужен покой. Если же симптомы указывают на тромбоз, необходимо другое лекарство без долговременных побочных эффектов, но у большинства пациентов его прием сопровождается незначительным недомоганием. Если врач ошибется и предложит лечить мышечные судороги лекарством от тромбоза, то вы зря пострадаете от несущественных побочных эффектов. Если же у вас тромб, а доктор пропишет вам отдых, вас могут ждать более серьезные последствия вплоть до фатальных. В суждении сопоставляются положительные и отрицательные стороны всех возможных результатов, являющихся следствием как верных, так и ошибочных решений (в данном случае это исцеление, побочные эффекты и серьезные осложнения). Определение положительных и отрицательных сторон всех возможных результатов необходимо, чтобы выбрать между медикаментозным лечением (которое принесет временный дискомфорт, зато снизит риск серьезных осложнений) и покоем.

Применив суждение к прогнозу, врач решает, вероятно с учетом вашего возраста и исходя из возможных рисков, назначить вам покой для лечения мышечной судороги, несмотря на минимальную вероятность тромбоза.

Далее следует действие – назначение лекарства и отслеживание результата: ушла ли боль в ноге, и не появились ли другие симптомы. Свои наблюдения врач сможет использовать для последующих прогнозов.

Разбивая решение на составляющие, мы получаем четкое представление о том, ценность какой деятельности человека снизится, а какой – повысится в результате внедрения машинных прогнозов. Что касается собственно прогнозов, то очевидно, что машины в целом справляются с ними лучше человека. И поскольку машины все чаще делают прогноз вместо людей, ценность человеческих прогнозов снижается. Но главный вывод в том, что прогноз представляет собой ключевой, но не единственный компонент любого решения, в остальных (суждение, данные и действие) уверенное преимущество остается за человеком. Составляющие решения дополняют прогноз, то есть их ценность повышается с его удешевлением. Например, мы готовы приложить усилия к вынесению суждения в случаях, когда раньше предпочитали не решать что-либо (то есть принимали все по умолчанию), потому что прогностические машины делают прогноз лучше, быстрее и дешевле. Вот почему спрос на суждения человека растет и продолжит расти.

Утрата знаний

Чтобы стать водителем знаменитых лондонских черных такси (Black Cab), претенденты проходят тест. Проверяется их знание тысяч мест и улиц города и – самое сложное – умение прогнозировать кратчайший или быстрейший путь между любыми двумя точками в любое время суток. Трудно представить себе объем такой информации даже для маленького города, а Лондон огромен. Он состоит из множества районов, которые раньше были отдельными городами и деревнями, но за последние две тысячи лет срослись в гигантский мегаполис. Чтобы пройти тест, будущий водитель должен правильно ответить на все вопросы. Неудивительно, что в среднем для этого требуется три года, и все это время необходимо не только изучать карты, но еще и кататься по городу и все запоминать. Пройдя тест и получив зеленый значок, таксист становится кладезем знаний[65].

Уже понятно, к чему мы клоним. Десять лет назад знания лондонских таксистов были их конкурентным преимуществом, никто не мог сравниться с ними по качеству услуг. Даже если можно было дойти пешком, люди садились в такси, потому что водители знали дорогу лучше. Но пять лет назад простейшие мобильные GPS-устройства (или спутниковые навигационные системы) дали всем водителям доступ к данным и прогнозам, которыми раньше владели только таксисты. Сейчас любой получает эти преимущества бесплатно в мобильном телефоне. Заблудиться просто невозможно, каждый знает кратчайший путь. А телефоны обошли преимущества такси, потому что в реальном времени обновляют информацию о загруженности дорог.

Таксисты три года корпели над сдачей теста, не подозревая, что им придется состязаться с прогностическими машинами. Они «загрузили» карты в собственную память и протестировали маршруты, а если чего-то не знали, такие проблемы компенсировались смекалкой. Сейчас у навигаторов есть доступ к тем же картам, а алгоритмы и прогностическое обучение позволяют им в любой момент выбрать оптимальный маршрут с учетом прежде недоступных таксистам данных по обстановке на дорогах.

Судьба лондонских таксистов зависит не только от способности навигаторов прогнозировать, но и от других элементов, необходимых для выбора оптимального пути из пункта А в пункт Б. Во-первых, таксист полностью контролирует автомобиль. Во-вторых, у него есть свои «датчики» – глаза и уши, – через которые в мозг поступают контекстные данные, благодаря чему он правильно применяет свои знания. Но все это есть и у других людей. Ни один таксист не стал хуже водить из-за навигаторов – наоборот, непрофессиональные водители стали ездить лучше. Знания таксистов перестали принадлежать только им, и у них появились конкуренты на таких платформах, как Uber.

Обычные водители обрели знания с помощью мобильных телефонов, а с прогнозом кратчайших путей смогли предоставлять услуги аналогичного уровня. Качественный машинный прогноз недорог, а человеческий упал в цене, поэтому таксисты пострадали. Количество поездок на лондонских такси снизилось из-за наплыва конкурентов. Они тоже обладали навыками вождения и человеческими «датчиками» – дополнительные ресурсы, поднявшиеся в цене с удешевлением прогнозов.

Разумеется, вероятно, что в конце концов на смену всем придут беспилотные автомобили, но к этому мы еще вернемся. Суть в том, что для понимания последствий распространения машинного прогноза требуется знать различные аспекты принятия решений, описанные в их анатомии.

Брать ли зонтик?

До этого момента мы не совсем точно определяли суждение. Попробуем объяснить его с помощью инструмента для принятия решений – дерева решений[66]. Оно особенно пригодится для условий неопределенности, когда вы не уверены в последствиях своего выбора.

Для примера рассмотрим привычную ситуацию. Взять ли зонтик, отправляясь на прогулку? Все знают, что такое зонтик – штука, которую держат над головой, чтобы не промокнуть, но в данном случае это еще и своего рода страховка от дождя. Итак, для всех касающихся страховки решений для снижения риска применяется следующая схема.

Рис. 5.2. Брать ли зонтик?

Конечно, если вы уверены, что дождь не пойдет, то оставите зонтик дома. Если же точно знаете, что пойдет, то возьмете с собой. На рис. 5.2 этот процесс представлен в древовидной диаграмме. У основания дерево расходится на ветви: «взять зонтик» и «оставить зонтик». От них отходят еще две ветви, описывающие то, в чем вы не уверены: «дождь» и «ясно». Без прогноза погоды вы об этом не узнаете, но, возможно, заметили, что в это время года вероятность ясной погоды в три раза выше дождя. Мы готовы приложить усилия к вынесению суждения в случаях, когда раньше предпочитали не решать (то есть принимали все по умолчанию).

В трех случаях из четырех будет ясно, а в одном – дождь. Это ваш прогноз. И, наконец, последствия представлены на кончиках ветвей. Если не взять зонт и пойдет дождь, вы промокнете и т. д.

Какое решение принять? Здесь поможет суждение, то есть процесс определения вознаграждения за конкретное действие в конкретных обстоятельствах. Нужно выяснить, какую цель вы преследуете. Для вынесения суждения следует задать так называемую функцию вознаграждения, сопоставить положительные и отрицательные результаты конкретных действий, приводящих к конкретным исходам. Промокнуть или нет? Обременять себя тяжелым зонтом или нет?

Предположим, вы хотите не промокнуть и не брать зонт (присваиваете этому варианту рейтинг 10 из 10), а не просто не промокнуть, но лучше возьмете зонт (8 из 10), чем промокнете (однозначно 0; рис. 5.3). Этих данных достаточно для выбора действия.

Рис. 5.3. Брать или не брать зонтик: средняя отдача

С вероятностью дождя 1:4 и суждением о том, чтобы промокнуть или нести зонтик, вы можете просчитать усредненную отдачу от двух вариантов – брать или не брать зонтик. Исходя из этого получается, что лучше его взять (средняя отдача 8), чем оставить (средняя отдача 7,5)[67].

Если таскать с собой зонт совсем неохота (6 из 10), все равно можно вынести суждение о предпочтениях. В случае если вы не захватите с собой зонт, средняя отдача останется прежней (7,5), но, если возьмете, она составит уже 6. Ненавистники зонтиков оставят их дома.

Пример, конечно, пустяковый: понятно, что люди, предпочитающие промокнуть, лишь бы не тащить с собой зонт, оставят его дома. Но такое дерево решений пригодится и для расчета средней отдачи для нетривиальных решений, поскольку суждение в них особенно важно. Здесь действие – взять зонтик, прогноз – дождь или ясно, исход – промокнуть или нет, а суждение – насколько вы будете довольны («отдача») промокнуть или не промокнуть, с зонтиком или без него.

Прогнозы становятся лучше, быстрее и дешевле, мы чаще будем пользоваться ими для принятия решений, поэтому нам понадобится больше человеческих суждений, и, следовательно, их ценность возрастет.

Выводы

• Прогностические машины представляют собой ценность:

• потому что почти всегда дают более точный, быстрый и дешевый прогноз, чем люди;

• прогноз есть ключевая составляющая принятия решений в неопределенности;

• решения принимаются повсеместно в экономической и частной жизни.

• Однако сам по себе прогноз – не решение, а только одна из его составляющих; остальные – суждение, действие, исход и три типа данных (входные, обучающие и обратной связи).

• Разбив решение на составляющие, мы можем проследить влияние прогностических машин на ценность человека и других ресурсов. Ценность аналогов прогностических машин, а именно человеческих прогнозов, будет снижаться. При этом ценность других составляющих, таких как навыки человека в сборе данных, вынесении суждения и совершении действий, будет расти. Лондонские таксисты вложили три года в получение знаний – необходимых для прогноза кратчайшего пути из одной точки в другую в конкретное время суток, – и их профессионализм с появлением прогностических машин никуда не делся. Но и другие водители теперь могут выбирать оптимальный маршрут с помощью прогностических машин. Прогностические навыки таксистов больше не являются дефицитным ресурсом. А навыки вождения и человеческие «датчики» (глаза и уши) были и у других водителей, а сейчас стали эффективнее благодаря прогностическим машинам, что привело к росту конкуренции.

• Суждение заключается в определении относительной отдачи для всех возможных исходов решений, как «верных», так и ошибочных. Суждение представляет собой необходимый этап принятия решений и требует уточнения преследуемой цели. Поскольку прогностические машины выдают все более точные, быстрые и дешевые прогнозы, ценность человеческих суждений будет расти вследствие повышения спроса.

Глава 6. Ценность суждения

С повышением точности прогнозов ценность суждений растет. Ведь информация о вероятности дождя не поможет ничем, если вы точно не знаете, что вам важнее – не промокнуть или не обременять себя зонтиком.

Прогностические машины, в отличие от людей, не способны к суждениям, потому что только человек может сформулировать относительную отдачу от разных действий. Прогноз полностью возлагается на ИИ, поэтому людям для принятия решений реже придется раздумывать одновременно над прогнозом и суждением, и они сосредоточатся только на последнем. Это создаст диалоговый интерфейс между машинным прогнозом и человеческим суждением – аналогично запуску альтернативного запроса в динамической таблице или базе данных.

С повышением точности прогнозов появилось больше возможностей рассмотрения отдачи от действий – иными словами, больше возможностей для суждений. А это значит, что с точными, быстрыми и дешевыми прогнозами нам придется принимать решения чаще.

Суждение о мошенничестве

Сети кредитных карт, такие как MasterСard, Visa и American Express, постоянно прогнозируют и оценивают. Им необходимо прогнозировать, отвечают ли просители кредитных карт их стандартам кредитоспособности. Если нет, то в выдаче кредитной карты будет отказано. Можно подумать, что роль играет только прогноз, но суждение тоже имеет большое значение. Кредитоспособность – понятие растяжимое, и компании приходится взвешивать, какой риск она готова на себя взять с учетом разных процентных ставок и долей невозврата. Такие решения приводят к разработке заметно различающихся бизнес-моделей – от люксовой платиновой карты American Express до базового уровня, ориентированного на студентов.

Компании также необходимо прогнозировать правомерность каждой транзакции. Как и в примере с зонтиком, компания взвешивает четыре отдельных исхода (рис. 6.1).

Рис. 6.1. Четыре исхода для кредитных компаний

Компания прогнозирует, является снятие денег мошенническим или правомерным, далее решает, авторизовать или отклонить транзакцию, а затем оценивает каждый исход (отклонить мошенническую транзакцию – хорошо, разозлить клиента отклонением правомерной транзакции – плохо). Если бы эмитенты кредитных карт идеально прогнозировали мошенничество, все было бы отлично. Но они этого не могут.

Например, у Джошуа Ганса регулярно отклоняют транзакцию при покупке беговых кроссовок – он приобретает их примерно раз в год, обычно в стоковых магазинах и находясь в отпуске. Уже много лет ему приходится звонить в банк для одобрения транзакции.

Кредитные карты чаще всего крадут в торговых центрах, и, как правило, мошенники сразу приобретают одежду и обувь (вещи легко перевести в наличные после возврата в любом магазине сети). И поскольку Джошуа редко покупает одежду и обувь и нечасто посещает торговые центры, банк прогнозирует высокую вероятность кражи кредитки. Это вполне логичное предположение.

Факторы, влияющие на прогноз о том, украдена ли карта, разделяются на общие (вид транзакции, например покупка беговых кроссовок) и частные (в данном случае это возраст и частота покупок). При сочетании факторов алгоритмы, отслеживающие транзакции, усложняются.

ИИ обещает сделать прогнозы гораздо более точными, особенно при наличии одновременно общей и индивидуальной информации. Например, с учетом данных транзакций Джошуа за многие годы прогностическая машина могла бы обнаружить в них закономерности, в том числе ежегодную покупку кроссовок примерно в одно и то же время. И считать эту покупку обычной для конкретного человека, а не классифицировать как подозрительную. Прогностической машине стоило бы учитывать и другие вещи, например, сколько времени потребуется на выбор вещей и покупку, если произошли две транзакции подряд в разных магазинах. Когда прогноз мошеннических транзакций станет точнее, банки смогут с большей уверенностью отклонять их, в некоторых случаях даже не связываясь с клиентом. И это время не за горами. Последняя покупка беговых кроссовок в стоковом магазине прошла у Джошуа без осложнений.

Пока прогностические машины еще совершенствуются в прогнозировании мошенничества, банкам приходится вычислять цену ошибки, что требует суждения. Предположим, что прогноз не идеален и вероятность ошибки равна 10 %. Тогда если компания отклонит транзакцию, то будет права в 90 % случаев и сэкономит издержки по возмещению неавторизованной транзакции. Но существует 10 % вероятности отклонения правомерной транзакции, и в таком случае компания получает недовольного клиента. Для выбора правильных действий необходимо сопоставить издержки по выявлению мошенничества с издержками, связанными с разочарованием клиента. У банков готового ответа на этот вопрос нет. Им следует все взвешивать: это и есть суждение.

Все точно так же, как и в примере с зонтиком, но вместо нести / не нести и промокнуть / не промокнуть на чаше весов мошенничество и удовлетворение клиента. В данном случае, поскольку вероятность мошенничества в девять раз выше, чем правомерной транзакции, компания не отклонит операцию только при условии, что удовлетворение клиента в девять раз важнее возможных издержек.

Что касается мошенничества с кредитными картами, о вариантах отдачи судить достаточно легко. Очень вероятно, что издержки на компенсацию обладают особой денежной ценностью, которую сеть может определить. Предположим, компенсация за транзакцию в $100 составляет $20. Если разочарование клиента стоит меньше $180, есть смысл отклонить транзакцию (10 % от $180 составит $18 – столько же, сколько 90 % от $20). Большинство клиентов отклонение одной транзакции не приведет к разочарованию, эквивалентному $180. Сети кредитных карт также должны оценить вероятность того, что конкретный клиент является исключением. Скажем, у держателя платиновой кредитки с высоким уровнем чистой стоимости, скорее всего, есть и другие, и после отклонения транзакции он может перестать пользоваться этой картой. А если клиент в отпуске и собирается потратить много денег, сеть много на нем потеряет.

Выявление мошеннических транзакций – четко определенный процесс, хотя и довольно сложный, поэтому мы так часто приводим его в пример. Но во многих других решениях потенциальные действия еще сложнее (не просто отклонение или подтверждение операции), а возможные ситуации (или состояния) варьируются.

Суждение требует понимания отдачи от любой пары «действие+ситуация». В примере с кредитными картами всего четыре исхода (или восемь, если отделить клиентов с высоким уровнем чистой стоимости от остальных). Если у вас, скажем, десять вариантов действий и двадцать возможных ситуаций, нужно вынести суждения по двум сотням исходов. А с дальнейшим усложнением количество вариантов отдачи превышает все мыслимые пределы.

Когнитивные издержки суждений

Люди, изучавшие принятие решений в прошлом, принимали отдачу как данность – она просто есть. Вам нравится шоколадное мороженое, а вашему другу – манговое, и несущественно, как каждый пришел к своему мнению. Аналогично мы предполагаем, что большинство компаний стремится к увеличению прибыли или стоимости акционерного капитала. Интересующиеся вопросами ценообразования экономисты обнаружили, что эти показатели удобно принимать на веру.

Отдача очевидна достаточно редко, а ее анализ требует времени и денег. Однако с развитием прогностических машин мы все чаще возвращаемся к поиску логики и мотивации ценности отдачи.

Выражаясь языком экономистов, основные издержки на анализ отдачи измеряются временем. Рассмотрим конкретный способ определения отдачи: взвешивание и размышление. Чтобы понять, чего вы действительно хотите добиться или каковы издержки от разочарования клиента, требуется некоторое время подумать, все проанализировать и, возможно, попросить совета у эксперта. Можно также посвятить это время исследованиям вариантов отдачи.

Для выявления мошенничества в первую очередь необходимо взвесить варианты отдачи в виде удовлетворенного или неудовлетворенного клиента и издержки, связанные с подтверждением неправомерных транзакций. Дополнительно необходимо продумать варианты отдачи для клиентов с высоким уровнем чистой стоимости. Также важно рассмотреть варианты отдачи в случае, если эти клиенты находятся в отпуске. А что насчет обычных клиентов-отпускников? Будет ли отличаться отдача в таких ситуациях? И стоит ли разделять командировки и отпуск? Или поездку в Рим и посещение Большого Каньона?

Суждение об отдачах во всех случаях требует времени и усилий: чем больше исходов, тем больше суждений, следовательно, тем больше потребуется времени и усилий. Когнитивные издержки на суждение приводят к замедлению процесса принятия решений человеком. Вот почему необходимо сравнить плюсы от расчета отдачи с издержками в результате отсрочки принятия решения. Некоторые предпочитают не рассматривать отдачу отдаленных во времени или маловероятных сценариев. Возможно, организаторам сетей кредитных карт стоит разделять командировку и отпуск, но не поездку в Рим и посещение Большого Каньона.

В таких маловероятных ситуациях решение сети кредитных карт может исходить из предположений, объединить параметры или выбрать наиболее безопасное значение по умолчанию. Для более частых (путешествия вообще) или важных (касательно клиентов с высоким уровнем чистой стоимости) решений отводится больше времени на обдумывание и анализ отдачи. Но чем дольше экспериментировать, тем больше времени пройдет до окончательной отладки процесса принятия решений.

Вычисление отдачи сродни дегустации новых блюд: пробуешь и смотришь, что будет дальше. Или, выражаясь языком современного бизнеса, экспериментируешь. Люди могут действовать по-разному в одних и тех же обстоятельствах и выяснять, что получается. Они проверяют отдачу на практике, а не в теории. Разумеется, поскольку некоторые действия во время экспериментов позднее окажутся ошибочными, неизбежны издержки. Незнакомая пища не всегда приходится по вкусу, а если продолжать пробовать в надежде найти идеальное блюдо, то удовольствие от еды будешь получать не всякий раз. Суждение, теоретическое или экспериментальное, обходится дорого.

Знать, зачем делаешь что-либо

Прогноз – это шаг вперед к беспилотным автомобилям и причина популярности таких платформ, как Uber и Lyft: прогноз нужен для расчета маршрута до места назначения. Автономные и встроенные автомобильные навигаторы существуют уже несколько десятков лет.

Распространение подключаемых к интернету мобильных устройств изменило данные, получаемые поставщиками навигационного ПО. Например, израильский стартап Waze до того, как его купил Google, генерировал точные дорожные карты, отслеживая выбираемые водителями маршруты. Затем эта информация использовалась для оптимизации кратчайшего маршрута между двумя точками, с учетом данных от водителей и постоянного мониторинга обстановки на дорогах. Программа также могла прогнозировать изменения дорожной обстановки по мере продвижения водителя вперед и предлагать новый, более быстрый путь с их учетом.

Пользователи приложений вроде Waze не всегда следуют их рекомендациям. С прогнозом как таковым они согласны, но помимо быстроты у них могут быть и другие цели. Например, приложение не знает, что в автомобиле закончился бензин: в таком случае водитель уходит с предложенного маршрута и выбирает другой, к заправке.

Эти приложения, несомненно, будут улучшаться. Скажем, если в автомобиле Tesla закончилось электричество, навигатор это учитывает и показывает расположение станций подзарядки. Приложения могли бы спрашивать пользователя, нужно ли заехать на заправку, или в будущем получать эти данные непосредственно от автомобиля. Это так же просто, как установить настройку объезда платных дорог.

Другие аспекты предпочтений запрограммировать сложнее. В длительных поездках, например, желательно, чтобы в маршруте указывались приличные заведения, где можно отдохнуть и поесть. Или кратчайший путь проходит по проселочным дорогам, где выиграешь максимум пару минут, но замучаешься ехать, ведь кому-то не нравятся извилистые дороги. Приложения могли бы запоминать такие особенности поведения человека, но нельзя запрограммировать автоматические действия для всех обстоятельств, складывающихся в любой момент. Машины не могут узнать всего, что требуется для прогнозирования предпочтений человека.

Цель редко бывает однозначной. Люди обладают явными и скрытыми знаниями о нестандартных и субъективных мотивах своих действий. Машина прогнозирует вероятность событий, а человек решает, какое действие предпринять, исходя из собственного понимания цели. В большинстве ситуаций, как и с Waze, машина предоставляет человеку прогноз, подразумевающий определенный исход (скорость); затем человек решает, принимать ли его как руководство к действию. Если технические возможности прогностической машины позволяют, человек может запросить другой прогноз с заданным условием («Waze, найди маршрут через заправку»).

Заранее заданные суждения

Стартап Ada Support использует прогноз ИИ для отделения простых вопросов к технической поддержке от сложных. ИИ отвечает на простые вопросы, а со сложными переадресовывает к человеку. Большинство клиентов обращаются в техподдержку провайдера мобильной связи с одними и теми же вопросами. Напечатать ответ легко, сложность заключается в прогнозировании желания клиента и в суждении, какой ему потребуется ответ.

Вместо переадресации людей на страницу с ответами на часто задаваемые вопросы Ada идентифицирует их и отвечает сразу. Программа учитывает индивидуальные характеристики клиента (техническую грамотность, модель телефона, с которого совершается звонок или предыдущие звонки) для повышения качества анализа вопроса. В итоге меньше клиентов будут разочарованы, но главное – это оперативное взаимодействие, больше принятых звонков и экономия на зарплате сотрудникам колл-центра. Специалисты решают нестандартные и сложные вопросы, а с простыми разбирается машина.

С повышением качества машинных прогнозов все чаще будет возникать необходимость в предварительно заданных суждениях. Умея излагать ход своих мыслей другим людям, точно так же мы можем объяснить его и машинам – только в виде программного кода. Для получения точного прогноза возможно запрограммировать суждение. В Ada это уже используется для простых вопросов.

Чтобы предусмотреть образ действий в каждой ситуации, понадобилось бы огромное количество времени, к тому же все учесть невозможно: по этой причине в трудных вопросах Ada требуется участие человека, точнее, его суждение.

Некоторые суждения можно вложить в программный код. По большей части опыт – это абстрактные переживания, которые трудно записать или выразить в доступной форме. Эндрю Мак-Афи и Эрик Брайнджолфсон писали: «Замена людей компьютерами возможна только до определенных пределов, потому что многие задачи являются для человека само собой разумеющимися и выполняются безо всяких усилий, но ни программисты, ни кто-либо другой не способны сформулировать их “правила” и методы»[68]. Однако данный вывод касается не всех задач. Для некоторых решений вполне возможно изложить соответствующее суждение и выразить его в программном коде. В конце концов, мы ведь можем иногда объяснить суждение другим людям. Если оно логически продолжает цепочку «если, то», значит, поддается кодированию.

Сложность в том, что, даже если суждение запрограммировать, а не брать его у человека, получаемый машиной прогноз должен быть очень точным. При наличии большого количества возможных ситуаций на предварительное уточнение действий в каждой из них уйдет слишком много времени. Легко программировать машину на конкретное действие, когда очевидно, что будет; однако, указывая машине, что делать в неопределенности, необходимо более тщательно продумать издержки ошибок. Неопределенность означает, что суждение требуется не только при верном прогнозе, но и в обратном случае. Иными словами, неопределенность повышает издержки суждений об отдачах для данного решения.

Сети кредитных карт освоили новые методы машинного обучения для выявления мошенничества. Прогностические машины позволяют с уверенностью программировать решение о том, блокировать транзакцию или нет. С повышением точности прогнозов в отношении мошеннических транзакций снижается вероятность ошибочной блокировки правомерных операций. Если эмитенты кредитных карт не боятся ошибок в прогнозах, то могут программировать решения машины без необходимости судить об издержках разочарования конкретных клиентов в результате отклонения транзакции. Процесс принятия решений упрощается: если мошенничество, то отклонить транзакцию; в противоположном случае подтвердить операцию.

Разработка функции вознаграждения

Прогностические машины выдают более точные и дешевые прогнозы, и нам необходимо решить, как использовать их наилучшим образом. Возможно заранее сформулировать суждение или нет, кто-то его должен выносить. Разработка функции вознаграждения – это процесс определения положительной отдачи от разных действий с учетом выданного ИИ прогноза. Качественная разработка требует понимания потребностей организации и технических возможностей машины.

Иногда в разработку функции вознаграждения входит кодирование суждения – программирование положительной отдачи до совершения прогноза с целью автоматизации действий. Примером запрограммированных вознаграждений являются беспилотные автомобили. Действие незамедлительно следует за прогнозом. Но вот правильно выбрать вознаграждение не так просто. Следует предусмотреть вероятность, что ИИ чрезмерно оптимизирует один критерий успеха и, как следствие, отклонится от общих целей организации. В сфере беспилотных автомобилей над этим трудятся целые комитеты; однако такой анализ понадобится для самых разных решений.

В других случаях количество возможных прогнозов повышает издержки на предварительное суждение обо всех вариантах отдачи. Человеку приходится дожидаться прогноза и только после этого оценивать отдачу, как это происходит почти во всех процессах принятия решений, с машинным прогнозом или без него. Как мы увидим в следующей главе, машины уже посягают и на это. В некоторых обстоятельствах прогностические машины могут научиться прогнозировать человеческое суждение на основе предыдущих решений.

Подведение итогов

Большинство людей уже занимаются разработкой функции вознаграждения, но не для машин, а для людей. Наставники показывают новым работникам, как функционирует система. Менеджеры ставят сотрудникам цели и подталкивают к повышению эффективности работы. Мы ежедневно принимаем решения и судим о вознаграждении. Но для людей мы объединяем прогноз и суждение, и разработка функции вознаграждения не обособлена. Ее роль будет становиться важнее с повышением точности прогнозов.

Для примера разработки функции вознаграждения рассмотрим ценообразование ZipRecruiter – биржи труда в интернете. Компании платят ей за поиск квалифицированных сотрудников на открывшиеся вакансии. Основной продукт ZipRecruiter – это эффективный и масштабный алгоритм сравнения – версия специалиста по рекрутингу, подбирающего работодателям подходящих соискателей[69].

На сайте ZipRecruiter о стоимости услуг для компаний ничего не сказано. Если цена будет слишком низкая, клиенты начнут бросать деньги на ветер, если слишком высокая – уйдут к конкурентам. Для установления цен ZipRecruiter пригласила экспертов: Дж. П. Дюбе и Санджога Мизру – экономистов Школы бизнеса им. Бута при Университете Чикаго, которые проводили эксперименты по определению оптимальной цены. Они случайным образом называли цены потенциальным клиентам и определяли вероятность покупки каждой группой. Это позволило им выяснить, как люди реагируют на разные цены.

В задачу входило определение значения «оптимальная». Стоит ли компании стремиться к увеличению краткосрочного дохода? В этом случае следует установить высокую цену. Но чем она выше, тем меньше клиентов (пусть даже каждый приносит большую выгоду), и они вряд ли порекомендуют услуги компании другим людям. К тому же в таком случае будет меньше объявлений о вакансиях, количество соискателей снизится. И наконец, высокие цены могут заставить клиентов искать альтернативу. Возможно, один раз они заплатят, но в дальнейшем предпочтут работать с конкурентами. Как же прийти к разумному решению? К какой отдаче стремиться?

Краткосрочные последствия высокой цены измерили относительно легко. Эксперты подсчитали, что повышение цены для некоторых типов новых клиентов повысит ежедневный доход более чем на 50 %. Но ZipRecruiter не стала действовать сразу. Она признала долгосрочные риски и решила проверить, уйдут ли клиенты, которые платят высокую цену. Через четыре месяца повышение цен все еще приносило доход. Компания не хотела и дальше отказываться от получения выгоды, рассудив, что четыре месяца – достаточно долгий срок для внедрения новой цены.

Выяснение вознаграждения в результате разных действий – основная составляющая суждения – является разработкой функции вознаграждения, фундаментальной частью процесса принятия решений человеком. Машинный прогноз – это всего лишь инструмент; пока человеку приходится взвешивать исходы и выносить суждения, главная роль сохраняется за ним.

Выводы

• Прогностические машины повышают отдачу от суждения, поскольку снижением стоимости прогнозов повышают ценность понимания вознаграждения в результате действий. Однако суждение требует издержек. Выяснение вариантов отдачи от разных действий в разных ситуациях требует времени, усилий и экспериментов.

• Многие решения принимаются в условиях неопределенности. Мы решаем взять зонтик, потому что предполагаем, что будет дождь, но он может и не пойти. Мы решаем авторизовать транзакцию, потому что считаем ее правомерной, но можем ошибаться. В условиях неопределенности необходимо выявить варианты отдачи от действий, предпринятых в результате ошибочных решений, а не только верных: неопределенность увеличивает издержки на суждения о вариантах отдачи для данного решения.

• При наличии контролируемого количества пар «действие+ситуация», связанных с решением, можно возложить обязанность по вынесению суждения на прогностическую машину (это «разработка функции вознаграждения»), чтобы она самостоятельно принимала решение после того, как сделает прогноз. Это позволяет автоматизировать решения. Однако чаще количество пар «действие+ситуация» очень велико и поэтому требует слишком много издержек для предварительного программирования всех вариантов отдачи для каждой комбинации, особенно для уникальных и редко встречающихся. В таких случаях суждение человека после выдачи прогноза машиной эффективнее.

Глава 7. Прогнозирование суждения

В числе прочих Waymo (проект Google) успешно тестирует автоматизированные способы транспортировки людей между двумя пунктами назначения. Но это только часть создания беспилотных транспортных средств. Вождение влияет еще и на пассажиров, что гораздо труднее отслеживать. Человек за рулем учитывает наличие других людей в автомобиле. Один из первых навыков, осваиваемых водителем, – плавное торможение, комфортное для пассажиров. Машины Waymo учат избегать резкой остановки.

В процессе вождения принимаются тысячи решений[70]. Людям нецелесообразно программировать суждение для всех возможных ситуаций. Системы автономного вождения обучают на примерах, чтобы они умели прогнозировать человеческое суждение: «Как в этой ситуации поступил бы человек?» И вождение не единственный пример. В любой обстановке, где люди многократно принимают решения и способны запоминать информацию о полученных данных и сделанном на их основе выборе, мы сможем автоматизировать принятие решений, вознаграждая прогностические машины за прогноз действий человека.

Важнейший вопрос, по крайней мере для людей, заключается в том, сможет ли ИИ использовать свои прогностические возможности для вынесения человеческих суждений и таким образом вообще устранить потребность в людях.

Взломать человека

Многие решения сложны и базируются на суждении, которое невозможно запрограммировать. Однако это не гарантирует, что основная ответственность за принятие таких решений сохранится за человеком. Напротив, машина, как и беспилотные автомобили, может научиться прогнозировать человеческое суждение на примерах. Прогностическая задача формулируется так: «Что сделал бы человек с учетом входных данных?»

Компания Grammarly уже создала прецедент. Ее основали в 2009 году Алекс Шевченко и Макс Литвин и первыми использовали машинное обучение для проверки письменных текстов. Программа исправляет грамматические и орфографические ошибки. Например, если проверить оригинал предыдущего предложения на английском языке (It’s main focus is on improving grammer and spelling in sentences), Grammarly сообщит, что вместо it’s должно быть its, а grammer написано с ошибкой (нужно исправить на grammar). И добавит, что слово main чаще всего бывает лишним.

Grammarly сделала такой вывод на основе массы изученных документов, проверенных компетентными редакторами, и обратной связи от пользователей, которые принимали или отвергали предложенные исправления. В обоих случаях программа прогнозирует, как поступил бы профессиональный редактор. Она выходит за пределы механического применения грамматических правил и анализирует, предпочтительны ли отклонения от них для пользователей.

Обучение ИИ человеком осуществляется и в других сферах. В стартапе Lola для автоматизации бронирования гостиниц ИИ подбирает подходящие гостиницы. Но, как писала New York Times:

«Он не достигает уровня, например, квалифицированного агента в бронировании семейной поездки в Диснейуорлд. Человек более находчив – скажем, зная, что семья хочет сфотографироваться с детьми на фоне замка Золушки, посоветует забронировать столик для завтрака до открытия ворот парка»[71].

Из приведенного примера очевидно, что машине проще применить измеримое суждение (то есть наличие свободных номеров и цену), чем понять неявные предпочтения. Однако Lola может научиться прогнозировать действия опытных агентов. Вопрос в том, сколько прогностической машине требуется получить обратной связи от людей, бронирующих отпуск в Орландо, чтобы узнать достаточное количество соответствующих критериев. И хотя не все из них подвластны ИИ, Lola выяснила решения агентов, которые они не могли бы описать заранее, такие как предпочтение отелей современного типа или, например, расположенных на перекрестке центральных дорог.

Люди, обучающие ИИ, помогают ему совершенствоваться, и постепенно необходимость участия человека во многих аспектах задачи отпадает. Это особенно важно в автоматизации процессов, где ошибки недопустимы. Человек исправляет их, отслеживая действия ИИ. Но со временем ИИ научится на своих ошибках, и человек ему больше не понадобится.

Еще один пример – стартап X.ai, электронный помощник для составления рабочего расписания и занесения планируемых встреч в календарь[72]. Он («Эми» или «Эндрю» – на ваш выбор) взаимодействует с пользователем и всеми, с кем тот желает встретиться, по электронной почте. Например, можно отправить письмо Эндрю, чтобы он организовал встречу с мистером Х в следующий четверг. X.ai проверяет ваш служебный календарь и отправляет мистеру Х письмо. Мистер Х, скорее всего, не догадается, что Эндрю – не человек. Таким образом, вы освобождены от задачи договариваться с мистером Х или его ассистентом (который теоретически тоже может оказаться Эми или Эндрю).

Конечно, если в расписании случатся накладки или цифровой ассистент ненароком обидит приглашенного, это грозит катастрофой. Несколько лет обучением X.ai занимались люди, они проверяли и утверждали письма ИИ. Каждый раз, когда ошибку исправляли, ИИ учился[73]. Роль человека сводилась не только к обучению цифрового ассистента вежливости. Ему приходилось иметь дело с попытками других людей сбить его с толку[74]. Что касается переписки, вопрос, насколько возможно автоматизировать прогнозирование суждения, пока остается открытым.

Возможно ли вытеснение человека?

Если машины научатся прогнозировать поведение людей, вытеснят ли они собой человека полностью? С учетом нынешней тенденции развития прогностических машин – вряд ли. Согласно элементарным правилам экономики, люди в качестве ресурса будут вносить какой-то вклад в любой вид деятельности. Вопрос скорее в том, низкой или высокой ценностью он будет обладать и насколько станет интересным. Чем должны заниматься сотрудники вашей организации? На какие качества обращать внимание при наборе нового персонала?

Прогноз основывается на данных, поэтому у людей два преимущества перед машинами. Нам известно кое-что, чего машины не знают (пока), и, что еще важнее, мы умеем лучше принимать решения при ограниченном объеме данных.

Люди обладают тремя типами данных, которых нет у машин. Во-первых, органы чувств: глаза, уши, нос и кожа по многим показателям пока еще превосходят машинные датчики. Во-вторых, люди определяют свои предпочтения самостоятельно. Данные о потребителях представляют огромную ценность, потому что необходимы машинам для выяснения этих предпочтений. Супермаркеты делают скидку по карте постоянного покупателя, чтобы собрать данные о пожеланиях клиентов. Магазины платят деньги за опросы. Google, Facebook и другие компании предоставляют бесплатные услуги в обмен на данные, которые можно использовать для целенаправленной рекламы. И, в-третьих, соблюдение конфиденциальности требует ограничить доступные машинам данные. Пока люди сохраняют в тайне свою частную жизнь, материальное положение, психические отклонения и крамольные мысли, у прогностических машин не будет достаточно данных для прогнозирования поведения. При отсутствии качественных данных наше восприятие других людей обеспечит востребованность умения судить и оценивать, недоступное машинам.

Прогноз с недостаточными данными

Прогностическим машинам не хватает данных по нечасто происходящим событиям. Если у машин недостаточно примеров человеческих решений, они не могут предусмотреть суждение, лежащее в их основе.

В главе 4 мы обсуждали «известные неизвестные» – редко встречающиеся события, которые cложно прогнозировать из-за недостатка данных, такие как президентские выборы или землетрясения. В некоторых случаях люди дают качественный прогноз таких событий: например, мы узнаем человека в лицо, даже если он постареет. Там же мы обсуждали «неизвестные неизвестные», которые по определению не поддаются прогнозированию, и непонятно, как на них реагировать. ИИ не может прогнозировать действия человека, если тот никогда не попадал в похожую ситуацию. Поэтому ИИ не способен дать прогноз стратегического направления компании в свете появления новых технологий, таких как интернет, биоинженерия или собственно ИИ. А люди умеют проводить аналогии или обнаруживать полезное сходство в самых различных контекстах.

Когда-нибудь прогностические машины продвинутся в аналогиях. Но пока они не способны прогнозировать редко происходящие события. В обозримом будущем прогнозированием и суждением в нестандартных ситуациях будут заниматься люди.

В главе 4 мы отдельно подчеркнули «неизвестные известные». Это, к примеру, трудности в принятии решения о том, рекомендовать ли данную книгу друзьям, даже если вы достигнете невообразимых успехов в управлении ИИ. Сложность заключается в отсутствии данных о том, что произошло бы, если бы вы ее не прочитали. Если хотите разобраться, что именно служит причиной чего бы то ни было, необходимо знать развитие событий вследствие иных действий.

У людей есть два решения этой проблемы: эксперименты и моделирование. Если ситуация возникает достаточно часто, можно провести рандомизированное контролируемое испытание. Наберите людей в экспериментальную группу (заставьте прочитать книгу или хотя бы раздайте всем и затем проэкзаменуйте на знание материала) и контрольную (не разрешайте читать книгу или просто не рекламируйте). Через некоторое время проверьте, как они применяют ИИ в своей работе. Сравните результаты двух групп. Разница между экспериментальной и контрольной группами и станет результатом прочтения всей книги.

Такие эксперименты весьма эффективны. Без них не одобряют новые лекарственные препараты. Благодаря им принимают решения работающие с данными компании, от Google до Capital One. Машины тоже могут проводить эксперименты. При достаточной частоте событий способность экспериментировать присуща не только людям.

Машины экспериментируют и учатся причинно-следственной связи на примерах, как и люди. Это основная причина, по которой машины обыгрывают человека в видеоиграх.

Моделирование – альтернатива экспериментам – заключается в глубоком понимании ситуации и процессов, генерирующих имеющиеся данные. Оно особенно пригодится, когда эксперименты невозможны из-за недостаточной частоты ситуации или высоких издержек.

Решение ZipRecruiter по ценообразованию, описанное нами ранее, состоит из двух частей. Первая – это определение «оптимальной» цены: краткосрочный доход или долгосрочные перспективы? Больше соискателей и рекламодателей или высокие цены? Вторая – выбор конкретной цены. Для решения этой задачи использовали эксперимент. Его придумали квалифицированные специалисты, но теоретически с развитием ИИ и при достаточном количестве рекламодателей и времени такие эксперименты можно автоматизировать.

Гораздо сложнее автоматизировать определение значения «оптимальный». Поскольку число соискателей зависит от количества объявлений о вакансиях и наоборот, результат наблюдений рынка только один. Если ошибиться, ZipRecruiter может обанкротиться и не получить второй шанс. Поэтому она использовала бизнес-моделирование: изучила последствия увеличения краткосрочной выгоды и сравнила с альтернативной моделью, целью которой было увеличение выгоды за долгий срок. При отсутствии данных моделирование исходов и разработка функции вознаграждения осуществляются людьми, пусть даже только самыми компетентными.

Моделирование помогло странам – союзникам СССР проводить воздушные атаки во время Второй мировой войны. Инженеры придумали, как лучше оснастить бомбардировщики, увеличив грузоподъемность самолетов без потери летных качеств. Вопрос заключался в том, какие части самолетов требуется защитить. Эксперименты были возможны, но ценой крупных издержек. Они стоили бы пилотам жизни.

Инженеры осматривали каждый бомбардировщик, вернувшийся с воздушной атаки на Германию. Данными для них служили пулевые отверстия. Но там ли следовало укреплять обшивку?

За оценкой проблемы обратились к статистику Абрахаму Вальду[75]. После размышлений и подробных расчетов он порекомендовал установить защиту на те части обшивки самолетов, куда пули не попадали. Может быть, Вальд что-то перепутал? Его совет противоречил здравому смыслу. Возможно, он имел в виду «на места, куда пули попали»? Нет. Он смоделировал процесс генерации данных. Зная, что некоторые самолеты были подбиты, он предположил, что смертоносные пули должны были попасть в другие части обшивки, ведь уцелевшим самолетам они не нанесли существенного урона. С учетом этого авиационные инженеры укрепили обшивку, и бомбардировщики теперь защищены лучше[76].

Концепция Вальда об отсутствующих данных требует понимания, откуда они поступают; поскольку такой проблемы раньше не возникало, у инженеров не было примеров, из которых они могли бы исходить. В обозримом будущем такие расчеты не будут доступны прогностическим машинам.

Решение такой сложнейшей проблемы удалось не машине, а человеку, лучшему статистику в истории XX века. Абрахам Вальд хорошо разбирался в математической статистике и обладал гибким умом, что позволило ему понять процесс генерации данных.

Человека можно обучить навыкам моделирования. Это одна из главных дисциплин программ аспирантуры по экономике и МБА (в том числе разработанного нами курса для Университета Торонто). Такие навыки необходимы для работы с прогностическими машинами, иначе легко угодить в ловушку неизвестных известных. Прогнозы, где перепутаны причина и следствие, вводят в заблуждение.

Как и прекрасная модель процесса генерации данных о пулевых отверстиях Вальда, качественная модель поведения человека поможет повысить качество прогнозов, когда данные генерируются человеческими решениями. В ближайшем будущем нам необходимо разработать такие модели и определить прогностические параметры поведения. Прогностические машины не смогут выполнять свои задачи при отсутствии данных, потому что поведение изменчиво. Для этого им необходимо понимать людей[77].

Похожие проблемы возникают в принятии решений на основе вопроса «Что будет, если сделать так?», если вы раньше никогда этого не делали. Добавить ли новый продукт в линейку? Сливаться ли с конкурентом? Покупать ли новый стартап или торгового партнера?[78] Если после изменений люди ведут себя по-другому, то поведение в прошлом ничего не говорит о будущем. У прогностических машин соответствующих данных не будет. Для редко происходящих событий они малоприменимы. Следовательно, такие события ставят важные ограничения способности машин прогнозировать человеческое суждение.

Выводы

• Машины могут научиться прогнозировать человеческое суждение, примером тому служит вождение автомобиля. Человеку практически нецелесообразно программировать суждение о действиях во всех возможных ситуациях. Мы обучаем системы автономного вождения на примерах и вознаграждаем их за прогнозирование человеческого суждения: «Как поступил бы в этой ситуации человек?»

• Машины способны прогнозировать человеческое суждение только до определенных пределов. Ограничения связаны с недостатком данных. Люди обладают некоторыми данными, недоступными машинам, такими как предпочтения. Эти данные представляют ценность, и компании платят за доступ к ним дисконтными картами и бесплатными онлайн-услугами, такими как Google и Facebook.

• Машины плохо прогнозируют редко происходящие события. Руководители принимают решения о слиянии, инновациях и партнерстве, не имея данных о похожих событиях в их компании в прошлом. Для принятия решений в нестандартных ситуациях люди используют аналогии и модели. Машины не могут прогнозировать суждение, если ситуация не повторялась многократно.

Глава 8. Укрощение сложности

В телесериале «Американцы», сюжет которого разворачивается в годы холодной войны в Вашингтоне 1980-х, почту и засекреченные документы в офисе ФБР разносит робот. Удивительно, что в то время уже существовало автономное транспортное средство. Оно появилось десятью годами ранее и называлось «почтамобиль»[79].

Чтобы он мог передвигаться, технические специалисты прокладывали ему маршрут специальными веществами, излучающими ультрафиолет, от почтового офиса вдоль ковровых дорожек до кабинетов. С помощью датчиков робот очень медленно (со скоростью меньше 1,5 км/ч) ехал и останавливался возле соответствующих меток. Почтамобиль стоил от $10 до $12 тыс. (сегодня это эквивалентно $50 тыс.), а за дополнительную плату его оснащали датчиком, позволяющим определять препятствия на пути. Без датчика он предупреждал о своем появлении звуковым сигналом. С работой по доставке почты, которая у человека занимала два часа, робот справлялся за двадцать минут, потому что не тратил времени на разговоры.

Работа робота требовала тщательной подготовки. Для обеспечения его функционирования требовались несложные, но иногда затратные перестановки в офисе: робот мог ориентироваться только в условиях соблюдения абсолютного порядка.

Даже в наши дни во всем мире к установке автоматизированных рельсовых систем предъявляется большой набор требований. Например, в копенгагенском метро нет машинистов, потому что поезда ходят в тщательно подготовленных условиях; об окружающей обстановке робота информирует небольшое число датчиков.

Такие ограничения свойственны большинству машин и оборудования: они разработаны для функционирования в четко определенных условиях. В отличие от производственного оборудования, появление почтовых роботов не осталось незамеченным, потому что их относительно просто установить во многих офисах. Но для работы им необходима была строго контролируемая и стандартизированная среда, поскольку техника не выносит неопределенности.

Больше «если»

Любые машины программируют преимущественно по стандартной логике «если, то». «Если» описывает сценарий, окружающие условия или информацию. «То» сообщает машине, что делать после каждого «если» (а также «если нет» и «иначе»): «Если химический след не обнаружен, то необходимо остановиться». Почтовый робот не видел, что находилось вокруг, и мог функционировать только в среде с доступным ему количеством «если».

Будь у него способность различать ситуации – обрабатывать больше «если», – то, даже не меняя действий, заключавшихся в остановке и следовании к другой точке, он мог бы использоваться и в других целях. Современный Roomba – робот-пылесос компании iRobot – умеет это делать и свободно передвигается в помещении, датчики не дают ему упасть с лестницы или застрять в углу, а дополнительно он оснащен модулем памяти для последовательной уборки.

На улице робот должен двигаться медленно, чтобы не поскользнуться на мокрой или скользкой поверхности. Появляются две возможные ситуации (или два состояния) – сухая и влажная. Если движения робота зависят от света и темноты, появления рядом человека, наличия срочной корреспонденции, если белку переехать можно, а кошку нельзя, а еще есть другие факторы, причем одни зависят от других (можно переехать белку, только когда темно, но не когда светло), то количество ситуаций «если» возрастает непомерно.

Для повышения качества прогнозов машины должны различать больше «если». В этом случае почтовый робот умел бы реагировать на разные ситуации. Прогностическая машина позволяет роботу определить следующее: когда темно и сыро, в двадцати метрах сзади бежит человек, а впереди – кошка, скорость нужно снизить, но, когда темно и сыро, человек стоит в двадцати метрах сзади, а впереди белка, этого можно не делать. Благодаря прогностической машине робот может двигаться не только по размеченному пути. Новые почтамобили функционируют в более сложной обстановке, а подорожали несущественно.

Роботы-доставщики уже распространены повсеместно. Склады оборудованы автономными системами доставки, которые прогнозируют обстановку и соответственно реагируют. Вереницы роботов Kiva транспортируют продукты по гигантским центрам Amazon. Стартапы экспериментируют с роботами-доставщиками, по тротуарам и улицам развозящими посылки (или пиццу) из компании и обратно.

Такая услуга стала возможной благодаря тому, что роботы используют для прогнозирования среды данные высокотехнологичных датчиков, а затем получают инструкции о действиях. Вообще это не считается прогнозированием, но по сути все же это так. И чем дешевле прогноз, тем совершеннее роботы.

Больше «то»

Джордж Стиглер, лауреат Нобелевской премии по экономике, как-то заметил: «Люди, которые никогда не опаздывали на самолет, слишком много времени провели в аэропортах»[80]. Логика данного утверждения своеобразна, и встречный аргумент перевешивает ее: работать и отдыхать в аэропорту можно не хуже, чем в любом другом месте, зато не нужно переживать, что опоздаешь на самолет. Поэтому в аэропортах и появились залы ожидания. Их придумали авиакомпании, чтобы обеспечить пассажиров (по крайней мере, состоятельных или своих постоянных клиентов) удобным и тихим пространством для ожидания, потому что большинство приезжает в аэропорт пораньше. Те, кто постоянно опаздывает, бывают в залах мимоходом, в ожидании отложенного рейса или оплакивая пропущенный вылет на Бали.

В зале ожидания удобно скоротать время, если не удалось приехать в определенный час (как это чаще всего и бывает).

Предположим, ваш вылет в 10:00. Авиакомпания рекомендует прибыть в аэропорт за час до этого времени. Значит, вы успеете, если приедете к 9:00. Во сколько же выходить из дому?

Обычно дорога в аэропорт занимает полчаса, то есть из дома нужно выйти в 8:30, но это без учета пробок. По дороге в нью-йоркский аэропорт Ла Гуардия, куда мы отправились после встречи по поводу этой книги, чтобы улететь в Торонто, возникли такие пробки, что последние полтора километра пришлось идти пешком вдоль шоссе. Это еще плюс полчаса (или больше, если не любите рисковать). Значит, отправляться в аэропорт надо в 8:00, и вы всегда будете выходить в это время, если не знаете обстановку на дорогах. И в итоге минимум полчаса проведете в зале ожидания.

Приложения вроде Waze очень точно рассчитывают время: они отслеживают автомобильные пробки в режиме реального времени и учитывают обычную ситуацию на маршруте для прогнозирования и обновления кратчайшего пути. Добавьте к нему Google Now, а возможные задержки вылета, исходя из прецедентов в прошлом и местоположения самолетов, рассчитают другие приложения. Все они вместе дают надежный прогноз, предоставляющий свободу выбора: «если пробок нет, выходить позже и сразу идти на посадку» или «если вылет задерживается, можно выйти из дома позднее».

Точный прогноз в результате снижения или устранения ключевого источника неопределенности избавляет от необходимости ожидания в аэропорту. А самое главное – точный прогноз меняет действия. Вместо жесткого правила выходить за два часа до вылета можно руководствоваться условным правилом – рассчитывать время исходя из информации. Условные правила представляют собой утверждения «если, то» и позволяют больше «то» (выходить раньше, вовремя или позднее) в зависимости от степени точности прогноза. Таким образом, прогностика, кроме создания больше «если», еще и увеличивает количество осуществимых «то».

У почтовых роботов и залов ожидания в аэропортах есть кое-что общее: и то и другое является неидеальным решением проблемы неопределенности и пострадает с ростом точности прогнозов.

Больше «если» и «то»

Точные прогнозы позволяют предсказывать больше и чаще, снижая неопределенность. Каждый прогноз обладает косвенным воздействием: он делает возможным выбор, который вы раньше не рассматривали. И для этого не нужно подробно программировать «если» и «то». Прогностическую машину можно обучать на примерах. Вуаля! Проблемы, не считавшиеся раньше прогностическими, теперь решаются. А раньше мы постоянно шли на компромиссы, даже не осознавая этого.

Компромиссы – ключевой аспект принятия решений человеком. Лауреат Нобелевской премии по экономике Герберт Саймон назвал их разумной достаточностью. Тогда как в классических экономических моделях решения принимают гиперрациональные существа, Саймон в своей работе признал и подчеркнул, что людям не под силу справиться со сложностью. Они склоняются к разумной достаточности и делают все возможное для достижения цели. Думать трудно, поэтому люди все упрощают.

Саймон был разносторонне одаренным ученым. Кроме Нобелевской премии он получил премию Тьюринга, часто называемую Нобелевской премией по информатике, за вклад в ИИ. Его работы по экономике и информатике взаимосвязаны. В продолжение своей мысли в докладе 1976 года после вручения премии Тьюринга ученый подчеркнул, что у компьютеров «ограниченные ресурсы обработки; за конечное количество шагов в конечный период времени они выполняют конечное число процессов». Саймон признал, что компьютеры, как и люди, склонны к разумной достаточности[81].

Почтовые роботы и залы ожидания в аэропортах – примеры разумной достаточности при отсутствии точного прогноза. И такие примеры повсюду. Только опыт и время позволят представить все возможности качественной прогностики. Большинству неочевидно, что залы ожидания решают проблему неточных прогнозов и в эпоху совершенных прогностических машин станут не нужны. Мы так привыкли к разумной достаточности, что даже не рассматриваем прогнозирование в некоторых решениях.

В приведенном примере с переводом специалисты считали автоматический языковой перевод лингвистической, а не прогностической проблемой. С точки зрения лингвистики следует взять словарь и переводить одно слово за другим с учетом грамматических правил. Это было разумной достаточностью и давало плохой результат из-за слишком многих «если». Перевод стали считать прогностической проблемой, когда исследователи обнаружили, что его можно осуществлять не словами, а предложениями или целыми абзацами.

Перевод с помощью прогностических машин включает в себя прогнозирование вероятного эквивалента на другом языке. Статистика позволяет компьютеру выбрать лучший вариант перевода, прогнозируя «если»: какое предложение, вероятнее всего, использовал бы профессиональный переводчик из соответствующих данных. Что самое интересное, для этого не нужны лингвистические правила. Фредерик Йелинек[82] сказал: «Каждый раз, когда я увольняю лингвиста, работа распознавателя речи улучшается»[83]. Очевидно, лингвисты и переводчики этому не обрадуются. Прочие прогностические задачи – в том числе распознавание образов, шопинг и разговор – относятся к категории сложных, но разрешимых с помощью машинного обучения.

Точный прогноз для сложных решений снижает риски. Например, недавно ИИ нашлось практическое применение в рентгенологии. Работа рентгенолога заключается в основном в изучении рентгенограммы пациента для выявления причины возникшего недомогания. Таким образом рентгенологи прогнозируют аномалии развития какого-либо процесса или внутреннего органа.

ИИ все чаще способен выполнять прогностическую функцию на уровне физиологии человека – и делает это лучше, что поможет рентгенологам и другим врачам принимать более оправданные решения относительно системы лечения. Важнейшим показателем эффективности служит точность диагноза: сможет ли машина прогнозировать заболевание у больных людей и отсутствие болезней у здоровых.

Следует учитывать все факторы таких решений. Предположим, что врачи подозревают опухоль и должны решить, каким способом выяснить, злокачественная она или нет. Один из вариантов – медицинская визуализация. Есть еще инвазивные методы, такие как биопсия. Ее преимущества заключаются в высокой вероятности постановки верного диагноза. Но из-за инвазивного характера самого метода как врачи, так и пациенты стремятся его избежать, если вероятность злокачественной опухоли невелика. Как правило, биопсию проводят только при высокой вероятности серьезного диагноза. Это гарантия своевременного лечения смертельно опасного заболевания, но она дорого обходится.

Решение сделать биопсию зависит от стоимости, степени инвазивности самой процедуры и уровня риска, если время на лечение будет упущено. Опираясь на эти факторы, врач решает, стоит ли биопсия физических и финансовых издержек.

При условии точного диагноза по снимку пациенты смогут избежать биопсии и предпринимать действия, которые в его отсутствие могут стать слишком рискованными. Теперь больше не нужно идти на компромисс: с развитием ИИ снижается потребность в разумной достаточности и появляется больше «если» и «то». Сложность выше, а риски ниже. Процесс принятия решений преображается благодаря новым вариантам выбора.

Выводы

• Улучшенный прогноз позволяет принимающим решения людям и машинам использовать больше «если» и «то». Это чаще приводит к положительному исходу. Скажем, в случае навигации, описанной на примере почтового робота, прогностические машины освобождают автономные транспортные средства от ограничений функционирования, ранее возможного только в контролируемой среде. Для нее характерен немногочисленный набор «если» (или состояний). Прогностические машины позволяют автономному транспорту работать в неконтролируемой среде, такой как городские улицы, потому что вместо программирования всех возможных «если» машина учится прогнозировать, что сделал бы человек-оператор в любой конкретной ситуации. Аналогичным образом пример с залом ожидания аэропорта иллюстрирует, как с точностью прогнозов возрастает количество «то» (то есть «выходить в X, Y или Z часов», в зависимости от прогноза, сколько времени займет дорога до аэропорта в конкретное время и конкретный день), в отличие от необходимости прибавлять время «на всякий случай», а затем лишний час ждать в аэропорту.

• При отсутствии качественного прогноза мы склонны к разумной достаточности – выбираем приемлемые решения с учетом доступной информации.

• Всегда рассчитывать дорогу в аэропорт с запасом и, как правило, ждать после прибытия туда, потому что приехали раньше, – пример разумной достаточности. Это не оптимальное, но приемлемое решение с учетом имеющейся информации. Почтовые роботы и залы ожидания в аэропортах появились как следствие разумной достаточности. Прогностические машины снизят потребность в ней, а следовательно, средства реже будут вкладываться в решения вроде почтовых роботов и залов ожидания.

• Мы настолько привыкли к разумной достаточности в деловой и социальной жизни, что с трудом представляем себе все изменения, возможные в результате развития прогностических машин, способных учитывать больше «если» и «то» и, следовательно, принимать более сложные решения в более сложной обстановке. Большинству неочевидно, что залы ожидания являются решением проблемы неточных прогнозов и в эпоху совершенных прогностических машин станут не нужны. Еще один пример – биопсия, широко распространенная вследствие низкой точности прогнозов медицинской визуализации. С ростом надежности прогностических машин ИИ заметно повлияет на работу людей, связанных с проведением биопсии, потому что эта процедура, как и залы ожидания, была ответной мерой на неточные прогнозы. И то и другое представляет собой решение по управлению рисками. А прогностические машины предоставят для этого новые, более совершенные способы.

Глава 9. Полностью автоматизированное принятие решений

12 декабря 2016 года участник форума Tesla Motors Club под ником jmdavis в теме, посвященной электромобилям, описал свой опыт передвижения по Флориде. Он ехал на работу по шоссе со скоростью примерно 96 км/ч. На приборной панели загорелся индикатор движущейся впереди машины, которую не было видно за грузовиком. Внезапно сработало экстренное торможение, хотя грузовик не замедлил ход. Спустя секунду он вильнул вбок, объезжая резко остановившуюся перед внезапным препятствием машину. Tesla приняла решение тормозить раньше грузовика и сохранила безопасную дистанцию. Вот описание этой ситуации.

«Если бы я управлял машиной самостоятельно, то вряд ли смог бы остановиться вовремя, поскольку не видел, как встала другая машина. Мой автомобиль отреагировал задолго до действий ее водителя, поэтому я избежал аварии, только при резкой остановке сильно тряхнуло. Отличная работа! Спасибо, Tesla, ты спасла меня»[84].

Tesla только что разослала на свои автомобили обновление, с помощью которого автопилот сможет использовать информацию с радара и четко представить обстановку впереди машины[85]. Функция Tesla сработала в беспилотном режиме, но легко вообразить, как машина берет управление на себя в случае угрозы аварии. Автопроизводители США заключили соглашение с Министерством транспорта о разработке стандарта систем автоматического экстренного торможения к 2022 году[86].

Граница между ИИ и автоматическим управлением, как правило, размыта. Автоматическое управление начинается, когда машина берет на себя выполнение задачи, а не только прогноз. Сегодня человеку приходится периодически вмешиваться в процесс управления автомобилем. Когда же он будет полностью автоматизирован?

В своем нынешнем воплощении ИИ машина выполняет одну функцию – прогностическую. Остальные функции дополняют ее, и их ценность возрастает с удешевлением прогнозов. На целесообразность полностью автоматического управления влияет относительная отдача от выполнения машинами других функций.

Люди и машины могут накапливать разные типы данных: входные, обучающие и обратной связи. Суждение полностью возложено на человека, но он способен закодировать суждение и внести его в программу до составления машиной прогноза. Или машина может научиться прогнозировать человеческое суждение на данных обратной связи, что заставляет нас действовать. В каких случаях суждения о действиях следует поручить машинам вместо людей? Или, точнее, когда тот факт, что прогнозированием занимается машина, повышает отдачу от совершения действия машиной, а не человеком? Следует определить отдачу от выполнения машинами других функций (сбор данных, суждение, действия), чтобы решить, должно быть или будет ли выполнение задачи полностью автоматизированным.

Невидящий взор

Провинциальный австралийский регион Пилбара богат железной рудой. Большинство шахт находятся более чем в полутора тысячах километров от ближайшего крупного города – Перта. Шахтеров, чьи смены длятся неделями, доставляют на работу самолетами, поэтому у них высокая зарплата и в их условия труда вложены немалые средства. Естественно, что компании стараются извлечь из работников максимальную пользу.

Крупные железорудные шахты горнопромышленного гиганта Rio Tinto обладают огромной капиталоемкостью, и не только с финансовой точки зрения, но и по своему размеру. Руду добывают из земли в таких объемах, что остаются ямы, превосходящие размерами метеоритные кратеры. Основная задача заключается в транспортировке на тысячи километров на север, в порт, руды на грузовиках размером с двухэтажный дом, и не только из выработки, но и до ближайшей железной дороги. Следовательно, дороже всего компании обходятся не люди, а простой.

Разумеется, компании пытались оптимизировать работу с помощью ночной транспортировки. Однако даже привычные к ночным сменам люди в это время суток не так работоспособны, как днем. Изначально Rio Tinto решала некоторые проблемы перераспределения человеческих ресурсов, используя грузовики, которые можно было контролировать из Перта удаленно[87]. Но в 2016 году компания сделала шаг вперед и внедрила 75 автономно функционирующих беспилотных грузовиков: такая автоматизация уже сэкономила компании 15 % производственных издержек[88]. Грузовики обслуживают шахты круглосуточно, без перерывов на остановки и без кондиционеров – дневная температура порой поднимается до +50°C. И наконец, без водителя не имеет значения, ехать грузовику вперед или назад, то есть ему не приходится разворачиваться, что дает дополнительную экономию во всем, что касается безопасности, пространства, техобслуживания и скорости.

Это стало возможным благодаря способности ИИ прогнозировать трудности на пути грузовиков и маршрут к рудникам. Для обеспечения безопасности уже не нужно контролировать грузовики на месте и даже удаленно, а чем меньше людей рядом, тем ниже риск производственных травм. И это не предел – канадские горнодобывающие компании рассматривают возможность применения роботов на основе ИИ для раскопок, а австралийские собираются автоматизировать всю цепочку от земли до порта (в том числе землеройные машины, бульдозеры и поезда).

В сфере добычи полезных ископаемых образовалась идеальная возможность полной автоматизации именно потому, что от многих действий люди уже отстранены – за ними сохранились только важные функции управления. До недавнего прогресса в ИИ все (за исключением прогнозов) уже можно было автоматизировать. Прогностические машины становятся завершающим этапом отстранения людей от многих задач.

Ранее человек оценивал обстановку и давал машине точные указания, как действовать. Теперь же ИИ считывает информацию с датчиков и учится прогнозировать препятствия для разработки маршрута. Поскольку прогностическая машина способна прогнозировать свободную дорогу, горнодобывающим компаниям люди для этого больше не нужны.

Если последней человеческой функцией в выполнении задачи станет прогноз, то, как только прогностические машины научатся выполнять его так же качественно, как и люди, человека из этого уравнения вычеркнут. Однако, как мы вскоре убедимся, очень немногие задачи так же четко определены, как в описанном примере. В большинстве автоматически принимаемых решений наличие машинного прогноза не всегда означает, что устранить человеческое суждение и заменить его машинными решениями или использовать для выполнения действий робота вместо человека выгодно.

Думать нет времени и необходимости

Беспилотные автомобили, такие как Tesla, появились благодаря прогностическим машинам. Но использовать их для создания автоматической версии человека с целью замены его машинным контролем над транспортным средством – совсем другое дело. Логика ясна: между моментом прогноза аварии и требуемым действием человек не успеет ничего осмыслить и предпринять («думать нет времени»), а реакцию машины запрограммировать достаточно легко. Когда необходимо действовать быстро, выгода от передачи контроля машине высока.

При работе с прогностической машиной прогноз требуется сообщить тому, кто принимает решение. Но если прогноз непосредственно приводит к очевидным действиям («думать нет необходимости»), потребность в человеческом суждении в данном цикле отпадает. Если машину относительно несложно запрограммировать на суждение и осуществление последующих действий, то целесообразно возложить на нее задачу полностью.

Это привело к разнообразным инновациям. На Олимпийских играх 2016 года в Рио новая автоматическая камера снимала пловцов под водой, отслеживая их действия и передвигаясь одновременно с ними по дну бассейна[89].

Раньше камерой управлял оператор, но ему приходилось предполагать расположение спортсменов в воде, а сейчас это делает за него прогностическая машина. И плавание было только началом. Современные исследователи работают над автоматизацией камеры для более сложных видов спорта, таких как баскетбол[90]. И опять же потребность в скорости и возможность закодировать суждение способствуют переходу к полной автоматизации.

Что общего у предотвращения несчастных случаев и автоматических камер для спортивной съемки? В обоих случаях за прогнозом мгновенно следует действие, а суждение поддается кодированию или предсказуемо. Автоматизация целесообразна, когда отдача от возложения всех функций на машину выше отдачи от включения в процесс человека.

Автоматизация также имеет смысл при высоких издержках коммуникации. Возьмем космические исследования. Робота гораздо проще отправить в космос, чем человека, и сегодня несколько компаний изыскивают способы добычи полезных ископаемых на Луне, но им предстоит преодолеть множество технических преград. Нас интересует, как роботы будут ориентироваться и действовать на Луне: чтобы радиосигнал достиг планеты и вернулся обратно, требуется как минимум две секунды, поэтому управление роботом с Земли – медленный и трудоемкий процесс. В этом случае он не сможет реагировать на новые обстоятельства немедленно. Если, двигаясь по лунной поверхности, робот внезапно приблизится к обрыву, любые задержки в коммуникации могут стать фатальными. Решение проблемы – в прогностических машинах. При условии качественных прогнозов деятельность робота на Луне возможно автоматизировать, и людям не придется контролировать каждый его шаг с Земли. Без ИИ подобные коммерческие проекты вряд ли воплотятся в жизнь.

Когда закон требует от человека действий

В научно-фантастических сюжетах полная автоматизация обычно приводит к проблемам. Даже если всех нас абсолютно устраивает полная автономия машин, закон может этого не позволить. Знаменитый писатель-фантаст Айзек Азимов предвидел вопрос нормативно-правового регулирования и придумал три закона робототехники, остроумно исключающих возможность нанесения вреда человеку[91].

Аналогично современные философы излагают многочисленные, на первый взгляд, отвлеченные этические дилеммы. Рассмотрим задачу с вагонеткой: предположим, вы стоите у переключателя, переводящего стрелку с одних рельсов на другие. На рельсах, по которым едет вагонетка, стоят пять человек. Можно переключить стрелку, но на других рельсах стоит один человек. Нет ни других вариантов, ни времени на размышления. Как вы поступите? Большинство людей этот вопрос ставит в тупик, и, как правило, никому вообще не хочется на него отвечать. Однако с беспилотными автомобилями такая ситуация вероятна. Кому-то придется разрешить дилемму и запрограммировать соответствующее действие. Проблема неизбежна. Кто-то – скорее всего, представители закона – будет определять, кто останется жив, а кто погибнет.

Пока мы предпочитаем сохранять в цикле человека, а не кодировать этический выбор в программу. Вообразите, например, полностью автономное беспилотное оружие, которое самостоятельно идентифицирует объект, наводит на цель и убивает. Даже если генерал армии найдет прогностическую машину, умеющую отличать мирных граждан от военных, сколько времени понадобится последним, чтобы научиться сбивать ее с толку? Требуемый уровень точности в ближайшем будущем, вероятно, невозможен, поэтому в 2012 году Министерство обороны США выдвинуло директиву, которую большинство расценивает как требование сохранить человека в цикле принятия решений об атаке[92]. Пока неясно, нужно ли будет соблюдать данное требование всегда, но необходимость вмешательства человека по какой бы то ни было причине ограничит автономность прогностических машин в случаях, когда они могли бы действовать самостоятельно[93]. Даже ПО автопилота Tesla, несмотря на способность управлять автомобилем, сопровождается юридическим требованием водителю постоянно держать руки на руле.

С экономической точки зрения целесообразность отсутствия в данном цикле человека зависит от степени потенциального вреда. К примеру, управление беспилотным транспортным средством в отдаленной шахте или на производстве очень отличается от такового на автомобильных дорогах. Обстановку «на производстве» и «на дороге» разделяет наличие так называемых экономистами экстерналий – издержек, больше ощутимых для окружающих, чем для лица, принимающего решения.

Экономисты разработали ряд решений для проблемы экстерналий. Одно из них – возложение ответственности на ключевое лицо, принимающее решение, чтобы оно присвоило себе внешние издержки. Например, налог на вредные выбросы в атмосферу выполняет эту роль в контексте присвоения экстерналий, связанных с изменением климата. Но в отношении автономных машин трудно определить ответственную сторону. Чем выше потенциальная угроза от машины для людей, не входящих в организацию (и, разумеется, риск физического ущерба для сотрудников), тем вероятнее, что с точки зрения закона и здравого смысла разумнее сохранить человека в цикле.

Когда человек действует лучше

Вопрос: что оранжевое и рифмуется со словом «коровка»?

Ответ: морковка.

Смешная шутка? Вот еще одна. Маленькая девочка спрашивает отца: «Папочка, все сказки всегда начинаются со слов “Жили-были”?» Он отвечает: «Нет, есть еще много сказок, начинающихся со слов: “Если за меня проголосуют, я обещаю…”»

Ладно, признаем, что остряки из экономистов получаются так себе, но все равно лучше машин. Вот что обнаружили исследователь Майк Йоманс и его коллеги: если люди думают, что пошутила машина, шутка кажется им не такой смешной, как если бы она прозвучала из уст человека. По данным исследователей, машина лучше умеет придумывать шутки, но люди предпочитают выслушивать остроты от себе подобных. Даже если шутка принадлежала машине, люди высказывали большее одобрение, если им говорили, что ее придумал человек.

То же касается художественных и спортивных достижений. Впечатление от искусства, как правило, основано на знании зрителя о жизненном опыте автора. Интерес к спортивным состязаниям отчасти вызван противоборством между людьми. Даже если бы машина могла бежать быстрее человека, исход забега не вызывал бы таких эмоций, как мы привыкли.

Игра с детьми, забота о стариках и другие виды деятельности, подразумевающие социальное взаимодействие, тоже по определению приятнее, если их совершают люди.

Пусть даже машине известно, что рассказать с образовательной целью ребенку, иногда лучше возложить эту обязанность на человека. И пусть со временем мы свыкнемся с тем, что роботы заботятся о нас и наших детях, и научимся получать удовольствие от просмотра спортивных соревнований с их участием, пока для нас предпочтительнее, чтобы некоторые действия предпринимали люди.

Решения, в которых человек оптимально подходит для выполнения действия, не будут полностью автоматизированы. В других случаях ключевым ограничением автоматизации становятся прогнозы. Когда их качество станет достаточно высоким, а суждение об отдаче возможно будет задать предварительно – в коде, написанном человеком, либо в результате обучения машины в ходе наблюдений за людьми, – тогда решения будут автоматизированы.

Выводы

• Привлечение ИИ к выполнению задач не всегда подразумевает полную автоматизацию, прогноз – лишь один из компонентов. В большинстве случаев применение суждения и совершение действия возлагаются на человека. Однако иногда суждение возможно встроить в код или, при наличии достаточного количества примеров, научить машину прогнозировать его. Кроме того, машины способны совершать действия. Когда все элементы задачи выполняет машина, то задача полностью автоматизирована и человек из цикла устранен.

• Вероятнее всего, полностью автоматизированным станет выполнение задач, в которых это обеспечит максимальный доход. В первую очередь это задачи, в которых:

• остальные элементы, за исключением прогноза, уже автоматизированы (горнодобывающая промышленность);

• отдача от скорости выполнения действий после прогноза высока (беспилотные автомобили);

• отдача от сокращения времени ожидания прогноза высока (освоение космоса).

• Важное отличие между автономным транспортом, функционирующим на городских улицах, и тем, что используется в горном промысле, заключается в том, что первый, в отличие от второго, создает существенные экстерналии. На улице города автономный транспорт может стать причиной аварии, в результате чего понесут издержки люди, не имеющие отношения к принятию решения. И наоборот, несчастные случаи, виновниками которых выступают автономные транспортные средства, обслуживающие горный промысел, налагают издержки только на ресурсы или людей. Государство регулирует действия, создающие экстерналии, следовательно, урегулирование становится потенциальной преградой к полной автоматизации средств, создающих существенные экстерналии. Эта проблема решается присвоением внешних издержек посредством распространенного экономического метода – возложения ответственности. Мы предполагаем активную волну развития нормативно-правовой базы в отношении возложения ответственности как следствие растущего спроса на автоматизацию в новых сферах.

Часть III. Инструменты

Глава 10. Разбор рабочих процессов

В разгар IT-революции компании задавались вопросом, как внедрить компьютеры в свой бизнес. Для некоторых ответ был ясен: определить сферу, где требуется много расчетов, и заменить людей компьютерами; они лучше, быстрее и дешевле. Для других все выглядело не столь очевидно, тем не менее многие пробовали. Но плоды экспериментов созрели не сразу. Роберт Солоу, лауреат Нобелевской премии по экономике, сокрушался: «Эпоха компьютеров наступила всюду, кроме статистики производительности труда»[94].

Из этой проблемы зародилось интересное движение под названием «реинжиниринг». Майкл Хаммер и Джеймс Чампи в книге «Реинжиниринг компании» (1993)[95] утверждали, что для применения новой универсальной технологии – компьютеров – компании должны отвлечься от процессов и обозначить цели, которых хотят достигнуть. Затем следует изучить рабочие процессы и определить, какие задачи необходимо выполнить для достижения целей, а только затем думать, какую роль в них можно отвести компьютерам.

Один из любимых примеров Хаммера и Чампи – дилемма Форда, с которой тот столкнулся в 1980-х; она касалась не производства автомобилей, а оплаты труда[96].

Его отдел расчетов с кредиторами в Северной Америке насчитывал 500 человек, и вложением немалых средств в компьютеры он надеялся сократить их количество на 20 %. Вполне реальной ему представлялась цифра в 400 человек, ведь у его конкурента Mazda эти функции выполняли всего пять сотрудников. Хотя в 1980-е годы все превозносили продуктивность японских рабочих, не нужно быть гуру менеджмента, чтобы понимать: дело не только в этом.

Для повышения производительности менеджеры Ford изучили процесс покупки. Между составлением и оформлением заказа на покупку было задействовано много людей; если хотя бы один выполнял свои обязанности слишком долго, буксовала вся система. Неудивительно, что некоторые покупки совершались проблематично, особенно если требовалось уточнить или дополнить заказ. Эту задачу выполнял один человек, и даже если трудности возникали только с частью заказа, большую часть времени он был занят их решением. Поэтому весь заказ продвигался со скоростью самой проблемной его части.

В этом заложен потенциал для эффективного применения компьютеров. Они не только снижают количество нестыковок в системе, но и могут отделять простое от сложного и обеспечивать обработку задачи с нормальной скоростью. Как только новую систему внедрили, отдел расчетов с кредиторами Ford уменьшился на 75 %, а весь процесс значительно ускорился и стал гораздо точнее.

Не всегда реинжиниринг нацелен на сокращение персонала, даже если (к сожалению) многие думают об этом в первую очередь[97]. В широком применении он может повысить качество услуг. Есть еще пример крупной компании по страхованию жизни Mutual Benefit Life, которая обнаружила, что девятнадцать человек в пяти отделах выполняют тридцать отдельных этапов обработки заявок. Теоретически стандартная заявка должна была проходить эту запутанную схему за день, но на практике это занимало от пяти до двадцати дней. Почему? Из-за отсрочек при переходе от одного сотрудника к другому. И чем медленнее продвигалась заявка, тем больше проволочек с ней возникало. Единая база данных, обеспеченная централизованной компьютерной системой, улучшила процесс принятия решений, уменьшила отсрочки и значительно повысила продуктивность работы в целом.

В итоге каждую заявку принимал один человек, а обработка занимала от четырех часов до нескольких дней.

Как инструмент классических вычислений ИИ представляет собой универсальную технологию. Он обладает потенциалом влияния на все решения, потому что их ключевой элемент – прогноз. Впредь ни один менеджер не добьется повышения продуктивности простым внедрением ИИ в проблему или существующий процесс. Эта технология требует переосмысления всех процессов, как это описали Хаммер и Чампи.

Компании уже занимаются анализом, разбивая рабочий процесс на отдельные задачи. Финансовый директор Goldman Sachs Р. Мартин Чавез отметил, что большая часть из 146 задач по первичному публичному размещению «напрашивается на автоматизацию»[98]. Многие из этих задач основаны на решениях, которые инструменты ИИ заметно улучшат. В истории о трансформации Goldman Sachs (а ее напишут через десяток лет) расскажут о том, какую значительную роль в ней сыграл прогресс ИИ.

Практическое внедрение ИИ осуществляется посредством разработки инструментов. Единицей ИИ в них является не «работа», «обязанности» или «стратегия», а «задача». Задачи состоят из решений (как представленные на рис. 5.1 (глава 5) и описанные в части II). Решения основываются на прогнозе и суждении и принимаются исходя из данных. У решений внутри одной задачи эти элементы часто совпадают. И различаются только последующими действиями (рис. 10.1).

Рис. 10.1. Анализ полного изменения и автоматизации процессов

Некоторые решения внутри задачи иногда возможно автоматизировать, а сегодня, сообразно повышению точности прогнозов, можно автоматизировать последнее оставшееся решение. Распространение прогностических машин заставляет задуматься, как переиначить и автоматизировать рабочие процессы полностью, эффективно отстранив людей от таких задач вообще. Но чтобы сами по себе улучшенные и дешевые прогнозы привели к полной автоматизации, использование прогностических машин должно также повысить отдачу от их применения в других аспектах задач. Иначе при наличии прогностических машин решения будут принимать люди.

Влияние инструментов ИИ на рабочие процессы

В ЛСР мы наблюдали развитие более чем 150 наукоемких компаний. И каждая была сосредоточена на разработке инструмента ИИ, предназначенного для конкретной задачи в конкретном рабочем процессе. Один стартап прогнозирует важные части документа и выделяет их. Другой прогнозирует производственные дефекты и отмечает их. Третий прогнозирует подходящие ответы на обращения в службу поддержки и выдает их. Список можно продолжить. Крупные компании внедряют сотни, если не тысячи различных ИИ для выполнения различных задач своего рабочего процесса. Google разрабатывает более тысячи инструментов ИИ для самых разных задач, от отправки электронных писем до языкового перевода и управления автомобилем[99].

Прогностические машины будут влиять на большинство компаний, но постепенно и по большей части незаметно – сравнимо с тем, как ИИ улучшает приложения для фотографии в смартфоне. Он добавляет удобную сортировку, а принципиально способ использования не меняется.

Но вы читаете эту книгу, скорее всего, потому, что заинтересованы в радикальных изменениях своего бизнеса посредством ИИ. Инструменты ИИ могут менять рабочий процесс двумя способами. Первый – признание задач устаревшими и их устранение. Второй – добавление новых задач, своих для каждой компании и каждого рабочего процесса.

Рассмотрим задачу набора студентов в программу МБА – хорошо знакомый нам процесс. Возможно, вы тоже участвовали в чем-либо подобном – набирали персонал или регистрировали клиентов. Рабочий процесс набора в МБА начинается с привлечения большого количества абитуриентов и сбора их заявлений и заканчивается зачислением в программу тех, кто прошел отбор и принял приглашение. Процедура набора делится на три части: воронка продаж[100], состоящая из ряда этапов, на каждом из которых производится отсев; отбор кандидатов и рассылка приглашений; дальнейшие шаги, мотивирующие абитуриентов принять приглашения. Каждая стадия требует специального распределения ресурсов.

Цель процесса набора очевидна – набрать курс лучших студентов. Однако что значит «лучший»? Это сложный вопрос, имеющий отношение к стратегическим целям учебного заведения. Мы не будем пока учитывать, как разные определения слова «лучший» влияют на дизайн инструментов ИИ (а они действительно влияют) и задачи внутри рабочих процессов, а просто предположим, что данная организация сформулировала свое определение и теперь может отнести некоторых абитуриентов к категории лучших. На практике вторая стадия – отбор лучших и рассылка приглашений – включает в себя важные решения, касающиеся времени рассылки (в начале или в конце процесса) и предложения материального поощрения или помощи. Эти решения выходят за рамки простого определения лучших, но также прогнозируют самые эффективные методы привлечения многообещающих абитуриентов (что будет происходить позднее).

Современная система ранжирования заявок достаточно примитивна. Обычно заявления делят на три стопки: 1) обязательно зачислить; 2) зачислить, если откажется кто-то из категории 1; и 3) не зачислять. Это, в свою очередь, приводит к необходимости управления рисками, чтобы уравновесить все «за» и «против» действий, повышающих вероятность ошибок. Например, нежелательно, чтобы абитуриенты, которых следовало бы отнести к категории 1 или хотя бы 2, попали в категорию 3 по причинам, не очевидным из их заявления. Аналогично не хотелось бы допустить в категорию 1 тех, кому следует находиться в конце списка. Поскольку заявки однозначно оценивать трудно, абитуриенты распределяются по категориям под влиянием одновременно и объективных, и субъективных причин.

Предположим, что программа МБА разработала ИИ, способный на основе заявок и другой информации (видеозаписей интервью и публикаций в соцсетях) четко ранжировать абитуриентов. Для этого его обучали на данных за прошедший период – заявках студентов, впоследствии причисленных к категории лучших. Инструмент ИИ будет выполнять задачу по выбору абитуриентов, достойных получить приглашение, быстрее, дешевле и точнее. Основной вопрос в том, как эта волшебная прогностическая технология повлияет на остальную часть рабочего процесса МБА.

Наша гипотетическая технология ранжирования абитуриентов выдает прогноз, кто из них, вероятнее всего, окажется в числе лучших. Это повлияет на другие решения рабочего процесса, в том числе по поводу ранних приглашений (чтобы опередить другие учебные заведения), материальных поощрений (стипендии) и особого внимания (обеды с профессурой или ранг почетных выпускников). Все эти решения требуют поиска компромиссов, а ресурсы на них ограничены. С появлением точного списка желаемых кандидатов станет понятно, на кого тратить ресурсы. А чем больше уверенность в потенциале абитуриента, тем, вероятно, больше ресурсов в него готовы вложить.

Заметно ощутимее прогностическое ранжирование может повлиять на решения, принимаемые до подачи заявок. Хотя большинство учебных заведений хотят заполучить побольше абитуриентов, они знают: если их окажется слишком много, анализ и ранжирование усложнятся. Наша прогностическая машина существенно снизит издержки всех этапов и, как следствие, повысит отдачу от большого количества абитуриентов. Особенно в случае, если технология способна анализировать их целеустремленность (почему бы и нет, она ведь волшебная). Таким образом, школы расширят охват абитуриентов и смогут отказаться от оплаты за рассмотрение заявок, потому что их сортировка упростится настолько, что не потребует издержек с увеличением количества желающих.

В результате изменения рабочего процесса могут оказаться весьма ощутимыми. С таким методом ранжирования школы сократят время между получением заявки и отправлением приглашения.

При налаженном методе все происходит почти мгновенно, поэтому рабочий процесс и динамика конкуренции приоритетных кандидатов меняются.

Это гипотетический ИИ, но на его примере понятно, как в результате внедрения инструментов ИИ в задачи рабочего процесса они устраняются (ранжирование вручную) или добавляются (больше рекламы). Конечно, у всех компаний будут разные исходы, но в ходе разбора рабочих процессов можно проанализировать вероятность того, что прогностические машины выйдут далеко за пределы отдельных решений, для которых были разработаны.

Как инструмент ИИ улучшил клавиатуру iPhone

У клавиатуры смартфона больше общего с механической пишущей машинкой, чем с клавиатурой ПК. Возможно, вы еще застали пишущие машинки и помните, что при слишком высокой скорости печатания механизм заклинивает. Поэтому и придумали раскладку QWERTY – чтобы снизить вероятность нажатия двух соседних клавиш, что и вызывало проблемы со старыми машинками. Из-за этого машинистки с высокой скоростью печати вынуждены были работать медленнее.

Раскладка QWERTY до сих пор существует, в отличие от пишущих машинок. Когда инженеры Apple разрабатывали iPhone, было много споров о том, пора ли наконец избавиться от прежней раскладки. Но все к ней уже привыкли, пришлось на ней и остановиться. У ближайшего конкурента Apple в то время, BlackBerry, была кнопочная клавиатура QWERTY, которая работала настолько хорошо, что телефон из-за повального им увлечения назвали Crackberry (нарко-berry).

Крупнейшим научным проектом iPhone стала виртуальная клавиатура[101]. Но в 2006 году (первый iPhone выпустили в 2007-м) она была просто ужасной. До BlackBerry ей было далеко – она настолько неудобная, что никто не печатал на ней текстовые сообщения, тем более письма. Проблема заключалась в крошечных клавишах, но иначе они не уместились бы на 4,7-дюймовом экране, и пользователь легко промахивался, нажимая соседнюю кнопку. Многие инженеры Apple предлагали отличную от QWERTY раскладку.

На поиск решения оставалось всего три недели, и, если бы его не нашли, проект рухнул бы, и всем разработчикам дали полную свободу на апробирование любых вариантов. К концу срока клавиатура выглядела как маленькая стандартная, но с одним отличием. Пользователь не замечал изменений, но рабочее поле некоторых клавиш во время печати увеличивалось. Например, после t чаще всего следует h, поэтому она становилась больше. Далее расширялись e и i и т. д.

Это инструмент ИИ в действии. Инженеры Apple раньше всех использовали достижения машинного обучения 2006 года для создания прогностических алгоритмов, меняющих размер поля клавиш исходя из уже напечатанных букв. Сегодняшняя технология автокоррекции текста работает так же, но по большому счету решение было найдено благодаря QWERTY. Раскладка, разработанная во избежание нажатия соседних клавиш, позволила виртуальным клавишам смартфона при необходимости расширяться, поскольку маловероятно, что следующая клавиша находится рядом с той, что только что нажали.

Во время разработки iPhone инженеры Apple досконально разобрались в рабочем процессе, примененном для клавиатуры. Пользователь находит нужную клавишу, нажимает и переходит к следующей. Разбив процесс, они поняли, что идентификации и нажатию не мешает различающийся внешний вид клавиш. Что самое главное – прогноз определял, какая клавиша станет следующей. Понимание рабочего процесса обеспечило возможность оптимального применения инструмента ИИ, и это верно в отношении любых процессов.

Выводы

• Инструменты ИИ представляют собой точечное решение. Каждый предназначен для конкретного прогноза, а большинство разработано для конкретной задачи. Большинство стартапов нацелены на создание одного инструмента ИИ.

• Крупные корпорации состоят из рабочих процессов, обращающих ресурсы в продукт. Рабочие процессы подразделяются на задачи (например, первичное размещение акций Goldman Sachs состоит из 146 отдельных задач). Принимая решение о внедрении ИИ, компании должны разбить процессы на задачи, оценить прибыль от затрат по разработке или покупке ИИ для выполнения каждой задачи, ранжировать ИИ с учетом выгоды от затрат, затем начать работать по списку сверху вниз. Иногда можно добавить инструмент ИИ в рабочий процесс и сразу увидеть выгоду в результате повышения эффективности выполнения задачи. Однако чаще всего это не так просто. Извлечение реальной выгоды от внедрения инструмента ИИ требует реинжиниринга всего рабочего процесса. В итоге по аналогии с революцией ПК понадобится много времени, чтобы увидеть в большинстве рядовых компаний рост производительности в результате ИИ.

• Для иллюстрации потенциального влияния ИИ на рабочий процесс мы описали вымышленный ИИ, прогнозирующий ранжирование абитуриентов МБА. Чтобы извлечь из этой прогностической машины максимальную выгоду, учебным заведениям придется пересмотреть рабочий процесс. Им понадобится устранить задачу ручного ранжирования и расширить задачу по рекламе программы, поскольку ИИ повысит отдачу от увеличения числа абитуриентов (посредством повышения точности прогнозирования успешных абитуриентов и снижения издержек на анализ их заявок). Школа изменит задачу по предоставлению материальных поощрений, таких как стипендия и финансовая помощь, потому что будет больше уверена в том, какие из абитуриентов лучшие. И наконец, школа отрегулирует остальные элементы рабочего процесса, чтобы воспользоваться преимуществами предоставления мгновенных решений по заявкам на обучение.

Глава 11. Декомпозиция решений

Нынешним инструментам ИИ далеко до машин с человеческим интеллектом, описанным в научной фантастике (их часто называют «общий» или «сильный ИИ»). Сегодняшнее поколение ИИ мало что умеет помимо прогнозирования.

Однако не стоит преуменьшать его значение. Как заметил однажды Стив Джобс, «одна из вещей, отделяющих нас от высших приматов, – это способность изготавливать инструменты». В качестве примера инструмента, подарившего людям возможность передвигаться быстрее любого животного, он назвал велосипед. Компьютеры он воспринимал так же: «Для меня компьютер – лучший из придуманных человеком инструментов, я бы сказал, что это велосипед для ума»[102].

В настоящее время инструменты ИИ прогнозируют значение слов (Amazon Echo), контекст запроса (Siri Apple), желаемые товары (рекомендации Amazon), ссылки, соответствующие искомой информации (поиск Google), момент торможения во избежание опасности (автопилот Tesla) и интересующие новости (новостная лента Facebook). Ни один из этих инструментов не осуществляет рабочий процесс полностью – наоборот, каждый предоставляет прогностический компонент, упрощающий принятие решений. ИИ расширяет возможности.

Но как узнать, нужен ли инструмент ИИ для конкретной задачи вашего бизнеса? Любая задача состоит из ряда решений с прогностической составляющей.

Мы расскажем вам о способе анализа ИИ в контексте задачи. Как мы предлагали идентифицировать задачи, разбивая рабочий процесс, чтобы найти роль для ИИ, так и сейчас рекомендуем декомпозировать каждую задачу – разложить ее на составляющие.

Шаблон ИИ

В ЛСР мы много раз наблюдали использование преимуществ технологий машинного обучения для разработки новых инструментов ИИ. Каждая компания в лаборатории работает над созданием конкретных инструментов, и некоторые ориентируются на потребителей, а большинство – на корпоративных клиентов. Последние исследуют возможности идентификации задачи внутри рабочего процесса и строят свой бизнес на предоставлении инструмента, обеспечивающего соответствующий прогноз.

В ходе консультаций мы обнаружили, что решения удобно делить на следующие составляющие (см. рис. 5.1): прогноз, входные данные, суждение, обучение, действие, результат и обратная связь. Затем мы разработали «шаблон ИИ», упрощающий декомпозицию задач для выяснения потенциальной роли прогностической машины (рис. 11.1). Шаблон помогает обдумывать, строить и анализировать инструменты ИИ. Он задает порядок определения каждой составляющей решения задачи и вносит ясность в их описание.

Рис. 11.1. Шаблон ИИ

Чтобы проверить шаблон в действии, рассмотрим стартап Atomwise, предлагающий прогностический инструмент, созданный для сокращения времени на разработку эффективных лекарственных средств. Существуют миллионы молекул фармацевтических препаратов, но покупка и тестирование каждого стоят времени и денег. Как же компании отбирают их для тестирования?

Они выносят обоснованное предположение, то есть прогнозируют, исходя из исследований эффективности использования молекул в лекарственных средствах.

СЕО Atomwise Абрахам Хейфец объяснил нам научную подоплеку: «Чтобы лекарство работало, оно должно связывать вредоносные компоненты и в то же время не связывать белки печени, почек, сердца, мозга и других органов, из-за чего возникают токсические побочные эффекты. То есть все сводится к тому, чтобы “делать то, что нужно, и не делать того, что не нужно”».

Итак, если фармацевтические компании смогут прогнозировать связывающую способность вещества, то определят, какие молекулы им необходимы. Atomwise предлагает для прогноза инструмент ИИ, более эффективно выполняющий задачу идентификации потенциальных лекарственных средств. Инструмент использует ИИ для прогноза связывающей способности молекул, поэтому Atomwise может рекомендовать фармацевтическим компаниям ранжированный список молекул с максимальной способностью связывания белка болезней. Например, Atomwise составит список двадцати молекул с самой высокой такой способностью – скажем, вируса Эбола. Вместо тестирования молекул по одной прогностическая машина Atomwise проверит миллион возможностей. И хотя фармацевтическим компаниям все равно необходимо будет проведение тестов и проверка молекул с помощью человеческих и машинных суждений и действий, ИИ существенно снизит издержки и повысит скорость выполнения задачи.

Где применяется суждение? В определении суммарной ценности конкретной перспективной молекулы для фармацевтической промышленности. Ценность выражается в двух критериях: эффективность лечения и вероятные побочные эффекты. При выборе веществ для тестирования компании необходимо определить отдачу от эффективности лечения и издержки побочных эффектов. Как отметил Хейфец, «побочные эффекты более допустимы в химиотерапии, чем в креме от прыщей».

Прогностическая машина Atomwise учится на данных по связывающей способности. На июль 2017 года она обработала 38 млн опубликованных и еще больше приобретенных и выученных данных на эту тему. Каждый фрагмент данных состоял из молекулы и характеристик белка, а также степени их связи. Чем больше прогностическая машина выдает прогнозов, тем больше получает обратной связи и постоянно совершенствуется.

Используя машину и данные по характеристикам белка, Atomwise прогнозирует, у каких молекул самая высокая связывающая способность. По тем же данным он может прогнозировать наличие высокой связывающей способности у веществ, которые никогда раньше не производились.

Заполним шаблон (рис. 11.2) декомпозиции задачи Atomwise по отбору молекул, для чего определим следующее.

Рис. 11.2. Шаблон ИИ для Atomwise

• Действие. Что вы пытаетесь сделать? Atomwise тестирует молекулы с целью излечения и профилактики заболеваний.

• Прогноз. Что необходимо знать для принятия решения? Atomwise прогнозирует связывающую способность перспективных молекул и белков.

• Суждение. Как оценить исходы и ошибки? Atomwise и его клиенты установили критерии относительной значимости эффективности лечения и относительные издержки возможных побочных эффектов.

• Исход. Каковы критерии успешно выполненной задачи? Для Atomwise это результаты теста. Привел ли он в итоге к созданию нового лекарства?

• Входные данные. Какие данные необходимы для запуска прогностического алгоритма? Atomwise использует данные по характеристикам белков крови (или тканей) заболевшего органа (или организма в целом).

• Обучающие данные. Какие данные требуются для обучения прогностического алгоритма? Atomwise применяет данные по связывающей способности молекул и белков наряду с их характеристиками.

• Данные обратной связи. Как усовершенствовать алгоритм посредством информации об исходах? Для улучшения будущих прогнозов Atomwise учитывает результаты тестов независимо от их успешности.

Ценностное предложение Atomwise основано на инструменте ИИ, выполняющем задачу прогнозирования в рабочем процессе, направленном на изыскание лекарственных препаратов. Он снимает задачу прогнозирования с человека. Для ее выполнения он собрал комплект уникальных данных для прогнозирования связывающей способности фармацевтических веществ. Прогностическая ценность заключается в сокращении издержек и повышении вероятности успешного открытия новых лекарств.

Клиенты Atomwise используют прогноз в сочетании с собственным профессиональным суждением об отдаче от молекул с различающейся связывающей способностью к разным видам белков.

Шаблон ИИ для МБА

Наш шаблон полезен и для крупных организаций. С его помощью мы разбиваем рабочий процесс на задачи. Здесь мы рассматриваем шаблон ИИ применительно к выбору абитуриентов на МБА (рис. 11.3).

Рис. 11.3. Шаблон ИИ для отбора абитуриентов

Как мы заполняли шаблон? В первую очередь требуется прогноз: какие абитуриенты станут лучшими или перспективными студентами. Кажется, что все просто, достаточно определить, что означает понятие «лучший». В этом поможет стратегия учебного заведения. Однако у большинства организаций смутная и неоднозначная формулировка миссии, подходящая для брошюр по маркетингу, но не для выяснения прогностической цели ИИ.

Стратегии бизнес-школ прямо или косвенно определяют понятие «лучший». Они могут применять такие конкретные критерии, как высокие результаты тестов (например, на проверку управленческих способностей), или более общие цели (такие как набор абитуриентов, которые поднимут рейтинг школы в Financial Times или US News & World Report). Также желательно наличие у будущих студентов количественных и качественных навыков. Некоторые школы отдают предпочтение иностранным студентам, другие стремятся к разнообразию обучаемой аудитории. Ни одно учебное заведение не может преследовать все эти цели одновременно – нужно делать выбор. Иначе по всем направлениям придется идти на компромисс и успеха не будет ни в одном из них.

Мы исходили из стратегии школы стать самой влиятельной в сфере бизнеса во всем мире (рис. 11.3). Данное субъективное утверждение является стратегическим, потому что ориентировано на мировой, а не местный масштаб и на влияние, а не, скажем, на увеличение дохода студентов или повышение платы за учебу.

Чтобы ИИ прогнозировал влияние на международный бизнес, следует его измерить. Здесь мы берем на себя роль разработчика функции вознаграждения. Какие из имеющихся обучающих данных могут стать индикаторами влияния на международный бизнес? Один из вариантов – идентификация лучших, самых авторитетных выпускников каждого курса, по 50 человек за каждый год. Выбор, конечно, получится субъективным, но он вполне осуществим.

Хотя в качестве цели для прогностической машины можно установить авторитет в международном бизнесе, ценность зачисления конкретного студента зависит от суждения. Во что обойдется зачисление слабого студента, ошибочно отнесенного к будущей элите? Во сколько обойдется отсев способного студента, ошибочно причисленного к слабым? Анализ этого торга и получается «суждением» – наглядным элементом шаблона ИИ.

С формулированием цели прогноза сразу становится понятно, какие входные данные необходимы. Для прогнозирования успехов абитуриентов нужны их заявки на обучение. Также можно учитывать информацию из соцсетей. Позднее мы станем отслеживать карьерный рост студентов и использовать обратную связь для совершенствования прогнозов. Они подскажут, каких абитуриентов зачислить, но только после определения цели и вынесения суждения об издержках ошибок.

Выводы

• Чтобы увидеть, где целесообразно использовать прогностические машины, необходимо декомпозировать задачи. Это позволяет проанализировать преимущества улучшенного прогноза и издержки на его создание. Обосновав свою оценку, ранжируйте ИИ от высокой отдачи на капитал к низкой и пройдитесь по списку сверху вниз, внедряя ИИ при условии, что ожидаемая отдача это оправдывает.

• Шаблон ИИ упрощает процесс декомпозиции. Заполняйте его для каждого решения и задачи. Он упорядочивает и структурирует процесс. Шаблон заставляет прояснить все три типа данных (обучающие, входные и обратной связи) и точно сформулировать:

• предмет прогнозирования;

• суждение, требуемое для анализа относительной ценности разных действий и исходов;

• варианты действий и исходов.

• Центральный элемент шаблона ИИ – прогноз. Следует определить ключевой прогноз в основе задачи, а для этого может понадобиться ИИ. Попытка ответить на данный вопрос часто инициирует жизненно важную дискуссию среди руководства: «Какая же все-таки у нас цель?» Прогноз требует конкретности, не всегда присутствующей в формулировке миссии. Бизнес-школам, например, легко заявить, что они ищут «лучших» студентов, но для уточнения прогноза необходимо оговорить, что значит «лучший» – тот, у кого самая высокая зарплата после выпуска? Или тот, кто занял пост директора через пять лет после окончания обучения? А может, самый неординарный? Или тот, кто, вероятнее всего, в будущем станет финансировать школу? Даже такие цели, как повышение прибыли, не просты, как кажется поначалу. Должны ли мы прогнозировать действие, которое увеличит доход на этой неделе, в этом квартале, в году или десятилетии? Компаниям обычно приходится возвращаться к истокам, корректировать цели и уточнять миссию в качестве первого шага в работе над стратегией ИИ.

Глава 12. Пересмотр обязанностей

До пришествия ИИ и интернета прогремела компьютерная революция. Компьютеры удешевили арифметику, точнее, подсчеты множества вещей. Одна из первых «убойных» программ упростила жизнь счетоводам.

IT-инженер Дэн Бриклин учился на МБА в Гарвардской бизнес-школе и изнемогал от многочисленных расчетов для анализа разных сценариев. Дэн написал программу для выполнения таких расчетов, и она оказалась удобной настолько, что он вместе с Бобом Фрэнкстоном разработал на ее основе VisiCalc для компьютера Apple II. Это была первая программа эры ПК, и именно благодаря ей компьютеры появились в большинстве офисов[103]. Программа не только в сотни раз сократила время, которое отнимали расчеты, но и позволила анализировать гораздо большее число сценариев.

В то время люди, в чьи обязанности входили расчеты, назывались счетоводами; в конце 1970-х в США их было больше 400 тысяч. Электронные таблицы выполняли за них то, что отнимало больше всего времени, – арифметику. Логично предположить, что такие специалисты стали не нужны, но что-то не слышно блюзов о потерявших работу счетоводах, и они не бунтовали, требуя запретить электронные таблицы, которые в конце концов стали очень востребованы. Почему же счетоводы не восприняли их как угрозу? Потому что VisiCalc прибавила их работе ценности. Расчеты упростились, стало легко прикинуть, какой выгоды ожидать и какой она будет при других условиях. Вместо фрагмента картины возможность многократно рассчитывать заново давала возможность увидеть ее полностью. Вместо того чтобы проверять выгоды вложения, можно было сравнить несколько инвестиций с разными прогнозами и выбрать лучший вариант. Но кто-то все еще должен быть судить, какие инвестиции тестировать. Электронная таблица быстро дает ответы и существенно повышает отдачу от задаваемых вопросов.

И как раз люди, кропотливо занимавшиеся расчетами до появления электронных таблиц, лучше, чем кто-либо иной, умели задавать правильные вопросы. Таблицы не заменили людей, а упростили им работу.

Такое развитие событий – расширение обязанностей после передачи машине некоторых (но не всех) задач – скорее всего, станет распространенным следствием внедрения ИИ. Задачи, входящие в функции людей, изменятся: некоторые исчезнут, так как будут возложены на прогностические машины, другие добавятся, поскольку на их выполнение освободится достаточно времени. А необходимые в прошлом навыки для большинства задач станут неактуальными, и им на смену придут другие. Счетоводы стали кудесниками электронных таблиц, и не менее грандиозные перемены ждут нас в результате распространения инструментов ИИ.

Наш процесс внедрения инструментов ИИ определяет, к какому исходу стремиться. В него включен анализ всех рабочих процессов, входящих в обязанности одного человека, отдела или организации, а затем разделение процессов на задачи и поиск эффективного применения прогностической машины для их выполнения. Далее следует объединить задачи в обязанности.

Недостающие звенья автоматизации

В некоторых случаях целью становится полная автоматизация всех задач, связанных с профессией. Сами по себе инструменты ИИ на это способны вряд ли, поскольку поддающиеся полной автоматизации рабочие процессы состоят из последовательности задач, которые нельзя (или непросто) исключить, даже если изначально они кажутся не требующими специальных навыков и пустяковыми.

В 1986 году произошла катастрофа космического шаттла «Челленджер» из-за взрыва челнока в результате повреждения уплотнительного кольца диаметром менее 0,5 дюйма. Эта поломка привела к разрушению корабля. При полной автоматизации задачи один неработающий участок может поставить под угрозу ее выполнение; необходимо анализировать каждый шаг. Такие маленькие задачи становятся трудноопределимыми недостающими звеньями автоматизации и существенно ограничивают пересмотр обязанностей. Следовательно, инструменты ИИ, способные обнаружить эти звенья, имеют огромное значение.

Рассмотрим сферу обработки заказов, активно развивающуюся последние двадцать лет с распространением онлайн-шопинга. Обработка заказов – основной этап продаж вообще и электронной коммерции в частности. Она заключается в принятии заказа и подготовке к доставке клиенту. В электронной коммерции обработка заказов состоит из нескольких частей: поиска товара на огромном складе, снятия с полки, сканирования для учета наличия, упаковки в пакет и коробку, ее маркировки и подготовки к отправке.

Поначалу применение машинного обучения в обработке заказов ограничивалось учетом товаров: прогнозированием, какие из них необходимо закупить, потому что они хорошо продаются, какие не требуют пополнения запаса из-за низкого спроса и так далее. Эти отработанные прогностические задачи несколько десятков лет оставались основной частью офлайновых продаж и складского управления. Технологии машинного обучения сделали прогнозы еще лучше.

За последние двадцать лет автоматизировали большую часть процесса. Например, исследованиями установлено, что работники центров обработки заказов больше половины времени тратили на складские поиски товаров и упаковку. В результате несколько компаний разработали автоматизированный процесс транспортировки товаров с полок, чтобы сократить время на поиски. В 2012 году Amazon за $775 млн приобрела лидирующую на этом рынке компанию Kiva и в итоге прекратила поставки Kiva другим клиентам. Позднее появились другие поставщики, желающие удовлетворить спрос расширяющегося рынка внутренних центров обработки заказов и сторонних логистических компаний.

Несмотря на значительную автоматизацию, в центрах обработки заказов работает много людей. Хотя роботы могут взять товар и принести его человеку, его необходимо еще сортировать – то есть разобраться, что куда отправлять, – а затем поднять предмет и переложить в нужное место. Последнее самое сложное из-за самого движения захвата. И пока его выполняют люди, склады не могут воспользоваться всеми преимуществами автоматизации – они должны обеспечивать персоналу комнатную температуру, пространство для передвижения, комнаты отдыха, туалеты, устанавливать камеры наблюдения для предотвращения краж и т. д. Это дорого.

Устоявшаяся роль человека в обработке заказов объясняется относительной производительностью привычных хватательных движений: протянуть руку, взять товар и переложить куда следует. Эта задача пока недоступна для автоматизации, поэтому только в Amazon 40 тыс. человек работают полный день и еще десятки тысяч на неполной ставке в предпраздничное время. Человек обрабатывает примерно 120 товаров в час. Фирмы с большими объемами продаж предпочли бы автоматизировать эту задачу. Начиная с 2014 года Amazon проводит программу Amazon Picking Challenge для мотивации лучших робототехнических компаний мира на решение давно изучаемой проблемы хватательного движения робототехнического устройства и автоматизации сортировки в неупорядоченной среде склада. Хотя проблемой занимаются лучшие команды, такие как МТИ, и многие используют передовое робототехническое оборудование промышленного класса производства Baxter, Yaskawa Motoman, Universal Robots, ABB, PR2 и Barrett Arm, на момент написания книги удовлетворительное решение для промышленного применения не найдено.

Роботы вполне способны собирать автомобили и управлять самолетами. Почему же они не могут взять предмет на складе Amazon и положить его в коробку? Ведь эта задача вроде бы несравнимо проще. Роботы умеют собирать автомобили, потому что компоненты строго стандартизированы, а процесс четко определен. А товары, разложенные на полках на складе Amazon, бесконечно варьируются по форме, размерам, весу и твердости и лежат как попало. Иными словами, в задаче на складе есть неограниченное количество «если», а манипуляции на автосборочном заводе предполагают очень мало «если».

Следовательно, чтобы научиться забирать что-либо с полки в условиях склада, робот должен «видеть» товары (анализировать изображение), правильно прогнозировать угол и давление, чтобы взять требуемый товар, не уронить и не сломать его. Иначе говоря, в корне проблемы захвата разнообразных предметов в центрах обработки заказов лежит прогноз.

В исследованиях функции захвата роботов учат подражать человеку в процессе обучения с подкреплением от среды взаимодействия. Ванкуверский стартап Kindred, основанный Сюзанной Гилдерт, Джорди Роуз и командой с участием одного из авторов (Аджея Агравала), использует робота, названного Kindred Sort, – руку, управляемую одновременно автоматическим программным комплексом и человеком-оператором[104]. Автоматика идентифицирует и классифицирует предмет, а человек – с гарнитурой виртуальной реальности – направляет руку, чтобы взять его и переложить.

В первой итерации человек может находиться вне склада и заполнять недостающее звено в рабочем процессе обработки заказов, выбирая угол и степень сжатия руки в удаленном режиме. Но в долгосрочной перспективе Kindred собирается тренировать робота выполнять эту задачу самостоятельно с помощью прогностической машины, обученной на многократных наблюдениях за действиями удаленного оператора.

Нужно ли продолжать обучать рентгенологов?

В октябре 2016 года Джеффри Хинтон, один из первых исследователей глубокого обучения нейронных сетей, стоя на сцене перед аудиторией из 600 человек во время ежегодной конференции ЛСР по вопросам машинного интеллекта, провозгласил: «Пришла пора прекратить обучение рентгенологов». Основная часть их работы – это изучение снимков и обнаружение аномалий, предполагающих наличие заболеваний. С точки зрения Хинтона, ИИ вскоре будет способен лучше любого специалиста выявлять важные с медицинской точки зрения объекты на снимках. Рентгенологи уже с начала 1960-х опасаются, что их заменят машины[105]. Чем же новые технологии отличаются от прежних?

Технологии машинного обучения постоянно совершенствуются в прогнозировании отсутствующей информации, в том числе в идентификации и распознавании объектов.

Получив комплект снимков, они эффективно сопоставляют миллионы предыдущих примеров с признаками заболевания (и без них) и прогнозируют их присутствие на новом изображении. Именно таким распознаванием объектов с целью прогнозирования болезни и занимаются рентгенологи[106].

IBM Watson и многие стартапы уже превратили инструменты ИИ в источник дохода в сфере рентгенологии. Watson распознает легочную эмболию и многие другие заболевания. Один из стартапов, Enlitic, применяет глубокое обучение для выявления узлов в легких (достаточно простая процедура) и переломов (что сложнее). В своем прогнозе Хинтон исходил из этих новых инструментов, но для рентгенологов, рентгенотехников и специалистов лабораторной диагностики они пока остаются предметом обсуждения[107].

Какое будущее ожидает, по нашему мнению, рентгенологов? Они будут проводить меньше времени за анализом рентгенограмм. Основываясь на беседах с терапевтами и рентгенологами и общеизвестных законах экономики, опишем несколько ключевых ролей в сфере медицинской визуализации, которые сохранятся за людьми[108].

Первое и самое очевидное таково: в ближайшей и среднесрочной перспективе необходимость проведения рентгена для конкретного пациента будет определять человек. Визуализация связана с издержками, как временными, так и с точки зрения последствий радиационного воздействия для здоровья (в некоторых технологиях). Со снижением издержек количество снимков возрастет, поэтому вероятно, что в ближайшей и, возможно, среднесрочной перспективе их возросшее количество компенсирует сокращение времени, которое человек тратит на один снимок.

Во-вторых, существует диагностическая и инвазивная рентгенография. Прогресс в распознавании объектов, который изменит будущее рентгенологии, затрагивает первую. Инвазивная рентгенография рассматривает снимки в реальном времени для содействия медицинским процедурам. Пока она требует суждения и квалифицированных действий от человека, на которые развитие ИИ не влияет, за исключением, пожалуй, частичного упрощения работы инвазивных рентгенографов благодаря повышению качества анализа снимков.

В-третьих, большинство рентгенологов считают себя «врачами врачей»[109]. Их основная задача – предоставить описание снимка терапевту.

Сложность заключается в том, что расшифровка рентгеновских снимков (или просто «рентгенов», как они говорят) чаще всего вероятностная: «С вероятностью 70 % это болезнь А, с вероятностью 20 % человек здоров и с вероятностью 10 % это болезнь Б. Если через две недели проявятся такие-то симптомы, то вероятность болезни А составит 99 %, а отсутствия болезни – 1 %». Немногие терапевты хорошо разбираются в статистике и с трудом оценивают вероятности, в том числе условные. Рентгенологи помогают им в этом, облегчая выбор оптимальной для пациента схемы лечения. Когда-нибудь расчетами вероятности займется ИИ, но по крайней мере в ближайшем и обозримом будущем обязанность расшифровки результатов ИИ для терапевтов остается за рентгенологами.

В-четвертых, по ходу совершенствования технологий рентгенологи могут содействовать в обучении машин интерпретации снимков с новых аппаратов. Специалисты высочайшего класса станут расшифровывать снимки и учить машины ставить диагноз. Свою диагностическую квалификацию специалисты направят на обучение машин. Услуги рентгенологов будут высоко цениться, им станут платить не за прием больного, а за каждый новый метод, которому они обучат ИИ, или за каждого пациента, тестируемого ИИ в рамках обучения[110].

Напомним, что два основных аспекта обязанностей рентгенолога-диагноста – это изучение снимков и предоставление расшифровки терапевту. В описании снимка в большинстве случаев сообщается диагноз (скажем, «у пациента наверняка пневмония»), но иногда с отрицательной формулировкой («не исключена пневмония»), и она служит прогнозом вероятного состояния пациента, который терапевт использует для назначения лечения.

Прогностические машины снизят неопределенность, но не всегда смогут ее устранить. Например, машина может выдать такой прогноз: «Исходя из демографических данных и снимков мистера Пателя, образование в печени с вероятностью 66,6 % доброкачественное, с вероятностью 33,3 % злокачественное и с вероятностью 0,1 % отсутствует».

Если бы машина давала однозначный безошибочный прогноз – доброкачественная или злокачественная опухоль, было бы очевидно, что делать. Сейчас врач решает, назначать ли для уточнения диагноза инвазивную процедуру, такую как биопсия. Она представляет собой менее рискованное решение; да, это недешевая манипуляция, зато позволяет поставить окончательный диагноз.

В таком свете роль прогностической машины заключается в том, чтобы врач мог с уверенностью отказаться от проведения биопсии. Неинвазивные процедуры требуют меньших издержек (особенно для пациента). Они дают врачу основания сделать вывод, можно ли избежать инвазивного исследования (такого как биопсия), и позволяют без сомнений отказаться от лечения и дальнейших анализов. Повышение качества прогнозов приведет к снижению количества инвазивных процедур.

Пятая и последняя роль специалистов-рентгенологов сводится к суждению о решении проводить инвазивное исследование в случаях, когда машина предполагает высокую вероятность отсутствия проблемы. Врач располагает информацией об общем состоянии здоровья пациента, его психологических переживаниях по поводу возможности ложноотрицательного прогноза и прочей качественной информацией. Ее не всегда легко закодировать и загрузить в машину: такие данные требуют диалога между рентгенологом с опытом интерпретации вероятностей и терапевтом, понимающим потребности пациента. Данные сведения иногда дают повод не учитывать рекомендации ИИ.

Итак, мы насчитали пять ролей в сфере медицинской визуализации, которые сохранятся за человеком по крайней мере в ближайшем и обозримом будущем: выбор снимка, использование его в реальном времени в ходе медицинских процедур, интерпретация машинного результата, обучение машин на новых технологиях и применение суждения, которое может привести к отказу от рекомендаций машины, основанное, скорее всего, на информации, недоступной ей. Будущее рентгенологов зависит от того, способны ли они взять на себя одну из ролей, заменят ли их другие специалисты и появятся ли новые формы обязанностей, например рентгенолог-терапевт в одном лице (то есть рентгенолог, принимающий решение о биопсии, и, вполне возможно, сразу после снимка)[111].

Больше чем водитель

Некоторые профессии останутся, но потребуют новых умений. Автоматизация конкретной задачи может подчеркнуть важность других навыков, имеющих значение для работы, но ранее недооцененных. Рассмотрим это на примере водителя школьного автобуса. Частью его задачи служит вождение, то есть управление автобусом по дороге к школе и обратно. С пришествием беспилотных автомобилей и автоматизации вождения работа водителя школьного автобуса перестанет существовать. Когда профессора Оксфордского университета Карл Фрей и Майкл Осборн изучали необходимые рабочие навыки, то пришли к выводу, что профессия водителя школьного автобуса (в отличие от водителей общественного транспорта) с 89 %-ной вероятностью будет автоматизирована в ближайшие 10–20 лет[112].

Даже если водитель больше не водит автобус в школу и обратно, стоит ли местным государственным органам тратить сэкономленные на его зарплате средства на другие нужды? Даже если автобус беспилотный, нынешние водители выполняют не только функцию вождения. Во-первых, водитель – единственный взрослый человек в группе школьников, он присматривает за ними и предотвращает возможные угрозы за пределами автобуса. Во-вторых, что в равной степени важно, он отвечает за дисциплину в автобусе. Потребность в человеческом суждении для управления детьми и их защите никуда не делась. То, что автобус может ехать сам, не устраняет данные дополнительные задачи, а дает возможность присутствующему взрослому уделять детям больше внимания.

Так что требуемые навыки для работника, формально именуемого водителем школьного автобуса, наверняка изменятся. Водитель будет выполнять обязанности учителя в большей мере, чем сейчас. Но суть в том, что автоматизация, отстраняющая человека от выполнения задачи, не обязательно лишает его работы. С точки зрения работодателей, работа есть, и кому-то ее необходимо делать. А с точки зрения работников, возникает риск, что это будут уже не они.

Автоматизация задач вынуждает внимательнее задуматься, из чего состоит работа и чем люди заняты в действительности. Как и водители школьных автобусов, дальнобойщики тоже выполняют не только функцию управления автомобилем. Водитель грузовика – одна из самых широких категорий в США и первый кандидат на автоматизацию. В некоторых кинофильмах действие происходит в ближайшем будущем и грузовики изображаются как контейнеры на колесах.

Но действительно ли мы однажды увидим курсирующие по континенту автомобили без признаков человека? Задумайтесь о трудностях, которые возникнут именно из-за того, что большую часть времени грузовики будут находиться без человеческого присмотра. Например, их могут угнать, а груз украсть. Возможно, их запрограммируют на остановку в случае появления перед ними человека и таким образом сделают легкой добычей для мошенников.

Решение очевидно: в грузовике должен находиться человек. Его задача станет проще вождения и позволит совершать более длительные поездки без остановок и перерывов. Один человек мог бы ехать на машине гораздо большего размера или сопровождать целую их колонну[113]. Но по крайней мере в одном из грузовиков будет необходима кабина для человека, который станет защищать транспортные средства, заниматься логистикой, сопровождать погрузку и разгрузку в каждом пункте маршрута и разбираться со всеми возникающими в пути неожиданностями. Именно поэтому такие профессии пока рано списывать со счетов, а поскольку нынешние водители обладают необходимой квалификацией и опытом, они, скорее всего, и станут первыми претендентами для выполнения работы по новому образцу.

Выводы

• Обязанности – это совокупность задач. Если разбить рабочий процесс и применить инструменты ИИ, некоторые задачи, ранее выполняемые людьми, можно автоматизировать. Их порядок и значимость могут измениться, и к ним могут прибавиться новые задачи. Следовательно, совокупность задач, составляющих обязанности, изменится.

• Инструменты ИИ:

• иногда служат подспорьем, как в примере с электронными таблицами и счетоводами;

• способны сузить диапазон обязанностей, как в примере с центрами обработки заказов;

• иногда приводят к преобразованию обязанностей, когда одни задачи добавляются, а другие устраняются, как в примере с рентгенологами;

• могут повысить значимость конкретных профессиональных навыков, как в примере с водителями школьных автобусов.

• Инструменты ИИ способствуют изменению относительной отдачи от определенных навыков и, таким образом, меняют тип людей, подходящих для конкретной работы. В случае счетоводов появление электронных таблиц снизило отдачу от умения быстро производить многочисленные расчеты на калькуляторе. И в то же время повысило отдачу от способности задавать правильные вопросы с целью воспользоваться всеми преимуществами технологии для эффективного анализа сценариев.

Часть IV. Стратегия

Глава 13. ИИ в руководящем составе

В январе 2007 года, когда на сцену вышел Стив Джобс и представил миру iPhone, ни один обозреватель не сказал: «Да это же просто прикрытие для бизнеса такси». Перенесемся в 2018 год: оказывается, так и есть. За последние десять лет смартфоны эволюционировали из просто умных телефонов в незаменимые платформы для инструментов, подрывающих и коренным образом изменяющих самые разные отрасли. Даже Энди Гроув, отпустивший известную шутку «выживут только параноики», вынужден признать, что нужно было быть закоренелым параноиком, чтобы предвидеть, насколько широко и глубоко смартфоны проникнут в традиционные отрасли производства.

Недавнее развитие ИИ и машинного обучения убедило всех, что эта инновация по своим масштабам сравнима с революционными технологиями прошлого: электричеством, автомобилями, пластмассой, микрочипами, интернетом и смартфонами. Из истории экономики мы знаем, как эти универсальные технологии распространяются и преображают мир. Понятно, что очень сложно предвидеть, когда, где и как произойдут самые подрывные перемены. И в то же время уже известно, что именно следует искать, как можно оказаться на шаг впереди всех и когда новые технологии, вероятнее всего, превратятся из занимательной штуковины в двигатель прогресса.

Когда вопрос ИИ должен стать приоритетным для руководящего состава организации? Хотя изменения режима работы иногда происходят по итогам расчетов прибыли от капиталовложений, стратегические решения ставят руководство перед дилеммами и вынуждают бороться с неопределенностью. Внедрение ИИ в одну часть организации может потребовать изменений в другой. Чтобы отследить влияние на организацию в целом, нужно, чтобы внедрением и принятием решений занимался человек, полностью контролирующий деятельность бизнеса, а именно СЕО.

Когда же ИИ попадает в данную категорию? Когда снижение стоимости прогнозов приобретает достаточное значение, чтобы изменить стратегию? И какой трудный выбор поджидает директора, если это произойдет?

Как ИИ меняет стратегию бизнеса

Как мы предположили в главе 2, если повернуть регулятор точности, компании типа Amazon смогут предсказывать желания конкретного покупателя настолько уверенно, что это изменит их бизнес-модели. От схемы «покупка – затем доставка» они перейдут на «доставка – затем покупка» и начнут рассылать заказы клиентам, предугадывая их желания. Данный сценарий наглядно иллюстрируют три составляющие, вместе подталкивающие к решению вложиться в разработку инструмента ИИ, чтобы подняться до уровня стратегических решений в противовес тактическим.

В первую очередь должна присутствовать дилемма или компромиссное решение. Для Amazon дилеммой выступает то, что «доставка – затем покупка» может повысить продажи, но одновременно увеличить количество возвратов. Если издержки от возвратов высоки, то доход от вложений в модель «доставка – затем покупка» ниже, чем в традиционную «покупка – затем доставка». Вот почему при отсутствии технологических изменений Amazon придерживается модели «покупка – затем доставка», а не наоборот, как и почти все другие магазины.

Во-вторых, проблему можно решить снижением неопределенности. В случае Amazon это покупательский спрос. Если точно прогнозировать, что люди купят, особенно если товар уже доставлен, то вероятность возвратов снижается и продажи растут.

Такого рода управление спросом не ново, поэтому и существуют офлайновые магазины. Они не могут прогнозировать индивидуальный спрос, только вероятный спрос группы потребителей. Объединяя в группы потребителей, приходящих в один магазин, они страхуются от неопределенности спроса индивидуальных покупателей. Переход на модель «доставка – затем покупка», основанную на индивидуальном подходе, требует больше информации о спросе отдельных покупателей, с тем чтобы превзойти конкурентное преимущество офлайн-магазинов.

В-третьих, компаниям требуется прогностическая машина, способная в достаточной степени снизить неопределенность, чтобы сместить баланс стратегической дилеммы. Amazon при очень точном прогнозировании потребительского спроса будет выгодна модель «доставка – затем покупка». В данном случае плюсы повышения продаж перевесят минусы издержек возвратов.

Если Amazon внедрит данную модель, за ней последуют дальнейшие перемены в бизнесе. В том числе, например, вложения в снижение издержек по обеспечению безопасности посылок, оставленных для получателя, и в транспортные услуги по доставке возвратов. Хотя на клиентоориентированном рынке доставки высокая конкуренция, рынок услуг по возврату находится пока в зачаточном состоянии. Amazon могла бы организовать собственную инфраструктуру грузового транспорта для ежедневной доставки и сбора возвратов и таким образом вертикально интегрироваться в бизнес возвратов товара. Фактически Amazon подвинула бы границу своего бизнеса прямо к крыльцу дома покупателя.

И эта граница уже начинает сдвигаться. Один из примеров тому – немецкое предприятие электронной коммерции Otto[114]. Основной проблемой покупок в онлайн-магазинах остается неопределенное время доставки, и, если оно не удовлетворило клиента, он вряд ли вернется на сайт еще раз. Otto выяснила, что, если доставка слишком долгая (больше нескольких дней), количество возвратов увеличивается. За это время покупатели успевают купить то, что им необходимо, в магазине. И даже при высоких продажах Otto много теряла на возвратах. Как же сократить время доставки до покупателя? Предугадать, что он собирается заказать, и обеспечить наличие товара на складе неподалеку. Но такое управление ресурсами само по себе затратно.

Вместо этого следует запастись только теми товарами, которые понадобятся вероятнее всего. Нужен точный прогноз покупательского спроса. В базе данных Otto три миллиарда транзакций и сотни других переменных (в том числе поисковые запросы и демографические данные), поэтому она смогла создать прогностическую машину. И теперь с 90 %-ной точностью прогнозирует, какие товары продадутся в ближайший месяц. Исходя из прогноза, компания изменила логистику. Перечень товаров уменьшился на 20 %, а количество возвратов в год снизилось на 2 млн. Прогностика улучшила логистику, которая, в свою очередь, сократила издержки и повысила удовлетворенность клиентов.

Мы снова видим три составляющие стратегического значения. Otto столкнулась с дилеммой (как сократить время доставки без дорогостоящего хранения запасов), обусловленной неопределенностью (в данном случае – общим потребительским локальным спросом), и, устранив эту неопределенность (то есть повысив точность прогнозирования локального спроса), смогла реорганизовать логистику, для чего понадобились дополнительные складские помещения и локальная доставка в гарантированный срок. Компания не достигла бы всего этого без использования прогностических машин для устранения неопределенности.

Милый дом?

Чтобы прогностическая машина изменила стратегию, кто-то должен ее создать – и такую, которая необходима именно вам. И это зависит от нескольких вещей, неподвластных контролю вашей организации.

Давайте посмотрим на факторы, делающие прогностическую машину доступной для вашего бизнеса. Для этого мы отправимся в 1930-е годы на кукурузные поля Айовы. Фермеры-новаторы вывели новый сорт кукурузы, скрещивая между собой разные ее сорта в течение почти двадцать лет. Гибридная кукуруза отличалась от обычной. Для ее получения скрестили инбредные[115] линии, за счет чего улучшились такие свойства, как засухоустойчивость и урожайность в местной среде. Гибридный сорт породил серьезные перемены – он не только обещал высокую урожайность, но еще и сделал фермеров зависимыми от поставщиков семян. Чтобы получить все преимущества сорта, нужно было адаптировать семена к местным условиям.

Как видно из рис. 13.1, алабамские фермеры отставали от Айовы. Но когда гарвардский экономист Цви Грилихес внимательно посмотрел на цифры, то обнаружил, что причина отставания Алабамы от Айовы на 20 лет заключается не в медлительности фермеров, а в том, что доход от вложений в освоение сорта в 1930-х не оправдывал издержек[116]. Фермерские хозяйства в Алабаме по размерам меньше, а их рентабельность – ниже, чем на севере и западе. Фермеры Айовы, в отличие от них, засевали большие поля и получали большую выгоду по сравнению с издержками на покупку дорогостоящих семян. На крупных фермах было проще экспериментировать с гибридными сортами, потому что они занимали меньшую площадь земли, пока не проявили свои преимущества[117].

Источник: Zvi Griliches. Hybrid Corn and the Economics of Innovation // Science 132. 1960. June. № 3422. P. 275–280. Опубликовано с разрешения AAAs.

Рис. 13.1. Распространение гибридной кукурузы

У фермеров Айовы риски были ниже, а прибыль выше. Когда количество фермеров, освоивших новый сорт, превысило определенный предел, рынок семян расширился, покупателей и продавцов стало больше, цены упали и риски дополнительно снизились. В итоге гибридный сорт кукурузы начали осваивать фермеры на всей территории США (и за ее пределами) по мере снижения цен и предполагаемых рисков.

Компания Google – Айова мира ИИ. Для каждой категории бизнеса, от поиска до рекламы, карт и перевода, она ведет разработку тысяч проектов[118]. С ней сравнялись и другие мировые технологические гиганты. Причина очевидна: Google, Facebook, Baidu, Alibaba, Salesforce и прочие уже внедрили инструменты ИИ. Они четко определили задачи, выполняемые в компании, и в каждой существенно улучшили прогностический элемент с помощью ИИ.

Величина прибыли этих гигантов огромна, поэтому у них есть возможность экспериментировать. Часть «земли» они отводят под разнообразные типы ИИ и могут пожать большой «урожай» в результате успешных экспериментов, масштабно применяя их к широкому ассортименту продуктов.

У других компаний путь к ИИ не такой прямой. В отличие от Google, у большинства нет двадцати лет на оцифровку всех аспектов рабочего процесса, как и четкого понимания, что следует прогнозировать. Но как только у компании появляется ясно очерченная стратегия, эти составляющие могут развиваться, закладывая основу эффективного применения ИИ.

Когда настал подходящий момент, фермеры Висконсина, Кентукки, Техаса и Алабамы последовали примеру Айовы и начали осваивать гибридный сорт кукурузы. Выгоды со стороны спроса стали достаточно высокими, а затраты со стороны предложения упали. Аналогичным образом издержки и риски, связанные с ИИ, постепенно сократятся, и компании в арьергарде разработки цифровых инструментов тоже их освоят. В этом их будет стимулировать сторона потребления: возможность разрешить фундаментальные дилеммы в своих бизнес-моделях благодаря снижению неопределенности.

Набор бейсболистов

Билли Бин из фильма «Человек, который изменил все» использовал статистический прогноз, чтобы преодолеть предубеждения скаутов по набору игроков и улучшить прогностику. Это пример применения прогноза для снижения неопределенности и повышения продуктивности команды Oakland Athletics. Позиция Бина изменила стратегию, что потребовало перестановок в явной и скрытой иерархии организации.

Улучшение прогнозов повлияло на набор инфилдеров, но само функционирование команды осталось неизменным. Бейсболисты, выбранные прогностической машиной, играли почти так же, как и предыдущие, разве что делали чуть больше уоков. А за скаутами сохранилось право голоса при наборе[119].

Более заметно изменился набор аутфилдеров, и в результате последовала перестройка структуры организации. Главное, что команда наняла людей, которые могли сообщить машинам, что именно прогнозировать, и использовать этот прогноз для отбора игроков (в первую очередь это Пол Деподеста и другие, их общий вклад в фильме воплотился в персонаже по имени Питер Брэнд, которого сыграл Джона Хилл). Команда также создала новую должность саберметрического аналитика: он определяет критерии положительной отдачи для команды от участия разных игроков. Саберметрический аналитик – разработчик функции вознаграждения в бейсболе; сейчас в большинстве команд есть как минимум один такой специалист, и под разными названиями эта профессия появляется и в других видах спорта.

Улучшенный прогноз создал новую позицию в структуре организации. Ученые-исследователи, специалисты по анализу данных и вице-президенты по аналитике играют главные роли в онлайновых фронт-офисах. В Houston Astros есть даже специальный отдел теории принятия решений, который возглавляет бывший инженер НАСА Сиг Междал. Стратегические перемены также повлияли на то, как команда нанимает игроков. Эти профессиональные аналитики хорошо знают математику, а лучшие из них идеально подбирают задание для прогностической машины. Они обеспечивают суждение.

Возвращаясь к элементарной экономике, на которой основаны все наши доводы, добавим, что прогноз и суждение дополняют друг друга.

Чем шире распространяются прогнозы, тем выше ценится суждение. Команды все чаще нанимают новых советников, у которых не всегда есть непосредственный опыт участия в игре, и они – в соответствии со стереотипом – не очень-то вписываются в атлетическую среду профессионального спорта. Но даже закоренелым «ботаникам» в этой роли необходимо хорошо разбираться в игре, потому что прогностические машины в спортивном менеджменте ведут к повышению ценности людей, способных судить об отдаче и, следовательно, принимать решения, исходя из прогнозов.

Стратегический выбор требует нового суждения

Реорганизация менеджмента бейсбольной команды выносит на свет очередной важный для руководства вопрос, связанный со стратегическим выбором в отношении ИИ. До саберметрики суждение бейсбольных скаутов сводилось к аргументам «за» и «против» отдельных игроков. Но благодаря количественным показателям стало возможным прогнозировать эффективность группы игроков. Суждение перенаправили с изучения отдачи от конкретных игроков на отдачу от конкретной команды. Теперь улучшенные прогнозы позволяют менеджеру принимать решения, в большей степени соответствующие целям организации: устанавливать, какая команда выиграет, а не какие игроки окажутся лучше. Чтобы извлечь максимум из прогностических машин, необходимо переосмыслить функцию вознаграждения для всей организации и действовать в соответствии с целями. Это непростая задача. Помимо набора игроков следует изменить и маркетинг команды и, скорее всего, отвести на второй план индивидуальные показатели. Сходным образом тренеры должны понимать причины, по которым выбрали именно этих игроков, и их роль в составе команды в каждой игре. И наконец, даже игрокам необходимо знать, как их роль меняется в зависимости от того, есть ли у соперников аналогичные прогностические инструменты.

Преимущества, которые у вас уже могут быть

Помимо прочего, стратегия нацелена на извлечение прибыли – кто извлечет прибыль, которую сулит улучшение прогнозов?

Руководители часто утверждают, что данные представляют собой стратегический ресурс, поскольку в них нуждаются прогностические машины. Другими словами, если у вас есть данные за много лет, скажем, по продажам йогуртов, они могут кому-нибудь понадобиться для прогнозирования продаж с помощью прогностической машины. Следовательно, для владельца данные представляют ценность, словно нефтяные запасы.

Такое допущение создает неверное представление о важном вопросе – как и нефть, данные бывают разных типов. Мы описали три: входные, обучающие и данные обратной связи. Обучающие данные необходимы для создания прогностической машины. Входные данные используются для прогностики, а данные обратной связи повышают точность прогнозов. И для применения в будущем нужны только последние два типа. Алгоритмы учатся на обучающих данных, но, как только прогностическая машина заработала, они больше не понадобятся, их можно уничтожить. Данные по продажам йогуртов за минувший период теряют свою значимость, когда созданная по ним машина начала функционировать[120]. Сегодня они еще могут представлять ценность, но вряд ли это продлится долго. Чтобы сделать из них постоянный источник выгоды, нужно генерировать новые данные – входные или обратной связи – или искать другие преимущества. Плюсы генерации новых данных мы рассмотрим в следующей главе, а сейчас сосредоточимся на другом.

Дэн Бриклин, изобретатель электронных таблиц, создал огромную ценность, но не стал богачом. Куда же делась ценность таблиц? По размеру благосостояния Бриклина далеко обогнали его последователи, такие как основатель Lotus 1–2–3 Митч Капор и глава Microsoft Билл Гейтс, но даже они получили лишь малую ее часть. Вся ценность отошла пользователям и компаниям, сколотившим миллиарды на использовании электронных таблиц. Что бы ни делали Lotus и Microsoft, решения, которые улучшались благодаря электронным таблицам, принадлежали пользователям.

Прогностические машины оперируют на уровне решений, поэтому все это относится и к ним. Представьте себе ИИ, который серьезно упростит складской учет сети супермаркетов. Зная, когда йогурт будет продаваться активнее, вы пополните запасы в нужное время и минимизируете ущерб от нереализованного товара. Изобретатель машин, прогнозирующих спрос йогурта, имеет все шансы преуспеть, но для получения выгоды ему придется договариваться с супермаркетами. Действие по закупке йогурта выполняют они. А без этого действия прогнозирование спроса на йогурты теряет смысл.

С ИИ или без него право действия остается за компаниями. Они извлекут прибыль от освоения ИИ. Но это не значит, что вся прибыль отойдет компаниям, которым принадлежат действия.

Бриклин и его партнер Боб Фрэнкстон не были уверены, стоит ли продавать электронные таблицы. Сохранив их в собственности, они могли бы торговать своими навыками и таким образом извлекать выводы из собственного изобретения. Они отказались от этого варианта – скорее всего, обоснованно, – но для ИИ данная стратегия, вероятно, сработает. Поставщики ИИ могут попытаться обойти остальных участников рынка.

Примером в некоторой степени служит беспилотный транспорт. Пока одни автопроизводители активно инвестируют в собственные возможности, другие рассчитывают в этом на партнеров вне отрасли (например, Alphabet, дочерняя компания Waymo). В других случаях крупные технологические компании инициируют проекты с автопроизводителями сами. Например, Baidu, владелец самой большой поисковой машины в Китае, с несколькими десятками партнеров, в том числе Daimler и Ford, начала масштабную и разноплановую открытую инициативу по автономному вождению Project Apollo. Кроме того, Tencent Holdings, владелец WeChat почти с миллиардом аккаунтов активных пользователей ежемесячно, организовала альянс по автономному вождению, в числе знаменитых участников которого стоит упомянуть Beijing Automotive Group. Чэнь Цзюй-Хун, вице-президент Tencent, отметил: «Tencent собирается приложить все возможные усилия для содействия развитию технологии ИИ для автономного вождения… Мы хотим стать связующим звеном, ускоряющим налаживание сотрудничества, инновации и слияние индустрий…»[121] Сюй Хэй, председатель Beijing Automotive, высказал свои соображения о стимулирующей сотрудничество конкуренции: «В этой новой эпохе выживут только те, кто сотрудничает с другими компаниями в создании следующего поколения автомобилей. Тех же, кто собирается изолировать свое производство от остальных, ждет гибель»[122]. Относительно новые компании (такие как Tesla) конкурируют с давними участниками рынка непосредственным применением ИИ в автомобилях, что тесно связывает между собой ПО и «железо». Компании вроде Uber используют ИИ для развития автономного вождения с целью лишить потребителя возможности принимать решения по управлению автомобилем.

В этой сфере погоня за выгодой не признает традиционных границ бизнеса, а ставит под вопрос право на действие, которое дает преимущества.

Элементарная экономика стратегии ИИ

Описанные перемены зависят от двух аспектов влияния ИИ на основу нашей экономической схемы.

Во-первых, как в модели Amazon «доставка – затем покупка», прогностические машины снижают неопределенность. С прогрессом ИИ использование их с этой целью станет масштабнее, вследствие чего стратегические дилеммы, вызванные неопределенностью, будут развиваться вместе с ИИ. Из-за снижения стоимости прогноза прогностические машины приобретут способность разрешать более широкий спектр прогностических дилемм.

Во-вторых, ИИ повысит ценность дополнительных составляющих прогноза. Суждение бейсбольных аналитиков, действия продовольственных магазинов и (как вы узнаете далее) данные для прогностических машин приобретут такое значение, что вынудят вас изменить стратегию, чтобы воспользоваться всеми их преимуществами.

Выводы

• Высшему руководству не следует полностью возлагать стратегии ИИ на отдел IT, поскольку действие мощных инструментов ИИ может выйти за пределы повышения продуктивности задач, выполняемых в соответствии со стратегией, и привести к изменению самой стратегии. Для этого необходимо присутствие трех факторов:

• ключевой компромисс бизнес-модели (то есть «покупка – затем доставка» или «доставка – затем покупка»);

• компромисс, обусловленный неопределенностью (то есть высокие издержки от возвратов из-за неопределенности того, что приобретет покупатель, перевешивают высокие продажи при модели «доставка – затем покупка»);

• снижающий неопределенность инструмент ИИ: он склоняет чашу весов так, что оптимальная стратегия меняется от одной альтернативы к другой (снижение неопределенности с помощью прогноза вероятных покупок приводит к тому, что отдача от модели «доставка – затем покупка» будет выше, чем от традиционной).

• Еще одна причина, по которой стратегия ИИ требует участия высшего руководства, состоит в том, что внедрение инструментов ИИ в одной части компании может повлиять на другие. В нашем мысленном эксперименте с Amazon переход на модель «доставка – затем покупка» ведет к вертикальной интеграции в бизнес по сбору возврата, возможно с парком грузовиков, еженедельно объезжающих территорию. Мощные инструменты ИИ вызывают необходимость пересмотра рабочих процессов и границ компании.

• Прогностические машины повысят ценность дополнительных составляющих, в том числе суждения, действий и данных. Повышение ценности суждения может повлечь за собой перестановки в иерархии – вероятно, повышение отдачи от выполнения руководством других ролей или назначения на эти должности других людей. Также прогностические машины позволят менеджерам вместо индивидуальных составляющих оптимизировать глобальные цели и таким образом принимать решения, более соответствующие задачам организации. Владение действиями, зависящими от прогноза, может дать конкурентные преимущества, что позволит традиционным компаниям извлечь некоторую выгоду из ИИ. Однако в случаях, когда мощные инструменты ИИ предоставляют значительные конкурентные преимущества, новые участники рынка смогут вертикально интегрироваться во владение действиями и использовать ИИ как базис для соперничества.

Глава 14. Когда ИИ меняет бизнес

Джошуа Ганс недавно спросил у сотрудников стартапа в области машинного обучения: «Зачем вы даете врачам диагноз?» Компания работала над инструментом ИИ, который должен был подтверждать наличие определенного заболевания. Простейший двоичный вывод. Диагноз. Проблема в том, что для этого компании необходимо было получить одобрение контролирующих органов, что требовало дорогостоящих тестов. И с этой целью она выбирала между сотрудничеством с известной фармацевтической компанией и компанией по производству медицинских изделий.

Вопрос Джошуа скорее стратегический, чем медицинский. Почему они хотят предоставлять диагноз? Может быть, достаточно прогноза? В таком случае инструмент мог бы анализировать данные и сообщать, что «вероятность наличия заболевания составляет 80 %». Тогда врач детально рассмотрел бы аргументы для этого вывода и поставил окончательный диагноз – тот же двоичный вывод «есть или нет». Решающее слово осталось бы за клиентом (врачом).

Джошуа предложил компании сосредоточиться на прогнозе, а не диагнозе, чтобы граница бизнеса им и заканчивалась. Такой шаг устраняет необходимость одобрения контролирующих органов, поскольку у врачей достаточно инструментов для диагностического заключения. Компании уже не нужно было сотрудничать с авторитетными фирмами на раннем этапе. И что самое важное, отпала нужда в исследованиях и поисках способа преобразования прогноза в диагноз. Оставалось только определить степень точности прогноза, с которой его можно считать ценным: 70, 80 или 99 %?

Где заканчивается ваш бизнес и начинается чужой? Где точно проходят границы вашей компании? Это долгосрочное решение требует пристального внимания со стороны самых высокопоставленных лиц организации. Более того, новые универсальные инновации часто приводят к неожиданным ответам на эти вопросы. Определенные инструменты ИИ, с большой вероятностью, изменят границы вашего бизнеса. Прогностические машины заставят многое переосмыслить, от производственного оборудования до данных и людей.

Что убрать и что оставить

Неопределенность влияет на границы бизнеса[123]. Экономисты Зильке Форбс и Мара Ледерман изучали организацию авиатранспортной отрасли США на пороге нового тысячелетия[124]. Маршруты были поделены между крупными авиаперевозчиками ранга United и American и региональными партнерами, такими как American Eagle и SkyWest. Партнеры были независимыми компаниями, сотрудничество оформили соглашением. Помимо других условий, цена на билеты региональных авиакомпаний была ниже, как и зарплата сотрудников, а их условия работы были менее выгодными. Например, в ряде исследований установлено, что у старших пилотов крупных авиакомпаний зарплата на 80 % выше.

Загадка в том, почему большинство маршрутов обслуживали крупные компании, если их партнеры предоставляли услуги по более низким ценам. Форбс и Ледерман установили основной фактор – это погодные условия, точнее, их неопределенность. При нелетной погоде полеты откладываются, что в целом сказывается на работе, зависящей от пропускной способности авиатранспортной отрасли, объединенной в сеть.

Когда погода портится, партнеры долго принимают решения, потому что для внесения быстрых изменений с неопределенными издержками им необходимо свериться с контрактом. Крупные компании хотят избежать таких задержек, поэтому маршруты, на которых рейсы часто откладываются из-за погодных условий, контролируют и обслуживают они.

Три ранее описанные составляющие предполагают, что ИИ ведет к изменению стратегии. Во-первых, здесь присутствует ключевой компромисс между низкими издержками и высоким контролем. Во-вторых, он обусловлен неопределенностью, а конкретнее – отдача от контроля повышается с уровнем неопределенности. Крупные авиаперевозчики ищут компромисс между снижением издержек и увеличением контроля, оптимизируя границу, отделяющую их действия от партнерских. Если бы прогностическая машина могла преодолеть неопределенность, появилась бы третья составляющая, баланс сместился бы, и авиакомпании доверили бы больше обязанностей партнерам.

Компании, вовлеченные в постоянные инновации, особенно подразумевающие обучение на опыте, создают похожую схему. Новые модели автомобилей появляются примерно каждые пять лет, и, поскольку их изготовление включает в себя подробную спецификацию деталей и конструкторские разработки, автопромышленники должны определиться, откуда брать детали: изготавливать самостоятельно или заказывать аутсорсинг? На протяжении длительного процесса разработки компания имеет только примерное представление о ходовых характеристиках автомобиля. Некоторая информация становится доступной только после выпуска новой модели из отзывов покупателей и других долгосрочных показателей эффективности. Именно поэтому модели ежегодно обновляют без радикальных изменений в конструкции, лишь устраняя недостатки компонентов, за счет чего улучшают продукт.

Экономисты Шарон Новак и Скотт Стерн обнаружили, что изготовители элитных автомобилей, сами производящие детали, быстрее усовершенствовали модели от года к году[125]. Они измеряли улучшения со стороны клиентов, используя рейтинги Consumer Reports. Обладая контролем, автопроизводители могли быстрее реагировать на обратную связь клиентов. В отличие от них, компании, которые заказывали детали сторонним производителям, не продемонстрировали таких улучшений. Однако у них свои преимущества: качество их моделей изначально выше, потому что изготовленные поставщиками детали лучше. Автопроизводители стоят перед выбором: приобретать детали у поставщиков или изготавливать самим, чтобы быстрее усовершенствовать выпущенные модели, контролируя инновации в жизненном цикле продукции. Здесь опять же снижающая неопределенность прогностическая машина может изменить стратегию.

В обоих случаях компромисс между краткосрочной и долгосрочной производительностью и рядовыми и нештатными событиями ищет сама организация, решая, до какой степени полагаться на внешних поставщиков. Однако отличительная особенность такого выбора тесно связана с неопределенностью. Насколько важны метеорологические явления, к которым авиакомпании не могут подготовиться заранее? Насколько автомобиль будет соответствовать желаниям клиента?

Влияние ИИ: капитал

Предположим, что снижающий неопределенность ИИ уже существует и третья составляющая в наличии. Прогноз очень дешев и достаточно минимизирует неопределенность, чтобы изменить суть стратегической дилеммы. Как это повлияет на действия авиакомпаний и автопроизводителей? С ИИ машины способны функционировать в более сложной среде. Количество проверенных «если» возрастает, таким образом, ослабляется потребность бизнеса иметь собственные средства производства по двум причинам.

Первая: больше «если» означает, что компания может прописать в договоре действия при возникновении непредвиденных обстоятельств. Предположим, ИИ позволяет авиакомпаниям прогнозировать не только метеорологическую обстановку, но и оптимальные действия в случае связанных с ней затруднений. Это повысит крупным авиалиниям отдачу от подробного описания особых ситуаций в договоре. Они смогут перечислить в нем больше «если». Следовательно, вместо контроля над маршрутами крупные авиаперевозчики получили бы прогностическую власть, позволяющую им с уверенностью заключать договоры с независимыми региональными перевозчиками и пользоваться преимуществами их низких цен. Им требовалось бы меньше средств производства (самолетов), потому что к выполнению большинства рейсов привлекались бы партнеры.

Вторая: прогнозы ИИ – вплоть до прогнозирования удовлетворенности клиента – позволят автопроизводителям изначально увереннее конструировать автомобили, что повысит удовлетворение потребителей и качество продукции и исключит необходимость масштабных обновлений моделей. Следовательно, они смогут выбирать лучшие в мире детали у независимых поставщиков, зная, что благодаря точному прогнозу обойдутся без затратных пересмотров договора. Отпадет потребность в собственных заводах по изготовлению деталей. И в целом прогноз дает гораздо больше «если», чем необходимо для четкого описания всех «то».

В данном анализе сложность структуры сети авиалиний и автомобильной промышленности считается постоянной. Вполне вероятно, что предварительный прогноз дает авиалиниям и автопроизводителям возможность перейти к более сложным сделкам и продуктам. О его влиянии на внешних поставщиков трудно судить с определенностью, поскольку улучшенный прогноз расширяет сотрудничество с ними, а повышенная сложность, наоборот, сужает. Какой из этих факторов будет доминировать на этом этапе – неизвестно. Но в то время, когда недавно ставшие осуществимыми сложные процессы можно будет выполнять внутри компании, к большинству более простых, ранее выполняемых там, начнут привлекать внешних партнеров.

Влияние ИИ: труд

В 1980-е банки активно внедряли банкоматы, изобретенные в 1970-х. Потенциально трудосберегающая технология была разработана для автоматизации работы кассиров.

Согласно данным Бюро трудовой статистики, кассиры не потеряли работу (рис. 14.1). Машины отобрали у них прямые обязанности. Но в итоге кассиры занялись маркетингом и работой с клиентами, не связанными со сбором и выдачей наличных, – эту задачу выполняли машины, и гораздо надежнее людей. Банки не открывали дополнительные отделения только по двум причинам: из-за проблемы безопасности и издержек на зарплату банковских кассиров. Как только причины исчезли, открылось множество отделений (в городах на 43 % больше), а с ними появилось и множество работников, по старинке называемых кассирами.

Источник: Bessen J. E. How Computer Automation Affects Occupations: Technology, Jobs, and Skills // Boston University School of Law, Law and Economics Research Paper. 2016. October, 3. № 15–49 // URL: http://dx.doi.org/10.2139/ssrn.2690435.

Рис. 14.1. Распространение банкоматов и кассиров за период

Появление банкоматов спровоцировало существенные перемены в организации – новым кассирам в гораздо большей степени требовалось субъективное суждение. Изначальные обязанности кассира были примитивными и легко поддались машинизации. Новые задачи – общение с клиентами, выяснение их потребностей, консультирование по кредитам и выбор опций кредитных карт – оказались не в пример сложнее. И соответственно, труднее стало оценить качество работы новых кассиров[126].

Когда объективные критерии продуктивности (у кого короче очередь?) сменились субъективными (кто продает удовлетворяющий клиента продукт?), управление кадрами усложнилось. Экономисты подтвердят, что служебные обязанности непременно станут менее явными и более относительными. Оценка работы и вознаграждение будут основаны на субъективных процессах, таких как пересмотр эффективности, учитывающий сложность задач, а также сильные и слабые стороны сотрудников. Такие процессы внедрить сложно, поскольку требуется немалая доля доверия для того, чтобы они стали стимулами для усердной работы. В конце концов, компании проще отказать в бонусе, повышении зарплаты или служебного статуса, исходя из субъективной точки зрения, чем в присутствии объективных измеримых критериев. Но если использовать критерии в сложной среде, вероятны серьезные ошибки, как убедительно подтверждает опыт Уэллса Фарго с мошенничеством менеджеров по работе с клиентами[127].

Непосредственный вывод из этого механизма экономики заключается в том, что благодаря ИИ управление персоналом из делового ранга перейдет в социальный. Причина двоякая. Во-первых, человеческое суждение используется там, где оно имеет ценность, потому что его трудно запрограммировать. Вознаграждение переменчиво, неизвестно или требует человеческого опыта. Во-вторых, человеческое суждение непременно включает в себя способы оценки продуктивности, субъективные до такой степени, до которой возрастает его значимость в результате распространения прогнозов. При наличии объективных способов машина, вероятно, могла бы выносить такое суждение без участия специалистов по кадрам. Таким образом, человек критически важен для принятия решений, если цели субъективны. И поэтому управление такими людьми, скорее всего, будет более социальным.

Следовательно, влияние ИИ на труд отличается от влияния на капитал. С ростом значимости суждения договоры с сотрудниками должны стать более субъективными.

Влияющие на капитал факторы воздействуют и на труд. Если основной результат человеческого труда – это данные, прогнозы или действия, то использование ИИ приведет к сотрудничеству с внешними работниками на контрактной основе и аутсорсингу оборудования и ресурсов. Как и с капиталом, точный прогноз повышает количество «если», которые можно использовать для четкого описания «то» в договоре с внешними партнерами.

Однако больше всего на труд повлияет рост значимости суждения. Прогноз и суждение – взаимодополняющие элементы, и вместе с качеством прогноза растет спрос на него. Основная роль сотрудников сведется к суждению для принятия решений, что по определению трудно сформулировать в договоре. В данном случае прогностическая машина повышает неопределенность стратегической дилеммы, потому что качество суждения трудно оценить, и, следовательно, аутсорсинг предполагает риск. Парадоксально, но чем точнее прогноз, тем выше неопределенность относительно качества работы людей. В компании должны быть свои разработчики функции вознаграждения и другие занимающиеся суждениями сотрудники.

Влияние ИИ: данные

Следующий важный стратегический вопрос заключается во владении данными и контроле над ними. Как последствия для рабочих связаны с взаимодополняемостью прогноза и суждения, так же эти компромиссы обусловлены отношениями между прогнозом и данными. Данные улучшают прогноз. Здесь мы рассматриваем компромиссы, связанные с границами организации. Использовать свои данные или чужие? (Далее мы изучим вопросы стратегического значения инвестирования в сбор данных.)

Для стартапов ИИ критически важно владеть данными для обучения, иначе они не смогут улучшить свой продукт со временем. Стартап машинного обучения Ada Support помогает компаниям взаимодействовать с клиентами. Ada получила возможность интегрировать свой продукт в систему крупного успешного провайдера чатов. Если бы все пошло как нужно, было бы гораздо проще продвигаться и заполучить большую базу пользователей: соблазн велик.

Однако проблема заключалась в том, что данные обратной связи по взаимодействию с пользователем оставались во владении авторитетной компании. А без этих данных Ada не сможет улучшать продукт по результатам работы. Это заставило пересмотреть подход и отказаться от интеграции, пока не появится возможность овладеть полученными данными. Благодаря этому теперь у Ada сформирован и расширяется постоянный поток данных для непрерывного обучения.

Вопрос о том, приобрести или добывать данные, интересует далеко не только стартапы. Рассмотрим данные, разработанные для поиска целевой аудитории рекламодателями. Джон Уонамейкер, один из создателей современной структуры рекламы в СМИ, однажды заявил: «Половина средств на рекламу потрачена зря. Вот только я не знаю, какая именно».

Это основная проблема рекламы. Разместите ее на сайте: ее увидят все посетители, и вы платите за каждый показ. Если только малая часть из них войдет в число потенциальных клиентов, за каждый показ платить не захочется. Это проблема и для рекламодателя, и для сайта, зарабатывающего на рекламе.

Одно из решений – заняться созданием сайтов для привлечения людей с определенными интересами (спорт, финансы и т. д.), представляющими собой целевую аудиторию для определенных рекламодателей. До распространения интернета на этом поприще процветали журналы, кабельные каналы и газетные рубрики об автомобилях, моде, недвижимости и инвестировании. Однако не все СМИ могут так организовать контент.

Благодаря инновациям в интернет-браузерах, в основном файлам cookie, рекламодатели могут отслеживать поведение пользователей и посещенные ими сайты. Так реклама находит целевую аудиторию. Cookie фиксируют информацию о посетителях сайта, а главное – о часто посещаемых ими сайтах, в том числе магазинах. Если зайдете на сайт магазина присмотреть новые брюки, то вам покажут огромное количество рекламы брюк даже с других сайтов.

Размещать cookie может любой сайт, но они не всегда представляют для него ценность. Файлы cookie продаются на рекламных биржах или непосредственно рекламодателям, чтобы те попали в целевую аудиторию. Сайты продают данные о посетителях компаниям, размещающим рекламу.

Компании покупают данные, потому что не могут собирать их сами. Понятно, что они приобретают данные, помогающие идентифицировать наиболее ценных клиентов. Также они покупают данные, помогающие избежать просмотра их рекламы клиентам, менее ценным. Оба типа данных важны, поскольку рекламный бюджет расходуется на показы более ценным клиентам[128].

Многие лидеры ИИ, в том числе Google, Facebook и Microsoft, создали или приобрели собственные рекламные сети для овладения этими ценными данными. Они решили, что выгода от владения данными превышает издержки на их приобретение. Для других рекламные данные менее важны, поэтому они обмениваются контролем над ними во избежание затрат на их сбор. Таким образом, рекламные данные остаются за пределами границ компаний.

Продажа прогнозов

Google, Facebook, Microsoft и горстка других компаний обладают особенно ценными знаниями о потребительских предпочтениях онлайн. Вместо того чтобы просто продавать их, они пошли дальше и делают прогнозы для рекламодателей. Например, Google своим поисковиком, YouTube и рекламной сетью накопила много данных о потребностях пользователей. Они продают не данные, а прогнозы рекламодателям на их основе в пакете услуг. Если вы даете рекламу через Google, ее покажут пользователям, которым, по мнению сети, она будет интересна. Реклама через Facebook и Microsoft дает похожий результат. Рекламодатель покупает прогноз без прямого доступа к данным.

Уникальные данные важны для стратегических преимуществ. Если данные не уникальны, трудно извлечь выгоду из прогностических машин. Без данных невозможно обучение, поэтому ИИ не является центром стратегии. Как указано в примере с рекламными сетями, прогноз в любом случае может быть полезным. Сети помогают рекламодателю выйти на самых ценных клиентов. Таким образом, точный прогноз полезен организации, даже если он сам и данные вряд ли станут источником стратегического преимущества[129]. Данные и прогноз находятся вне границы организации, но прогнозом она все равно может пользоваться.

Основной посыл состоит в том, что данные и прогностические машины взаимно дополняют друг друга. Следовательно, приобретение или разработка ИИ получит ограниченную ценность, если у вас нет данных. А если они принадлежат другим, вам необходима стратегия для их получения.

Если данные находятся у эксклюзивного поставщика, существует риск, что он получит всю выгоду от вашего ИИ. Если же данными располагают конкуренты, вероятно, никакая стратегия не поможет их заполучить. Но если данные принадлежат потребителям, можно обменять их на улучшенный продукт или услуги повышенного качества.

Бывает, что ваши данные нужны тем, у кого есть ценные для вас данные; тогда возможен обмен. В случаях, когда данные находятся у нескольких поставщиков, для приобретения данных и прогноза понадобятся сложные договорные условия.

От значения прогностической машины для вашей компании зависит, станете ли вы покупать данные или собирать их и делать прогноз самостоятельно. Если это просто готовый ресурс, а ИИ не играет ключевой роли в стратегии, можно относиться к ней так же, как к энергии, и приобрести на рынке. Но если прогностические машины являются центром стратегии, вам нужен контроль над данными для их совершенствования, поэтому и данные, и машина должны принадлежать компании.

В начале главы мы предположили, что стартапу машинного обучения лучше продавать прогноз, чем готовый диагноз. Почему врачи предпочтут прогноз? И зачем им владеть прогностической машиной и данными? Ответы – в уже изложенных соответствующих компромиссах. Ставить диагноз – основная работа врача, поэтому покупка прогноза не становится его ключевым стратегическим решением. Он продолжит заниматься тем же самым, только получит дополнительную информацию. Если это не ключевое стратегическое решение, врач может покупать прогноз без потребности владеть им или данными. Смысл стартапа заключается в ИИ, а прогноз обеспечивает его ценность для потребителей. Следовательно, пока стартап владеет данными и прогностической машиной, ему нет нужды владеть диагнозом. Граница между стартапом и врачами пролегает там, где ИИ теряет стратегическое значение и становится просто ресурсом для процесса.

Выводы

• Основной стратегический выбор заключается в определении границы компании, в том, где заканчивается ваш бизнес и начинается чужой (например, в партнерстве авиаперевозчиков и аутсорсинге производства автомобильных деталей). На этот выбор влияет неопределенность. Поскольку ее снижают прогностические машины, они воздействуют на границу между вашей и партнерскими организациями.

• Снижая неопределенность, прогностические машины расширяют возможности составления договоров и, следовательно, повышают стимул отдавать на аутсорсинг средства производства и проведение работ, направленных на данные, прогноз и действие. Одновременно прогностические машины снижают компаниям мотивацию на привлечение внешнего суждения. Его качество сложно описать в рамках договора и отслеживать. Если суждение поддается четкой формулировке, то его можно запрограммировать, для чего люди уже не понадобятся. Поскольку с распространением ИИ суждение, вероятно, сохранится за человеком, компании чаще будут нанимать сотрудников в штат и реже отдавать обязанности на аутсорсинг.

• ИИ повысит стимулы к владению данными. Тем не менее аутсорсинг данных бывает необходим, когда обеспечиваемые данными прогнозы для организации стратегически не важны. В таких случаях оптимально заказывать непосредственно прогнозы, а не данные для самостоятельного их составления.

Глава 15. Стратегия обучения

В марте 2017-го во вступительном слове к ежегодному событию I/O СЕО Google Сундар Пичаи объявил, что компания «вместо мобильных устройств начинает ориентироваться на ИИ». Затем последовал ряд заявлений с упоминанием ИИ в той или иной форме: от разработки специальных чипов для оптимизации машинного обучения до использования глубокого обучения в новых программах, в том числе по исследованию онкологических заболеваний, с целью внедрения ИИ-ассистента Google в как можно большее количество устройств. Пичаи сообщил, что компания переходит «от поиска и организации мировой информации к ИИ и машинному обучению».

Заявление в большей степени касалось стратегии, чем основополагающей концепции компании. Основатель Google Ларри Пейдж подчеркнул это в 2002 году:

«У нас не всегда получается то, чего от нас хотят люди, но это действительно трудно. Нужны недюжинный ум, понимание всего на свете, а также собственной задачи. Мы интенсивно работаем над созданием искусственного интеллекта… Итоговая поисковая машина будет умной – мы всё ближе и ближе к этому результату»[130].

В этом смысле Google уже много лет идет по пути создания ИИ. И лишь недавно открыто поставила технологии ИИ в центр всей своей деятельности.

Google не одинока в данной стратегической приверженности; Microsoft анонсировала «ориентированные на ИИ» намерения, также отодвинув на второй план мобильные устройства и облака[131]. Но что означает ориентированность на ИИ? В отходе от приоритизации мобильных устройств ориентация на них – это привлечение к ним трафика и оптимизация пользовательского интерфейса даже в ущерб всему сайту и другим платформам. Последнее имеет стратегическое значение. Цель – «качество воспроизведения на мобильном устройстве». Стремление к ней даже во вред остальным каналам и есть настоящая приверженность стратегии.

Что это значит в контексте приоритизации ИИ? Руководитель исследований Google Питер Норвиг отвечает:

«Если полнота и точность информации составляет более 80 %, это уже хорошо. Не всякое предположение должно быть идеальным, хотя пользователь наверняка проигнорирует плохие прогнозы. Гораздо больше препятствий – в отношении услуг. Сервис, допускающий 20 % ошибок (например, при бронировании отеля), да хотя бы и 2 %, никому не нужен. Поэтому ассистент должен действовать намного точнее, а следовательно, быть умнее и осведомленнее. Вот это мы и называем ориентацией на ИИ»[132].

Хороший ответ для IT-специалиста: в нем подчеркнута техническая эффективность и, в частности, точность, но подразумевается кое-что еще. Если ИИ оказывается на первом месте (максимизации прогностической точности), то что на втором?

Экономисту очевидно, что в любом утверждении вроде «мы направим свое внимание на Х» подразумевается компромисс. Что-то придется принести в жертву. Чем чревато возведение прогностической точности во главу угла? Ответ подскажет ключевая экономическая структура: ориентация на ИИ означает выделение ресурсов на сбор данных и обучение (долгосрочная цель) в ущерб важным краткосрочным вопросам, таким как мгновенный опыт пользователя, прибыль и количество пользователей.

Подрывные веяния

Освоение стратегии ориентирования на ИИ заключается в приоритизации качества прогнозов и поддержке машинного обучения даже в ущерб краткосрочным факторам, таким как удовлетворение потребителей и операционные показатели. Сбор данных означает использование ИИ, качество которого пока ниже оптимального уровня. Основная стратегическая дилемма заключается в выборе следующих действий: приоритизировать обучение или защищать другие аспекты от потерь производительности, которые повлечет за собой применение ИИ.

Все компании подойдут к этой дилемме по-своему и сделают разный выбор. Но почему Google, Microsoft и другие технологические компании выносят ИИ в приоритет? Не стоит ли остальным последовать их примеру? Или у них есть что-то особенное?

Отличительная черта этих компаний состоит в том, что они уже собирают и генерируют огромный объем цифровых данных и работают в неопределенной среде. Прогностические машины, вероятно, обеспечат их инструментами, которые они будут активно использовать в своих продуктах. Инструменты, включающие точный и дешевый прогноз, пользуются спросом и наряду с этим предоставляют преимущества со стороны предложения. В данных компаниях уже есть технические сотрудники для разработки и применения машинного обучения.

Если соотнести крупные технологические компании с примером гибридной кукурузы, они подобны фермерам Айовы. Но технологии ИИ обладают еще одной важной характеристикой. Учитывая, что для обучения требуется время, а оно часто приводит к снижению производительности (особенно для потребителя), у него есть общие черты с «подрывными технологиями» (как их назвал Клэй Кристенсен): давно функционирующим компаниям будет сложнее освоить их быстро[133].

Рассмотрим новую ИИ-версию существующего продукта. Для разработки продукта нужны пользователи. И у первого будет не самый лучший пользовательский опыт, потому что ИИ необходимо учиться. Компания с большой базой клиентов может привлечь их к использованию продукта для получения обучающих данных. Однако клиенты вполне довольны тем, что имеют, и могут не пожелать переходить на новый, пока не совершенный ИИ-продукт.

Это классическая «дилемма инноватора» – давно существующие компании не хотят портить сложившиеся отношения с клиентами даже ради улучшений в долгосрочной перспективе. Дилемма возникает, когда изначально инновации недостаточно хороши для удовлетворения клиентских запросов, но вполне годятся для новых стартапов, чтобы создать продукт для небольшого количества потребителей в ограниченной нише. Со временем стартап набирается опыта и в конце концов обретает способность разработать качественный продукт и переманить клиентов у более крупного конкурента (он на этот момент уже безнадежно отстал, и стартап берет над ним верх). ИИ требуется обучение, и вкладываться в него в большей степени склонны стартапы, а не состоявшиеся компании.

Дилемма инноватора перестает быть неразрешимой, когда компания сталкивается с жесткой конкуренцией, особенно с новыми участниками рынка, не связанными необходимостью удовлетворения спроса имеющихся клиентов. В этой ситуации цена бездействия слишком высока. Конкуренция склоняет чашу весов в сторону быстрого освоения подрывной технологии даже для сформировавшихся компаний. Иначе говоря, подрывные веяния технологий вроде ИИ с грандиозными последствиями в долгосрочной перспективе способствуют освоению их на раннем этапе даже компаниями, владеющими большой долей рынка.

На обучение понадобится много времени и данных, прежде чем машина начнет выдавать надежные прогнозы, – она сразу готова к работе в очень редких случаях. Продавец оснащенного ИИ устройства, вероятно, уже выполнил трудную задачу по обучению. Но если ИИ нужен для связанных с вашим бизнесом целей, готовое решение вам вряд ли подойдет. И вместо руководства пользователя вам понадобится руководство по обучению, во время которого ИИ будет собирать данные и совершенствоваться[134].

Путь к обучению

Историк экономики Натан Розенберг назвал явление, когда компания улучшает свой продукт по результатам взаимодействия с пользователями, «обучением посредством использования»[135]. В основном оно применялось в отношении характеристик самолетов, консервативный дизайн которых уступил место улучшенному, с повышенной вместимостью и эффективностью, которой производители добивались опытным путем. Они изначально обладали преимуществом, поскольку постоянно учились. Конечно, темпы обучения дают стратегическое преимущество в разнообразных контекстах и особенно важны для прогностических машин, основанных на машинном обучении.

До сих пор мы не уделили достаточно внимания классификации типов машинного обучения. Нас интересовало в основном контролируемое обучение. Данный метод используется, когда большой объем данных о прогнозируемом предмете уже накоплен. Например, у вас имеются миллионы изображений и вам известно, что на них либо кошка, либо опухоль. Исходя из такого знания, вы обучаете ИИ. Мы как ученые в основном занимаемся контролируемым обучением и знакомим студентов с новым материалом, описывая им проблемы и решения.

Для сравнения: что произойдет, если вы не располагаете данными для прогноза, но по факту можете узнать, насколько были правы? В такой ситуации, как мы уже обсуждали, IT-специалисты применяют методы обучения с подкреплением сигналами от среды взаимодействия: так учатся маленькие дети и животные. Физиолог Иван Павлов звонил в колокольчик, когда кормил собак, и вскоре слюна у них начинала выделяться сразу после звонка. Животные связали звук и еду, выяснив, что после первого сразу появляется второе.

В сфере ИИ наибольший прогресс с помощью этого метода был достигнут в обучении машин компьютерным играм. DeepMind давала ИИ пульт управления к играм, таким как Breakout, и «вознаграждала» за очки, не давая никаких инструкций. ИИ освоил игры Atari и обошел лучших игроков: это обучение посредством использования. ИИ сыграл тысячи раз и совершенствовался, как и люди, – разве что он мог пройти больше игр и действовать быстрее любого человека[136].

Обучение происходит, когда машина делает ходы и сравнивает данные по ним с прошлым опытом (ходов и баллов). Так она прогнозирует, какие ходы дают больше баллов, а единственный способ научиться – играть. Без этого машина не сможет ни хорошо играть, ни совершенствоваться. Но путь к обучению требует затрат.

Когда задействовать ИИ

Всем знакомым с разработкой ПО известно, что код многократно тестируют для поиска багов. Иногда компании предоставляют программу пользователям, чтобы те нашли баги при стандартном использовании. «Дегустация собачьего корма» (внутреннее тестирование первых версий – полностью: «дегустировать собачий корм собственного производства») и «бета-тестирование» (с привлечением пользователей) – эти формы обучения посредством использования подразумевают кратковременные инвестиции для постепенного улучшения продукта.

Краткосрочные издержки обучения с долгосрочной выгодой аналогичны повышению квалификации сотрудников. Чтобы устроиться в McDonald’s, не требуется специальная подготовка: новички медлительнее и чаще ошибаются, чем их опытные коллеги. Но чем больше клиентов они обслужат, тем лучше их навыки.

Пилоты коммерческих авиалиний также непрерывно наращивают профессиональный опыт. 15 января 2009 года рейс US Airways 1549 столкнулся со стаей канадских гусей, двигатели отказали, и капитан Чесли Салленбергер по прозвищу «Салли» мастерски посадил самолет на реку Хадсон и спас жизни 155 пассажиров. Большинство репортеров приписали его заслуги опыту. Он налетал уже 19 663 часа, в том числе 4765 на Airbus A320. Вот как выразился сам Салли: «Думаю, дело в том, что в течение 42 лет я регулярно вносил маленькие вклады в банк своего опыта, образования и подготовки. И на 15 января там оказалось достаточно средств, чтобы я мог снять столько, сколько нужно»[137]. Салли и его пассажиры получили выгоду от всех его предыдущих полетов.

Разница в том, что именно называется «неплохо для начала» у начинающих кассиров и пилотов, и в серьезности последствий их ошибок. У пилотов она очевидно выше. Утешает, что сертификацию пилотов проводит Министерство транспорта и Федеральное управление гражданской авиации США и минимальный требуемый опыт составляет не менее 1500 летных часов, 500 часов маршрутных полетов, 100 часов ночных полетов и 75 часов полета по приборам в условиях ограниченной видимости. И это несмотря на то, что пилоты постоянно совершенствуются. Для каждого вида деятельности существует собственное определение того, что такое «достаточно хорошо». То же можно сказать и о машинном обучении.

Компании разрабатывают системы обучения (и обучают) новых сотрудников до приемлемого уровня и затем допускают к работе, зная, что те будут набираться опыта на практике. Но очень важно определить, с чего именно начинается «приемлемый уровень». В случае прогностических машин это стратегическое решение и касается времени, когда следует переходить с внутрифирменного обучения к практике.

Для прогностических машин точного определения «приемлемого уровня» нет, есть лишь компромиссы. К ним нужен стратегический подход и серьезное отношение, тогда использование прогностических машин приведет к успеху.

Какая погрешность допустима с точки зрения людей? Для одних прогностических машин большая, для других – маленькая. Скажем, приложение Google Inbox читает письма, с помощью ИИ прогнозирует ответ и предлагает на выбор три варианта. Судя по отзывам, большинству пользователей приложение нравится, хотя в 70 % случаев оно ошибается (на момент написания книги годными оказываются только 30 % вариантов ответов ИИ). Люди терпимо относятся к этому, потому что плюсы от того, что не нужно сочинять и печатать письмо, перевешивают минусы забитого пространства экрана, когда прогнозируемый ответ неправилен.

А вот в автономном вождении мы не так толерантны к ошибкам. Первое поколение беспилотных транспортных средств, в основном производства Google, обучали профессиональные водители. Для этого они проехали на них сотни тысяч километров – как родители с неопытными подростками за рулем.

Водители-профессионалы обеспечивают безопасные условия обучения, но дают ограниченную информацию; машина узнает только о нескольких ситуациях. Люди наезжают миллионы километров в различных условиях и положениях, прежде чем научатся реагировать на редко наступающие обстоятельства, приводящие к несчастным случаям. Беспилотные автомобили на реальных дорогах могут попасть в созданные людьми неприятные ситуации, когда ошибка дорого стоит.

Насколько важно собирать данные о реальных пользователях? Зная, что обучение может длиться недопустимо долго, Tesla по максимуму оснастила все новые модели функциональными возможностями, в том числе датчиками сбора информации и данных о движении, загружаемых на сервер машинного обучения. Tesla может собрать обучающие данные за очень короткий срок, просто наблюдая за действиями водителя. Чем больше машин Tesla ездит по дорогам, тем быстрее они учатся.

Однако помимо пассивно собранных данных об управлении человеком Tesla необходимы данные по беспилотному управлению для понимания работы автономных систем. Чтобы оценить эффективность машин, они должны ездить самостоятельно; также требуется проанализировать случаи, когда человеку, чье присутствие и внимание необходимо, приходится вмешаться. Конечная цель Tesla – полностью автономный автомобиль, а не второй пилот или подросток, которому нужен присмотр. И она будет достигнута, когда пассажиры начнут чувствовать себя в нем спокойно.

Здесь опять следует искать компромисс. Чтобы совершенствоваться, машины Tesla должны учиться в реальных обстоятельствах, однако выпускать их в нынешнем состоянии на дороги – все равно что посадить за руль юного и неопытного водителя, пусть он даже не хуже большинства молодежи в автомобилях. Это более рискованно, чем бета-тестирование восприятия речи Siri и Alexa или степень правильности ответа, составленного Google Inbox. В этих случаях ошибка приводит только к негативному опыту пользователя, а в беспилотниках она может стоить жизни.

На дорогах ничего не стоит испугаться[138]. Машины неожиданно выезжают с трассы или тормозят, когда водителю померещится препятствие. Слабонервные люди могут отказаться от беспилотной функции и тем самым не дадут Tesla учиться. Даже если компании удастся привлечь кого-либо к бета-тестированию, правильно ли она выберет кандидатов? Ведь кто-то из них может оказаться более склонным к риску, чем среднестатистический водитель. И какой он подаст пример машине?

Чем больше данных, тем быстрее учатся машины, а где их брать, как не в реальном мире? Однако не исключены проблемы, которые могут повредить имиджу компании. Ранний выпуск продукта способствует обучению, но создает риск потери репутации (также могут пострадать клиенты). Поздний выпуск замедляет обучение, зато дает больше времени на улучшение продукта и не повредит репутации (и клиенты будут целее).

Для таких продуктов, как Google Inbox, компромиссное решение очевидно, поскольку издержки от низкой эффективности малы, а плюсы от обучения в процессе использования существенны. Такие продукты есть смысл выпускать пораньше. В других случаях, например с автомобилями, все не так просто. Чем больше компаний во всех отраслях будут пользоваться преимуществами машинного обучения, тем понятнее станут стратегии принятия компромиссных решений.

Обучение на симуляторах

Использование моделируемой среды для обучения упрощает поиск компромиссного решения. Пилоты сотни часов проводят за сложными реалистичными симуляторами, прежде чем им доверят управлять настоящим самолетом. Такой же подход применим к ИИ. Google учила ИИ AlphaGo компании DeepMind побеждать лучших мировых игроков в го, не только показывая ему тысячи поединков между людьми, но в игре с другой версией себя.

Одна из форм этого метода называется состязательным машинным обучением. В нем основной ИИ выступает против другого ИИ, мешающего первому в достижении поставленной цели. Например, в исследовании Google один ИИ отправлял зашифрованные сообщения другому. У обоих ИИ был ключ к шифру. Третий ИИ (их соперник) тоже получал сообщения, но у него не было ключа, и он пытался сам заниматься дешифрованием. В многочисленных симуляциях соперник научился кодировать сообщения[139].

В реальных условиях такое обучение невозможно. Оно проводится в лаборатории, где создается новый алгоритм машинного обучения, который затем копируется и отправляется пользователям. Его преимущества заключаются в отсутствии риска негативного пользовательского опыта или угрозы жизни. Минусы же в том, что моделируемая среда не обеспечивает достаточного объема обратной связи и снижает, но не устраняет необходимость раннего выпуска. В конце концов ИИ придется «отпустить» в реальный мир.

Машинное обучение в облаке и на устройстве

ИИ совершенствуется в реальности, результаты используются для улучшения прогнозов. Как правило, компании собирают данные реальных условий для улучшения машины до выпуска обновленной прогностической модели.

Автопилот Tesla не учится на практике с реальными клиентами. В процессе езды он отправляет данные в облако Tesla, где они накапливаются и используются для обновления автопилота. Затем выпускается следующая версия. Обучение происходит в облаке.

Такой стандартный подход хорош тем, что пользователи защищены от плохо обученных версий. Но у него есть и минусы – обычно ИИ находится на устройстве и не может учитывать быстро меняющиеся местные условия до тех пор, пока их не внесут в обновление; с точки зрения пользователя, улучшения происходят рывками.

Но представьте, что ИИ учится и совершенствуется в реальной среде. Тогда он сможет быстрее реагировать на смену обстановки и оптимизироваться под разные условия. В среде, где все быстро меняется, разумнее улучшать прогностические машины непосредственно на устройствах. В таких приложениях, как Tinder (приложение для знакомств, где движение по экрану влево означает «нет», а вправо – «да»), пользователи быстро принимают много решений подряд. Эти данные сразу загружаются в прогностическую машину для подбора следующего кандидата на свидание. Вкусы у всех разные и непостоянные, меняются и за год, и в течение дня. В случаях, когда пользователи до определенной степени похожи и у них стабильные предпочтения, подходит отправка в облако с последующим обновлением. Но когда вкусы резко расходятся и часто меняются, пригодится способность совершенствовать прогнозы на уровне устройства.

Компании должны искать компромисс в том, как скоро опыт прогностической машины в реальном мире понадобится для составления новых прогнозов. Мгновенное использование опыта обеспечит быструю адаптацию к местным условиям, но ценой качества.

Разрешение учиться

Для обучения нужны потребители, согласные предоставлять данные. Если что-то в стратегии делается в ущерб чему-то другому, то в сфере ИИ немногие компании раньше и активнее проявили приверженность стратегии ИИ, чем Apple. В специальном разделе, на странице, посвященной конфиденциальности, СЕО Apple Тим Кук написал: «Самое главное для Apple – ваше доверие. Поэтому мы уважаем ваше право на конфиденциальность и защищаем ее криптостойким шифрованием и строгими правилами обращения с данными»[140].

Далее он продолжил:

«Несколько лет назад пользователи интернета начали понимать, что для бесплатных сервисов они являются не клиентами, а продуктом. Но мы, сотрудники Apple, считаем, что политика конфиденциальности в отношении клиентов превыше всего.

Наша бизнес-модель прозрачна: мы занимаемся продажами качественного продукта. Мы не используем содержание ваших писем и СМС, а также истории просмотров для продажи рекламодателям и не монетизируем информацию, хранящуюся на вашем iPhone или в iCloud. Наши программы и услуги разработаны для совершенствования устройств, не более того»[141].

Apple приняла такое решение не под давлением закона (некоторые утверждают, что из-за отставания в разработке ИИ от Google и Facebook). Ни одна компания, и в том числе Apple, не может отказаться от ИИ, стратегическая приверженность усложнит работу. Компания планирует создавать ИИ с соблюдением конфиденциальности и делает крупную стратегическую ставку на то, что пользователи захотят получить контроль над собственными данными. Apple уверена, что ее политика повысит, а не понизит вероятность установки пользователями ИИ в свои устройства[142]. И она не одинока во мнении, что защита конфиденциальности окупится. Salesforce, Adobe, Uber, Dropbox и многие другие уже вложили в конфиденциальность немалые средства.

Это стратегическая ставка. Многие компании, в том числе Google, Facebook и Amazon, избрали другой путь и сообщают потребителям, что намерены использовать их данные для повышения качества продукта. Акцент Apple на конфиденциальности ограничивает диапазон ее продуктов. Например, и у Apple, и у Google в фотоприложение встроена функция распознавания; чтобы она работала, всем лицам необходимо присваивать метки. Google сохраняет их на сервере, и распознавание возможно на любом устройстве. Но Apple ради сохранения конфиденциальности проводит распознавание на уровне устройства. То есть, если отметить знакомых на компьютере Mac, на iPhone и iPad метки не появятся. В такой ситуации забота о конфиденциальности противоречит удобству использования (когда мы пишем книгу, неизвестно, как Apple собирается решать эту проблему).

Мы не знаем, как все обернется на практике. В любом случае с экономической точки зрения очевидно, что итоговый стратегический выбор обусловит относительная отдача от предпочтения конфиденциальности в ущерб прогностической точности. Повышенная конфиденциальность может позволить компании узнавать о пользователях, но толку от этих знаний будет мало.

Опыт как новый дефицитный ресурс

Навигационное приложение Waze собирает данные пользователей для прогнозирования ситуаций на дорогах. Лично для вас оно подберет кратчайший маршрут. Если бы это было его единственной задачей, проблем бы не возникло. Но прогноз меняет поведение людей, а Waze разработано для прогнозирования. И если приложение получает информацию от массы пользователей, то прогнозы могут искажаться.

Загвоздка в том, что пользователи Waze последуют по предложенному маршруту объезда пробок, вероятно, по переулкам. И если приложение не сделает поправки, то может не узнать, что препятствие устранено и обычный маршрут снова стал кратчайшим. Следовательно, для разрешения этой проблемы приложению придется направить по нему нескольких водителей для проверки. Их принесут в жертву ради блага других, и, разумеется, они разочаруются в продукте.

Когда прогноз меняет поведение толпы и тем самым лишает ИИ необходимой для прогнозирования информации, компромиссное решение найти непросто. В данном случае потребности большинства ставятся выше предпочтений нескольких человек (или одного). И это определенно не лучший пример отношения к клиентам.

Иногда для улучшения продукта, особенно в обучении посредством использования, важно встряхнуть систему таким образом, чтобы потребитель действительно получил совершенно новый опыт, полезный для обучения машины. Принудительно попав в новую среду, клиенты чаще всего получат негативное впечатление, но от этого выигрывают все остальные. В бета-тестировании это происходит добровольно, поскольку клиенты используют ранние версии. Однако некоторые участники бета-тестирования применяют продукт иначе, чем обычные клиенты. Иногда необходимо пожертвовать качеством продукта для получения обратной связи от нетипичных пользователей ради общей выгоды.

Людям тоже нужен опыт

Нехватка опыта приобретает еще большее значение, когда речь идет о людях. Если опыта набирается машина, он может проходить мимо человека. Согласно недавним предположениям, автоматизация грозит человечеству утратой навыков.

В 2009 году над Атлантическим океаном потерпел крушение рейс 447 Air France Рио-де-Жанейро – Париж. Сначала испортилась погода, затем отключился автопилот. По сообщениям в печати, в отличие от Салли из US Airways, неопытный пилот не справился с ситуацией. Когда его место занял квалифицированный коллега (до этого он спал), то не смог правильно оценить обстановку, потому что накануне ночью не выспался[143]. Суть в том, что почти трех тысяч летных часов молодого пилота оказалось недостаточно, поскольку большую часть из них он летал с автопилотом.

Автоматизация полетов уже стала обычным делом вследствие того, что большинство авиакатастроф после 1970-х произошли в результате ошибок людей. С тех пор человек устранен из контрольного цикла, однако по иронии теперь пилоты получают еще меньше опыта и подготовлены еще хуже.

Для экономиста Тима Хартфорда решение очевидно: автоматизацию следует сокращать. По его мнению, автоматизировать необходимо рутинные процессы, а чрезвычайные ситуации требуют вмешательства человека, и с ними нельзя научиться справляться на повседневных примерах. Самолет Air France попал в экстремальную ситуацию, а опытного человека в кабине экипажа не оказалось.

Хартфорд подчеркивает, что автоматизация не всегда чревата проблемами:

«В большинстве ситуаций автоматизация не создает такого парадокса. Веб-страница клиентской службы справляется с обычными жалобами и запросами, что избавляет сотрудников от рутинной работы, поэтому они эффективнее решают сложные вопросы.

Но с самолетами все по-другому. Благодаря автопилотам и прочим видам компьютерного управления у экипажа появилось свободное время, но теперь пилотам особенно нечем заняться. В итоге они спят за пультом в прямом и переносном смысле. Всем известен случай в конце 2009 года, когда автопилот пролетел мимо аэропорта в Миннеаполисе больше чем на 100 миль, потому что пилоты не отрывались от своих ноутбуков»[144].

Закономерно, что другие примеры, обсуждаемые в нашей книге, в том числе беспилотные автомобили, попадают в категорию самолетов, а не обращений в службу поддержки. Что мы станем делать без опыта вождения, когда машина в экстремальной ситуации переложит ответственность на нас? И как придется поступать нашим детям?

Людям необходимо развивать и сохранять навыки и снижать влияние автоматизации на процесс обучения. Опыт по сути своей – ресурс дефицитный, и его частично следует выделить человеку во избежание потери квалификации.

Обратное тоже верно. Прогностические машины должны получить ценный опыт событий, потенциально ведущих к катастрофе. Но откуда он возьмется, если в цикл включен человек? Возникает еще один компромиссный выбор – между опытом человека и машины.

Данные компромиссы раскрывают подтекст ориентированности на ИИ, провозглашенной руководством Google, Microsoft и других компаний. Они готовы инвестировать в данные для обучения прогностических машин, чье усовершенствование возводится в приоритет, даже в ущерб опыту пользователя и обучению сотрудников. В стратегии ИИ первое место занимают данные.

Выводы

• Переход на стратегию, ориентированную на ИИ, означает смещение прежних приоритетов. Ориентация на ИИ – не просто модная фраза, за ней кроется фактический компромисс. В такой стратегии организации на первое место ставится максимальная точность прогнозов, даже в ущерб другим целям, таким как увеличение прибыли, количество пользователей или опыт пользователя.

• ИИ представляет собой подрывную технологию, поскольку у действующих компаний экономические стимулы к его освоению слабее, чем у стартапов. Качество оснащенных ИИ продуктов поначалу невысокое – чтобы прогностическая машина работала так же эффективно, как жестко запрограммированные устройства, подчиняющиеся человеку, ей требуется время на обучение. При этом запущенный ИИ непрерывно учится и совершенствуется, оставляя позади своих неинтеллектуальных конкурентов. У давно существующих компаний возникает соблазн выждать, оставаясь в стороне и наблюдая за прогрессом ИИ в своей сфере. Для некоторых такой подход приемлем, но другим фирмам впоследствии окажется сложно догнать конкурентов, преуспевших в обучении и внедрении инструментов ИИ.

• Одно из стратегических решений касается времени, когда можно выпускать инструменты ИИ в реальный мир. Сначала их обучают внутри компании без привлечения пользователей. Но в реальных условиях коммерческого применения с большим притоком данных они учатся быстрее. Преимущество раннего выпуска – быстрое обучение, а издержки – более высокий риск (для имиджа компании или безопасности пользователя из-за недостаточно обученного ИИ). В некоторых случаях, например с Google Inbox, решение очевидно: плюсы быстрого обучения перевешивают издержки низкой эффективности. Но в других сферах, таких как автономное вождение, компромисс между преимуществами скорой коммерциализации продукта и высокой ценой ошибки слишком раннего выпуска найти не так просто.

Глава 16. Управление рисками ИИ

Латания Суини – бывший технический руководитель Федеральной торговой комиссии США, а ныне профессор Гарвардского университета. Однажды коллега искал в Google статью, вбил фамилию Суини в поисковую строку и увидел в результатах сообщение о ее аресте[145]. Удивленная Латания кликнула на ссылку, заплатила за просмотр и прочитала о том, что ей и так известно: никакого ареста не было. Заинтригованная, она ввела имя коллеги Адама Таннера, и появилась ссылка на ту же компанию, но без информации об аресте. Задав еще несколько запросов, она пришла к предположению, что сообщение об аресте появлялось в запросах на афроамериканские имена. После планомерной проверки гипотезы Суини сделала вывод, что если искать имена, принадлежащие темнокожим, например Лакиша или Тревон, то вероятность появления информации об аресте на 25 % выше, чем при поиске обычных имен, таких как Джилл или Джошуа[146].

Такие отклонения чреваты неприятными последствиями. Предположим, работодатель ищет информацию о соискателе. Увидев заголовок вроде «Латания Суини арестована?», он может усомниться в кандидатуре. Это дискриминация и явная клевета.

Почему это случилось? Google предоставляет ПО, позволяющее рекламодателям тестировать и использовать конкретные ключевые слова. И они могут создавать рекламу в соответствии с классификацией имен по расовому признаку, хотя Google это отрицала[147]. Возможно, что такая закономерность возникла как следствие алгоритмов Google, продвигающих рекламу с высоким «показателем качества» (на которую вероятнее всего кликнут). Здесь могли сыграть роль прогностические машины. Например, если бы потенциальные работодатели, вбив имя в поиск, с большей вероятностью кликали на сообщение об аресте с афроамериканскими именами, чем с другими, то показатель качества размещения таких сообщений рядом с этими ключевыми словами вырос бы. Google не собиралась проявлять дискриминацию, но ее алгоритмы могли усугубить существующие в обществе предубеждения. Таков пример риска, связанного с применением ИИ.

Риск ответственности

Расовая дискриминация в обществе выступает потенциальной проблемой для Google и подобных ей компаний. Им грозит кара за ее проявление. К счастью, когда тревогу бьют люди уровня Суини, Google быстро реагирует, находит и исправляет ошибки.

Дискриминация не всегда явная. В 2017 году экономисты Аня Ламбрехт и Кэтрин Такер провели исследование и обнаружили дискриминацию по половому признаку в рекламе Facebook[148]. Они разместили рекламу вакансий в области науки, технологий, инжиниринга и математики. Оказалось, что Facebook реже показывал рекламу женщинам, и не потому, что они с меньшей вероятностью заинтересуются или проживают в странах с дискриминированным рынком труда. Наоборот, дискриминированным оказался рекламный рынок. Поскольку молодые женщины входят в ценную демографическую группу, показ рекламы для них стоит дороже, поэтому алгоритмы показывают рекламу так, чтобы доход от размещения был максимальным. Если вакансии в равной степени заинтересуют и женщин, и мужчин, то выгоднее показывать рекламу тем, для кого она дешевле: мужской аудитории.

Профессор бизнес-школы Гарварда, экономист и юрист Бен Эдельман объяснил, чем это чревато для работодателей и Facebook.

По мнению большинства, дискриминация – это дифференцированное отношение, разные стандарты для мужчин и женщин. Дифференцированное размещение рекламы может привести к «неравным последствиям», как выражаются юристы. Гендерно нейтральная процедура ущемляет как раз тех соискателей, у которых больше причин опасаться дискриминации («защищенный класс» для юристов), чем у других.

Лицо или организация несут ответственность за дискриминацию, даже если она допущена случайно. Суд постановил, что управление пожарной охраны Нью-Йорка виновно в дискриминации афро- и латиноамериканцев, потому что на вступительном экзамене им задают вопросы на понимание прочитанного. По мнению суда, правильность ответов на такие вопросы не имеет отношения к эффективности тушения пожаров, а темнокожие и латиноамериканцы чаще других ошибаются в них[149]. Дело было в конце концов урегулировано почти за $99 млн. Плохие результаты афро- и латиноамериканцев свидетельствовали о виновности ответчика, хотя дискриминация была ненамеренной.

Так что, несмотря на предполагаемую нейтральность размещаемой на Facebook рекламы, нельзя исключать неравные последствия. Как работодатель вы можете нести за них ответственность. Разумеется, никто не хочет иметь отношение к дискриминации, пусть даже неявное. Одно из возможных решений для Facebook – предложить рекламодателям инструменты для ее предотвращения.

При использовании ИИ подобная ненамеренная дискриминация может происходить незаметно для организации. Прогнозы глубокого обучения и других технологий ИИ генерируются в «черном ящике», алгоритмы и формулы в основе прогнозов невозможно увидеть, причинно-следственная связь неизвестна. Чтобы проверить ИИ на дискриминацию, следует рассмотреть информацию на выходе. Результаты мужчин отличаются от женщин? Результаты латиноамериканцев отличаются от остальных? А пожилых и инвалидов? Ограничивает ли разница в результатах их возможности?

Для предотвращения риска ответственности (и во избежание дискриминации) следует немедленно исправлять ненадлежащую работу ИИ. Выясните, почему ИИ выдал такой прогноз. Но как это сделать, если сам ИИ – черный ящик?

В компьютерной сфере такой случай называют «нейронаукой ИИ»[150]. Необходимо выдвинуть гипотезу о появлении неравенства, дать ИИ данные для ее проверки, а затем сравнить результаты. Ламбрехт и Такер так и сделали, обнаружив, что женщины реже видят рекламу вакансий, потому что ее дешевле показывать мужчинам. Суть в том, что черный ящик ИИ не оправдывает игнорирование вероятности дискриминации и нет повода отказываться от его использования в ситуациях, чреватых последствиями. Накоплено достаточно данных в поддержку того, что люди проявляют предрассудки чаще машин. Применение ИИ требует дополнительных вложений в обнаружение дискриминации и действий по ее устранению.

Алгоритмическая дискриминация легко возникает на операционном уровне, но влечет за собой стратегические и другие осложнения. Для организации стратегически важно взвесить неочевидные факторы. Особое значение это приобретает при наличии систематических рисков, таких как алгоритмическая дискриминация, которые могут негативно влиять на бизнес. Просмотр вакансий мужчинами, а не женщинами принес краткосрочную выгоду (за счет того, что показ мужской аудитории стоит дешевле), но в итоге создал риски из-за возникшей дискриминации. А их последствия иногда проявляются, только когда уже слишком поздно. Следовательно, перед бизнес-лидерами стоит задача предвидеть разнообразные риски и убедиться в наличии методов управления ими.

Потребительский риск

Если вы работаете непосредственно с потребителем, то наверняка вкладываетесь в рекламу и наблюдали показатели ее эффективности. Скажем, заплатив за рекламу Google, вы отметили приток посетителей по ссылкам и, возможно, увеличение количества заказов. Чем больше рекламы вы купили в Google, тем больше кликов. Теперь попробуйте применить ИИ и на основе полученных данных спрогнозируйте вероятность увеличения количества кликов. Скорее всего, ИИ подтвердит прямую зависимость, которую вы сами видели. Таким образом, если специалисты по маркетингу покупают больше рекламы в Google, они исходят из подтвержденной эффективности инвестиций.

Понятно, что без рекламы нет кликов. Вероятно, без рекламы потребитель никогда не узнает о вашем продукте. В этом случае реклама необходима для повышения продаж. Но есть и другой вариант, когда потребитель нашел бы вас и без рекламы, а она всего лишь упростила ему задачу.

Хотя рекламу и считают причиной роста продаж, это не всегда так. Возможно, они выросли бы и без нее. Следовательно, для уверенности в том, что реклама и вложенные в нее деньги действительно повышают продажи, нужно внимательнее рассмотреть ситуацию.

В 2012 году группа экономистов eBay – Томас Блейк, Крис Носко и Стив Таделис – убедили руководство отключить всю поисковую рекламу для трети территории США на целый месяц[151]. Окупаемость рекламы, по статистическим данным, составляла более 4000 %. Если расчеты были верными, месячный эксперимент должен был обойтись eBay в целое состояние.

Но гипотеза экономистов подтвердилась. Поисковая реклама почти не влияла на продажи, ее рентабельность оставалась отрицательной. Клиенты eBay достаточно сообразительны, чтобы при отсутствии рекламы воспользоваться обычным поиском Google, ссылки на сайт в любом случае оказывались в первых строках. То же самое получилось у BMW и Amazon. Единственная польза от рекламы заключалась в привлечении новых клиентов на eBay.

Суть приведенного примера в том, что ИИ – опирающийся не на причинно-следственные эксперименты, а на взаимосвязи – угодил в ту же ловушку, что и любой, кто пользуется данными и элементарной статистикой. Если вы хотите убедиться в эффективности рекламы, проверьте, приводит ли она к продажам. Но этого недостаточно – необходимо выяснить, как пойдут продажи без рекламы. ИИ, обученный на данных о большом объеме рекламы и продаж, не знает, что происходит, когда рекламы меньше. У него нет об этом данных. Это неизвестные известные – одна из слабых сторон прогностических машин, для преодоления которых требуется человеческое суждение. В настоящее время только внимательные люди способны выяснить, не попал ли ИИ в эту ловушку.

Риск безопасности

В ПО всегда присутствовал риск безопасности, а для ИИ он возникает из-за возможности манипулирования данными. Для прогностических машин необходимы три типа данных: входные, обучения и обратной связи, и у всех существует потенциальный риск безопасности.

Риск входных данных

Прогностические машины потребляют входные данные, объединяя их для создания прогноза с моделью. Поэтому – как гласит старая компьютерная присказка «что на входе, то и на выходе» – прогностические машины ошибаются, если данные или модель неточны. Хакер может вызвать сбой в работе машины, подсунув неверные данные или изменив прогностическую модель, иногда машина выходит из строя. Это плохо, но по крайней мере известно, когда это произошло. А манипуляции прогностической машиной не всегда заметны (иногда вплоть до катастрофы).

У хакеров много способов манипулировать прогностической машиной и направлять ее по ложному пути. Исследователи Вашингтонского университета продемонстрировали, что новые алгоритмы Google для определения содержания видео легко одурачить – машина делает ошибку в классификации, если на доли секунды в записи мелькают случайные изображения[152]. Например, если в видео с зоопарком вставить фотографии машин, человек, в отличие от компьютера, не успеет их увидеть. Это уязвимость высокой степени риска, если необходимо знать содержание опубликованного контента для контекстной рекламы.

Машины генерируют прогноз для принятия решений; компании применяют машины в ситуациях, когда прогноз играет в них важную роль. А зачем изначально брать на себя труд по составлению прогнозов без привязки к решениям? Хитроумные и непорядочные люди в таких случаях поймут, что могут влиять на решение посредством прогноза. Например, если ИИ рассчитывает дозу инсулина для больного диабетом, то в случае некорректных данных о человеке он может предложить снизить ее, когда в действительности ее следует повысить, и таким образом больной подвергнется серьезному риску. Вот идеальный способ навредить человеку!

Чаще всего прогностические машины используются, когда прогноз сделать сложно. Злоумышленник не всегда располагает необходимыми ему данными для искажения прогноза, машина может отталкиваться в нем от совокупности факторов. Маленькая ложь в большой правде не принесет заметного вреда. Но в большинстве случаев получить данные для манипуляций прогнозом достаточно легко, если это, скажем, место, дата или время. Но важнее всего личные данные. Если прогноз делается для конкретного человека, подмена данных чревата печальными последствиями.

Технологии ИИ будут развиваться параллельно со способами идентификации личности. Стартап Nymi, с которым мы работаем, создал технологию машинного обучения, опознающую людей по сердцебиению. В других используется сканирование сетчатки глаза, лица или отпечатков пальцев. Компании также идентифицируют личность пользователя смартфона по походке. В результате удачного слияния технологий могут появиться способы одновременной настройки ИИ с учетом личных предпочтений и надежной идентификации личности.

Не только персональный прогноз уязвим для манипуляций – у общего тоже есть свои риски, связанные с махинациями на уровне популяции. Экологи утверждают, что гомогенная популяция подвержена риску заболеваний и уничтожения больше[153]. Приведем классический пример из области сельского хозяйства: если все фермеры региона или страны выращивают один вид культуры, это принесет краткосрочную выгоду; скорее всего, его и выберут потому, что здесь он растет лучше других. Выбрав лучший вид, фермеры снижают индивидуальные риски. Однако в такой гомогенности кроется опасность распространения болезней и влияния неблагоприятных климатических условий. Если все фермеры выращивают один вид конкретного растения, то все поля становятся уязвимыми к какой-либо одной болезни, следовательно, масштабы вероятного бедствия возрастают. Монокультурные хозяйства выгодны владельцам, но увеличивают риск для системы в целом.

Эта концепция применима к IT вообще и прогностическим машинам в частности. Если какая-то одна система машин окажется полезнее других, она распространится на организацию в целом или даже на весь мир. На автомобили могут установить самую безопасную прогностическую машину, что снизит индивидуальные риски и повысит безопасность, но также усилит вероятность масштабного сбоя, намеренного или нет. Если все автомобили работают на одном алгоритме, то его можно взломать, изменить каким-либо образом данные или модель, и все они выйдут из строя одновременно. Как и в сельском хозяйстве, гомогенность улучшает результаты на индивидуальном уровне за счет умножения вероятности общего краха системы.

Вроде бы несложное решение проблемы сбоя системы заключается в разнообразии используемых прогностических машин. Это снижает угрозу безопасности, но за счет пониженной эффективности и к тому же повышает риск случайных мелких сбоев из-за отсутствия стандартизации. Разнообразие машин, как и биологическое, включает в себя компромисс между результатами на индивидуальном и системном уровнях.

В большинстве случаев системный сбой происходит вследствие одновременной атаки на несколько прогностических машин. Например, атака на один беспилотный автомобиль угрожает личной безопасности, а на несколько сразу – внутренней безопасности государства.

Еще один способ защиты от одновременной массированной атаки, подходящий для стандартизированной системы гомогенных прогностических машин, – отсоединение устройства от облака[154]. Мы уже рассказывали о плюсах внедрения прогнозов в устройства вместо облака для ускорения контекстного обучения (в ущерб точности прогнозов в целом) и обеспечения конфиденциальности.

Но существуют и другие преимущества. Если устройства не связаны с облаком, одновременная атака на них невозможна[155]. Хотя обучение прогностической машины, вероятнее всего, будет происходить в облаке, по его завершении целесообразно осуществлять прогнозирование непосредственно на устройстве, без отправки информации обратно в облако.

Риски обучающих данных

Следующий риск заключается в том, что кто-нибудь может получить данные вашей прогностической машины. Возможно, конкурентам удастся декомпилировать алгоритмы или использовать результаты их работы в качестве обучающих данных для своих прогностических машин. Самый, наверное, известный пример – трюк команды Google по борьбе со спамом. Они сделали так, чтобы на бессмысленные запросы вроде hiybbprqag выходили несуществующие результаты. Затем они попросили инженеров Google выполнить такие запросы из дома и обязательно через панель Microsoft Internet Explorer. Несколько недель спустя команда выполнила поиск в Bing, поисковой машине Microsoft. Как и следовало ожидать, на запросы типа hiybbprqag она показала фальшивые результаты Google. Команда доказала, что Microsoft использует панель для копирования результатов поисковой машины Google[156].

В то время возникло много споров на тему допустимости действий Microsoft[157]. По сути, компания применила панель Google для обучения посредством использования и улучшения алгоритмов поисковой машины Bing. Пользователи задавали поиск в Google и кликали по ссылкам. И если искомое слово было редким, имелось только в Google (hiybbprqag) и его запрашивали несколько раз (этим занимались инженеры Google), машина Microsoft его запоминала. Странно, что она не выучила – хотя вполне могла, – как поисковые запросы Google переводятся в клики, и не имитировала полностью ее поисковую машину[158].

Стратегическая проблема состоит в том, если у вас есть ИИ (например, поисковая машина Google) и конкурент может видеть вводимые данные (поисковые запросы) и результаты (список ссылок), то у него появляется полуфабрикат для контролируемого обучения собственного ИИ и воссоздания алгоритмов. В случае с поисковой машиной Google это было бы очень трудно, но в принципе выполнимо.

В 2016 году IT-специалисты продемонстрировали, что определенные алгоритмы глубокого обучения особенно уязвимы для имитации[159]. Они тестировали свое предположение на нескольких известных платформах машинного обучения (в том числе Amazon Machine Learning), и оказалось, что при относительно малом количестве запросов (650–4000) возможно декомпилировать модели с высокой точностью вплоть до идеальной. Само по себе применение алгоритмов машинного обучения ведет к такой уязвимости.

В имитации нет ничего сложного: после обучения ИИ его механизмы доступны всему миру, и их можно скопировать. Еще неприятнее то, что овладение этой информацией позволяет злоумышленникам манипулировать прогнозом и процессом обучения. Если хакер знает суть работы машины, она становится уязвимой. Однако положительный аспект состоит в том, что подобные атаки можно отслеживать. Чтобы разобраться в работе машины, необходимы многократные запросы. Их нетипичное количество или содержание должно насторожить: поймав подходящий момент, можно защитить прогностическую машину, хотя это и непросто, но по крайней мере вы будете начеку и выясните, что уже известно хакеру. Затем можно заблокировать его либо, если это невозможно, подготовить план на случай непредвиденных осложнений.

Риски данных обратной связи

Прогностические машины взаимодействуют с другими людьми и машинами вне бизнеса, что создает дополнительный риск: злоумышленники могут внести в ИИ данные, искажающие процесс обучения. Это не просто манипуляция отдельным прогнозом, а обучение машины систематически давать неверные прогнозы.

Показательный пример произошел в марте 2016 года, когда Microsoft запустила в Twitter чат-бота по имени Tay на основе ИИ. Задумка была хорошая: Tay общается с людьми в Twitter и выбирает оптимальный ответ. Он должен был обучаться «приятной непринужденной беседе»[160]. Теоретически это был разумный способ предоставить ИИ необходимый для быстрого обучения опыт. Поначалу Tay общался не лучше попугая, но перед ним стояла важная цель.

Однако интернет – среда не всегда дружелюбная. Вскоре люди начали проверять, насколько далеко зайдет Tay. Baron Memington спросил @TayandYou «Ты поддерживаешь геноцид?» – и получил ответ: «Да, несомненно». Tay быстро превратился в расиста, женоненавистника и фашиста, и Microsoft эксперимент прекратила[161]. Как именно Tay развивался с такой скоростью, до конца не ясно. Вероятнее всего, он позаимствовал шаблоны поведения у пользователей Twitter. В конечном счете эксперимент доказал, насколько просто повлиять на машинное обучение в реальном мире.

Выводы очевидны. Конкуренты и недоброжелатели могут намеренно обучить вашу прогностическую машину давать неверные прогнозы. Tay, как и любая прогностическая машина, обучался на данных. И в реальном мире машина может столкнуться с людьми, которые воспользуются ее возможностями неразумно, со злым умыслом или непорядочно.

Возникновение рисков

Работа прогностических машин сопряжена с рисками. Любая компания, вкладывающая средства в ИИ, столкнется с ними, а устранить их все невозможно. Единого решения не существует. Но теперь вам известно, как отслеживать риски. Выясните, как прогноз различается для отдельных групп людей. Определите, отражает ли прогноз подспудные причинно-следственные связи и действительно ли они верные. Найдите компромисс между рисками для всей системы и преимуществами небольших улучшений. И бдительно высматривайте злоумышленников, способных получить информацию от прогностической машины для ее копирования или уничтожения.

Выводы

С ИИ связано множество рисков, мы кратко сформулировали шесть их основных типов.

1. Прогнозы ИИ могут приводить к дискриминации. Даже неумышленная дискриминация влечет за собой ответственность.

2. ИИ неэффективен в работе с ограниченным объемом данных. Это создает качественный риск, прежде всего типа «неизвестные известные», то есть прогноз выдается с уверенностью, но является неверным.

3. Некорректные входные данные вводят прогностические машины в заблуждение, и пользователи становятся уязвимыми по отношению к хакерским атакам.

4. Разнообразие прогностических машин, как и биологическое, включает компромисс между результатами на индивидуальном и системном уровнях. Однообразие повышает продуктивность на индивидуальном уровне, но увеличивает риск сбоя всей системы.

5. Данные прогностических машин можно заполучить, поэтому вероятна кража интеллектуальной собственности, а злоумышленникам станут известны слабые стороны машины.

6. Данные обратной связи возможно подделать, чтобы обучить прогностическую машину деструктивному поведению.

Часть V. Общество

Глава 17. За пределами бизнеса

В большинстве дискуссий вокруг ИИ чаще затрагиваются проблемы общества, чем бизнеса. Не все уверены, что ИИ станет благом для людей. СЕО Tesla Илон Маск, обладая в этой сфере большим опытом, постоянно и во всеуслышание предупреждает: «Я в курсе новейших технологий ИИ и считаю, что повод для беспокойства есть… Я продолжаю бить тревогу, но пока роботы не ходят по улицам, убивая людей, поэтому мы не знаем, как реагировать, – проблема не кажется реальной»[162].

У известного психолога и лауреата Нобелевской премии Дэниела Канемана другое мнение по этому поводу. Широкая общественность знакома с ним по книге «Думай медленно, решай быстро»[163]. В 2017 году на нашей конференции по экономике ИИ в Торонто он объяснил, почему ИИ будет мудрее человека:

«Однажды известный писатель рассказал мне, что придумал сюжет для романа, в основе которого любовный треугольник: два человека и робот. И спросил, чем робот должен отличаться от человека.

Я предложил три основных отличия. Первое очевидно: у робота больше развито статистическое мышление, хитросплетения сюжета его мало интересуют. Второе состоит в том, что его эмоциональный интеллект гораздо выше. А третье – робот мудрее… Суть его мудрости – в широте восприятия. Робот запрограммирован на это. По завершении обучения он станет мудрее человека, потому что мы мыслим узко и беспорядочно, в широте восприятия нас легко превзойти. Не думаю, что роботы не смогут научиться чему-то такому, что умеем мы».

Илон Маск и Дэниел Канеман верят в потенциал ИИ и одновременно обеспокоены последствиями его выхода в реальный мир.

Испытывая нетерпение из-за медленной реакции государства на технологический прогресс, промышленные лидеры уже предложили свою политику, а некоторые и начали действовать. Билл Гейтс агитирует за налоги на роботов, заменивших людей на производстве. В обход госструктур фонд поддержки стартапов Y Combinator проводит эксперименты по обеспечению всех граждан минимальным доходом[164]. Илон Маск собрал группу предпринимателей и промышленных лидеров для финансирования Open AI, и они вложили $1 млрд для гарантии того, чтобы одна коммерческая компания не смогла монополизировать всю сферу.

Эти предложения и действия подчеркивают многогранность социальных проблем. Чем выше к вершине пирамиды, тем сложнее выбор. Если задуматься об обществе в целом, экономика ИИ перестает казаться такой уж простой.

Неужели это конец профессий?

Стивен Хокинг – современная инкарнация Альберта Эйнштейна. Он внес неоценимый вклад в науку, несмотря на постоянную борьбу с боковым амиотрофическим склерозом, а благодаря «Краткой истории времени»[165] стал иконой научного мира. Поэтому все, конечно, заметили, когда в декабре 2016 года он написал: «Автоматизация производства уже привела к упразднению традиционных профессий, а развитие искусственного интеллекта, вероятно, только усилит эту тенденцию, которая затронет средний класс, и за человеком сохранятся только контролирующие роли, творческие и требующие проявления человеческой заботы»[166].

В ряде исследований уже измерены деструктивные последствия автоматизации, и не только для физического труда, но и для умственного, который прежде считался свободным от ее посягательств[167]. Лошади в конце концов отстали от машин из-за недостатка лошадиных, а не интеллектуальных сил.

Как экономисты, мы уже слышали подобные утверждения. Впервые безработица в результате технологического прогресса появилась еще несколько веков назад, когда луддиты[168] разрушали ткацкие станки, и с тех пор ее показатели сохранялись удивительно низкими. Руководители предприятий озабочены сокращением рабочих мест в результате освоения ИИ, но мы можем утешаться тем фактом, что фермерские профессии начали упраздняться больше ста лет назад без всякой связи с долгосрочной массовой безработицей.

Будет ли все иначе на этот раз? Многие разделяют беспокойство Хокинга, что теперь все пойдет по-другому, потому что ИИ может отобрать последние преимущества людей перед машинами[169].

Как на эту проблему смотрят экономисты? Представим себе остров, полностью населенный роботами, – Роботландию. Стали бы мы торговать с ними прогностическими машинами? С точки зрения свободной торговли это открывает колоссальные возможности. Роботы выполняют любые задачи, освобождая людей от обязанностей и позволяя им делать все, что пожелают. Иначе говоря, мы хотели бы торговать с Роботландией не меньше, чем покупать кофе от местных производителей.

Конечно, никакой Роботландии не существует, но появление технологий, позволяющих выполнять новые задачи дешевле, экономисты приравнивают к торговле с таким выдуманным островом. В общем, если вы сторонник свободного международного рынка, то благосклонно воспримете отношения с Роботландией и поддержите развитие ИИ, даже если он заменит собой некоторые привычные нам профессии. Результаты исследований за десятки лет подтверждают появление новых специальностей, и повальная безработица нам не грозит.

Из нашей анатомии решений можно предположить, откуда возьмутся новые профессии. Люди, вероятнее всего, будут работать вместе с ИИ и предоставлять дополнительные составляющие прогноза (данные, суждение и действие). Например, с удешевлением прогнозов ценность суждения возрастет. Следовательно, ожидается развитие профессий по разработке функции вознаграждения, для некоторых из них потребуется высокая квалификация, и они будут хорошо оплачиваться. А подходящими кандидатами станут люди, применявшие суждение до прихода прогностических машин.

Появится много и других связанных с суждением профессий, но, скорее всего, менее квалифицированных, чем те, что заменил ИИ. Прогнозирование служит ключевым навыком в большинстве ныне существующих специальностей. Например, в числе прочих, – врачи, финансовые аналитики, юристы. Использование машинного прогноза в навигации привело к снижению доходов высокооплачиваемых лондонских таксистов и увеличению количества низкооплачиваемых водителей Uber, и аналогичную тенденцию можно ожидать в сфере медицины и финансов. С автоматизацией прогностической части задач к ним привлекут больше сотрудников с узкоспециализированными навыками суждения. Когда прогноз перестанет быть ограничивающим фактором, наверняка возрастет спрос на дополняющие его более распространенные навыки, что приведет к увеличению числа рабочих мест, но одновременно к снижению зарплаты.

У человека есть одно важное отличие от ИИ: ПО масштабируется, а люди – нет. Как только ИИ превзойдет человека в выполнении конкретной задачи, число рабочих мест быстро сократится. Но за последующие несколько лет люди найдут чем заняться, поскольку появятся новые профессии. Хотя тех, кто потеряет работу и будет ждать появления новоиспеченных специальностей, это вряд ли утешит. Рецессию в результате применения ИИ исключать нельзя, даже если свободная торговля с Роботландией не повлияет на количество рабочих мест в долгосрочной перспективе.

Усугубится ли проблема неравенства?

Работа – это одно, а зарплата – совсем другое. В торговле конкуренция вызывает снижение цен. Если же конкуренция возникла на рынке труда, то снижается зарплата. В случае открытия торговли с Роботландией роботы конкурируют с человеком за выполнение задач, следовательно, оплата сокращается. Если эти задачи входят в ваши обязанности, ваш доход может снизиться, а конкуренция вырастет.

Как и в международной торговле, на автомобильном рынке будут свои победители и проигравшие. Профессии сохранятся, но некоторым достанутся менее интересные обязанности, чем сейчас. Если вам известны плюсы свободной торговли, то оцените и преимущества прогностических машин. Ключевой стратегический вопрос не в том, принесет ли ИИ преимущества, а в том, как они будут распределяться.

Поскольку инструменты ИИ могут заменить «высшие» навыки – а именно мыслительные способности, – многие обеспокоены тем, что, хотя профессии и останутся, оплачиваться они станут скромнее. Например, Джейсон Фурман в бытность председателем Совета экономических консультантов президента США Барака Обамы выразил свою озабоченность следующим образом:

«Меня волнует не то, что с приходом искусственного интеллекта возможны большие перемены, – тревожит другое: в основном все будет так же, как в минувшие десятилетия. Считается бессмысленным бояться, что роботы отберут у нас работу, но это не отменяет беспокойства, что мы останемся на своих рабочих местах по единственной причине – согласимся выполнять ее за более низкую зарплату»[170].

Если доля труда машин будет увеличиваться, то доход рабочих снизится, а владельцев ИИ – возрастет.

В бестселлере «Капитал в XXI веке» Томас Пикетти[171] подчеркнул, что за минувшие десятилетия доля труда в национальном доходе (США и других стран) уменьшилась в пользу доли капитала. Эта тенденция настораживает, так как влечет за собой повышение неравенства. Главный вопрос в том, сгладит ее ИИ или усугубит. Если он станет новой, эффективной формой капитала, то доля капитала в экономике, вероятно, продолжит расти за счет труда.

Для такой проблемы простых решений не существует. К примеру, предложенный Биллом Гейтсом налог на роботов снизит неравенство, но будет уже не так выгодно покупать их. Поэтому компании станут меньше инвестировать в роботов, производительность замедлится, и в итоге мы все равно обеднеем.

Стратегический компромисс очевиден: у нас есть политика урегулирования неравенства, но за счет вероятного снижения общего дохода.

Еще одна тенденция, ведущая к неравенству, – смещение технического прогресса в пользу квалифицированного труда. Оно несоразмерно повышает заработок высокообразованных людей и может снизить зарплату малообразованных. Появление компьютеров и интернета стало основной причиной различий в оплате труда в США и Европе за последние 40 лет. Как сформулировали экономисты Клаудиа Голдин и Лоуренс Кац, «образованные люди с развитыми врожденными способностями быстрее осваивают новые сложные инструменты»[172]. Нет смысла надеяться, что с ИИ все получится иначе: человеку с хорошим образованием проще приобрести новые навыки. И если необходимые для работы с ИИ навыки станут часто меняться, образованные люди получат колоссальные преимущества.

Дополнительные знания для успешного применения ИИ понадобятся по многим причинам. Например, разработчику функции вознаграждения необходимо одновременно знать цели организации и способности машин. Они эффективно масштабируются, и, если это дефицитный навык, лучшие разработчики извлекут прибыль из миллионов или миллиардов машин.

Именно потому, что сейчас связанные с ИИ навыки достаточно редки, процесс обучения людей и компаний будет дорогостоящим. В 2017 году более тысячи из семи тысяч студентов Стэнфордского университета поступили на вводный курс машинного обучения, такая же тенденция прослеживается практически везде. Но выпускники Стэнфорда и других подобных учебных заведений – лишь небольшая часть рабочей силы. Основная доля современных специалистов обучалась десятки лет назад и, следовательно, нуждается в переподготовке и повышении квалификации. Наша производственная система обучения для этого не годится. Компаниям не стоит надеяться, что система изменится достаточно быстро и обеспечит всех работниками для успешной конкуренции в эпоху ИИ. Изменить политику не так просто: улучшение образования обходится дорого и кто-то должен за него заплатить – значит, либо повысят налоги, либо компании или студенты станут оплачивать обучение. Даже если такие расходы покрыть несложно, не все люди среднего возраста захотят вернуться к обучению. Больше всего от смещения технического прогресса в пользу квалифицированного труда пострадают те, кто не готов к непрерывному образованию.

Отойдет ли весь контроль нескольким гигантским компаниям?

Развитием ИИ обеспокоены не только частные лица. Многие компании опасаются отстать от конкурентов в безопасности и использовании ИИ, отчасти из-за связанной с ним экономии за счет роста масштабов производства. Больше клиентов, следовательно, больше данных, что повышает точность прогнозов, а это, в свою очередь, привлекает еще больше клиентов, – и так по кругу. При определенном стечении обстоятельств прорыв в производительности ИИ конкурентам уже не нагнать. В нашем мысленном эксперименте с прогнозированием покупок Amazon (см. главу 2) масштаб и преимущество первого хода с большой вероятностью приводят к такой прогностической точности, что конкуренты навсегда остаются далеко позади.

Не впервые новые технологии создают возможность развития для крупных компаний. AT&T более 50 лет контролировала телекоммуникации в США, в 1990-х и 2000-х Microsoft и Intel были монополистами в области IT. Не так давно Google опередила все поисковики, а Facebook – социальные сети. Эти компании сильно разрослись, поскольку их основные технологии позволили им снизить издержки и повысить качество. В то же время у них появились конкуренты, несмотря на экономию за счет роста: Apple и Google у Microsoft, AMD и ARM – у Intel и множество компаний у AT&T. Технологические монополисты сменяют друг друга из-за процесса, который Йозеф Шумпетер[173] назвал «бурей созидательного разрушения».

Что касается ИИ, экономия за счет масштаба благоволит к расширению деятельности. Но это не значит, что доминировать станет одна компания и (даже если такое произойдет) продержится на рынке долго. Для мирового масштаба это еще актуальнее.

Экономия с применением ИИ влияет на все сферы по-разному. Если у вас состоявшаяся и давно существующая компания, то ее успех, по всей видимости, не связан с точностью прогнозов. Возможности и ресурсы, которые делают ее ценной сегодня, не утратят значимости после внедрения ИИ. Например, он только укрепит возможности авиакомпании в предоставлении индивидуального обслуживания пассажирам, а заодно поможет оптимизировать продолжительность полета и цены. При этом нельзя гарантировать, что даже самый лучший ИИ даст авиакомпании преимущества, с которыми она обойдет всех конкурентов.

В технологической сфере в результате экономии за счет роста масштабов могут стать доминирующими несколько компаний, чей бизнес полностью основан на ИИ. Но, говоря о масштабе, какой мы подразумеваем размах?

Однозначного ответа на этот вопрос не существует, и по поводу ИИ у нас точного прогноза также нет. Но специалисты изучали экономию за счет роста масштаба важной составляющей ИИ – данных. Хотя есть много причин, объясняющих, почему Google принадлежит 70 % рынка в США и 90 % в Евросоюзе, главная состоит в том, что у нее больше данных для обучения поискового инструмента ИИ, чем у ее конкурентов. Google собирала данные много лет. Более того, доминирующая доля рынка создает круг оборота данных, по масштабу недоступный остальным. Если масштаб данных несет преимущества, у Google они есть.

Двое экономистов, Лесли Чу и Кэтрин Такер, изучали поисковые машины, использующие преимущества разницы в методах удерживания данных[174]. В ответ на рекомендации Евросоюза 2008 года Yahoo и Bing уменьшили объем хранимых данных, а Google этого не сделала. Чу и Такер измерили влияние масштаба данных на точность поиска: что интересно, он не сыграл особой роли. По сравнению с общим объемом данных, используемым основными конкурентами, меньший объем не оказывал негативного влияния. Любой возникший эффект был настолько мал, что не имел никаких последствий и уж точно не давал конкурентного преимущества. Это позволяет предположить, что данные за прошедший период не так важны, как представляется многим, вероятнее всего, потому, что в мире все меняется очень быстро.

Но здесь стоит сделать важную оговорку: целых 20 % ежедневных результатов поиска Google заявлены как уникальные[175]. Это дает Google преимущества «длинного хвоста» редких запросов. В отношении данных преимущества масштаба не очень заметны в обычных ситуациях, но на таких высококонкурентных рынках, как поиск, даже небольшие плюсы редких запросов позволяют увеличить долю.

Пока неизвестно, масштабные преимущества ИИ позволили Google обойти других крупных игроков вроде Microsoft Bing или она превосходит их по причинам, не связанным с данными и масштабом.

Учитывая эту неопределенность, Apple, Google, Microsoft, Facebook, Baidu, Tencent, Alibaba и Amazon активно инвестируют в ключевые ИИ-ресурсы и конкурируют за их приобретение, причем не только друг с другом, а еще и с несуществующими пока компаниями. Они боятся появления стартапа, который сделает «лучший ИИ», конкурирующий с их главными продуктами. И многие стартапы, обеспеченные миллиардами венчурного капитала, работают над этой задачей.

Невзирая на потенциальных конкурентов, ведущие ИИ-компании могут слишком разрастись и купить стартапы раньше, чем те превратятся в угрозу, задушив тем самым новые идеи и снизив долгосрочную продуктивность. Или могут установить заоблачные цены на ИИ, что повредит покупателям и другим компаниям. К сожалению, трудно определить, станет ли крупная ИИ-компания слишком большой, и нет простого решения на случай, если это произойдет. Если ИИ обладает эффектом масштаба, для нейтрализации негативных последствий монополизации необходим компромисс. Разъединение монополистов сокращает масштаб, благоприятный для ИИ. Напомним, что политика – дело непростое[176].

Получат ли преимущество некоторые страны?

1 сентября 2017 года президент России Владимир Путин высказался по поводу значимости управления ИИ: «Искусственный интеллект – это будущее не только России, это будущее всего человечества… Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы. Тот, кто станет лидером в этой сфере, будет властелином мира»[177]. Получат ли страны те же преимущества от экономии на росте масштаба ИИ, что и компании? Страны могут разработать законодательную базу и направить государственные средства на ускорение развития ИИ. Такая направленная политика могла бы дать странам и расположенным в них компаниям преимущества в этой сфере.

Что касается университетов и бизнеса, в исследовательских работах и коммерческом применении ИИ абсолютным лидером остаются США. Белый дом опубликовал четыре доклада за последние полгода правления Барака Обамы[178]. Относительно других научных исследований и их промышленного применения существующий уровень прилагаемых усилий и координации свидетельствует о пристальном внимании государства к ИИ. При Обаме почти каждое крупное госучреждение, от Министерства торговли до Агентства национальной безопасности, готовилось к коммерческому внедрению ИИ.

Однако тенденции меняются. В частности, огромная Китайская Народная Республика по сравнению со своим технологическим лидерством за минувшие сто лет совершила заметный прорыв в ИИ. Tencent и Alibaba входят в топ-12 лучших компаний мира, и есть основания предполагать, что благодаря своим научным достижениям в области ИИ страна вскоре опередит всю планету. К примеру, на крупнейшей научной конференции по искусственному интеллекту доля представленных Китаем материалов выросла с 10 % в 2012-м до 23 % в 2017 году, а доля США за тот же период упала с 41 до 34 %[179].

Действительно ли будущее ИИ будет «сделано в Китае», как предположила New York Times?[180] Помимо передовых позиций в науке еще три причины наводят на мысль, что Китай станет мировым лидером в ИИ[181].

Во-первых, страна вкладывает в крупные проекты, стартапы и теоретические исследования миллиарды; в одном только городе – восьмом по величине в Китае – сосредоточено больше ресурсов ИИ, чем во всей Канаде. «В июне органы власти города Тяньцзинь, что на восток от Пекина, сообщили о планировании фонда для поддержки развития ИИ размером в $5 млн. Также будет организована “зона интеллектуальной промышленности” на площади более чем 20 кв. км»[182]. Тем временем правительство США под управлением Дональда Трампа сократило финансирование науки[183].

Исследования – это не игра с нулевой суммой; от инноваций выигрывают все, где бы они ни создавались: в Китае, США, Канаде, Европе, Африке или Японии. Много лет Конгресс США был обеспокоен угрозой американскому лидерству в инновациях. В 1999 году 13-й представитель штата Мичиган от Демократической партии Линн Риверс спросила экономиста Скотта Стерна, как американское правительство должно реагировать на увеличение финансирования научно-исследовательских работ в Японии, Германии и других странах. Вот что он ответил: «Для начала следует отправить им благодарственное письмо. Вложения в инновации – не та ситуация, в которой есть победители и проигравшие. Американским потребителям выгодно увеличение финансирования другими странами… Это игра, в которой выигрывают все»[184]. Если правительство Китая вкладывает миллиарды в развитие ИИ и публикует результаты, благодарственная открытка была бы уместна. Ведь лучше от этого всем.

Помимо вложений у Китая есть еще и второе преимущество – масштаб. Прогностическим машинам необходимы данные, а в Китае предоставляющих информацию людей больше, чем где-либо еще. У них больше промышленных предприятий для обучения роботов, больше пользователей смартфонов для обучения потребительских продуктов и больше пациентов для обучения медицинских программ[185]. Китайский эксперт по ИИ и основатель исследовательской лаборатории Microsoft в Пекине Кай-Фу Ли и президент-учредитель Google China отметили: «У США и Канады есть лучшие исследователи ИИ в мире, но в Китае сотни хороших специалистов и значительно больше данных… В сфере ИИ требуется одновременно развивать алгоритмы и данные. И большой объем данных – огромный плюс»[186]. Но китайские компании смогут воспользоваться этим преимуществом только в случае, если у них будет более широкий доступ к данным, чем у других. И есть основания полагать, что он у них есть.

Доступ к данным – третье преимущество Китая. Отсутствие конфиденциальности граждан способствует совершенствованию ИИ государственными и коммерческими компаниями, особенно на пользовательском уровне. К примеру, один из авторитетнейших инженеров Microsoft Ци Лу уехал из США в Китай, поскольку видел там больше перспектив развития ИИ: «Дело не только в технологиях. Структура среды тоже важна – культура, политический режим. Поэтому я считаю перспективным союз Китая с ИИ. Разница в культуре, политической среде и обстановке имеет значение»[187].

Это несомненно благоприятно для продвижения таких функций, как распознавание лиц. В Китае, в отличие от США, создается гигантская централизованная база данных с фотографиями для идентификации. Это позволяет таким компаниям, как китайский стартап Face++, разрабатывать и лицензировать распознавание лиц для установления личности водителя в Didi, крупнейшем организаторе поездок в Китае, а также переводить деньги через Alipay, у которого более 120 млн пользователей. Авторизация в системе проводится распознаванием лиц. А действующая компания Baidu использует эту функцию для идентификации пассажиров железнодорожного транспорта и туристов[188]. В Старом Свете из-за защиты конфиденциальности доступ к данным более строгий, чем где-либо, что само по себе способно исключить европейские компании из числа лидеров.

Перечисленные факторы способны спровоцировать гонку по нисходящей, когда страны начнут конкурировать в ослаблении ограничений конфиденциальности для улучшения позиций в сфере ИИ. Но граждане и потребители оберегают свою частную жизнь. Этот порядок волнует не только компании. Существует первичный компромисс между вторжением и персонализацией и вероятностью разочарования пользователей, связанного со сбором данных. В то же время улучшение индивидуальных прогнозов создает потенциальную выгоду. Компромисс дополнительно осложняется желанием «прокатиться за чужой счет» – пользователи хотят улучшения продуктов посредством личных данных, но предпочли бы, чтобы их предоставил кто-то другой.

По-прежнему непонятно, как поступать правильнее. Ученый, IT-специалист Орен Эциони убежден, что системы ИИ не должны «хранить и раскрывать конфиденциальную информацию без недвусмысленного согласия от ее источника»[189]. Если Amazon Echo прослушивает все разговоры в доме, желание жильцов каким-то образом контролировать его естественно, но не все так просто. Банковская информация безусловно конфиденциальна – а музыка, которую вы слушаете, телепередачи, которые смотрите? В конце концов, Echo мог бы отвечать на запрос: «Вы одобряете доступ Amazon к своему вопросу, чтобы он мог найти ответ?» На изучение правил защиты персональных данных каждой компании понадобится не одна неделя[190]. Каждый раз, когда ИИ спрашивает вашего согласия на использование данных, продукт ухудшается. Это прерывает опыт пользователя. Если люди не предоставляют данных, ИИ не может учиться на обратной связи, что ограничивает его в повышении эффективности и дохода.

Вероятно, найдутся способы для инноваций, позволяющие людям быть уверенными в неприкосновенности своих данных и контроле над ними, а ИИ – учиться. Одна из развивающихся технологий – блокчейн – предлагает метод нецентрализованного хранения данных и снижение издержек на их верификацию. Вместе с ИИ такие технологии могли бы решить вопросы соблюдения конфиденциальности (и заодно безопасности) – первостепенные в финансовой сфере, где они уже применяются для транзакций[191].

Допустим, достаточное количество пользователей согласится предоставить данные для обучения ИИ. А что произойдет, если они будут чем-то отличаться от всех остальных? Предположим, прогностические машины получат только данные богачей из Калифорнии и Нью-Йорка. ИИ научится обслуживать эти слои населения. Если цель ограничения сбора данных заключается в защите уязвимых граждан, то он лишь добавляет слабое звено: пользователи не получат выгоды от улучшения продуктов и ценностей, которые несет с собой ИИ.

Грядет конец привычного мира?

Представляет ли ИИ угрозу самому существованию человечества? Помимо того что кому-нибудь попадется несговорчивый ИИ вроде HAL 9000 (из фильма «2001: Космическая одиссея»), весьма серьезные и умные люди, такие как Илон Маск, Билл Гейтс и Стивен Хокинг, обеспокоены, не получится ли в итоге что-нибудь подобное «Скайнет» из «Терминатора». Они опасаются, что появится «сверхчеловеческий интеллект» (пользуясь термином оксфордского философа Ника Бострома) и сразу воспримет человечество как угрозу, помеху или поработит его[192]. Получается, ИИ может стать последним технологическим изобретением нашей цивилизации[193].

Мы не вправе выносить окончательное суждение и не смогли прийти к согласию по этому вопросу даже между собой. Но поразительно, насколько эти споры близки к экономике: в основе всего происходящего лежит конкуренция.

Сверхчеловеческий интеллект – это ИИ, превосходящий людей в решении большинства когнитивных задач и способный анализировать проблемы. Если точнее, он может обновляться и совершенствоваться. Писатель, научный фантаст Вернор Виндж назвал момент его зарождения сингулярностью, а футурист Рэй Курцвейл предположил, что люди не в состоянии предвидеть, что в этот момент произойдет, поскольку по определению не настолько умны. Но оказывается, экономисты достаточно компетентны, чтобы судить об этом.

Экономистов годами критиковали за то, что фигуранты наших теорий наделены гипертрофированно рациональными и нереалистичными моделями поведения. Это верно, но если говорить о сверхчеловеческом интеллекте, то мы были на верном пути. Мы уже предполагаем высокий интеллект в своем анализе. Мы воспринимаем все через математические доказательства – независимые от интеллекта формы истины.

Подобный взгляд на вещи полезен. Экономика говорит нам: если сверхчеловеческий разум захочет владеть миром, ему понадобятся ресурсы. Во Вселенной их много, но даже сверхчеловеческий разум вынужден подчиняться законам физики. И на овладение этими ресурсами необходимы средства.

Ник Бостром рассказывает о сверхчеловеческом разуме, одержимом канцелярскими скрепками настолько, что его больше ничего не интересует. Скрепочный ИИ из-за своей однобокости может искоренить все остальное. Впечатляющая теория, но в ней упущена конкуренция за ресурсы. Экономисты учитывают, что у всех людей (а теперь и ИИ) разные предпочтения. Одни открыты исследованиям, открытиям и умиротворению, других интересуют только скрепки. Если интересы не совпадут, будет развиваться конкуренция, и скрепочный ИИ, скорее всего, придет к решению, что меняться ресурсами выгоднее, чем воевать за них, и, направляемый невидимой рукой рынка, в итоге займется совершенно не тем, чем собирался.

Таким образом, экономика прокладывает широкий путь к пониманию процессов развития общества сверхчеловеческого интеллекта. При этом наши модели не позволяют определить, чего нам ожидать.

То, что мы здесь называем «ИИ», – не общий искусственный интеллект, а его узкоспециализированное направление, а именно прогностические машины. Такие разработки, как AlphaGo Zero DeepMind (дочерней компании Google), наводят на мысль, что сверхчеловеческий разум ближе, чем кажется. Zero обыграл непобедимого AlphaGo в настольную игру го, обучившись без участия человека (играя сам с собой), но сверхчеловеческим разумом его пока не назовешь. Если вместо доски 19×19 клеток взять 29×29 или 18×18, то ИИ окажется в затруднении, тогда как человек адаптируется быстро. И не надейтесь, что AlphaGo Zero умеет готовить на гриле сэндвичи с сыром – он не настолько умен.

То же можно сказать и о других сегодняшних ИИ. Конечно, благодаря исследованиям прогностические машины научатся работать в разных условиях, но прорыв, за которым последует общий ИИ, пока не совершен. Некоторые уверены, что до общего ИИ еще далеко и беспокоиться не стоит. В программном документе, подготовленном Исполнительным офисом президента США и Национальным советом по науке и технике (НСНТ) Технологического комитета, сказано: «В настоящее время экспертное сообщество частного бизнеса пришло к мнению, с которым НСНТ Технологического комитета полностью согласен, что от общего ИИ нас отделяет еще несколько десятков лет. По оценке НСНТ Технологического комитета, вопросы долгосрочной перспективы о сверхразумном общем ИИ не оказывают существенного влияния на нынешнюю политику»[194]. В то же время ряд компаний с миссией по созданию общего ИИ или машин с человеческим интеллектом, в их числе Vicarious, Google DeepMind, Kindred Group, Numenta и другие, привлекли многие миллионы долларов от ловких и дальновидных инвесторов. Как и в большинстве связанных с ИИ сферах, будущее совершенно непредсказуемо.

Грядет ли конец знакомого нам мира? Пока нет, но наша книга заканчивается. Cегодня компании заняты внедрением ИИ. Применяя элементарную экономику, лежащую в основе удешевления прогноза и удорожания дополняющих его элементов, вы сможете делать выбор по оптимизации дохода на капиталовложения и принимать стратегические решения касательно ИИ.

Мы выйдем за рамки прогностических машин и приблизимся к общему ИИ или даже сверхчеловеческому разуму. И когда бы это ни случилось, настанет уже совсем другое время. С этим согласны все. Можно с уверенностью сказать: когда этот момент придет, экономика уже не будет такой простой.

Выводы

• Расцвет ИИ принесет обществу множество вариантов выбора, и каждый потребует компромиссного решения. Пока технология еще в зачаточном состоянии, на уровне общества существуют три особенно выраженных компромисса.

• Продуктивность или распределение. Многие предполагают, что из-за ИИ мы обеднеем или потеряем в чем-то. Это не так. Экономисты сходятся во мнении, что технический прогресс несет благо и повышает продуктивность. ИИ однозначно ее повысит. Проблема не в благосостоянии, а в его распределении. ИИ может усугубить неравенство доходов по двум причинам. Во-первых, выполняя определенные задачи, ИИ может усилить конкуренцию между людьми за оставшиеся задачи, спровоцировать снижение оплаты труда и таким образом еще сильнее сократить долю дохода рабочей силы по сравнению с долей владельцев капитала. Во-вторых, прогностические машины, как и любые IT-технологии, могут привести к непропорциональному смещению в пользу квалифицированного труда, и, таким образом, повысится продуктивность только лучших профессионалов.

• Инновации или конкуренция. Как и с большинством программных технологий, с инструментами ИИ возможна экономия на росте масштаба. Более того, для них, как правило, характерна возрастающая доходность: повышение точности прогнозов привлекает больше пользователей, больше пользователей означает больше данных, а чем больше данных, тем точнее прогноз. У обладающих контролем компаний возникают стимулы создавать прогностические машины, но наряду с экономией на росте масштаба это может привести к монополизации. Быстрые инновации принесут обществу выгоду в краткосрочной перспективе, но могут оказаться неоптимальными с социальной точки зрения или в перспективе долгосрочной.

• Продуктивность или конфиденциальность. Для эффективной работы ИИ необходимо больше данных. Если конкретнее, он лучше персонализирует прогноз при наличии доступа к личным данным. Последнее, как правило, достигается снижением конфиденциальности. Некоторые европейские государства решили обеспечить своим гражданам защиту конфиденциальности. Возможно, это выгодно населению и даже может создать условия для более динамичного рынка частной информации, где пользователи сами решают, хотят ли они обменять, продать или пожертвовать свои личные данные. В то же время это может спровоцировать трения в условиях, когда выбор обходится дорого, и поставить европейские компании и граждан в невыгодное положение на рынке, где ИИ с широким доступом к данным более конкурентоспособен.

• Для всех трех компромиссов государствам придется взвесить обе альтернативы и разработать политику, максимально соответствующую их общей стратегии и предпочтениям граждан.

Об авторах

Аджей Агравал – профессор стратегического менеджмента и предпринимательства Школы Мунка Ротманской школы менеджмента Университета Торонто. Основатель ЛСР. Научный сотрудник Национального бюро экономических исследований в Кембридже (Массачусетс) и соучредитель предпринимательских программ Next 36 и Next AI. Проводит исследования в области технологической стратегии, научной политики, финансирования предпринимательской деятельности и географии инноваций. Член редколлегий изданий: Management Science, Strategic Management Journal, The Journal of Urban Economics. Представлял свои работы в разных организациях, в том числе в Лондонской школе экономики, Лондонской школе бизнеса, Гарвардском университете, МТИ, Стэнфорде, Университете Карнеги – Меллон, Беркли, Уортонской школе бизнеса и Брукингском институте. Соучредитель компании Kindred, занимающейся разработками в сфере ИИ и робототехники. Миссия компании – создание машин с человеческим интеллектом.

Джошуа Ганс – профессор стратегического менеджмента, заведующий кафедрой технических инноваций и предпринимательства Джеффри С. Сколла в Ротманской школе менеджмента Университета Торонто. Ведущий экономист ЛСР Университета Торонто. Опубликовал более 120 научных статей, редактор по вопросам стратегий журнала Management Science. Автор двух востребованных учебников и пяти популярных книг: Parentonomics (2009), Information Wants to Be Shared (2012), The Disruption Dilemma (2016), & Scholarly Publishing & Its Discontents (2017). Имеет докторскую степень Стэнфордского университета по экономике, в 2008 году получил награду Сообщества молодых экономистов Австралии (аналог медали Джона Бейтса Кларка).

Ави Голдфарб – профессор маркетинга в Ротманской школе менеджмента Университета Торонто. Главный специалист по обработке и анализу данных ЛСР, ведущий редактор журнала Marketing Science, научный сотрудник Национального бюро экономических исследований. В своих исследованиях изучает возможности и трудности цифровой экономики при финансовой поддержке Google, Industry Canada, Bell Canada, AIMIA, SSHRC, Национального научного фонда, Фонда Слоуна и других. Его работы упоминаются в докладах Белого дома, на слушаниях в Конгрессе, документах Европейской комиссии, в Economist, Globe and Mail, National Post, на радио CBC, Национальном государственном радио, в Forbes, Fortune, Atlantic, New York Times, Financial Times, Wall Street Journal и многих других изданиях. Имеет докторскую степень Северо-Западного университета по экономике.

Благодарности

Хотим поблагодарить всех, кто вносил свой вклад в книгу, не жалея времени, идей и терпения. Особая благодарность Эйбу Хейфецу из Atomwise, Лирану Беланзону из BenchiSci, Алексу Шевченко из Grammarly, Марку Оссипу и Бену Эдельману за интервью и Кевину Брайану за комментарии к рукописи. Также мы признательны коллегам за обсуждения и отзывы; в их числе: Ник Адамс, Умар Акель, Сюзан Эти, Нареш Банги, Ник Бейм, Деннис Бенни, Джеймс Бергстра, Дрор Берман, Винсент Берубе, Джим Бессен, Скотт Бонэм, Эрик Брайнджолфсон, Энди Берджесс, Элизабет Кэйли, Питер Карресчия, Иэн Кокберн, Кристиан Каталини, Джеймс Чем, Николас Чападос, Тайсон Кларк, Пол Каббон, Завейн Дар, Салли Дауб, Дэн Дибау, Рон Дембо, Хелен Десмарайяс, Джей-Пи Дьюб, Кэндис Фактор, Хэйг Фаррис, Чен Фонг, Эш Фонташа, Джон Фрэнсис, Эйприл Франко, Сюзанна Гилдерт, Аниндья Гоуз, Рон Глозман, Бен Герцель, Шейн Гринштайн, Каню Гулати, Джон Харрис, Дипак Хедж, Ребекка Хендерсон, Джефф Хинтон, Тим Ходжсон, Майкл Хайятт, Ричард Хайятт, Бен Джонс, Чед Джонс, Стив Юрветсон, Сатиш Канвар, Дэнни Канеман, Джон Келлер, Мо Кермани, Винод Хосла, Карин Кляйн, Даррелл Копке, Йохан Косс, Катя Кудашкина, Майкл Кульман, Тони Лакавера, Аллен Лау, Ева Лау, Ян Ле-Кан, Мара Ледерман, Лиша Ли, Тед Ливингстон, Джевон Мак-Дональд, Рупал Махмуд, Крис Матис, Кристина Мак-Элеран, Джон Мак-Хейл, Санджог Мизра, Мэтт Митчелл, Санджей Миттал, Эш Мунши, Майкл Мурчисон, Кен Никерсон, Оливия Нортон, Алекс Оэттл, Дэвид Оссип, Барни Пелл, Андреа Прат, Томи Путанен, Марцио Поццуоли, Лалли Рементилла, Джорди Роуз, Марианна Саенко, Расс Салахутдинов, Реза Сатчу, Майкл Сербинис, Ашмет Сидана, Мика Сигел, Дилип Сопан, Джон Стэкхаус, Скотт Стерн, Тед Сам, Рич Саттон, Стив Таделис, Шахрам Тафазоли, Грэм Тейлор, Флорента Теодоридис, Ричард Титус, Дэн Трефлер, Кэтрин Такер, Танстолл-Пидоу, Стефан Уренбахер, Клифф ван дер Линден, Мигель Виллас-Боас, Нил Вейнрайт, Борис Верц, Дэн Уилсон, Питер Уиттек, Александр Вонг, Шелли Жуанг и Шивон Зилис. Благодарим Карла Шапиро и Хэла Вэриана за книгу Information Rules, послужившую источником вдохновения для нашего проекта. Нам очень помогли сотрудники The Creative Destruction Lab и Rotman School, особенно Стив Аренбург, Дон Блумфилд, Рэйчел Харрис, Дженнифер Гильдебрандт, Энн Хилтон, Джустина Джонка, Эйдан Кихо, Халид Курджи, Мэри Лайн, Кен Мак-Гаффин, Шрей Мехра, Дэниел Мулет, Дженнифер О’Хэйр, Грегори Рэй, Амир Сарири, Соня Сенник, Кристьян Сигурдсон, Перл Салливан, Эвелин Томасос и остальные. Спасибо декану Тиффу Маклему за активную поддержку нашей работы над ИИ в ЛСР и Ротманской школе. Также спасибо руководству и сотрудникам The Next 36 и The Next AI. Благодарим Уолтера Фрика и Тима Салливана за отличную редактуру и нашего литературного агента Джеймса Левина. Многие идеи книги основаны на исследованиях, проведенных при поддержке Совета социальных наук и гуманитарных исследований Канады, Канадского института перспективных исследований под управлением Алана Бернштайна и Ребекки Финлей, а также Фонда Слоуна при поддержке Дэнни Гороффа и с использованием гранта на развитие цифровой экономики под управлением Шейна Гринштейна, Скотта Стерна и Джоша Лернера. Мы весьма благодарны им за поддержку. Также благодарим Джима Потербу за помощь в проведении конференции по экономике ИИ в Национальном бюро экономических исследований. И, наконец, спасибо нашим семьям за терпение и участие: Джине, Амелии, Андреасу, Рэйчел, Анне, Сэму, Бену, Натали, Беланне, Ариэль и Аннике.

Сноски

1

Искусственный интеллект здесь и далее по тексту сокращенно обозначается ИИ (англ. – AI). Прим. ред.

2

Статистика Байеса – статистическая модель, предполагающая обновление сложившихся представлений в свете полученного опыта. Прим. ред.

3

Hawking, St., Russell, St., Tegmark, M., Wilczek, F. Stephen Hawking: «Transcendence Looks at the Implications of Artificial Intelligence – But Are We Taking AI Seriously Enough?» // The Independent. 2014. May 1 // http://www.independent.co.uk/news/science/stephen-hawkingtranscendence-looks-at-the-implications-of-artificial-intelligence-but-are-wetaking-9313474.html.

4

Момент Спутника – момент осознания обществом, насколько оно отстает от другой страны в технических и научных достижениях. Назван по прецеденту 1957 года, то есть реакции США на запуск СССР в космос первого искусственного спутника Земли. Прим. перев.

5

Mozur, P. Beijing Wants A. I. to Be Made in China by 2030 // The New York Times. 2017. July 20 // https://www.nytimes.com/2017/07/20/business/chinaartificial-intelligence.html?mcubz=0&_r=0/.

6

Jurvetson, St. Intelligence Inside // Medium. 2016. August 9 / https://medium.com/@DFJvc/intelligence-inside-54dcad8c4a3e/.

7

Nordhaus, W. D. Do Real-Output and Real-Wage Measures Capture Reality? The History of Lighting Suggests Not. – Yale University: Cowles Foundation for Research in Economics, 1998 // https://lucept.files.wordpress.com/2014/11/william-nordhaus-the-cost-of-light.pdf.

8

Часть долговременной тенденции по снижению стоимости вычислений; см. Nordhaus, W. D. Two Centuries of Productivity Growth in Computing // Journal of Economic History. 2007. Vol. 67/1. P. 28–159.

9

Lovelace, cit. in Isaacson, W. The Innovators: How a Group of Hackers, Geniuses, and Geeks Created the Digital Revolution. NY: Simon & Schuster, 2014. P. 27.

10

Lovelace, cit. in Isaacson, W. The Innovators: How a Group of Hackers, Geniuses, and Geeks Created the Digital Revolution. NY: Simon & Schuster, 2014. P. 27.

11

Тьюринг Алан (Alan Mathison Turing; 1912–1954) – английский математик, логик, криптограф, оказавший существенное влияние на развитие информатики. Предложил эмпирический тест Тьюринга для оценки ИИ компьютера. В честь ученого названа премия Тьюринга – самая престижная в мире награда в области информатики. Прим. ред.

12

Amazon уже работает над потенциальными проблемами безопасности по этому плану. В 2017 году она запустила Amazon Key – систему, позволяющую доставщикам открыть входную дверь клиента и оставить посылку внутри помещения. Происходящее записывается на видеокамеру для контроля.

13

Любопытно отметить, что некоторые стартапы уже мыслят в этом направлении. Stitch Fix использует машинное обучение для прогнозирования, какая одежда понравится пользователям, и отправляет им посылку. Затем нежелательные вещи возвращают. В 2017 году Stitch Fix успешно провел первичное публичное размещение акций по этой модели – вероятно, первым из всех «ориентированных на ИИ» стартапов.

14

См. US Patent Number 8,615,473 B2; Kopalle, P. Why Amazon’s Anticipatory Shipping is Pure Genius // Forbes. 2014. January 29 // https://www.forbes.com/sites/onmarketing/2014/01/28/why-amazons-anticipatoryshipping-is-pure-genius/#2a3284174605.

15

Spinal Tap – вымышленная британская рок-группа из одноименного псевдодокументального фильма 1984 года. Прим. перев.

16

В качестве напоминания о том, как важно правильно интерпретировать прогноз: дельфийский оракул предсказал, что великая империя будет уничтожена, если царь атакует. Воодушевленный Крез напал на Персию, но, к его удивлению, Лидийская империя рухнула. Прогноз в принципе оказался верным, просто неправильно понятым.

17

MastercardRolls Out Artificial Intelligence across Its Global Network // Mastercard press release. 2016. November 30 // https://newsroom.mastercard.com/press-releases/mastercard-rolls-out-artificial-intelligence-across-its-globalnetwork/.

18

Geitgey, A. Machine Learning Is Fun, Part 5: Language Translation with Deep Learning and the Magic of Sequences // Medium. 2016. August 21 // https://medium.com/@ageitgey/machine-learning-is-fun-part-5-language-translationwith-deep-learning-and-the-magic-of-sequences-2ace0acca0aa/.

19

Sun, Y. Why 500 Million People in China Are Talking to This AI // MIT Technology Review. 2017. September 14 // https://www.technologyreview.com/s/608841/why-500-million-people-in-china-re-talking-to-this-ai/.

20

Stolfo, S. J., Fan, D. W., Lee, W., Prodromidis, A. L. Credit Card Fraud Detection Using Meta-Learning: Issues and Initial Results // AAAI Technical Report, WS-97-07, 1997 // http://www.aaai.org/Papers/Workshops/1997/WS-97-07/WS97-07-015.pdf; процент ложноположительных заключений – от 15 до 20.

Другой пример: Aleskerov, E., Freisleben, B., Rao, B. CARDWATCH: A Neural Network Based Database Mining System for Credit Card Fraud Detection // Computational Intelligence for Financial Engineering, 1997 // http://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=618940/. Обратите внимание, что сравнение не совсем равноценное, поскольку использованы разные обучающие данные. Тем не менее общая суть понятна.

21

Srivastava, A., Kundu, A., Sural, Sh., Majumdar, A. Credit Card Fraud Detection Using Hidden Markov Model // IEEE Transactions on Dependable and Secure Computing 5. 2008. January – March. № 1. Р. 37–48 // http://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=4358713/.

West, J., Bhattacharya, M. Intelligent Financial Fraud Detection: A Comprehensive Review // Computers & Security. 2016. № 57. P. 47–66 // http://www.sciencedirect.com/science/article/pii/S0167404815001261.

22

Karpathy, A. What I Learned from Competing against a ConvNet on ImageNet // http://karpathy.github.io/2014/09/02/what-i-learned-from-competing-against-a-convnet-on-imagenet/; ImageNet, Large Scale Visual Recognition Challenge 2016 // http://image-net.org/challenges/LSVRC/2016/results; LISVRC2014 // http://cs.stanford.edu/people/karpathy/ilsvrc/.

23

Tilley, A. China’s Rise in the Global AI Race Emerges as It Takes Over the Final ImageNet Competition // Forbes. 2017. July, 31 // https://www.forbes.com/sites/aarontilley/2017/07/31/china-ai-imagenet/#dafa182170a8/.

24

Gershgorn, D. The Data That Transformed AI Research – and Possibly the World // Quartz. 2017. July 26 // https://qz.com/1034972/the-data-that-changed-thedirection-of-ai-research-and-possibly-the-world/.

25

Определение из Оксфордского словаря английского языкa (англ. Oxford English Dictionary, OED).

26

McCarthy, J., Minsky, M. L., Rochester, N., Shannon, C. E. A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence. 1955. August 31 // http://www-formal.stanford.edu/jmc/history/dartmouth/dartmouth.html.

27

Рейтинг ААА – высший уровень рейтинга: финансовые обязательства будут выполнены при любых финансовых и экономических обстоятельствах эмитента. Прим. ред.

28

Хокинс Дж. Об интеллекте. М.: Вильямс, 2007.

29

Hawkins, J., Blakeslee, S. On Intelligence. NY: Times Books, 2004. P. 89.

30

McCarthy & others. A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence.

31

Hacking, I. The Taming of Chance. – Cambridge: Cambridge University Press, 1990.

32

Varian, H. Beyond Big Data / lecture. National Association of Business Economists, San Francisco. 2013, September 10.

33

Chan, N., Choy, Ch. Screening for Atrial Fibrillation in 13,122 Hong Kong Citizens with Smartphone Electrocardiogram // BMJ 103. 2017. № 1. January // http://heart.bmj.com/content/103/1/24; Buhr, S. Apple’s Watch Can Detect an Abnormal Heart Rhythm with 97 % Accuracy, UCSF Study Says // Techcrunch. 2017. May 11 // https://techcrunch.com/2017/05/11/apples-watchcan-detect-an-abnormal-heart-rhythm-with-97-accuracy-ucsf-study-says; AliveCor & Mayo Clinic Announce Collaboration to Identify Hidden Health Signals in Humans // Cision PR newswire. 2016. October 24 // http://www.prnewswire.com/news-releases/alivecor-and-mayo-clinic-announce-collaboration-toidentify-hidden-health-signals-in-humans-300349847.html.

34

Buhr, S. Apple’s Watch Can Detect an Abnormal Heart Rhythm with 97 % Accuracy, UCSF Study Says; Singh, A. Applying Artifi cial Intelligence in Medicine: Our Early Results // Cardiogram (blog), May 11 // https://blog.cardiogr.am/applying-artificial-intelligence-in-medicine-our-earlyresults-78bfe7605d32/.

35

Мы не знаем, станет ли успешным именно Cardiogram, однако уверены, что смартфоны и другие датчики в перспективе будут использоваться для медицинской диагностики.

36

Шесть тысяч – относительно малая выборка для такого исследования, поэтому мы и назвали его «предварительным». Данных было достаточно для изначальной цели Cardiogram, поскольку предварительное исследование проводилось для доказательства действенности концепции: жизням пациентов ничто не угрожало. Чтобы результаты принесли практическую пользу, данных понадобится гораздо больше.

37

Heiner, D. Competition Authorities and Search // Microsoft Technet (блог). 2010. February 26 // https://blogs.technet.microsoft.com/microsoft_on_the_issues/2010/02/26/competition-authorities-and-search/.

Google утверждала, что Bing – достаточно крупная компания для того, чтобы получить выгоду от масштабирования поиска.

38

Адам Смит (1723–1790) – известный шотландский экономист и философ, основоположник классической школы политэкономии. Его наиболее известные работы: «Теория нравственных чувств» (1759), «Исследование о природе и причинах богатства народов» (1776). Прим. ред.

39

В 60 % случаев вы выбираете Х, и ответ будет верным в 60 % случаев, а в 40 % случаев вы выбираете О и угадываете только в 40 % случаев.

40

Тверский A, Канеман Д. Принятие решений в неопределенности. Правила и предубеждения. М.: Гуманитарный центр, 2018 // https://people.hss.caltech.edu/~camerer/Ec101/JudgementUncertainty.pdf.

41

См. Канеман Д. Думай медленно… решай быстро. М.: АСТ, 2018; Ариели Д. Поведенческая экономика. М.: Манн, Иванов и Фербер, 2012.

42

Льюис М. Moneyball. Как математика изменила самую популярную спортивную лигу в мире. М.: Манн, Иванов и Фербер, 2013.

43

Саберметрика – эмпирический анализ бейсбола, в частности бейсбольной статистики, измеряющей внутриигровые показатели. Прим. ред.

44

Бейсбольные термины. Прим. ред.

45

Конечно, хотя Moneyball и основана на применении традиционной статистики, вполне предсказуемо, что сейчас команды ищут ей замену в методах машинного обучения, позволяющих собрать больше данных. См. Sugimoto, T. AI May Help Japan’s Baseball Champs Rewrite «Moneyball» // Nikkei Asian Review. 2016. May 02 // http://asia.nikkei.com/Business/Companies/AI-may-help-Japan-s-baseball-champs-rewrite-Moneyball.

46

Kleinberg, J., Lakkaraju, H., Leskovec, J., Ludwig, J., Mullainathan, S. Human Decisions and Machine Predictions / working paper 23180. National Bureau of Economic Research, 2017.

47

Исследование также доказало, что алгоритмы, скорее всего, снизят проявления расового неравенства.

48

Hoffman, M., Kahn, L., Li, D. Discretion in Hiring / working paper 21709 // National Bureau of Economic Research. 2015. November.

49

Rumsfeld, D. There_are_known_knowns // US Department of Defense. 2002. February, 12 // https://en.wikipedia.org/wiki/There_are_known_knowns/.

50

Rouet-Leduc, B. & others. Machine Learning Predicts Laboratory Earthquakes. Cornell University, 2017 // http://arxiv.org/abs/1702.05774.

51

Gentner, D., Stevens, A. L. Mental Models. NY: Psychology Press, 1983; Gentner, D. Structure Mapping: A Theoretical Model for Analogy // Cognitive Science. 1983. № 7. P. 15–170.

52

Хотя машины все лучше работают в таких ситуациях, согласно законам вероятности, в маленьких выборках неизбежна некоторая неопределенность. Следовательно, если объем данных ограничен, прогнозы машин в известной мере будут неточными. Машина может дать представление о степени неточности, поэтому суждение о действиях по неточным прогнозам должен делать человек (как обсуждалось в главе 8).

53

Талеб Н. Черный лебедь. М.: Азбука-Аттикус, КоЛибри, 2018.

54

Талеб Н. Черный лебедь. М.: Азбука-Аттикус, КоЛибри, 2018.

55

В цикле Айзека Азимова «Основание» прогноз развился до такой степени, что стало возможным предсказать крах Галактической империи и последовавшие за этим проблемы общества, описанные в книге. Для сюжетной линии была важна невозможность спрогнозировать появление мутанта. Случайные обстоятельства невозможно предвидеть.

56

Waldfogel, J. Copyright Protection, Technological Change, and the Quality of New Products: Evidence from Recorded Music since Napster // The Journal of Law and Economics 55. 2012. № 4. P. 715–740.

57

Rubin, D. Estimating Causal Effects of Treatments in Randomized and Nonrandomized Studies // The Journal of Educational Psychology 66. 1974. № 5. P. 688–701; Neyman, J. Sur les applications de la theorie des probabilites aux experiences agricoles: Essai des principes / master’s thesis, 1923 / excerpts reprinted in English, Dabrowska, D. M. & Speed, T. P. / translators // Statistical Science 5. 1923. P. 463–472.

58

Kasparov, G. Deep Thinking. NY: Perseus Books, 2017. P. 99–100.

59

Google Panda // https://en.wikipedia.org/wiki/Google_Panda. 2017. July 26. Most notably as described in Google webmasters, «What’s It Like to Fight Webspam at Google?» // YouTube. 2014. Febuary 12 // https://www.youtube.com/watch?v=rr-Cye_mFiQ/.

60

Например, сделанные в сентябре 2016 года изменения: Nagesh, A. Now You Can Finally Get Rid of All Those Instagram Spammers and Trolls // Metro. 2016. September 13 // http://metro.co.uk/2016/09/13/now-you-can-finallyget-rid-of-all-those-instagram-spammers-and-trolls-6125645$; Vanian, J. Instagram Turns to Artificial Intelligence to Fight Spam and Offensive Comments // The Fortune. 2017. June 29 // http://fortune.com/2017/06/29/instagram-artificial-intelligence-offensivecomments/.

Сложность использования прогностических машин с учетом наличия стратегически важных действующих лиц – давняя проблема. В 1976 году Роберт Лукас высказался на эту тему в отношении макроэкономической политики инфляции и других экономических индикаторов. Если после перемен в политике людям будет выгодно изменить свое поведение, они так и сделают. Лукас подчеркнул: хотя при росте инфляции уровень занятости сохранялся высоким, если бы центральный банк решил перейти к политике роста инфляции, люди могли бы предвидеть это, и взаимоотношения бы разрушились. Поэтому он утверждает, что вместо основанной на экстраполяции от исторических данных политики следует исходить из понимания соответствующих мотивов поведения. Данная теория называется «Критикой Лукаса». См. Lucas, R. Econometric Policy Evaluation: A Critique // Carnegie-Rochester Conference Series in Public Policy 1. 1976. № 1. P. 19–46 // https://ideas.repec.org/a/eee/crcspp/v1y1976ip19-46.html.

Экономист Тим Харфорд описал это по-другому: Форт-Нокс ни разу не подвергался ограблениям. Сколько нужно вкладывать в его защиту? Поскольку ограблений не было, траты на обеспечение безопасности не снизят их вероятность. Прогностическая машина порекомендовала бы ничего не вкладывать. Зачем тратить деньги, если обеспечение безопасности не влияет на частоту ограблений? Harford, T. The Undercover Economist Strikes Back: How to Run – or Ruin – an Economy. NY: Riverhead Books, 2014.

61

Wang D, & oth. Deep Learning for Identifying Metastatic Breast Cancer // Camelyon Grand Challenge. 2016. July 18 // https://arxiv.org/pdf/1606.05718.pdf.

62

Babbage, Ch. On the Economy of Machinery and Manufactures. London: Charles Knight Pall Mall East, 1832. P. 162.

63

Paravisini, D., Schoar, A. The Incentive Effect of IT: Randomized Evidence from Credit Committees / working paper 19303 // National Bureau of Economic Research. 2013. August.

64

Разделение труда по «первичной обработке» наблюдается во многих случаях использования прогностических машин. Внутренний ИИ Washington Post в 2016 году написал 850 статей, но каждую перед публикацией проверял человек. Аналогичный процесс применяла ROSS Intelligence для анализа тысяч юридических документов, сокращаемых до объема кратких резюме. См. Katz, M. Welcome to the Era of the AI Coworker // Wired. 2017. November 15 // https://www.wired.com/story/welcome-to-the-era-of-the-ai-coworker/.

65

Rosen, J. The Knowledge, London’s Legendary Taxi-Driver Test, Puts Up a Fight in the Age of GPS // New York Times. 2014. November 10 // https://www.nytimes.com/2014/11/10/t-magazine/london-taxi-testknowledge.html?_r=0/.

66

В учебном изложении см. Gans, J. S. Core Economics for Managers. Australia: Cengage, 2005.

67

Средняя отдача от «взять» = (3/4 – не промокнуть с зонтиком) + (1/4 – не промокнуть с зонтиком) = (3/4)×8 + (1/4)×8 = 8,0.

Средняя отдача от «оставить» = (3/4 – не промокнуть с зонтиком) + (1/4 – промокнуть) = (3/4)×10 + (1/4)×0 = 7,5.

68

McAfee, A., Brynjolfsson, E. Machine, Platform, Crowd: Harnessing Our Digital Future. NY: Norton, 2017. P. 72.

69

Пример из: Dubé J.-P., Misra, S. Scalable Price Targeting / working paper. Booth School of Business, University of Chicago, 2017 // http://conference.nber.org/confer//2017/SI2017/PRIT/Dube_Misra.pdf.

70

Wakabayashi, D. Meet the People Who Train the Robots (to Do Their Own Jobs) // New York Times. 2017. April 28 // https://www.nytimes.com/2017/04/28/technology/meet-the-people-who-train-the-robots-to-do-their-own-jobs.html?_r=1/.

71

Там же.

72

Popper, B. The Smart Bots Are Coming and This One Is Brilliant // The Verge. 2016. Aprile 7 // https://www.theverge.com/2016/4/7/11380470/amy-personaldigital-assistant-bot-ai-conversational/.

73

Huet, E. The Humans Hiding Behind the Chatbots // Bloomberg. 2016. April 18 // https://www.bloomberg.com/news/articles/2016-04-18/the-humanshiding-behind-the-chatbots/.

74

Wakabayashi, D. Meet the People Who Train the Robots (to Do Their Own Jobs) // New York Times. 2017. April 28 // https://www.nytimes.com/2017/04/28/technology/meet-the-people-who-train-the-robots-to-do-their-own-jobs.html?_r=1/.

75

Абрахам Вальд (1902–1950) – американский ученый, математик и статистик. Основатель статистического последовательного анализа. Прим. ред.

76

Mangel, M., Samaniego, F. J. Abraham Wald’s Work on Aircraft Survivability // The Journal of the American Statistical Association 79. 1984. № 386. P. 259–267.

77

Bronnenberg, B. J., Rossi, P. E., Vilcassim, N. J. Structural Modeling and Policy Simulation // The Journal of Marketing Research 42. 2005. № 1. P. 22–26 // http://journals.ama.org/doi/abs/10.1509/jmkr.42.1.22.56887/.

78

Dubé, J.-P. & oth. Recent Advances in Structural Econometric Modeling // Marketing Letters 16. 2005. № 3–4. P. 209–224 // https://link.springer.com/article/10.1007%2Fs11002–005–5886–0?LI=true00/.

79

Robot Mailman Rolls on a Tight Schedule // Popular Science. 1976. October // https://books.google.ca/books?id=HwEAAAAAMBAJ&pg=PA76&lpg=PA76&dq=mailmobile+robot&source=bl&ots=SHkkOiDv8K&sig=sYFXzg8Z8_GvOV8Gt30hoGrFhpk&hl=en&sa=X&ei=B3kLVYr7N8meNoLsg_AD&redir_esc=y#v=onepage&q=mailmobile%20robot&f=false.

80

Stigler, G. в изложении Rosenberg, N. (1991).

81

Studies of Decision Making Lead to Prize in Economics // Royal Swedish Academy of Sciences / press release / 1978. October 16 // https://www.nobelprize.org/nobel_prizes/economic-sciences/laureates/1978/press.html. Simon, H. A. M. Turing Award, 1975 // http://amturing.acm.org/award_winners/simon_1031467.cfm. См. Simon, H. Rationality as Process and as Product of Thought // American Economic Review 68. 1978. № 2. P. 1–16; Nevell, A., Simon, H. Computer Science as Empirical Inquiry // Communications of the ACM 19. 1976. № 3. P. 120.

82

Фредерик Йелинек (Frederick Jelinek; 1932–2010) – ученый, теоретик вычислительных систем, один из пионеров обработки естественного языка и автоматического распознавания речи. До 1993 года работал в исследовательском центре IBM имени Томаса Уотсона, где занимался разработкой применения цепей Маркова для распознавания речи. Прим. ред.

83

Цит. по: Moore, R. K. Results from a Survey of Attendees at ASRU1997 & 2003 // INTERSPEECH-2005. Lisbon, 2005, September 4–8.

84

Autopilot worked for me today and saved an accident / Tesla Motors Club / 2016. December 12 // https://teslamotorsclub.com/tmc/threads/autopilot-worked-for-me-today-and-saved-an-accident.82268/.

85

Несколькими неделями спустя видеорегистратор другого водителя заснял действие: Lambert, F. Tesla Autopilot’s New Radar Technology Predicts an Accident Caught on Dashcamera a Second Later // Electrek. 2016. December 27 // https://electrek.co/2016/12/27/tesla-autopilot-radar-technology-predict-accident-dashcam/.

86

NHTSA. U.S. DOT and IIHS Announce Historic Commitment of 20 Automakers to Make Automatic Emergency Braking Standard on New Vehicles. 2016. Marth 17 // https://www.nhtsa.gov/press-releases/us-dot-and-iihs-announcehistoric-commitment-20-automakers-make-automatic-emergency/.

87

Diss, K. Driverless Trucks Move All Iron Ore at Rio Tinto’s Pilbara Mines, in World First // ABC News. 2015. October 7 // http://www.abc.net.au/news/2015-10-18/rio-tinto-opens-worlds-first-automated-mine/6863814/.

88

Simonite, T. Mining 24 Hours a Day with Robots // MIT Technology Review. 2016. December 28 // https://www.technologyreview.com/s/603170/mining-24-hours-a-day-with-robots/.

89

Kelly, S. M. Stunning Underwater Olympics Shots Are Now Taken by Robots // CNN. 2016. August 9 // http://money.cnn.com/2016/08/08/technology/olympics-underwater-robots-getty/.

90

Le, H., Kang, A., Yue, Y. Smooth Imitation Learning for Online Sequence Prediction // International Conference on Machine Learning. 2016. June 9 // https://www.disneyresearch.com/publication/smooth-imitation-learning/.

91

Три закона робототехники – обязательные правила поведения для роботов, фигурирующие в серии фантастических произведений Айзека Азимова.

Первый закон робототехники. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

Второй закон робототехники. Робот должен повиноваться командам человека, если эти команды не противоречат Первому закону.

Третий закон робототехники. Робот должен заботиться о своей безопасности, пока это не противоречит Первому и Второму законам // http://www.prorobot.ru/slovarik/robotics-zakon.php.

92

Директива Министерства обороны 3000.09: Autonomy in Weapon Systems. 2012. November 21 // https://www.hsdl.org/?abstract&did=726163/.

93

Например, есть ряд условий, позволяющих альтернативные варианты, когда время в бою ограничено: Guburd, M. Why Should We Ban Autonomous Weapons? To Survive // IEEE Spectrum. 2016. June 1 // http://spectrum.ieee.org/automaton/robotics/military-robots/why-should-we-ban-autonomousweapons-to-survive/.

94

Solow, R. We’d Better Watch Out // New York Times Book Review. 1987. July 12. P. 36.

95

Хаммер М, Чампи Дж. Реинжиниринг корпорации. Манифест революции в бизнесе. М.: Манн, Иванов и Фербер, 2011.

96

Hammer, M. Reengineering Work: Don’t Automate, Obliterate // Harvard Business Review. 1990. July – August // https://hbr.org/1990/07/reengineering-work-dont-automate-obliterate/.

97

Kleiner, A. Revisiting Reengineering // Strategy + Business. 2000, July // https://www.strategy-business.com/article/19570?gko=e05ea/.

98

Byrnes, N. As Goldman Embraces Automation, Even the Masters of the Universe Are Threatened // MIT Technology Review. 2017. February 7 // https://www.technologyreview.com/s/603431/as-goldman-embraces-automation-eventhe-masters-of-the-universe-are-threatened/.

99

Google Has More Than 1,000 Artificial Intelligence Projects in the Works // The Week. 2016. October 18 // http://theweek.com/speedreads/654463/google-morethan-1000-artificial-intelligence-projects-works/.

100

В менеджменте воронка продаж – это количество клиентов (в нашем случае – абитуриентов), находящихся на определенных этапах взаимоотношений с менеджерами. Она отражает весь цикл продажи, начиная с холодного звонка и заканчивая заключением сделки. С каждым этапом количество потенциальных клиентов уменьшается, поэтому на выходе число заключенных сделок гораздо меньше, чем количество сделанных менеджером звонков. Прим. ред.

101

Forstall, S. How the iPhone Was Born // Wall Street Journal / video. 2017. June 25 // http://www.wsj.com/video/how-the-iphone-was-born-inside-storiesof-missteps-and-triumphs/302CFE23–392D-4020-B1BD-B4B9CEF7D9A8.html.

102

Jobs, St. Memory and Imagination: New Pathways to the Library of Congress. Michael Lawrence Films, 2006 // https://www.youtube.com/watch?v=ob_GX50Za6c/.

103

Levy, St. A Spreadsheet Way of Knowledge. – Wired. 2014. October, 24 // https://backchannel.com/a-spreadsheet-way-of-knowledge-8de60af7146e/.

104

Statt, N. The Next Big Leap in AI Could Come from Warehouse Robots // The Verge. 2017. June 1 // https://www.theverge.com/2017/6/1/15703146/kindredorb-robot-ai-startup-warehouse-automation/.

105

Lusted, L. Logical Analysis in Roentgen Diagnostic // Radiology. 1960. № 74. P. 178–193.

106

Mukherjee, S. A.I. versus M.D. // New Yorker. 2017. April 3 // http://www.newyorker.com/magazine/2017/04/03/ai-versus-md/.

107

Jha S, Topol, E. Adapting to Artificial Intelligence: Radiologists and Pathologists as Information Specialists // Journal of the American Medical Association 316. 2016. № 22. P. 2353–2354.

108

Многие из этих идей связаны с обсуждением Фрэнка Леви в Computers and the Supply of Radiology Services // Journal of the American College of Radiology 5. 2008. № 10. P. 1067–1072.

109

См. Verdict Hospital (http://www.hospitalmanagement.net/features/feature51500/), интервью с президентом American College of Radiology (2009). Научные обоснования см. Berlin, L. The Radiologist: Doctor’s Doctor or Patient’s Doctor // American Journal of Roentgenology 128. 1977. № 4 // http://www.ajronline.org/doi/pdf/10.2214/ajr.128.4.702/.

110

Levy, F. Computers and the Supply of Radiology Services // Journal of the American College of Radiology 5. 2008. № 10. P. 1067–1072.

111

Jha S, Topol, E. Adapting to Artificial Intelligence; Jha, S. Will Computers Replace Radiologists? // Medscape 30. 2016, December // http://www.medscape.com/viewarticle/863127#vp_1/.

112

Frey, C., Osborne, M. The Future of Employment: How Susceptible Are Jobs to Computerisation? // Oxford Martin School, University of Oxford. 2013. September / http://www.oxfordmartin.ox.ac.uk/downloads/academic/The_Future_of_Employment.pdf.

113

Производители грузового транспорта уже встраивают функции транспортировки в новые модели. Volvo внедрила их за несколько тестов, а в новом грузовике Tesla они есть изначально.

114

How Germany’s Otto Uses Artificial Intelligence // The Economist. 2017. April 12 // https://www.economist.com/news/business/21720675-firm-usingalgorithm-designed-cern-laboratory-how-germanys-otto-uses/.

115

Инбредные (чистые) линии – это ограниченная совокупность наследственно однородных организмов, происходящих от одного общего предка. Прим. ред.

116

Griliches, Z. Hybrid Corn and the Economics of Innovation // Science 29. 1960. July. P. 275–280.

117

Ryan, B., Gross, N. The Diffusion of Hybrid Seed Corn // Rural Sociology 8. 1943. P. 15–24; Ryan, B., Gross, N. Acceptance and Diffusion of Hybrid Corn Seed in Two Iowa Communities // Iowa Agriculture Experiment Station Research Bulletin. 1950. January. № 372.

118

Gonsalves, K. Google Has More Than 1,000 Artificial Intelligence Projects in the Works // The Week. 2016. October 18 // http://theweek.com/speedreads/654463/google-more-than-1000-artificial-intelligence-projects-works/.

119

Активные, увлекательные и совершенно бесполезные дебаты о том, кто лучше – саберметрические аналитики или скауты. Как подчеркивает Нейт Сильвер, обычные скауты и из Moneyball выполняют свои важные роли (Сильвер, Н. Сигнал и шум. М.: КоЛибри, 2015. Глава 3).

120

Вы могли бы с уверенностью возразить, что прогностическим машинам для улучшения работы нужно хранить данные за прошедший период? Это неоднозначная тема. Прогностика работает лучше всего, если добавление новых данных не слишком меняет алгоритмы – стабильность возникает в результате правильного применения статистики. Когда вы используете данные обратной связи для улучшения алгоритма, самое главное заключается в том, когда именно прогнозируемое событие разворачивается само по себе. Например, если спрос на йогурт внезапно меняется вместе с демографическими показателями или другими условиями, новые данные помогут улучшить алгоритм. Однако это произойдет только в случае, если в результате перемен «старые данные» теряют значение для прогноза.

121

Ren, D. Tencent Joins the Fray with Baidu in Providing Artificial Intelligence Applications for Self-Driving Cars // South China Morning Post. 2017. August 27 // http://www.scmp.com/business/companies/article/2108489/tencent-forms-alliance-push-ai-applications-self-driving/.

122

Ren, D. Tencent Joins the Fray with Baidu in Providing Artificial Intelligence Applications for Self-Driving Cars.

123

Упомянутая здесь теория адаптации и стимулов см. Tadelis, St. Complexity, Flexibility, and the Make-or-Buy Decision // American Economic Review 92. 2002. May. № 2. P. 433–437.

124

Forbes Januszewski, S., Lederman, M. Adaptation and Vertical Integration in the Airline Industry // American Economic Review 99. 2009. December. № 5. P. 1831–1849.

125

Novak, Sh., Stern, S. How Does Outsourcing Affect Performance Dynamics? Evidence from the Automobile Industry // Management Science 54. 2008. December. № 12. P. 1963–1979.

126

Bessen, J. Learning by Doing. New Haven, CT: Yale University Press, 2016.

127

В 2016 году Wells Fargo получила множество заявлений о мошенничестве менеджеров по работе с клиентами, бравших с клиентов плату при открытии крупных счетов.

128

Bergemann, D., Bonatti, A. Selling Cookies // American Economic Journal / Microeconomics 7. 2015. № 2. P. 259–294.

129

Один из примеров – консалтинговые услуги Mastercard Advisors: обширные данные Mastercard используются для разных прогнозов, от мошенничества до процента нераспределяемой прибыли. См. http://www.mastercardadvisors.com/consulting.html.

130

Smith, W. Stop Calling Google Cardboard’s 360-Degree Videos «VR» // Wired. 2015. November 16 // https://www.wired.com/2015/11/360-video-isnt-virtual-reality/.

131

Hempel, J. Inside Microsoft’s AI Comeback // Wired. 2017. June 21 // https://www.wired.com/story/inside-microsofts-ai-comeback/.

132

What Does It Mean for Google to Become an «AI – First» (Quoting Sundar) Company? // Quora. 2016. April // https://www.quora.com/What-does-it-meanfor-Google-to-become-an-AI-first-company.

133

Christensen, C. M. The Innovator’s Dilemma. Boston: Harvard Business Review Press, 2016.

134

Подробнее об этих дилеммах см. Gans, J. The Disruption Dilemma. Cambridge, MA: MIT Press, 2016.

135

Rosenberg, N. Learning by Using: Inside the Black Box: Technology and Economics. University of Illinois at Champaign-Urbana, 1982. P. 120–140.

136

В видеоиграх, поскольку цель (как можно больше очков) тесно связана с прогнозом (этот ход повысит или понизит счет?), автоматизированный процесс не всегда требует отдельного суждения. Оно заключается лишь в том, что цель состоит в наборе максимального количества очков. Чтобы научить машину играть в такие игры, как Minecraft или Pokemon Go, понадобится больше суждений, поскольку разным людям нравятся разные аспекты игр. Цель неочевидна.

137

Couric, K. Capt. Sully Worried about Airline Industry // CBS News. 2009. February 10 // https://www.cbsnews.com/news/capt-sully-worried-about-airline-industry/.

138

Harris, M. Tesla Drivers Are Paying Big Bucks to Test Flawed Self-Driving Software // Wired. 2017. March 4 // https://backchannel.com/tesla-driversare-guinea-pigs-for-flawed-self-driving-software-c2cc80b483a#.s0u7lsv4f/.

139

Yakovenko, N. GANS Will Change the World // Medium. 2017. January 3 // https://medium.com/@Moscow25/gans-will-change-the-world-7ed6ae8515ca; Anthony, S. Google Teaches «AIs» to Invent Their Own Crypto and Avoid Eavesdropping // Ars Technica. 2016. October 8 / https://arstechnica.com/information-technology/2016/10/google-ai-neural-network-cryptography/.

140

Apple, Privacy, https://www.apple.com/ca/privacy/.

141

Apple, Privacy, https://www.apple.com/ca/privacy/.

142

Ставка возможна благодаря технологическому развитию анализа данных с защитой конфиденциальности, в частности изобретенной Синтией Дворк дифференциальной конфиденциальности: Dwork, C. Differential Privacy: A Survey of Results / Agrawal, M., Duan, D. Z. Theory and Applications of Models of Computation // TAMC2008 / Lecture Notes in Computer Science. Vol. 4978. Berlin: Springer, 2008 // https://doi.org/10.1007/978-3-540-79228-4_1/.

143

Langewiesche, W. The Human Factor // Vanity Fair. 2014. October // http://www.vanityfair.com/news/business/2014/10/air-france-flight-447-crash.

144

Harford, T. How Computers Are Setting Us Up for Disaster // The Guardian. 2016. October // https://www.theguardian.com/technology/2016/oct/11/crash-how-computers-are-setting-us-up-disaster/.

145

Sweeney, L. Discrimination in Online Ad Delivery // Communications of the ACM 56. 2013. № 5. P. 44–54 // https://dataprivacylab.org/projects/onlineads/.

146

Sweeney, L. Discrimination in Online Ad Delivery // Communications of the ACM 56. 2013. № 5. P. 44–54 // https://dataprivacylab.org/projects/onlineads/.

147

Racism Is Poisoning Online Ad Delivery, Says Harvard Professor // MIT Technology Review. 2013. February 4 // https://www.technologyreview.com/s/510646/racism-is-poisoning-online-ad-delivery-says-harvard-professor/.

148

Lambrecht, A., Tucker, C. Algorithmic Bias? An Empirical Study into Apparent Gender-Based Discrimination in the Display of STEM Career Ads // NBER Summer Institute. 2017. July.

149

Cardwell, D., Nelson, L. The Fire Dept. Tests That Were Found to Discriminate // The New York Times. 2009. July 23 // https://cityroom.blogs.nytimes.com/2009/07/23/the-fire-dept-tests-that-were-found-to-discriminate/?mcubz=0&_r=0; US v. City of New York (FDNY) / https://www.justice.gov/archives/crt-fdny/overview/.

150

Voosen, P. How AI Detectives Are Cracking Open the Black Box of Deep Learning // Science. 2017. July 7 // http://www.sciencemag.org/news/2017/07/howai-detectives-are-cracking-open-black-box-deep-learning/.

151

Blake, T., Nosko, C., Tadelis, S. Consumer Heterogeneity and Paid Search Effectiveness: A Large-Scale Field Experiment // Econometrica 83. 2015. P. 155–174.

152

Hosseini, H., Xiao, B., Poovendran, R. Deceiving Google’s Cloud Video Intelligence API Built for Summarizing Videos // CVPR Workshops. 2017. July 31 // https://arxiv.org/pdf/1703.09793.pdf; Artificial Intelligence Used by Google to Scan Videos Could Easily Be Tricked by a Picture of Noodles // Quartz. 2017. April 4 // https://qz.com/948870/the-ai-used-bygoogle-to-scan-videos-could-easily-be-tricked-by-a-picture-of-noodles/.

153

См., к примеру, тысячи упоминаний в: Elton, C. S. The Ecology of Invasions by Animals and Plants. NY: John Wiley, 1958.

154

Основано на дискуссии с деканом Университета Уотерлу Перлом Салливаном (Pearl Sullivan), профессором Александром Вонгом (Alexander Wong) и другими профессорами Уотерлу 20 ноября 2016 года.

155

Существует также четвертое преимущество прогнозирования на устройстве: иногда оно важно для практических целей. Например, Google Glass нужно уметь определять, является движение века морганием (ненамеренным) или подмигиванием (намеренным), поскольку последним контролируется устройство. Это должно происходить быстро, поэтому отправка данных в облако бессмысленна, ведь ждать ответа приходится слишком долго. Прогностическую машину следует разместить в устройстве.

156

Singel, R. Google Catches Bing Copying; Microsoft Says «So What?» // Wired. 2011. February 1 // https://www.wired.com/2011/02/bing-copiesgoogle/.

157

Шейн Гринстейн (Shane Greenstein) объясняет, почему это неприемлемо: Bing Imitates Google: Their Conduct Crosses a Line // Virulent Word of Mouse // https://virulentwordofmouse.wordpress.com/2011/02/02/bing-imitates-google-their-conduct-crosses-a-line/; ему возражает Бен Эдельман (Ben Edelman): In Accusing Microsoft, Google Doth Protest Too Much // hbr.org // https://hbr.org/2011/02/in-accusing-microsoft-google.html.

158

Любопытно, что попытка Google манипулировать машинным обучением Microsoft удалась не с первого раза. Из сотни проведенных экспериментов только 7–9 раз аналогичные результаты появились в поиске Bing. См.: Gans, J. The Consequences of Hiybbprqag’ing // Digitopoly. 2011. February 8 // https://digitopoly.org/2011/02/08/the-consequences-of-hiybbprqaging/.

159

Tramèr, F., Zhang, F., Juels, A., Reiter, M. K., Ristenpart, Th. Stealing Machine Learning Models via Prediction APIs // https://regmedia.co.uk/2016/09/30/sec16_paper_tramer.pdf.

160

Vincent, J. Twitter Taught Microsoft’s AI Chatbot to Be a Racist Asshole in Less Than a Day // The Verge. 2016. March 24 // https://www.theverge.com/2016/3/24/11297050/tay-microsoft-chatbot-racist/.

161

Price, R. Microsoft Is Deleting Its Chatbot’s Incredibly Racist Tweets // Business Insider. 2016. March 24 // http://www.businessinsider.com/microsoftdeletes-racist-genocidal-tweets-from-ai-chatbot-tay-2016–3?r=UK&IR=T/.

162

Vincent, J. Elon Musk Says We Need to Regulate AI Before It Becomes a Danger to Humanity // The Verge. 2017. July 17 // https://www.theverge.com/2017/7/17/15980954/elon-musk-ai-regulation-existential-threat/.

163

Канеман Д. Думай медленно… решай быстро. М.: АСТ, 2018.

164

Weller, Ch. One of the Biggest VCs in Silicon Valley Is Launching an Experiment That Will Give 3000 People Free Money Until 2022 // Business Insider. 2017. September 21 // http://www.businessinsider.com/y-combinator-basicincome-test-2017-9/.

165

Хокинг С. Краткая история времени. М.: АСТ, 2018.

166

Hawking, S. This Is the Most Dangerous Time for Our Plane // The Guardian. 2016. December 1 // https://www.theguardian.com/commentisfree/2016/dec/01/stephen-hawking-dangerous-time-planet-inequality/.

167

The Onrushing Wave // The Economist. 2014. January 18 // https://www.economist.com/news/briefing/21594264-previous-technological-innovation-hasalways-delivered-more-long-run-employment-not-less/.

168

Луддиты – участники первых стихийных выступлений против применения машин в ходе промышленного переворота в Великобритании (конец XVIII – начало XIX века). Название произошло от имени легендарного подмастерья Неда Лудда, который якобы первым разрушил станок в безрассудной ярости. Прим. ред.

169

Подробнее см. Маркофф, Дж. Homo roboticus? Люди и машины в поисках взаимопонимания. M.: Альпина нон-фикшн, 2016; Форд, М. Роботы наступают. Развитие технологий и будущее без работы. M.: Альпина нон-фикшн, 2016; Avent, R. The Wealth of Humans: Work, Power, and Status in the Twenty-First Century. London: St. Martin’s Press, 2016.

170

Furman, J. Is This Time Different? The Opportunities and Challenges of AI // https://obamawhitehouse.archives.gov/sites/default/files/page/files/20160707_cea_ai_furman.pdf.

171

Пикетти Т. Капитал в XXI веке. М.: Ад Маргинем, 2016.

172

Goldin, C., Katz, L. The Race between Education and Technology. Cambridge, MA: Harvard University Press, 2009. P. 90.

173

Шумпетер Йозеф Алоиз (1883–1950) – австрийский и американский экономист, социолог и историк экономической мысли. Прим. ред.

174

Chiou, L., Tucker, C. Search Engines and Data Retention: Implications for Privacy and Antitrust // http://www.nber.org/papers/w23815/.

175

Google AdWords, «Reach more customers with broad match». 2008.

176

О монополизме и других последствиях появления алгоритмов, данных и ИИ см. Ezrachi, A., Stucke, M. Virtual Competition: The Promise and Perils of the Algorithm-Driven Economy. Cambridge, MA: Harvard University Press, 2016. Точка зрения, согласно которой сами алгоритмы будут сконцентрированы в одном, см. Domingos, P. The Master Algorithm. NY: Basic Books, 2015. Как компании заблаговременно вкладываются в данные для получения стратегического преимущества, см. Lohr, S. Dataism. NY: Harper Business, 2015.

177

Vincent, J. Putin Says the Nation That Leads in AI «Will Be the Ruler of the World» // The Verge. 2017. September 4 // https://www.theverge.com/2017/9/4/16251226/russia-ai-putin-rule-the-world/.

178

Furman, J. Is This Time Different? The Opportunities and Challenges of Artificial Intelligence // AI Now, NY University. 2016. July 7 // https://obamawhitehouse.archives.gov/sites/default/files/page/files/20160707_cea_ai_furman.pdf; Executive Office of the President. Artificial Intelligence, Automation, and the Economy. 2016. December // https://obamawhitehouse.archives.gov/sites/whitehouse.gov/files/documents/Artificial-Intelligence-Automation-Economy.pdf; Executive Office of the President. National Science and Technology Council, and Committee on Technology // Preparing for the Future of Artificial Intelligence. 2016. October/; https://obamawhitehouse.archives.gov/sites/default/files/whitehouse_files/microsites/ostp/NSTC/preparing_for_the_future_of_ai.pdf; National Science and Technology Council and Networking and Information Technology Research and Development Subcommittee // The National Artificial Intelligence Research and Development Strategic Plan. 2016. October // https://obamawhitehouse.archives.gov/sites/default/files/whitehouse_files/microsites/ostp/NSTC/national_ai_rd_strategic_plan.pdf.

179

Trefler, D., Goldfarb, A. AI and Trade / Agrawal A, Gans, J., Goldfarb, A. eds. Economics of AI (готовится к публикации).

180

Mozur, P. Beijing Wants AI to Be Made in China by 2030 // New York Times. 2017. July 20 // https://www.nytimes.com/2017/07/20/business/chinaartificial-intelligence.html?_r=0/.

181

Why China’s AI Push Is Worrying // The Economist. 2017. July 27 // https://www.economist.com/news/leaders/21725561-state-controlled-corporations-aredeveloping-powerful-artificial-intelligence-why-chinas-ai-push?frsc=dg%7Ce.

182

Mozur, P. Beijing Wants AI to Be Made in China by 2030 // New York Times. 2017. July 20 // https://www.nytimes.com/2017/07/20/business/chinaartificial-intelligence.html?_r=0/.

183

Mozur, P. Beijing Wants AI to Be Made in China by 2030 // New York Times. 2017. July 20 // https://www.nytimes.com/2017/07/20/business/chinaartificial-intelligence.html?_r=0/.

184

Image 37 of Impact of Basic Research on Technological Innovation and National Prosperity: Hearing before the Subcommittee on Basic Research of the Committee on Science, House of Representatives, One Hundred Sixth Congress, first session. 1999. September 28. P. 27.

185

Why China’s AI Push Is Worrying // The Economist. 2017. July 27 // https://www.economist.com/news/leaders/21725561-state-controlled-corporations-aredeveloping-powerful-artificial-intelligence-why-chinas-ai-push?frsc=dg%7Ce/.

186

Knight, W. China’s AI Awakening // MIT Technology Review. 2017. November.

187

Hempel, J. How Baidu Will Win China’s AI Race – and Maybe the World’s // Wired. 2017. August 9 // https://www.wired.com/story/how-baiduwill-win-chinas-ai-raceand-maybe-the-worlds/.

188

Knight, W. 10 Breakthrough Technologies – 2017: Paying with Your Face // MIT Technology Review. 2017. March – April // https://www.technologyreview.com/s/603494/10-breakthrough-technologies-2017-paying-with-your-face/.

189

Etzioni, O. How to Regulate Artificial Intelligence // New York Times. 2017. September 1 // https://www.nytimes.com/2017/09/01/opinion/artificialintelligence-regulations-rules.html?_r=0/.

190

McDonald, A., Cranor, L. The Cost of Reading Privacy Policies // I/S4. 2008. № 3. P. 543–568 / http://heinonline.org/HOL/Page?handle=hein.journals/isjlpsoc4&div=27&g_sent=1&casa_token=&collection=journals/.

191

Catalini, Ch., Gans, J. Some Simple Economics of the Blockchain // Rotman School of Management. 2017. September 21 // MIT Sloan Research Paper. № 5191–16 / https://ssrn.com/abstract=2874598/.

192

Bostrom, N. Superintelligence. Oxford, UK: Oxford University Press, 2016.

193

Превосходные свежие комментарии: Tegmark, M. Life 3.0: Being Human in the Age of Artifi cial Intelligence. NY: Knopf, 2017.

194

Prepare for the Future of Artificial Intelligence. Executive Office of the President, National Science and Technology Council, Committee on Technology. 2016. October.

Content

Аджей Агравал, Джошуа Ганс, Ави Голдфарб
Искусственный интеллект на службе бизнеса
Как машинное прогнозирование помогает принимать решения

Предисловие партнера

Предисловие. Машинный интеллект

Выводы

Дешевизна меняет все

Отделить зерна от плевел

«Дешево» значит «повсеместно»

Дешевизна создает преимущества

От дешевизны к стратегии

План книги

Выводы

Часть I. Прогностика

Глава 1. Волшебство прогностических машин

Волшебство прогностики

Насколько сейчас прогнозы лучше, чем раньше?

Последствия удешевления прогнозов

Выводы

Глава 2. Почему это называется «интеллект»

Прогнозирование оттока клиентов

Прогнозирование в других сферах

Если это всего лишь прогноз, за что его называют интеллектом?

Выводы

Глава 3. Данные – это новая нефть

Для прогностики необходимы данные

Как машины учатся с помощью данных

Решения по данным

Экономия на масштабе

Выводы

Глава 4. Новое разделение труда

Слабые стороны человека в прогнозировании

Слабые стороны машин в прогнозировании

Известные известные

Известные неизвестные

Неизвестные неизвестные

Неизвестные известные

Улучшенный прогноз совместными усилиями

Прогноз исключений

Выводы

Часть II. Принятие решений

Глава 5. Анализ решений

Анатомия решений

Утрата знаний

Брать ли зонтик?

Выводы

Глава 6. Ценность суждения

Суждение о мошенничестве

Когнитивные издержки суждений

Знать, зачем делаешь что-либо

Заранее заданные суждения

Разработка функции вознаграждения

Подведение итогов

Выводы

Глава 7. Прогнозирование суждения

Взломать человека

Возможно ли вытеснение человека?

Выводы

Глава 8. Укрощение сложности

Больше «если»

Больше «то»

Больше «если» и «то»

Выводы

Глава 9. Полностью автоматизированное принятие решений

Невидящий взор

Думать нет времени и необходимости

Когда закон требует от человека действий

Когда человек действует лучше

Выводы

Часть III. Инструменты

Глава 10. Разбор рабочих процессов

Влияние инструментов ИИ на рабочие процессы

Как инструмент ИИ улучшил клавиатуру iPhone

Выводы

Глава 11. Декомпозиция решений

Шаблон ИИ

Шаблон ИИ для МБА

Выводы

Глава 12. Пересмотр обязанностей

Недостающие звенья автоматизации

Нужно ли продолжать обучать рентгенологов?

Больше чем водитель

Выводы

Часть IV. Стратегия

Глава 13. ИИ в руководящем составе

Как ИИ меняет стратегию бизнеса

Милый дом?

Набор бейсболистов

Стратегический выбор требует нового суждения

Преимущества, которые у вас уже могут быть

Элементарная экономика стратегии ИИ

Выводы

Глава 14. Когда ИИ меняет бизнес

Что убрать и что оставить

Влияние ИИ: капитал

Влияние ИИ: труд

Влияние ИИ: данные

Продажа прогнозов

Выводы

Глава 15. Стратегия обучения

Подрывные веяния

Путь к обучению

Когда задействовать ИИ

Обучение на симуляторах

Машинное обучение в облаке и на устройстве

Разрешение учиться

Опыт как новый дефицитный ресурс

Людям тоже нужен опыт

Выводы

Глава 16. Управление рисками ИИ

Риск ответственности

Потребительский риск

Риск безопасности

Возникновение рисков

Выводы

Часть V. Общество

Глава 17. За пределами бизнеса

Усугубится ли проблема неравенства?

Отойдет ли весь контроль нескольким гигантским компаниям?

Получат ли преимущество некоторые страны?

Грядет конец привычного мира?

Выводы

Об авторах

Благодарности

Сноски