Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир

В этой книге журналист New York Times из Кремниевой долины Кейд Метц рассказывает о том, как создавался искусственный интеллект, как он внедрялся в бизнес, социальную сферу и в повседневную жизнь. Перед читателем раскрывается драматичный конфликт между корпоративными и научными интересами и защитой частной жизни. Книга, как настоящий роман, наполнена эксцентричными, сложными персонажами и ставит перед читателем сложнейшие нравственные вопросы.

**Пролог. Аукцион на озере Тахо** В декабре 2012 года шестидесятичетырехлетний Джефф Хинтон, профессор Университета Торонто, из-за проблем со спиной (он не садился с 2005 года) отправляется на конференцию NIPS к озеру Тахо лежа на заднем сиденье автобуса. Перед поездкой он основал крошечную фирму DNNresearch с двумя аспирантами - Ильей Суцкевером и Алексом Крижевским. За несколько месяцев до этого они совершили прорыв в компьютерном зрении, создав нейронную сеть, способную распознавать объекты с немыслимой точностью. На конференции Хинтон проводит тайный аукцион. Четыре компании - Baidu, Google, Microsoft и стартап DeepMind - торгуются за его компанию. Торги идут через Gmail, что вызывает опасения Microsoft, так как Google технически может читать их письма. Ставки растут, 12, 20, 40, 44 миллиона долларов. Хинтон принимает решение продать DNNresearch Google за 44 миллиона, остановив торги, хотя цена могла быть и выше. Он руководствуется не максимальной выгодой, а стремлением найти лучшее место для продолжения исследований. Кай Юй из Baidu, инициировавший гонку, понимает, что Хинтон изначально был настроен на Google. Этот аукцион становится началом глобальной гонки вооружений в сфере ИИ. **Часть первая. Машина нового типа, от Перцептрона до глубокого обучения** В 1958 году Фрэнк Розенблатт демонстрирует "Перцептрон" - одну из первых нейронных сетей, способную самообучаться распознаванию образов. Несмотря на шум в прессе, технология сталкивается с серьезной критикой. В 1969 году Марвин Мински и Сеймур Пейперт публикуют книгу "Перцептроны", где доказывают фундаментальные недостатки сети (неспособность к операции "исключающее или"). Это, а также наступившая "зима искусственного интеллекта" и сокращение финансирования, на десятилетия отбрасывает развитие нейронных сетей. В 1980-х годах небольшая группа ученых, включая Джеффа Хинтона и Дэвида Румельхарта, возрождает идею. Хинтон, несмотря на скептицизм научного сообщества, верит в нейронные сети. Они с Румельхартом разрабатывают метод обратного распространения ошибки, который решает проблему, указанную Мински. Хинтон переезжает в Канаду, отказываясь от финансирования Пентагона. В 1989 году Ян Лекун, работая в Bell Labs, создает LeNet - сверточную нейронную сеть, научившуюся распознавать рукописные цифры на чеках. Коммерческий успех проекта ограничен из-за разделения AT&T. В 2004 году Хинтон вводит термин "глубокое обучение" для ребрендинга старой технологии. Его группа в Торонто становится центром для коннекционистов со всего мира. В 2009 году Хинтон случайно встречает Ли Дэна из Microsoft на семинаре. Дэн, изначально настроенный скептически, верит Хинтону после проверки данных. Хинтон, превозмогая боль в спине (едет через всю страну на поезде), проводит несколько месяцев в Microsoft, где вместе с учениками строит прототип системы распознавания речи на основе глубокого обучения. Система превосходит технологию, над которой Microsoft работала больше десяти лет. **Часть вторая. Кому достанется интеллект? Гонка гигантов** Успехи Хинтона вызывают цепную реакцию. Летом 2012 года аспирант Хинтона Навдип Джейтли, работая удаленно из Монреаля на компьютере, спрятанном за принтером в Google, создает систему распознавания речи, которая превосходит действующий сервис Google. В том же году Хинтон, Крижевский и Суцкевер публикуют статью об AlexNet, которая с огромным отрывом побеждает в конкурсе ImageNet. Это доказывает, что нейронные сети способны на гораздо большее, чем просто распознавание речи. Компании вступают в борьбу за таланты. Марк Цукерберг нанимает Яна Лекуна для создания лаборатории искусственного интеллекта Facebook. Лекун остается профессором в Нью-Йоркском университете, что становится прецедентом. Google, купив DNNresearch Хинтона и переманив его учеников, создает Google Brain. Ларри Пейдж одобряет выделение 130 миллионов долларов на закупку тысяч графических процессоров для ускорения исследований. Microsoft, несмотря на ранний успех с Хинтоном, отстает из-за корпоративной бюрократии и неверия ведущих ученых в нейронные сети. Илья Суцкевер, ученик Хинтона, добивается следующего большого прорыва, машинного перевода. Его нейронная сеть учится переводить фразы целиком, а не по частям. Новый сервис Google Translate, запущенный в 2016 году, превосходит старую систему на семь пунктов по шкале BLEU. Тем временем, в Лондоне стартап DeepMind, основанный Демисом Хассабисом, обучает нейронную сеть играть в старые аркадные игры. В 2014 году Google покупает DeepMind за 650 миллионов долларов, опередив Facebook. Годом позже Илон Маск и Сэм Альтман основывают некоммерческую организацию OpenAI, наняв Суцкевера, чтобы составить конкуренцию корпорациям. **Часть третья. Суматоха, социальные последствия и этические дилеммы** Март 2016 года. Система AlphaGo от DeepMind обыгрывает Ли Седоля, чемпиона мира по го. 37-й ход, сделанный машиной, оказался настолько нечеловеческим, что эксперты назвали его "прекрасным". Победа вызывает глобальный интерес, но также и страх. В Китае, где го - национальная игра, матч символизирует технологическое превосходство Запада. Илон Маск, несмотря на свои инвестиции в ИИ, публично предупреждает о потенциальной опасности сверхразума, сравнивая его с ядерным оружием. Технология порождает новые проблемы. Пользователь Google Photos случайно обнаруживает, что сервис пометил его чернокожую подругу как "гориллу". Исследовательница Джой Буоламвини выявляет, что коммерческие системы распознавания лиц от Microsoft, IBM и Amazon имеют высокий процент ошибок при идентификации темнокожих женщин. Это вызывает протесты и требования государственного регулирования. Компания Amazon отвергает критику, в то время как Microsoft и IBM начинают пересматривать свою политику. Другой конфликт разгорается вокруг проекта Maven - контракта Google с Пентагоном на создание ИИ для анализа видео с беспилотников. Сотрудники Google, включая более половины DeepMind, протестуют. Под давлением Google решает не продлевать контракт. История показывает растущее напряжение между коммерческими интересами и этическими принципами разработчиков. Термин "дипфейк" (deepfake) входит в лексикон после появления фальшивых видео, созданных с помощью генеративно-состязательных сетей (GAN), изобретенных Яном Гудфеллоу. **Часть четвертая. Людей недооценивают** В мае 2017 года AlphaGo снова побеждает, на этот раз лучшего игрока мира Кэ Цзе в Китае. В ответ Госсовет Китая объявляет о плане достичь мирового лидерства в области ИИ к 2030 году, вложив более 150 миллиардов долларов. Китайский план перекликается с программой администрации Обамы, но, в отличие от нее, продолжает выполняться при администрации Трампа. Ци Лу из Baidu заявляет, что Китай будет первым в создании беспилотных автомобилей, так как у страны больше данных и готовность правительства к сотрудничеству. Гэри Маркус, психолог из Нью-Йоркского университета, вступает в публичные дебаты с Яном Лекуном, утверждая, что возможности глубокого обучения ограничены. Однако Google в 2018 году представляет языковую модель BERT, которая успешно проходит тест на понимание языка на уровне человека, опровергая многие скептические прогнозы. Тем временем DeepMind и OpenAI фокусируются на AGI (искусственном интеллекте общего назначения). OpenAI демонстрирует роботизированную руку, которая учится собирать кубик Рубика, потратив на это эквивалент 10 000 виртуальных лет. Исследователи верят, что такие системы - путь к по-настоящему умным машинам. Джефф Хинтон, признавший, что ошибался насчет обучения с подкреплением, продолжает работу над капсульными сетями, но не верит в создание AGI в обозримом будущем. Март 2019 года. Хинтон, Лекун и Бенжио получают премию Тьюринга за 2018 год. На церемонии награждения Хинтон, не садящийся уже 15 лет из-за больной спины, стоит у стены. В своей благодарственной речи он вспоминает умершую от рака жену Джеки, которая переехала с ним в Канаду и спасла его карьеру. Бенжио предупреждает, что их инструменты могут быть использованы как во благо, так и во зло. Закрывая книгу, автор отмечает, что, хотя вера в AGI становится все более популярной, многие, включая Хинтона, считают погоню за ней религией, а не наукой.