о цифровом Левиафане, в котором он упоминает книгу американского профессора социальной психологии Гарвардского университета
Поскольку тема очень интересная, а достать эту книгу тяжело, выкладываю краткий пересказ основных идей этой книги
«Другой человек лишь текст для меня, я – текст для кого-то еще». Пересказ одной из главных книг XXI века
15 декабря 2019 г. Александр Бардашев.
Как выглядит жизнь в эпоху капитализма слежки? Отвечает «пророк информационного века» Шошана Зубофф.
Пересказ книги "Эра капитализма слежки." (The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power). Автор – профессор социальной психологии Гарвардского университета Шошана Зубофф – много лет пристально следила за проникновением технологий в нашу жизнь. И ее взгляды менялись от осторожного технооптимизма (книга «В эпоху умных машин», 1988) к ярко выраженной тревоге, в основе которой лежит трансформация знакомого нам капитализма в нечто совершенно новое.
"Эра капитализма слежки" попала в список обязательных к прочтению книг этого года по версии Time, с журналом соглашается редакция The New York Times. Она попала в шортлист Financial Times и McKinsey на звание лучшей бизнес-книги 2019 года, а The Guardian и вовсе поместила ее в топ-100 книг XXI века.
Новый капитализм
Мы живем в цифровую эпоху. Интернет-гиганты и мелкие стартапы уже сильно изменили и продолжают менять мир. Новые технологии заставляют нас менять свои привычки, поведение, образ жизни. Предприниматели и инвесторы увидели во всемирной сети новую золотую жилу. Начав разрабатывать эту жилу, они изменили капитализм. Но как?
Капиталисты XX века опирались на рабочий класс: он добывал сырье и производил товары, продажа товаров приносила избыток, превращающийся в капитал, – простая и понятная схема. Ford и General Motors – два примера успешных предприятий прошлого столетия – действовали по представленной выше схеме. Генри Форд отлично знал, что именно рабочие – основной элемент экономики, и потому первым поднял им зарплату, надеясь вернуть ее в оборот капитала.
GM понадобилось 40 лет и 735 тысяч сотрудников, чтобы достичь своей максимальной капитализации в $225 млрд (1965). Facebook к концу 2016-го достиг капитализации в $332 млрд со штатом, не превышающим 18 тысяч человек. Фейсбук – социальная сеть, не производящая материальных благ.
В мире явно что-то поменялось. Зародился так называемый надзорный капитализм – он опирается не на рабочих, а на жизни каждого из нас, делает вывод профессор.
Поведенческий избыток и успех Google
Для получения капитала необходимы ресурсы. Ни Facebook, ни Google не владеют нефтяными приисками и не производят товары. Даже их ПО по большей части бесплатно. Компании как будто производят деньги из воздуха. Зубофф объясняет, что хотя надзорный капитализм не изменяет такие устоявшиеся характеристики капитализма, как максимизация прибыли, продуктивность и рост, эти характеристики нужно рассматривать через призму новой логики накопления. Чтобы понять ее, рассмотрим историю успеха Google.
При обработке запроса в поисковике появляется много лишней на первый взгляд информации. Форма вопроса, местоположение задавшего его, количество запросов – бесконечный поток данных о человеческом поведении. Амит Пател – выпускник Стэнфорда – в какой-то момент понял, что эти данные можно реорганизовать, получив уникальные следы пользователей сайта, после чего скормить их системе, уча ее.
Ларри Пейдж (сооснователь Google) заметил и оценил вклад Патела. Неудивительно, ведь тот помог ему воплотить в жизнь мечту о самообучающемся алгоритме. Получавший новые данные поисковик постоянно совершенствовался, улучшая качество ответов. Алгоритм ранжирования страниц, имевшийся при создании, уже был лучше многих конкурентов. Но именно сбор и анализ побочных продуктов поиска сделали Google эталоном поисковых машин.
Важно, что данные пользователей были ценны для компании, но она получила их совершенно бесплатно. Эта ценность была инвестирована в будущий пользовательский опыт – через улучшение сервиса. Автор называет этот процесс «инвестиционным циклом поведенческой ценности». Это похоже на капитализм, в котором пользовательское поведение и есть метод производства. Вот только пока еще не было ясно, как из всего этого извлечь прибыль. Реальный продукт отсутствовал, а введение платы за поиск в сети убило бы Google.
Прибыль принесла контекстная реклама. Именно с AdWords и AdSense связано рождение надзорного капитализма. Опираясь на опыт предшественников, рекламщики Google привнесли в контекстную рекламу анализ человеческого опыта. Это логическое продолжение цикла поведенческой ценности, когда для показа рекламы тому или иному пользователю анализируется весь его опыт, а не только его непосредственные запросы.
Поведенческий избыток действий пользователя превращался в прибыль. При этом пользователь – не клиент и не сотрудник. Для новой капиталистической модели он – источник сырого продукта, который превращается в прибыль. Довольно быстро примеру Google – охотиться за поведенческим избытком и зарабатывать на нем – последовали и другие.
Google StreetView меняет мир
Сейчас компании стараются собрать о своих пользователях как можно больше информации. StreetView – беспрецедентный проект, который выходит далеко за рамки заявленной миссии по «предоставлению каждому возможности путешествовать, не отходя от компьютера».
Его запуск вызвал волну недовольства, в первую очередь в Европе. Сотни граждан ФРГ пожаловались на грубые нарушения приватности, а глава службы по защите персональных данных Иоганнес Каспар заявил о несоблюдении Google права на частную жизнь. Многие опасались, что данные съемок StreetView без закрашивания лиц постоянно хранятся на серверах компании и доступны посторонним.
В британском Бротоне жители однажды и вовсе заблокировали проезд автомобилю Google с камерами. Горожанам было о чем волноваться: часто на панорамы StreetView попадали внутренние дворы домов, а иногда через окна можно было разглядеть даже интерьеры квартир.
Но максимальное недовольство вызвала система сбора информации. Выяснилось, что помимо фотографирования, машины StreetView собирали базу данных SSID (названий Wi-Fi сетей) и MAC-адресов роутеров. То есть в распоряжении Google оказалась информация почти обо всех сетях в мире. Немецкие правоохранительные органы заинтересовались этой информацией, и Агентство по защите информации (Гамбург) проверило один из автомобилей Google. Проверка показала, что объем полученных им данных еще больше: компания собирала трафик из открытых интернет-сетей, включая логины и пароли от электронной почты, платежные данные и прочую частную информацию пользователей этих сетей.
В ответ на обвинения компания принесла публичные извинения, объяснив произошедшее «ошибкой программиста». Тот, по словам Google, в 2006 году работал над другим (закрытым) проектом, и ошибка случайно закралась в алгоритмы StreetView. Представители компании пообещали провести внутреннее расследование и «с максимально возможной быстротой» удалить приватные данные. Имя программиста не было предано огласке. До сих пор неизвестно, существовал ли он вообще. Факт остается фактом: в руках компании оказался невиданный поведенческий избыток.
Не только Google
Может сложиться впечатление, что Google – единственная компания, зарабатывающая на опыте пользователей. Но это не так – взять хотя бы Facebook. Скандал с Cambridge Analytica – компанией, занимавшейся изучением и манипулированием мнений избирателей, – выявил цель надзорного капитализма: изменение нашего поведения. Но еще до Cambridge Analytica Facebook проводил эксперименты по влиянию на мысли пользователей.
Например, в ходе каких-либо выборов Facebook добавлял функцию «I voted!» («Я проголосовал!»), с помощью которой можно было оповестить друзей о своем участии в выборах (или проверить, проголосовали ли они). Компания весьма умело использовала стадный инстинкт: если я вижу, что все мои друзья уже посетили избирательные участки, почему я все еще сижу дома? Когда значок «I voted!» появляется на моей странице, эффект распространяется на моих друзей, и так далее.
Специалисты Cambridge Analytica пошли еще дальше, анализируя типы личности на основе их страниц в социальной сети. Затем алгоритм создавал рисунок политических предпочтений каждого пользователя. Такая информация могла использоваться для таргетирования – отправки персонализированной политической рекламы пользователям сети. Очевидно, что Facebook, непосредственно заинтересованный в сборе поведенческого избытка, не уделяет достаточного внимания приватности пользователей, уверена Шошана Зубофф.
Наконец, упомянем о функциях лайка, который был перенят другими популярными соцсетями. Введение ленты и последующей оценки записей друзей позволило компании получить дополнительную информацию о предпочтениях пользователей. Это повлияло как на качество рекламы (которая, как и для Google, является главным источником дохода соцсетей), так и на предсказание действий пользователя. Сегодняшние алгоритмы ранжируют новости по степени их интереса для пользователя. Чем больше тот лайкает их, тем точнее предсказания системы. Сейчас алгоритмы соцсетей куда лучше нас самих разбираются в нашем поведении.
Два текста
Вот только это знание никак не поможет нам понять человеческую природу. Это связано со следующей проблемой. Весь интернет можно представить в виде двух текстов, наслаивающихся друг на друга. Первый, открытый – это, собственно, то, что мы читаем в интернете. Страницы поисковиков, сайтов, ленты новостей фейсбука, новостные заметки.
Но сегодня почти на каждой страничке сети нас поджидают «жучки»: куки (cookies), хранящие информацию о посещении сайтов, ПО, передающее наш цифровой след третьим лицам. Информация, собираемая этими жучками, образует второй, скрытый текст. Этот текст, по сути, наши цифровые биографии: они есть у каждого, даже если человек старается минимизировать свое пребывание в сети. Объем скрытого текста превышает возможности человеческого понимания, потому работают с ним преимущественно алгоритмы – в первую очередь алгоритмы Google и Facebook.
Вот почему компании даже при желании раскрыть имеющиеся у них персональные данные на самом деле не могут сделать этого. У них просто нет реальной возможности вычленить эту информацию из всего массива поведенческого избытка, собранного за годы работы.
Бельгийский математик и активист Пол-Оливье Дехей в конце 2016 года запросил у Facebook свои личные данные, собранные рекламным отделом сети. Только в марте 2018-го, после многочисленных просьб и требований со стороны ирландского уполномоченного по защите данных, у него получилось добиться ответа от отдела приватности компании.
Дехей выяснил, что искомая им информация «не доступна к получению через пользовательские инструменты», но хранится в «улье» (Hive). Там информация используется «для аналитики» и «отделена от данных, использующихся для поддержания работы социальной сети». Получение этой информации, говорится в письме, «сопряжено с большими техническими трудностями». Ничего с этим не поделаешь. На сегодняшний день у нас отсутствуют законы, обязывающие надзорного капиталиста раскрыть пользователю информацию из скрытого – второго – текста.
Чего ждать от надзорного капитализма?
Итак, и Facebook, и Google ведут агрессивную политику присвоения данных, чтобы оставаться на плаву. Кажется, мы к этому уже привыкли – и то, сколько поисковик знает о наших предпочтениях, зачастую нам даже удобно. Чтобы действительно понять опасность надзорного капитализма, проведем исторические параллели.
Описывая сегодняшнее общество, мы часто обращаемся к антиутопии «1984» Джорджа Оруэлла (1949). Писатель ставил своей целью напомнить об ужасах тоталитаризма, от которого только-только освободилась Западная Европа, и предупредить, что его возвращение все еще возможно. Но сегодняшнее общество и развивающийся надзорный капитализм нельзя назвать продолжением или возрождением тоталитаризма.
Философ Ханна Арендт, анализируя тоталитаризм, заметила, что люди ХХ века не могли его понять – он не имел аналогов. Так же и мы, люди ХХI столетия, пока что не способны полностью осознать надзорный капитализм, а потому сравниваем его с тоталитаризмом.
Возьмем, например, идеологию. Для современного капиталиста важна информация о каждом, независимо от его социального статуса, гендера и сексуальной ориентации. Это – идеология радикального безразличия. Тоталитарный лидер выстраивает идеологию политической религии, ставя собственную политику и социальную группу над всеми остальными. Уже в этом надзорный капитализм бесконечно далек от тоталитаризма.
Надзорный капитализм в своей высшей стадии требует от индивида полной «прозрачности». Это можно увидеть на примере китайской системы социального кредита – распределения граждан по «надежности» на основании алгоритмов, оценивающих их действия. В Китае тоталитаризм соединен с надзорным капитализмом, но и на Западе мы видим схожие идеи: оценка стоимости автомобильной страховки на основе предыдущего опыта езды водителя и так далее. Так можно оценивать каждое действие. Можно утверждать, что конечная цель надзорного капитализма – полная прозрачность и конформность общества, его подчинение все более сложным алгоритмам.
Реальный мир
Надзорный капитализм выходит за пределы цифрового мира и обосновывается в реальном. Сейчас каждая крупная компания производит своего голосового помощника. Они собирают информацию о происходящем за пределами сети, подслушивая голоса владельца и его знакомых, отслеживая его перемещения, картографируя его жилище.
Помимо колонки Alexa, Amazon оснащает дом умными лампочками, принтерами и даже пылесосами. С новым потоком данных от этих систем компания получит максимально полную картину жизни пользователя. С развитием интернета вещей, где каждый предмет подключен к сети, наше поведение на 100% станет доступным для анализа алгоритмами.
Живущие в улье
Чтобы представить, каково жить в наступившем надзорном капитализме, можно спросить об этом молодых людей. Уже сегодня жизнь для них представляется ульем, связывающим реальность и виртуальное пространство. Они постоянно чувствуют необходимость в связи с друзьями через соцсети, в том, чтобы гуглить неизвестные термины. Это – настоящий улей, где, по словам одного студента Зубофф, «другой человек – лишь вещь, текст для меня, а я – вещь и текст для кого-то другого».
На протяжении многих тысячелетий люди жили в небольших сообществах, не связанных друг с другом. Развитие телевидения, а тем более интернета, переменило это. Мы резко стали частью глобального сообщества, при этом более остро ощущая свою индивидуальность. Цифровая связь стала необходимой частью социального взаимодействия, но не потому, что дети «не способны отвлечься от своих гаджетов», а потому, что мы пока что не придумали лучших вариантов.
Но сегодня цифровая связь контролируется не обществом, а надзорным капитализмом. В его интересы не входит сохранение ментального здоровья или личных тайн. Если же мы хотим спасти нашу человечность, наше самосознание, то необходимо найти способ избавиться от вездесущего надзора, даже если он порой кажется нам удобным.
Право на убежище
В каждый момент истории у человечества было некое убежище: пещеры, где первые христиане собирались втайне от иудейских правителей, дом, где можно было забыть об ужасах, происходящих за его пределами.
Надзорный капитализм через свое проникновение в личную жизнь старается уничтожить право на убежище. Только когда мы отдадим капитализму все, мы поймем, что ничего не оставили для себя. Чтобы не доводить ситуацию до этого, нужно найти выход из тупика надзорного капитализма.
Несправедливость капитализма конца XIX-го и XX века показала людям, как они не хотят жить. Это знание помогло им перейти к чему-то новому. Вся эпоха надзорного капитализма говорит о том, как не хотим жить мы. Угрожая уничтожить наши моральные законы и политические достижения, она напоминает об их невероятной важности.
Берлинская стена пала по многим причинам, но не в последнюю очередь потому, что сотни тысяч берлинцев в один голос заявили: «Мы больше не можем это терпеть!». «Мы должны стать теми, кто отвоюет цифровое будущее для человечества. Наша очередь встать и произнести этот лозунг: мы тоже больше не можем это терпеть!» – призывает Шошана Зубофф.
