Р. Эпштейн. «Перепрограммировать человечество»:‎ Google и Facebook управляют миллиардами людей. Зачем им абсолютная власть над миром?

Вы обнаружили потенциальную опасность алгоритмов гораздо раньше многих. Как вы поняли, что алгоритм поисковой системы Google, который все воспринимают как безобидный и полезный сервис, на самом деле может влиять на убеждения людей и даже на результаты выборов?

Эпштейн: Я наткнулся на исследование маркетологов, которые выяснили, что если хоть немного поднять упоминание компании в поисковой выдаче Google, это приведет к ощутимому росту продаж. Потому что чем выше ссылка на ваш сайт в поиске, тем больше на нее кликают. Например, это исследование показало, что 50 процентов кликов приходится на первые два результата, 95 процентов — на первую страницу. И мне, как исследователю, стало интересно, можно ли использовать эти результаты, чтобы менять мнение пользователей. Может, даже повлиять на результаты голосования.

Я начал изучать этот вопрос в начале 2013 года. Результат поверг меня в шок. Я думал, что если результаты поисковой выдачи предвзяты в пользу одного из кандидатов на выборах, то это влияет на решение двух-трех процентов не до конца определившихся избирателей. Повлиять на решение уже определившихся людей почти невозможно, но ведь есть и много колеблющихся. И именно их голоса сильно отражаются на итогах выборов.

В ходе первого эксперимента мы обнаружили, что подтасовка поисковой выдачи может повлиять на решение почти 48 процентов неопределившихся людей. Я не поверил, что это вообще возможно

Второй эксперимент показал, что таких людей может быть больше — до 63 процентов. К тому же стало ясно, что эту предвзятость легко скрыть.

Позднее мы обнаружили десятки подобных манипуляций. Все они — дело рук техногигантов, в основном Google и Facebook. Это делает их серьезной угрозой, потому что влиять на них невозможно и реальной конкуренции среди них просто нет. Они в силах влиять на людей по любому вопросу, в любом масштабе и в любой стране мира. И никто об этом не узнает.

Сотрудники Google во внутренней переписке называют подмешивание результатов выдачи эфемерным опытом (ephemeral experience). Это процесс, при котором результаты поисковой выдачи генерируются в реальном времени, индивидуально для каждого пользователя, а затем исчезают и нигде не хранятся.

В 2018 году The Wall Street Journal опубликовала фрагменты из утекших писем сотрудников Google. Один из участников переписки предлагает использовать метод эфемерного опыта, чтобы повлиять на отношение американцев к антимигрантскому указу Трампа. Так что они прекрасно понимают, что делают. Более того, они уверены, что никто не заметит этих манипуляций. Если они используют эфемерный опыт, никаких вещественных доказательств просто не остается.

В действительности невозможно даже определить, используют они эти техники манипуляций или нет. В ходе исследований мы научились это распознавать, но обычный человек не имеет ни малейшего понятия, что им манипулируют.

Раньше мы были уверены, что Google — это просто очень хорошая машина для сортировки данных на основе интересов пользователей, которая зарабатывает на рекламе. Но, по вашим словам, у этой машины могут быть планы посерьезнее — вплоть до перепрограммирования человечества. Как вы думаете, что под этим понимает Google? Где проходит грань между полезным инструментом и сервисом, который оказывает негативное влияние на все человечество?

В 2018 году в результате утечки в публичный доступ попало восьмиминутное видео под названием The Selfish Ledger — внутренний проект Google.

Из этого видео мы узнали, что у компании есть все возможности, чтобы перепрограммировать человечество. В ролике упоминается, что ценности компании необходимо распространять и защищать по всему миру. Эту компанию, несомненно, основали утописты. И они все еще остаются утопистами, готовыми применить силу. Часть их культуры — распространение своих ценностей по всему миру. И это серьезная угроза демократии. По нашим подсчетам, в 2015 году до 25 процентов результатов выборов в разных странах мира были определены поисковыми системами Google. Поскольку большинство выборов проходят достаточно закрыто, данные о них в поисковой выдаче обычно предвзятые и влияют на решение неопределившихся избирателей.

Вначале Google действительно был безобидной вещью, большим интернет-справочником. Но сейчас это совсем другая компания. Они следят за нами, причем не только через поиск, но и через почтовую переписку и множество других сервисов. На самом деле их больше двухсот.

К примеру, несколько лет назад Google купила производителя умных термостатов Nest. Первым делом они поместили в умные термостаты микрофоны, никому об этом не сказав. В новейших версиях устройств встроены камеры. В январе этого года компания объявила о закрытии сделки по покупке производителя умных часов Fitbit, с их помощью можно отслеживать данные о здоровье. Google либо уже добрался до всей этой информации, либо скоро это сделает. А во время пандемии коронавируса корпорация получила доступ к огромному массиву данных о здоровье американцев.

Google также добровольно участвует в управлении национальным ДНК-хранилищем США. У них в руках данные о ДНК миллионов людей, может, десятков и сотен миллионов — я точно не знаю. Они совершенно точно используют все возможности, чтобы как можно тщательнее следить за людьми. Ведь чем больше ты знаешь о людях, тем легче ими манипулировать.

Google в разное время менял дизайн своей контекстной рекламы. В какой-то момент она стала практически неотличима от результатов обычной выдачи. Почему никто не призывает Google за это к ответственности?

В США вообще никто не призывает Google к ответственности. Потому что фактически компания поддерживается демократами, а республиканцы не особо придерживаются идей регулирования. Так что в США Google вообще никем не регулируется, и я не уверен, что это когда-либо изменится.

В Евросоюзе все по-другому: в последние годы европейцы выдвинули против Google много исков. Полагаю, за последние четыре-пять лет Google оштрафовали в общей сложности на десять миллиардов евро, и компанию ждет еще много разбирательств. Но Google от них только отмахивается. К примеру, европейцы сильно обеспокоены тем, что в поиске реклама неотличима от основных результатов. На некоторое время Google сделал ее отличной от органической выдачи, но постепенно вернул к прежнему виду. В итоге все равно увидеть разницу очень сложно. Европейцы расследуют деятельность Google очень пристально, изучают любое изменение, чего нельзя сказать о властях США.

Почему большинство людей слепо верит результатам поиска?

Исследования показывают, что люди доверяют данным, полученным из компьютера. Они верят алгоритмам, даже не зная, кто за ними стоит. Они думают, что эти данные объективны.

Поиск, рекомендации, любые ответы голосовых помощников — все эти данные по умолчанию считаются правдивыми, потому что исходят от машины. Но люди не задумываются о том, что за машиной стоит человек. Газеты, телевидение и радио очевидно делаются силами людей. Но в случае с контентом из компьютера эта мысль неочевидна. Есть ли человеческая рука в поисковой выдаче? Конечно, есть. Ведь это результат работы компьютерной программы, написанной людьми. И, как показывают исследования, предвзятость программистов отражается на коде, который они пишут. Так что человеческий фактор присутствует уже в момент создания сервиса.

Google, как мы знаем из утечек, меняет поисковый алгоритм минимум три тысячи раз в год. Еще несколько лет назад они хотя бы заранее предупреждали о больших изменениях, но сейчас не делают и этого. Они меняют свой поисковый алгоритм около десяти раз в день. Так что — да, люди влияют на контент, который вы видите. С одним лишь исключением: вы не можете отследить это влияние.

Из утечки данных Google стало известно и о существовании руководства под названием the twiddler framework. В нем описывалась ‎система переранжирования результатов поиска. Они реально разработали техническую возможность менять результаты поиска. Как объяснял мне информатор, они могут включать предвзятые результаты и так же легко убирать их. Легко, как включить свет в комнате.

Мы ощутили работу этого механизм на себе во время сбора данных перед президентскими выборами 2020 года в США. Мы разработали систему мониторинга того, что люди видят на экранах. В ходе предвыборной гонки мы наблюдали существенный перекос в результатах поиска Google в пользу демократов. Мы обнародовали эту информацию в ноябре, за несколько дней до выборов, и заставили Google отказаться от манипуляций. В январе 2021 года, в ходе второго тура выборов в сенат, в штате Джорджия мы заметили, что результаты поиска Google внезапно стали непредвзятыми.

Они просто отступили, выключили тумблер манипуляций, потому что мы поймали их за руку.

Обращались ли к вам представители кандидатов во время предвыборной гонки в 2020 году? Хотели ли использовать ваши исследования для своих кампаний?

В моих исследованиях описаны техники, которые используют большие платформы. Только они полностью контролируют то, что видят люди.

На оптимизации поисковой выдачи (SEO) построены целые бизнесы, компании ежегодно тратят миллиарды долларов на то, чтобы поднять свои сайты в поиске Google. Но проблема в том, что это достаточно конкурентная сфера: и вы, и ваши оппоненты используете одни и те же методы. Но если платформа, в данном случае Google, будет поддерживать одного кандидата и показывать предвзятый контент, у оппонента не останется никаких шансов. Здесь уже не идет и речи о конкуренции.

Вы неоднократно принимали участие в слушаниях Конгресса, рассказывали о том, какую опасность представляет Google. Это как-то повлияло на подход государства к регулированию?

Каких-то реальных изменений не произошло. Но при Трампе начались разбирательства против Facebook и в большей степени — против Google. Байден занимает пост президента США уже несколько месяцев, и расследование все еще в процессе. Но я могу предположить, что оно сойдет на нет. Байден — демократ, а демократы получают очень мощную поддержку от Google. Компании из Кремниевой долины, такие как Facebook и Google, жертвуют демократам гигантские суммы. Те знают это и не будут кусать руку, которая их кормит.

Я работаю над статьей «Регуляторный захват и другие игры, в которые играют большие компании» (Regulatory capture and other games big companies play). Это очень старое явление, при котором бизнес привлекают к разработке норм законодательства или регулирования, и в конце концов компании только выигрывают от этих нововведений. Сейчас это происходит с Google и американским правительством.

Google эксплуатирует бизнес-модель, основанную на слежке. Люди используют сервисы, думая, что они бесплатны. А Google собирает гигантские массивы личных данных и зарабатывает на их продаже более 100 миллиардов долларов в год.

182.5 миллиарда долларов в 2020 году выручил холдинг Alphabet, в структуру которого входит американская корпорация Google Inc.

Эта бизнес-модель основана на обмане. Поисковая система Google — это просто хитрый способ собирать личную информацию, инструмент для слежки за людьми.

Сейчас Google и Facebook по факту пытаются «‎заставить» продать пару компаний, о которых они не особенно пекутся. Google покупает новые компании каждую неделю. В итоге они просто заработают миллиарды долларов.

Но три главные угрозы, которые они представляют для демократии и человечества, не исчезнут. Это слежка, цензура и манипуляция.

Как вы думаете, разгром IT-гигантов может привести хоть к каким-то результатам?

Разгром этих компаний ни к чему не приведет. Я думаю, что это пустая трата времени и сил. Мы должны идти по пути защиты пользователей.

К примеру, можно объявить вне закона бизнес, основанный на слежке за людьми. Глава Apple Тим Кук прямо называл такую бизнес-модель пугающей. Он считает, что такие вещи должны быть запрещены.

Можно начать с того, чтобы сделать публичной огромную базу данных Google, которая используется для генерации результатов поиска. Этого могут потребовать как американские, так и европейские власти. Как только эта информация станет доступной, появятся сотни и тысячи новых поисковых систем, которые будут использовать эту базу и выдавать отличные результаты. Поисковые системы снова будут конкурировать друг с другом, как это было раньше. Google — не первая поисковая система, и в самом начале ее пути конкуренция была высокой. Но примерно лет через пять Google взял верх и просто убил ее.

Сервис Startpage формирует результаты поиска из базы данных Google. Это идеальный пример того, как IT-гигант может делиться данными. Это очень мягкий способ регулирования, но он лишит Google монополии на рынке поиска и защитит пользователей.

К тому же вместе с конкуренцией появится необходимость развиваться. В сфере поиска в последние 20 лет ничего не менялось. Посмотрите на стартовую страницу Google — она такая же, какой была 20 лет назад.

В 1956 году американское правительство взялось за телекоммуникационную компанию AT&T, которая была монополистом в сфере междугородних звонков в США. AT&T обязали сделать тысячи своих патентов бесплатными для всех. Любой в мире мог их использовать. Это идеальный пример того, о чем я говорю. Этот шаг разрушил монополию AT&T, появились новые игроки, сфера начала развиваться. Это оказалось революционным решением.

Что вы думаете о скандале с Cambridge Analytica, который произошел в 2016 году? Технологии, которые применяла эта компания, имеют право на существование в демократическом обществе? Или подобные манипуляции недопустимы?

Cambridge Analytica на самом деле просто распространяла информацию с помощью таргетированной рекламы в Facebook. Это может сделать любой пользователь. В скандале были замешаны кандидаты от республиканцев, но демократы пользовались теми же методами.

Cambridge Analytica использовала таргетинг на очень узкую аудиторию и много различных уловок, чтобы влиять на неопределившихся избирателей. Но кто в конечном счете решает, что увидит пользователь? Это решает Facebook. Это их алгоритм решает, что увидят или не увидят люди.

В этом скандале нас пускают по ложному следу. Корень проблем — не в действиях Cambridge Analytica. Они лишь участники очень конкурентного процесса. Проблема — в монополии Google и Facebook.

Исследовали ли вы, как меняется отношение общества к IT-гигантам после таких громких скандалов? Падает ли доверие людей?

Да, Google, Facebook и другие большие техногиганты сталкиваются с проблемами из-за подобных скандалов. Но их доходы растут быстрее, чем когда-либо. У Google 100 миллиардов долларов свободных денег, которые компания может потратить на оплату штрафов или на что угодно. Да, люди возмущались, но это никак не повлияло на рост компаний.

Прямо сейчас они могут дотянуться до трех миллиардов человек по всему миру. Думаю, что в следующие полтора года эта цифра достигнет 4,5 миллиарда человек. Вот как быстро они растут.

Это огромная проблема. И большинство людей ее даже не замечают. Я беспокоюсь о том, что эти компании могут влиять на взгляды наших детей. Мы знаем, что намного легче влиять на тех, кто уязвим. Абсолютно все дети уязвимы.