К. Казарян. «Нами манипулируют»: Соцсети научились управлять умами миллиардов людей. Как спасти мир от их цифровой диктатуры?

«Такова человеческая природа»

Соцсети — это добро или зло?

Казарян: Это средство коммуникации, которое может быть использовано для добра и для зла, это отражение реального мира. Другой вопрос, что те эффекты, которые пришли к нам с социальными сетями (дофаминовая игла, развитие тревожности, интернет-зависимость), очень умные исследователи истории медиа вроде Маршалла Маклюэна могли предсказать заранее.

Пророчества Маршалла Маклюэна

Маршалл Маклюэн — ведущий социолог ХХ века, внесший вклад в создание теории информационного общества.

Более чем полвека назад Маклюэн предсказал появление интернета и объяснил, как он повлияет на мир. Ученый говорил о том, что под действием новых средств коммуникации мир сожмется до размеров деревни, для описания этого феномена Маклюэн ввел термин «глобальная деревня». Еще в начале 1960-х годов он прогнозировал, что человеку не нужно будет выходить из дома, чтобы совершить покупку — достаточно будет просто совершить звонок, рассказать о своих интересах, а алгоритм сам подберет необходимую человеку информацию и товар, который будет быстро упакован и прислан по нужному адресу.

Маклюэн называл себя убежденным ретроградом и предвидел угрозы, которые несет новая реальность. К примеру, он считал проблемой то, что в информационной среде у человека нет физического тела, там преобладает только образ. «Таково, на мой взгляд, одно из самых значительных свойств Электрического века. Он лишил людей их индивидуальности», — сетовал ученый.

У общества был шанс спастись, превратившись в «колоссальную Александрийскую библиотеку», считал исследователь, но вместо этого мир превратился в компьютер, электронный мозг, каким его описывали в научной фантастике.

«И по мере того как наши чувства выходят наружу (Маклюэн считал средства коммуникации продолжением органов чувств человека — прим. «Ленты.ру»), Большой Брат проникает вовнутрь. Поэтому если мы не сумеем осознать эту динамику, то в один прекрасный день окажемся погруженными в атмосферу панического страха, свойственного тесному мирку племенных барабанов с его всеобщей взаимозависимостью и вынужденным сосуществованием», — предостерегал Маклюэн.

Но создатели социальных сетей их совершенно не понимали. Это были дети, которым дали в руки спички.

Чего не понимали создатели социальных сетей?

Эффекта, который соцсети могут оказать в будущем. Они даже этого не предполагали. Когда создатель Facebook Марк Цукерберг говорил, что хочет объединить весь мир, он думал, что это классная идея, и не задумывался о последствиях. Проблема создателей соцсетей в том, что они думали лучше о человечестве, чем оно есть на самом деле.

Во что это вылилось?

В то, что, с одной стороны, здорово, когда у малообразованного жителя провинции Индии, который не умеет писать, есть возможность записывать голосовые сообщения в WhatsApp. Но с другой — в том же WhatsApp ему приходят сообщения о том, что в соседней деревне живет ведьма, которую надо сжечь, и люди кооперируются, чтобы убить человека (линчевания и массовые избиения местных жителей из-за фейков в WhatsApp были повсеместно распространены в Индии в 2017-2018 годах — прим. «Ленты.ру»).

У этого человека нет критического мышления, он не отличает ложное сообщение от правильного, не видит, где зашита пропаганда. Ты дал ему спички, как ребенку, абсолютно не научив ими пользоваться. Чего ты мог ожидать? Возможно, ты думал о людях лучше, но надо было думать больше! Мы несем за это ответственность. Плохо, что так получилось. Но с этим теперь надо жить, вкладывать ресурсы в обучение работе с новой медиасредой. Надо заметить, что Facebook реализует много проектов в этой области. Но не Facebook единым жив человек: это задача и государства в том числе. Надо развивать медиаграмотность среди разных категорий граждан.

Когда политики раскусили, что за алгоритмами соцсетей будущее, и стали использовать их в своих целях?

Считается, что именно Обама первым эффективно использовал соцсети для целей предвыборной кампании. На самом деле в Азии это делали и раньше. Например, на выборах мэра Токио в нулевых. В Японии долгое время была запрещена политическая реклама в интернете. И там произошла достаточно шумная история, когда заговорили о том, что нужно уже разрешить политическую интернет-рекламу. Потому что появилось поколение кандидатов, которые стали понимать, как общаться с электоратом с помощью новых инструментов. Но японская история не так сильно повлияла на остальной мир, как пример с Обамой.

Поменялось ли, по-вашему, отношение людей к соцсетям после скандала с Cambridge Analytica, когда выяснилось, что миллионами пользователей Facebook манипулировали без их ведома?

Не уверен. Я считаю, что любые попытки продать политическую рекламу в соцсетях — это попытки продажи эликсира бессмертия. Люди верят в то, во что они хотят верить. Никакой суперхитрый таргетинг не убедит вас проголосовать за кого-то другого, чему есть, кстати, довольно много подтвержденных исследований.

Любая политическая реклама работает всего на десять процентов неопределившихся. Все остальные уже знают, чего они хотят. Но только об этом не очень любят говорить громко, потому что это целая индустрия, в которой крутятся большие деньги.

Еще удивительно наблюдать за тем, как некоторые пользователи возмущаются действиями Cambridge Analytica, они пишут, что это ужас и нарушение всех прав. Но в то же время говорят, какая классная предвыборная кампания была у Барака Обамы, не задумываясь о том, что Обама задействовал те же таргетинговые инструменты для политического влияния через соцсети. А теперь они кричат: «Нами манипулируют!» Правда, да, вы серьезно?

– Вы не верите в то, что соцсети могут управлять политическим мнением широких масс?

Десятью процентами неопределившихся — точно могут. Плюс с помощью соцсетей можно мобилизовать уже имеющихся сторонников. А версия о том, что соцсети способны кардинальным образом изменить мнение человека с помощью условного 25-го кадра, на мой взгляд, ошибочна. Мы воспринимаем лишь то, что подтверждает наше мнение.

Вы говорите об информационном пузыре. Порой человеку кажется, что он имеет сложившееся мнение о какой-то проблеме, а на самом деле — это просто следствие вовремя подкинутого алгоритмом поста.

А нам нравится информационный пузырь. Мы сами его создаем. У человека есть искажение восприятия, и нам всегда нравится то, что подтверждает нашу точку зрения. Мы можем иметь внутри себя какой-то взгляд на положение вещей в мире, и как только мы прочитали то же самое в соцсети, мы такие: «Классно, я так и думал, я же знал, я верил». Человеку это льстит. Так работают соцсети. Алгоритм все больше и больше подстраивается под ваши предпочтения, и вы оказываетесь в этом прекрасном уютном информационном пузыре.

– Старые медиа работали так же?

Абсолютно. Люди читали газеты, которые больше всего подходят под то, что им нравится. Люди смотрели телеканалы, которые больше всего подходили под их позицию. Кто-то смотрел НТВ, а кто-то — «Первый канал». Кто-то читал «Коммерсантъ», а кто-то — газету «Правда». Соцсети в данном случае просто воспроизвели ту же модель, сами того не ожидая.

Но раньше всегда оставался шанс выйти из пузыря, просто выйдя на улицу и столкнувшись с противоположной точкой зрения. Сейчас буквально все в онлайне, а значит, шансов узнать, что ты не прав, крайне мало.

Существуют любопытные американские исследования, которые показывают, какие события в жизни способны повлиять на наше мировоззрение. В первую очередь влияет колледж, именно там человек впервые сталкивается с людьми из кардинально разных кругов — людьми другого этноса, другого социального положения, других идей.

А дальше — может быть, в офисе что-то на тебя повлияет, а может, и нет — смотря куда человек попадет. Но не соцсети. Они способны расширить кругозор на ранних этапах становления личности, но дальше, к сожалению, люди начинают стремиться к закрытому мирку. Такова человеческая природа.

«Капитализм как он есть»

В публичном пространстве иностранные соцсети часто обвиняют в том, что они на нас наживаются и при этом применяют к нам же цензуру. Как платформы на нас зарабатывают?

Это интересный момент. Официально компания Facebook рекламу в России не продает. Реклама покупается частными лицами, либо приобретается международными рекламными агентствами для крупных брендов, которые сразу одновременно запускают кампании в десятках стран. В том числе запускают русскоязычную кампанию в Instagram или в Facebook.

Второй вариант — реклама через инфлюэнсеров. Но зачастую это довольно серые доходы, посчитать, сколько от этой рекламы достается именно Facebook, очень сложно. То есть понять объективно, сколько недополучает российский бюджет, мы не можем.

Доходы иностранных IT-гигантов в России сопоставимы с российскими интернет-холдингами?

Если мы возьмем объемы рекламы (иностранной платформы, например, Facebook), проходящей официально и покупаемой именно в России — пусть и физическими лицами, окажется, что это действительно большая рекламная площадка. Но я сомневаюсь, что она войдет даже в первую десятку по России. Эти доходы не сравнить с доходами крупных российских медиахолдингов. Существуют разные оценки. По моим личным прикидкам — большая площадка зарабатывает в районе 15-20 миллионов долларов, не более того. Для огромной корпорации сумма не самая большая, но все-таки деньги приличные.

Российские власти годами бились на то, чтобы IT-гиганты открывали в стране представительства. Это мотивировали недопустимостью цензуры иностранных соцсетей по отношению к нашим гражданам. А зачем это нужно на самом деле: по политическим или по экономическим соображениям?

Это сейчас странно прозвучит, но мне кажется, что все зависит от того, кого конкретно из представителей власти вы спросите. Ярко выраженной целевой позиции российского государства как такового в этом вопросе, на мой взгляд, не существует. С одной стороны, идет международный процесс борьбы с размытием налоговой базы (BEPS), в котором участвует Россия. И Россия подготавливает нормы для налогообложения транснациональных компаний, в том числе технологических. [Премьер-министр Михаил] Мишустин хорошо с этим знаком, когда он был главой ФНС, он в этом участвовал, а сейчас участвует его преемник Даниил Егоров.

С другой стороны, мы смотрим на Турцию и другие страны, где техногиганты открывают представительства. И нам хочется так же, чтобы, условно говоря, в случае необходимости было кому позвонить. Как сказал мне в разговоре один чиновник: «Пусть у нас будет человек, к которому всегда можно обратиться».

Какая основная претензия к зарубежным соцсетям со стороны России?

Основная претензия касается модерации — они не справляются с объемом деструктивного контента, который необходимо удалять. Что касается YouTube, то хоть власти и обвиняют площадку в предвзятой модерации, на самом деле причины претензий к ним больше экономические. В случае с YouTube государство могут больше интересовать его доходы. При этом политика модерации YouTube — это притча во языцех. Она действительно отвратительная, она правда непрозрачная. Если тебя заблокировали, очень сложно бывает добиться правды, особенно если ты не очень известный человек.

Это не единственная проблема с YouTube. Контент-фильтры по авторскому праву срабатывают как попало, кроме того, существует большое количество откровенных мошенников, которые подают жалобы на контент, присваивая себе авторское право, — всех проблем не перечесть. Но как добиться, чтобы политика модерации на YouTube стала более прозрачной с помощью законов Российской Федерации, я, честно говоря, себе не очень представляю.

Открытие представительств в России позволит давить на корпорации в части модерации?

А у Google (компании принадлежит YouTube — прим. «Ленты.ру») есть представительство на территории России, значит, и у YouTube тоже. Но я как-то не заметил серьезного отличия от компаний, у которых нет представительств на территории страны. Думаю, что здесь решает другое, а именно — рынок. У крупных иностранных игроков должны появиться местные конкуренты.

Объясните наглядно, где тут прямая зависимость. Почему в России много лет говорят о необходимости создать свой YouTube, но это до сих пор не осуществилось?

Очень просто. Есть одна объективная проблема, почему у YouTube нет конкурентов в мире (за исключением китайских платформ, которые набирают огромную популярность с недавних пор). Страны всего мира напринимали уйму законов, которые заставляют платформы в основном что-нибудь удалять под риском штрафа или блокировки.

Например, в Евросоюзе недавно одобрили новый антитеррористический закон: теперь запрещенный контент надо удалять за час. Ну какая компания сможет полностью что-то удалить за час? Только та, у которой есть на это ресурсы. Гигантская компания, например, YouTube. Они могут бросить на это кучу денег.

Это странный парадокс: с одной стороны, мы хотим, чтобы в интернете соблюдались определенные законы, с другой — по сути, перекладываем на площадки роль правоохранителей.

Если интернет-гиганты такие всемогущие, почему они все равно не справляются с модерацией? У гигантского Facebook с многомиллиардной аудиторией всего несколько десятков тысяч модераторов, и все они выведены за штат компании.

Это действительно мало для такого объема контента. К тому же модератор — очень низкооплачиваемая работа, которая наносит непоправимый вред психологическому здоровью. Техногиганты действительно не оформляют модераторов в штат — но это особенности трудового законодательства в США. Facebook — калифорнийская компания, а в Калифорнии крайне высокие требования к охране труда, чем в целом по США. Поэтому им, разумеется, выгоднее нанимать подрядчиков, находящихся за пределами США, которые платят сотрудникам гораздо более низкую зарплату и на которых не распространяются различные требования по соцобеспечению.

Капитализм как он есть. Тем более что в мире все еще живет множество граждан Индии, которые рады такую работу выполнять.

Почему владельцы популярных приложений предпочитают эксплуатировать людей, а не создать идеальный алгоритм, который будет справляться с модерацией?

Есть такой взгляд из Кремниевой долины, взгляд технократа: рано или поздно мы сделаем идеальные алгоритмы, и нам будет нужно все меньше и меньше людей. Только почему-то это будущее все никак не наступает. Выясняется, что и алгоритмы плохо учатся. Люди подготавливают для искусственного интеллекта некий блок базовых решений. Но делают это тоже плохо. Это такой замкнутый круг; не факт, что его получится разорвать, исходя из нынешней модели работы соцсетей.

Как же заставить алгоритмы работать лучше?

Некоторое время назад глава Twitter Джек Дорси объявил о том, что они изучают возможность открытия соцсети для взаимодействия с внешними разработчиками, с внешним программным обеспечением. То есть фактически он предлагает перейти от нынешней централизованной модели к децентрализованной модели распространения контента.

Дорси как бы говорит: давайте мы дадим в руки пользователей и разработчиков инструменты, чтобы сами справлялись с проблемами соцсети. Потому что разработчиков в мире много — пусть они и придумывают. Например, они могут придумывать фильтры, которые сформируют вашу кастомизированную ленту. То есть, по сути, вы сами сможете фильтровать контент в социальных сетях с помощью любимого алгоритма рекомендаций. При этом сеть не будет подконтрольна ни самой компании, ни другим организациям.

Другими словами, мы честно говорим людям, например, — все, компания не справляется с нежелательным контентом и не справится никогда, вместо этого мы отдаем все на откуп разработчикам.

Это жизнеспособная технология?

Мне кажется, такая модель более жизнеспособна, но для этого требуется такое фундаментальное переосмысление бизнеса! Ею тяжелее управлять, плюс вы открываете свою платформу для массы других разработчиков. В этом могут быть свои плюсы. Но могут быть и минусы — к примеру, как объяснить реализуемость принципиально новой модели акционерам?

Это пока проект, причем академического свойства. Принципы и инструменты, способные масштабироваться на сотни миллионов пользователей, пока не созданы.

«Если вы запрещаете — объясните, почему»

Год начался с того, что соцсети продемонстрировали, как легко они могут взять и заключить в изоляцию человека, даже если это президент США с многомиллионной армией подписчиков. Как стоит воспринимать то, что произошло с Дональдом Трампом в январе?

Мне кажется, мы наблюдали столкновение американских принципов свободы слова, первой поправки к конституции, с принципами примерно всего остального мира. С точки зрения американцев, права в том числе заблокировать кого-то на своей платформе — это естественное продолжение первой поправки.

Вы не только вольны что-то говорить на своей площадке, вы также можете там что-то запрещать. В остальном мире к этому относятся иначе — если вы что-то запрещаете, вы должны объяснить, почему. В остальном мире к интернету относятся как к публичному, а не к частному пространству. Так считают в Европе, да и у нас.

Случай с Трампом — далеко не последнее столкновение идеалов. Потому что незаметно для большинства американцев внутренние правила соцсетей на самом деле тяготеют к европейскому подходу. Это следствие столкновения внутри самих соцсетей, между людьми, которые принимают решения. Они прекрасно понимают, что для того, чтобы работать на территории всего остального мира, нужно играть по правилам этого мира.

Это большой философский вопрос — кто и под кого должен подстраиваться: соцсети под общие правила государств или, например, они должны соответствовать неким общим принципам, скажем, декларации прав человека. Возможно, если бы платформы меньше опирались на национальные законы и больше на универсальные, таких проблем было бы меньше.

Но как воспринимать ситуацию обычному пользователю? Платформа лишает свободы слова моего соратника. Должна ли я что-то с этим делать?

Если есть возможность проголосовать кошельком, то надо ею воспользоваться. Конечно, странно говорить об этом применительно к бесплатным сервисам. Но среди моих знакомых, например, после случая с Трампом люди начали переходить в соцсеть Minds (децентрализованная социальная сеть, основанная на блокчейне, — прим. «Ленты.ру»).

Если вас что-то не устраивает, но при этом ничего не делать, то все так и будет продолжаться. Уходом с платформы люди сигнализируют о недовольстве.

Демарши пользователей способны повлиять на соцсети?

Не факт. Но они могут повлиять на то, что в скором времени у Twitter появится конкурент, который выберут те, кто с политикой Twitter не согласен.

Почему Google, Facebook и другие техногиганты только сейчас стали проблемой не только для всего мира, но и для самой Америки? В отношении этих компаний в США идут антимонопольные разбирательства. Почему раньше никто не замечал того, что они пользуются доминирующим положением?

Ну, во-первых, исторически технологические компании любят пользователи. Люди могут сколько угодно говорить, какой нехороший Amazon, что он так мало платит работникам, какие кошмарные условия у них на складах. Но это так классно, когда тебе за два дня бесплатно доставляют посылки. А еще их так просто вернуть, если нужно. Так же и с другими сервисами. Долгое время, пока эти сервисы предоставляли качественные продукты для пользователей, негатива было мало. Но со временем потребительский негатив начал накапливаться, он вылился в медиа, после чего стало понятно, что вообще-то то, что делают IT-гиганты, не здорово для рынка, ведь они стали монополистами.

При этом, если посмотреть на какую-нибудь условно газету New York Times, она одинаково отрицательно писала о технологических компаниях что 15 лет назад, что сейчас. Просто теперь акценты сместились, и такую позицию разделяет значительное количество пользователей.

Рост интернет-компаний был неизбежен из-за так называемых сетевых эффектов. Они заключаются в том, что, когда компания становится больше, издержки снижаются, а не повышаются, как это происходит в обычном бизнесе. Но недовольство выросло не из-за монополизма как такового, а когда начали страдать потребители.

Конгрессу США рекомендовали разделить Amazon, Apple, Google и Facebook, чтобы снизить их влияние. Это поможет?

У политиков всегда есть соблазн сделать что-нибудь громкое, простое и неправильное. Например, предложить разделить Facebook (в 2020 году с таким предложением выступил подкомитет Конгресса США — прим. «Ленты.ру») или Google — пусть YouTube теперь будет отдельной компанией.

Повлияет ли это реально на конкуренцию и на рынок? Что-то я сомневаюсь. Это реальная сложная комплексная проблема — она лежит в плоскости регулирования агрегаторов и в том, как они сами вокруг себя создают рынки, как влияют на своих поставщиков и подрядчиков. Но политики говорят лозунгами, отсюда берутся предложения разделить компании. AT&T свое время разделили — давайте разделим и Facebook. А что, звучит хорошо. В итоге получится, что систему децентрализуют, но контролировать интернет-рынок будут все те же компании и люди.

Почему именно американцы подсадили весь мир на свои приложения?

Думаю, что сыграл роль дух авантюризма и предпринимательства, который свойственен американцам. Европа исторически специализировалась на инженерных технологиях и крупных концернах, которые работали в реальной промышленности. Масса талантливых европейских программистов прежде всего работает на эту отрасль. Отсюда родилось, например, программное обеспечение SAP, которое используется для автоматизации крупных промышленных предприятий. Европейские компании — спецы в автоматизации производства, конкурентов у них тут мало. Эта отрасль оттягивает на себя всех тех, кто мог бы открыть свой стартап, но не открыл. Уйти работать в европейскую корпорацию было комфортнее. В результате ни одной Кремниевой долины ни во Франции, ни в Британии не появилось. В том числе и из-за очень снисходительного отношения властей к интернету.

Забавно сейчас натыкаться на высказывания французских властей 1993-1994 годов. Они заявляли: «У нас есть Минитель (самое популярное средство телекоммуникации во Франции до появления интернета — прим. «Ленты.ру»). Нам не нужен никакой интернет! Это вообще Дикий Запад со своими странными привычками. Все это чушь для французской нации». Неудивительно, что, когда первый бум доткомов схлынул, компаний, сродни американским техногигантам, в Европе не появилось.

Сейчас ситуация другая. Сейчас есть Берлин, есть Лондон — крупнейшие стартхабы (экосистема, объединяющая технологические стартапы, экспертную поддержку и инвесторов, — прим. «Ленты.ру»), в которых появляется масса новых интересных компаний. Своеобразных, довольно часто узкозаточенных, не всегда рассчитанных на физических лиц, в основном B2B («бизнес для бизнеса»).

В отличие от Европы, у нас все же появились свои популярные интернет-продукты, которые могут составить конкуренцию западным.