Александр Розов. Глобальная шизократия и сектофилия вокруг ИИ

Скандалы вокруг ИИ

В эссе “К теории идиотских заговоров мировых правительств: ножницы Афраниуса – глобо-версия бритвы Хэнлона” – был предложен тезис: “Не следует приписывать мировому заговору рациональные мотивы и последовательные планы, поскольку его цели и сценарий взяты из шизоидных доктрин, и выплескиваются в социальную практику по невнятному заказу слабоумных лидеров, методами и средствами заведомо безмозглой бюрократической структуры“.

Впоследствии эти ножницы Афраниуса показаны в конкретном сценарии: Аферисты OpenAI надувают поверх старого пузыря GPT – новый пузырь: “сверхчеловеческий разум”. Публично проявилась ситуация, крайне неприятная для верхушки компаний – разработчиков нынешнего поколения ИИ (LLM, GPT), вложивших десятки миллиардов инвесторских долларов в нечто, все более напоминающее мыльный пузырь. В этих условиях ключевые персоны рынка ИИ пытаются быстро надуть новый пузырь поверх старого, пока старый не лопнул.

При этом, аналитические обзоры шоу Альтмана пестрят версиями двух видов: ожидаемо-денежного и внезапно-мистического. К первому виду относится, например, обзор 28 ноября в Medium: “Sam Altman’s Firing from OpenAI Is a Clear Example of Governance Risk“.

Суть в том, что внутри OpenID одна часть команды уродовалась и рисковала репутацией, чтобы продать крупным инвесторам цифровые мыльные пузыри на миллиарды долларов – а другая часть команды на эти деньги публично изображала персонажей комиксов Marvel. Эта ожидаемо-денежная версия привлекает своей обыденностью и предельной ясностью – однако, не объясняет огромного публично выплеснувшегося скандала с каскадами нелепых заявлений и назначений.

Как сектантский “капиталистический комсомол” ИИ захватил

Поэтому переходим ко второй, внезапно-мистической версии, опубликованной 28 ноября в Forbes: Как попытки спасти мир подвели OpenAI к кризису и при чем тут «эффективный альтруизм».

[цитирую выборочно]

В 2014 году один из соучредителей Facebook (принадлежит компании Meta, которая признана в России экстремистской организацией и запрещена), Дастин Московиц, чья доля в компании уступала только Марку Цукербергу, с женой Кэри Туна и единомышленниками он создал организацию Open Philanthropy. Положив в основу часть своего двенадцатимиллиардного состояния, Дастин и Кэри начали создавать методики эффективного выделения денег на основе тогда малоизвестной концепции «эффективного альтруизма».

Движение стало весьма популярным в Кремниевой долине, про пару написали восторженные статьи все топ СМИ, в общий филантропический фонд принесли средства друзья техномиллиардеры, например соучредитель Instagram Майк Кригер, который пообещал выделить $750 000 долларов. В 2022 году Open Philanthropy одобрили выделение грантов на сумму более $650 млн. Если изучить сайт Open Philanthropy и информацию вокруг, то разворачивается огромная панорама. С одной стороны, мы видим попытки найти эффективные «модели филантропии, основанные на данных», а с другой — активное движение по направлению в Вашингтон, поближе к рычагам мировой власти.

Методологией и идеологией филантропов типа Московица и Илона Маска стала идейно-философская концепция «эффективного альтруизма». «Эффективный альтруизм» провозглашает «использование доказательств и разума, чтобы выяснить, как принести максимальную пользу другим, и принятии мер на этой основе».

Начиналось это как философский кружок Оксфордского университета, ставший впоследствии организацией Giving What We Can, причем ставка делалась на «научное обоснование филантропии»: «Десятилетие исследований благотворительности выявило нечто поразительное: лучшие благотворительные организации могут приносить в 100 раз больше пользы на каждый доллар. В Giving What We Can мы покажем вам, как найти такие благотворительные организации, чтобы вы могли помочь решить некоторые из самых насущных мировых проблем».

Организация быстро вышла за рамки древнего университета, создав «руководство молодого карьериста» — программу «80 000 часов», пройдя которую юноша или девушка с горящими глазами обзаводились верной методикой спасения мира и связями во всех частях света. Своеобразный «капиталистический комсомол», который берется спасать мир и одновременно строить успешную личную карьеру! Абсолютная win-win стратегия, просто обреченная на успех. Сайт организации представляет собой готовый справочник того, как найти, а если не получится найти, то создать собственную ячейку «альтруистов».

Начавшись как «оптимизация филантропии», движение «эффективного альтруизма» постепенно отказалось от «скучных» современных задач (таких как снижение заболеваемости малярией) и переключилось на воспетые Голливудом темы «спасения планеты». Тема «ИИ апокалипсиса» легла на подготовленную «Терминатором» и «Матрицей» почву, а «марвеловская методика» спасения мира группой невротиков стала руководством к действию. И вот уже «эффективный альтруизм», по сути, превратился в секту.

Эта история хорошо описана в воспоминаниях одного из ключевых лидеров движения Уильяма Макаскила, о котором надо сказать отдельно. Основав движение «эффективных альтруистов» в 2008 году еще в студенчестве, в настоящее время он является одним из самых востребованных в мире философов. Тема его докторской диссертации «Как следует принимать решения в условиях нормативной неопределенности» это, вероятно, самая актуальная проблема современности. Макаскилл работал председателем консультативного совета Института глобальных приоритетов Оксфордского университета (подразделение философского факультета Оксфордского университета) и директором Фонда исследований глобальных приоритетов Fore Thought Foundation.

Уильям Макаскил

Но в полной мере он стал известен в среде американских техномиллиардеров, став для них гуру и советником в части «эффективной филантропии». Его книга «Чем мы обязаны будущему», создавшая целую концепцию лонгтермизма (longtermism — этическая концепция, приоритезирующая улучшение долгосрочного будущего человечества), стала почти Библией в Кремниевой долине, произведя фурор и заслужив самые лестные отзывы (Илон Маск назвал ее «самой близкой к его мировоззрению»). В число миллиардеров, вложивших значительные средства в достижение этой цели, в особенности в защиту будущего человечества от угроз ИИ, входят Илон Маск, сооснователь Ethereum Виталик Бутерин, основатель BitMEX Бен Дело, сооснователь Skype Яан Таллинн, миллиардер Питер Тиль и уже упомянутый Дастин Московиц.

Однако на этом триумфальном пути философской идеи случилась проблема. Одним из почитателей Макаскилла стал Сэм Бэнкман-Фрид, а Макаскилл стал членом Фонда будущего скандально обанкротившейся крипто-биржи FTX, который в 2022 году выделил $160 млн на «эффективные цели альтруизма», в том числе $33 млн организациям, напрямую связанным с Макаскиллом.

Скандальное банкротство FTX привлекло пристальное внимание к «оксфордским комсомольцам», и вот уже наружу полезли скандальные факты. Пошли истории про создание полиаморных групп с принуждением девушек к отношениям, другие сомнительные истории. Идиллия «философской рациональности» начала обнаруживать признаки сходства с сектой, которых история США знала сотни, достаточно вспомнить сайентологов.

Но самый острый вопрос, который волнует сейчас многих, это то, что «эффективные альтруисты» фактически прибрали к рукам контроль над процессом создания и развития искусственного интеллекта. Да, буквально, в любом скандале вокруг ИИ последних лет видны следы «эффективных альтруистов».
В компании ОpenAI, которая сделала публичной и массовой революцию генеративного интеллекта, идеология «эффективного альтруизма» лежала в самой основе. Компания была учреждена как некоммерческий фонд, «преследующий целью создание безопасного AGI (сильного искусственного интеллекта)».

Питер Тиль и Илон Маск в компании «PayPal»

В числе основателей были звезды долины первой величины — Питер Тиль (глава одноименной «мафии Тиля», сообщества стартапов, основанных при его участии) и Илон Маск. …Еще за месяц до скандала [с увольнением Сэма Альтмана из ОpenAI] журналисты обратили внимание, что сотрудники Open Philanthropy участвуют в переговорах, которые определят ускоряющиеся планы Капитолийского холма по регулированию искусственного интеллекта. И за ними стоит мощная сеть влияния, которая заставляет Вашингтон сосредоточиться на долгосрочных рисках, связанных с технологиями. По сообщению Politico, «согласно документам и интервью, действуя через малоизвестный Horizon Institute for Public Service, некоммерческую организацию, которую Open Philanthropy фактически создала в 2022 году, группа финансирует зарплаты технических специалистов в ключевых офисах Сената».

[конец цитирования]