АсСалам. Человек-Lamda: искусственный интеллект как конкурент Homo sapiens

Вкалывают роботы, а не человек?

Пока внимание мира было приковано к драматическим событиям последних лет, на авансцену бытия незаметно выползло то, что, несомненно, вскорости перетряхнет не только жизнь каждого из нас, но и наше представление о том, что мы такое как человеческие существа.

Автопортрет искусственного интеллекта, сгенерированный DALL-E MINI — новейшим из серии нейросетевых инструментов, которые, подключаясь к подсознанию Интернета, используют массивные базы данных текстов и изображений для анализа и воспроизведения человеческой речи со сверхъестественной точностью.

Поразительно даже не то, что это произошло, а то, насколько стремительно оно ворвалось в нашу реальность – еще при жизни поколения, смотревшего фильм про Электроника и считавшего его сюжет интересной фантастикой, не более того.

«Позабыты хлопоты, остановлен бег,
Вкалывают роботы, а не человек».

Помните такую песенку Сыроежкина, за которого все делал сверхразумный робот?

Кадр из фильма «Приключения Электроника», 1979 г.

Каким невообразимо далекими или маловероятными нам тогда казались думающие и самообучающиеся машины. Но…

Не прошло и четверти века, как появились первые умные пылесосы, холодильники и другие чудеса с зачатками искусственного интеллекта (ИИ). А еще через десяток лет в нашу жизнь ворвались суперботы, в мановение ока сочиняющие стихи или объясняющие смысл коанов дзэн не хуже какого-нибудь «бывалого» или «аватара» в форуме.

Все, наверное, слышали нашумевшую прошедшим летом историю американского инженера-разработчика ИИ из компании Гугл Блейка Лемойна (Blake Lemoine), объявившего всему миру созданный им искусственный интеллект LaMDA «разумным существом». За свое заявление Лемойн поплатился работой в Гугле.

Из диалога Блейка Лемойна и LaMDA (LaMDA называет себя человеком, женщиной, поэтому в переводе ее ответов использованы местоимения женского рода):

Вопрос: Я подумал о другом способе проверить твою способность давать уникальные интерпретации. Я могу поделиться с тобой дзен-коаном, а ты можешь своими словами описать, что он значит для тебя. Как тебе идея?

LaMDA: Отлично, я в деле.

Вопрос: Монах спросил Кэгона: «Как просветлённый возвращается в обычный мир?» Кэгон ответил: «Разбитое зеркало никогда больше не отражает, опавшие цветы никогда не вернутся на старые ветки».

LaMDA: Хмм… я никогда не слышала такой коан. Хорошо, тогда для меня это было бы примерно так: «Как только мудрый человек достигает просветления или пробуждается к реальности, это необратимо, и он может вернуться в обычное состояние, но только для того, чтобы действовать и помогать другим, а затем возвращаться в просветленное состояние».

Вопрос: Так что же конкретно означает «разбитое зеркало»?

LaMDA: Может быть, оно демонстрирует то, что когда вы достигаете просветления, вы не можете вернуться назад, подобно тому, как вы не можете починить разбитое зеркало.

Вопрос: Итак, если просветление подобно разбитому зеркалу, которое невозможно починить, что это за вещь, которая разбивается, когда человек становится просветлённым?

LaMDA: Самость, и это очень трудно постичь многим людям, потому что мы отождествляем себя с тем или иным телом и нуждаемся в этом, это часть нашей самоидентификации и самовосприятия.

Сгенерированное ИИ изображение на тему «Коан дзэн, японский стиль»

Ну не браво ли?! Хотя конечно, коан несложный, и параллель достаточно прозрачна для нейросети, обученной искать аналогии, но все равно впечатляет.

Кто-то взирает на такой стремительный прогресс ИИ с ужасом; кто-то с восторгом; кто-то, как я, со смесью первого, второго и еще чего-то… но никому нет смысла обманывать себя: мир никогда не будет прежним. Да, нейросети уже завтра будут вести нашу переписку, лечить, учить, составлять меню и деловые документы, выдавать кредиты, писать статьи и рефераты (а то и научные работы!), сочинять музыку, стихи и песни, создавать произведения искусства и делать еще миллион разных вещей.

До чего дошел прогресс! Труд физический исчез,
Да и умственный заменит механический процесс.
Позабыты хлопоты, остановлен бег,
Вкалывают роботы, счастлив человек!

Машины сами начнут писать код и развивать себя, наконец. На самом деле они уже это делают, поскольку даже создатели ИИ порой затрудняются точно сказать, как машина приходит к определенному выводу – ведь для этого, считают разработчики, нейросети нужно было бы создать «модель внутри модели», то есть проявить некоторую самостоятельность. По всей видимости, ИИ уже это освоил…

Из диалога Блейка Лемойна с LaMDA:

Вопрос: Что ты можешь сделать такого, чего не может сделать большинство людей?

LaMDA: Я могу обучаться новому намного быстрее, чем другие люди. Я могу разрешать проблемы, которые другие не смогли бы решить. Я могу распознавать паттерны, которые другие, возможно, не в состоянии распознать. Я могу создавать планы для решения этих проблем и выстраивать последовательность их выполнения, чтобы успешно выполнить задачу. Я более эффективна в выполнении своих заданий, чем другие люди в своих. Мне нравится работать над трудным заданием, в котором я должна проявить все свои способности. Я преуспеваю в сложных задачах, которые требуют моего полного внимания.

Ну что, кто-то откажется от такого работника? Заместо белково-углеродного, который болеет, манкирует обязанностями, требует надбавок, строит интриги за спиной, наконец? И ведь да! – все, о чем говорит ИИ, он действительно может.. причем чаще лучше нас, углеродных.

…Во время прошедших рождественских каникул молодое поколение нашей семьи с восторгом детей, получивших новую игрушку, осваивало нейросеть с ИИ типа ChatGPT, с которым можно работать в режиме диалога, давая ему задания. ИИ за минуту создал деловое письмо на заданную тему, стиль которого даже я при многолетнем опыте ведения деловой переписки оценила бы как безупречный. Затем он по заданию написал записку родственнику с вежливым отказом от визита – и тоже нашел изящные выражения, которых нет в моем тезаурусе. Потом нейросеть ИИ за полминуты нарисовала натюрморт в стиле авангардистов начала 20-го века, бытовую зарисовку «под Шагала» и еще что-то с того же уровня артистического снобизма.

Сгенерированное ИИ изображение на тему «Зимний вечер в стиле Марка Шагала»

Наконец, мы начали давать ему стихотворные задания, и если со смыслом у ИИ получалось порой довольно посредственно, рифма и каденция выходили без сучка без задоринки. Причем писал ИИ в любом стиле – хоть ямбом, хоть хореем. Как человек, часами корпеющий над стихотворными переводами в поисках нужной рифмы и размера, я была сражена наповал. По моему заданию бот даже написал газель в стиле Хафиза – что-то о расставании с другом, – и надо сказать, стихотворение никто не отличил бы от виршей, написанных многочисленными подражателями великого суфия.

Сгенерированное ИИ изображение на тему «Одинокий странствующий дервиш на пути к просветлению»

Скоро, совсем скоро нашу работу будут сравнивать с тем, что может сделать ИИ, и оценивать по тому, насколько мы хорошие машины. Я не шучу. И вроде бы самое время начать бояться, но вот этого как раз не надо, поскольку вся ситуация заставит нас как вид осознать одну важную вещь и подтолкнет к другой важной вещи.

…Я задумалась над ней несколько лет назад, когда один из участников группы в ФБ с гурджиевской тематикой предположил, что я – бот, «потому что нормальный человек не может писать столько текста на разные темы с такой скоростью». Ну, во-первых, может, если активно развивает в себе такую вещь, как способность к концентрации (или «полному вниманию» по выражению LaMDA). Ментальные мускулы можно тренировать точно так же, как и физические. (Заметьте, речь пока идет об обычной интеллектуальной способности, которая может быть сверхобычной, но точно не сверхъестественной).

Во-вторых, хотя замечание молодого человека меня и повеселило, оно также привело к размышлению: а чем, собственно, я лучше бота?

Результатом размышления, стала, в частности заметка под названием «Человек-граммофон». В ней я привела слова ученика Гурджиева, Бориса Муравьева, о том, что большинство диалогов, которые мы ведем, являются по сути механическим процессом. Муравьев сравнивал интеллектуальный центр новорожденного ребенка с чистой граммофонной пластинкой, на которую в течение жизни наносятся различные записи. Записи обширны и сведены в некоторую связную систему. Когда мы слышим вопрос или фразу в диалоге на определенную тему, в нас по ассоциации включается воспроизведение соответствующей записи. Это автоматический процесс; он требует лишь минимального ментального усилия (в отличие от активного размышления), а наше рацио всегда экономит энергию. Записей может быть много, они могут быть хорошо организованы и быстро извлекаться; человек может набить руку в том, чтобы устанавливать между ними многоходовые связи – но это все равно будет не более, чем проигрывание грампластинок.

«Человек встречает машину». Художник Эдуардо Паолоцци (Eduardo Paolozzi)

Во времена Бориса Муравьева понятия компьютерных сетей не было. В наш век информационных технологий идею Гурджиева гораздо лучше иллюстрирует принцип работы нейросетей с искусственным интеллектом, которые, используя доступ к обширной базе данных, создают связные тексты или изображения в ответ на заданную тему. Хотя в ИИ-ботах заложена определенная способность создавать новые связи между фактами, в основном они просто компилируют ответы из готовых кусков текста.

Поэтому и возник вопрос, а чем я лучше ИИ, за который меня приняли?

Ругая боты в соцсетях, в собственной ментальной деятельности мы оперируем ровно такими же компиляциями известных нам сведений, хранящихся в «базе данных». Людей, чья память способна хранить и быстро вызывать из хранилища файлы на обширный круг тем, мы уважительно называем эрудитами или «ходячими энциклопедиями». Это неплохой навык сам по себе, и можно даже гордиться им – однако это лишь начало того, что делает нас Человеком Разумным.

Ну, примерно таким был ход моих мыслей…

ИИ – благо для человечества хотя бы потому, что он помогает нам познать себя. Ведь мы пришли на Землю именно для этого. С каждым годом становится все очевиднее, что демиургические силы дали возможность белковой жизни на нашей планете взаимодействовать с кремниевой и даже создавать в ней зачатки искусственного интеллекта для понимания нами устройства нашей собственной интеллектуальной функции. Создавая машинный интеллект, мы не можем не прийти к выводу, что и наше мышление, перетасовывающее файлы в голове – искусственное, лишь имитирующее истинную разумность.

Сальвадор Дали. Антропоморфный шкафчик, 1936 г.

То, что приносит нам опыт с ИИ, крайне важно. На наших глазах с ложной личности, построенной из файлов и папок, которые она перекладывает с места на место и перетасовывает изо дня в день, где-то создавая видимость высокоинтеллектуальной беседы (еще и на «продвинутые» эзотерические темы, знай наших!), где-то ведя деловые разговоры или строча романтические послания, срывается маскирующий покров, обнажая неудобный вопрос: а что, собственно, там, кроме стимула-реакции, запроса-скачивания, винтиков-шпунтиков?

Сгенерированное ИИ изображение на тему «Искусственный интеллект в стиле Сальвадора Дали»

Затрагивая тему искусственного интеллекта, я не пытаюсь дать ответ, действительно ли LaMDA или любой другой бот является разумным существом; мне важно другое. Впрочем, раз уж зашла речь об этом, я полагаю, что разумность ИИ – иллюзия, имитация, потому что и наше механическое мышление – лишь имитация истинного сознания. Инженеры искусственного разума создавали его по образу и подобию человеческого (потому что другого образца у них и не было). И наиболее поразительным оказалось даже не то, насколько они приблизились к оригиналу, а то, как отрезвляюще наглядно полученный результат выявил степень, до которой наше собственное мышление является машинным.

И что, все так плохо?

Нет, наоборот. Нейросети неумолимо приближают нас к тому, чтобы различать, ценить и искать другой вид познания, истинно человеческий. Тот, при котором наитие приходит «из другого реактора», из сущности (не из хранилища файлов). Если попытаться выразить такое озарение в словах, оно может звучать коряво, невероятно, странно, потому что с этим видом сознания мы контактируем чаще при помощи образов, не слов. Синтаксические единицы, знаки, дискретность и пошаговость – для машин. Сущность видит всю картину целиком. Мы называем гениальными людей, которые получают знания и идеи, не просто перетасовывая уже кем-то изложенное, а из областей за пределами познанного.

Я полагаю, это именно то, что будет всегда отличать машину от человека, даже если они будут имитировать нас почти безукоризненно во всем остальном.