Ю. Кочетов. 10 недосягаемых качеств, или На что не способен «всемогущий ИИ»

Ценность человека кроется во всём том, что для ИИ недосягаемо…

***

В последнее время об искусственном интеллекте говорят на каждом шагу: он пишет тексты, решает сложные математические задачи, рисует картины, распознаёт объекты на фотографиях и даже анализирует поведение пользователей в соцсетях. У кого-то это вызывает восторг и надежду на беззаботное будущее, у кого-то — беспокойство и страх перед «умными» машинами, которые могут лишить людей работы или свободы выбора.

Но при всех невероятных способностях и перспективах, ИИ далеко не так «всемогущ», как может показаться в заголовках новостей и научной фантастике. За каждой технологией стоят её пределы и ограничения. Да, искусственный интеллект может удивлять и помогать нам в огромном количестве задач — но стоит помнить: есть вещи, которые остаются по ту сторону машинного разума. В этом тексте мы разберём, чего именно не умеет ИИ и почему от этого мы только выигрываем.

1. ИИ не обладает подлинным сознанием

Часто слышишь: «Компьютер думает быстрее, чем человек!» Но слово «думает» здесь весьма условно. На самом деле, любая программа — это множество алгоритмов, работающих со входящими данными. В основе таких систем лежат математические модели, которые имитируют интеллектуальную деятельность, но не становятся по-настоящему «сознательными».

Сознание предполагает субъективный опыт: ощущать себя отдельной личностью, осознавать свои желания и испытывать эмоции. Машина способна «имитировать» эмоции (например, писать фразы в стиле «Я так рад!», «Мне грустно»), но она не переживает их. Даже самые сложные нейросети не чувствуют радости, страха или любви. Для них это лишь данные, которыми нужно оперировать.

В философских и научных кругах полемика о том, можно ли вообще «вырастить» сознание внутри цифровой системы, идёт уже не один десяток лет. Но пока мы не видим ни одной реальной предпосылки, что машина внезапно обретёт самосознание. Текущее состояние технологий указывает: даже если мы научим ИИ решать все мыслимые задачи, это не равно тому, что он «прочувствует» себя как личность.

2. Искусственный интеллект не имеет истинной эмпатии

Эмпатия — способность сопереживать, распознавать чужие эмоции и эмоциональные переживания, вникать в контекст чувств другого человека. Машина способна распознать улыбку или слёзы на лице, если её обучат на множестве фотоснимков, но понять «изнутри», почему человеку больно или радостно, она не может.

Человеческая эмпатия связана с нейронными процессами в мозге, гормонами и богатым социальным опытом. Мы понимаем чужие чувства, опираясь на собственные переживания и ассоциации, которые копились годами — в семье, в школе, в дружеских компаниях. Алгоритмы же анализируют паттерны и закономерности, не имея эмоциональной памяти или внутреннего опыта.

В итоге любая «эмпатия» ИИ сводится к тому, что он просто «угадывает» эмоциональное состояние пользователя по словам, тону голоса или мимике. И это, безусловно, полезно в некоторых сервисах (например, голосовой помощник может подстраивать интонацию), но подлинное понимание эмоций недоступно машине. Она лишь разбирается в статистических корреляциях: если человек плачет, скорее всего, он печален. Но она не грустит вместе с ним.

3. Неспособность к подлинной креативности «с нуля»

«Нейросеть нарисовала шедевр», «ИИ создал потрясающую музыкальную композицию» — звучит впечатляюще, и результаты порой действительно впечатляют. Но если копнуть глубже, то окажется, что все эти «шедевры» сформированы на базе огромного объёма работ, уже созданных людьми. То есть нейросети не придумывают принципиально новые формы искусства, они берут готовые образы и стили, объединяют их и видоизменяют.

Иными словами, любая творческая активность ИИ — это переработка имеющихся данных. Для машины нет разницы между «Луной» на фотографии и «Луной» в песне: это просто разрозненные пиксели, символы, звуки. Она не понимает, что в глаза художника луна вселяла романтические чувства или представляла символ чего-то мистического. Следовательно, мы не можем говорить о глубоком концептуальном творчестве, когда речь о чисто алгоритмическом процессе.

Конечно, машины могут «изменять формулы» невероятными способами, выдавая сочетания, которые раньше никто не видел. Но то, чем мы называем вдохновением, идеями «из ниоткуда» — продуктом смешения опыта, эмоций и случайности — ИИ пока не владеет. А значит, роли художника, поэта или музыканта внутри себя он не примерит.

4. ИИ не может принимать решения, исходя из «человеческих ценностей»

Когда мы говорим о моральном выборе — что-то вроде «могу поступить так, но это нехорошо по отношению к другому человеку» — мы опираемся на внутренние ценности и принципы. У каждого из нас есть определённый моральный компас, основанный на воспитании, культуре, религии, личном опыте. Мы способны чувствовать вину, стыд, совесть. В случае с машиной такой моральный компас отсутствует.

Да, инженеры могут встроить в программу некий модуль «этических правил» или прописать запреты (например, не допускать дискриминационных решений при отборе кандидатов на работу). Но это лишь перечень запрограммированных ограничений, а не свободный нравственный выбор. Машина не станет «раскаиваться» или испытывать моральную дилемму, она будет лишь следовать заданным инструкциям.

Следовательно, в ситуации, где нужно было бы осознанно выбрать: «Пойти наперекор своим эгоистичным интересам ради блага другого», ИИ «не поймёт» самой сути подобного жертвенного поступка. Он может имитировать результат, если этот сценарий прописан, но собственного осознания морали у него нет.

5. Неумение адаптироваться к реальности без обучающего набора

Любая система ИИ учится на конкретных примерах или в заданной виртуальной среде. Для компьютерного зрения мы показываем миллионы изображений, чтобы система начала отличать кошек от собак. Для языковой модели — скармливаем тысячи книг и статей, чтобы она научилась формировать осмысленные тексты. Но если дать алгоритму задачу, которая выходит за рамки его «тренировочных данных», он может растеряться.

К примеру, если ИИ обучен определять, как выглядит яблоко, и вдруг вы покажете ему экзотический фрукт, который он никогда не «видел» (и который в тренировочный набор не входил), модель может ошибиться. Да, есть технологии transfer learning, где ИИ «переносит» знания из одной области в другую. Но это всё ещё искусственные методы, которые не равносильны тому, как человек, набрав небольшой жизненный опыт, может «догадаться» и о чём-то совершенно новом.

На практике это приводит к тому, что мы регулярно сталкиваемся с курьёзными ошибками: ИИ может принять очертания чайника за силуэт кошки, если подобного ракурса не было в обучающей выборке. Или неправильно интерпретировать значение слова в редком контексте, если ему не хватило языковых примеров. Человек благодаря воображению и абстрактному мышлению способен «додумать», а ИИ без достаточного количества примеров начать «галлюцинировать» или выдавать неправильную информацию.

6. Недосягаемость «настоящей» интуиции

Интуиция для человека — это своего рода подсознательный процесс принятия решений на основе опыта, чутьём распознающий паттерны. Часто она формируется долгими годами практики и даёт нам ответы тогда, когда логика не даёт однозначного решения. Классический пример — опытный врач, который «чувствует», что что-то не так, хотя анализы пациента формально в норме.

ИИ может говорить «интуиция» на основании огромных объёмов данных и похожих случаев, но он не «осознаёт» этого процесса. Для нас интуиция порой выглядит мистически. Для машины — это просто автоматическое вычисление вероятностей на основе исторических данных. Стоит учесть, что при сбое или при изменении условий алгоритм может полностью «споткнуться», тогда как человек способен «перекинуть мостик» между несвязанными областями знаний.

Иными словами, мы говорим: «Доктор почувствовал, что пациенту срочно нужна ещё одна проверка». ИИ скажет: «Вероятность 72%, что всё в порядке». Но если данные вдруг не учли некие нестандартные симптомы, машина не сможет «учуять» беду на подсознательном уровне. Она формально просуммирует имеющиеся факты. Человек же использует не только формальную статистику, но и тонкие сигналы: окраску кожи, интонацию в голосе, общий жизненный опыт и многое другое.

7. Неспособность к самосовершенствованию «по своей воле»

ИИ может совершенствоваться, когда программисты и инженеры совершенствуют его алгоритмы, пригоняют новые блоки данных, оптимизируют инфраструктуру. Самостоятельно же машина не сделает «решения», что ей нужно «подучиться чему-то новому» без заранее прописанного сценария.

У людей стремление к развитию часто исходит из внутренних мотивов — амбиций, любопытства, желания стать лучше, творческих исканий. Алгоритм лишён «желаний» и «мотивации». Ему безразлично, чему учиться: хоть запоминать статистику продаж мороженого, хоть изучать фольклор племён Амазонки. Если не дать нужные команды, он останется в своей «песочнице».

Конечно, можно сказать, что мы можем внедрить «мета-алгоритм», который будет заниматься «самообучением» с генерацией гипотез. Но всё равно это заранее прописанный механизм, а не подлинная воля к поиску новых горизонтов.

8. Неумение чувствовать красоту или мораль: субъективные категории

Понятие красоты субъективно. Для одного человека прекрасен рассвет на берегу моря, для другого — шум мегаполиса. Мы чувствуем красоту, исходя из своего эмоционального склада, эстетического воспитания, культурных традиций. Компьютер видит лишь набор пикселей, цветов и контрастов.

Да, алгоритмы могут «оценить» картину по сложной модели, учитывая фокус, композицию, цветовые сочетания, схожие с теми, что люди называют «прекрасными». Но они не испытывают эмоционального отклика и не могут «соскучиться» по какому-то виду прекрасного. Примерно то же и с моралью: понятие добра, справедливости, честности формируется в обществе, а машина лишь формально следует заданным критериям.

Люди порой нарушают правила ради высшего блага — делают то, что подсказывает «совесть». ИИ такого порыва не испытывает. Он просто не способен отойти от программы или инструкции ради чего-то, что выходит за рамки чётких численных правил.

9. Ограниченная способность понимать контекст «между строк»

Человеческая коммуникация полна подтекста, иронии, сарказма, намёков. Иногда мы обмениваемся шутками, понятными только «в теме» друзьям. Машина научилась неплохо понимать прямой смысл фраз, но любые скрытые интонации зачастую ей недоступны.

Допустим, человек говорит: «О, да, я просто обожаю делать кучу лишней работы!» с явной насмешкой. Для алгоритма с базовым анализом текста это может выглядеть как позитивное утверждение. Тонкие вещи, вроде динамики мимики или общей истории отношений говорящих, машина не улавливает в полной мере.

Хотя современные языковые модели стали лучше распознавать сарказм, их мастерство всё ещё далеко не идеально. Им всё равно нужно опираться на статистику и паттерны из текстов. Если фраза «обожаю лишнюю работу» слишком редка в обучающей выборке, ИИ может выдать вывод: «Пользователь испытывает положительные эмоции при упоминании большой работы». Человек же мгновенно почувствует иронию по интонации, контексту и предыдущему опыту.

10. Отсутствие свободы воли

Один из самых фундаментальных вопросов: способна ли машина выбирать что-то по своей воле, а не по алгоритму? Если мы определяем свободу воли как самостоятельную способность принимать решения, не полностью детерминированные исходной программой и данными, то ИИ здесь пасует.

Все действия искусственного интеллекта завязаны на логику и датасеты, заданные людьми. Машины могут эмулировать случайность, используя генераторы псевдослучайных чисел, но это не то же самое, что «самостоятельно захотеть» идти против нормы. Даже в сложных системах reinforcement learning (обучение с подкреплением), где программа «сама» ищет оптимальную стратегию, всё равно рамки (набор правил, цель, функции вознаграждения) заданы людьми. Нет никакого «бунта» системы, если только сам человек или ошибка в коде не привели к такому поведению.

***

Звучит всё так, будто ИИ всё-таки довольно слаб в том, что делает человека человеком. Но именно в этом кроется основной плюс: люди сохраняют сферу, где они незаменимы. Творческая интуиция, глубокое сопереживание, рефлексия, моральный выбор — всё это по-прежнему сферы, где ИИ выступает вспомогательным инструментом, а не властелином.

Вот несколько направлений, где понимание ограничений ИИ даёт нам преимущество:

Совместная работа. Использовать ИИ там, где нужны точные вычисления и скорость, а человек оставляет за собой принятие сложных этических решений, контроль качества результатов и понимание глубокого контекста.

Творческий тандем. Пусть машина генерирует варианты, а человек оценивает их с точки зрения истинной художественной ценности или эмоционального резонанса.

Дополненная реальность. Не заменять учителя чат-ботом, а подключать ИИ для подбора индивидуальных заданий, а преподаватель будет вести живые обсуждения и мотивировать учеников.

Этическое регулирование. Учитывая, что ИИ не может самостоятельно ограничивать свои действия, нужны люди (инженеры, юристы, философы), чтобы выстраивать безопасные рамки его применения.

Почему «человеческое» всегда будет в цене

Несмотря на постоянное развитие технологий, человек остаётся единственным носителем целостного восприятия жизни. Мы чувствуем, осознаём, любим, испытываем творческий порыв, меняем своё поведение не только по логике, но и под влиянием эмоций и нравственных императивов. Может показаться, что часть этих качеств — «слабость» по сравнению с безупречно расчётливым компьютером. Но именно в них заложен наш потенциал для великих открытий и искренних поступков.

Во многом ценность человека кроется во всём том, чего ИИ никогда не сможет ощутить. Может ли машина по-настоящему ценить жизнь, страдать от потери, вдохновляться красотой заката? Нет. И в этом секрет: она сможет моделировать поведение человека, но её «слёзы» будут всего лишь виртуальными. Настоящая свобода выбора и глубина внутренних переживаний остаются за нами.

***

Итак, на вопрос «Что не сможет сделать искусственный интеллект?» ответ не ограничивается перечислением конкретных навыков (объективно, он умеет многое, а учится ещё быстрее). Речь идёт о более фундаментальных вещах — о сознании, эмоциях, моральном выборе, живом творчестве, глубинном понимании реальности. Машинам неведом «человеческий» опыт, насыщенный переживаниями и субъективным восприятием мира.

С учётом всех нынешних темпов прогресса рано или поздно мы увидим ещё более «умные» системы, которые будут превосходить человека во множестве задач: от медицины и юриспруденции до финансового анализа. Но такое превосходство никогда не устранит уникальности человеческой природы. Именно поэтому мы можем относиться к искусственному интеллекту не с ужасом и не с безграничным восхищением, а с разумным пониманием: это мощный инструмент, способный творить чудеса в руках тех, кто владеет знаниями и ответственностью.

Пока мы не позабыли, как это — быть людьми, никакой искусственный интеллект не сможет заменить нас в самом главном.

Источник

Подпишитесь на наш телеграм-канал https://t.me/history_eco

Публикация на Тelegra.ph

Еще по теме:

Джеффри Хинтон оценил вероятность уничтожения человечества вследствие развития ИИ

• Ключевые слова: Недосягаем,качеств,всемогущ,