imhotype. Что такое «искусственный интеллект»?

Мы с вами привыкли каждый день говорить: «человек разумный», «разумное существо», «возможности человеческого разума» – но что такое разум? Можете объяснить?

Человек умеет решать задачи – но и грибы умеют их решать . У человека есть память – но и у многоклеточной гидры она есть. Человек способен учиться – и червь планария способен учиться . И ещё всем этим: памятью, умением решать задачи, способностью к обучению, – обладает компьютер. Так чем же отличается «разумное» от «неразумного»?

Есть такая игра с использованием мобильников. Разойдитесь по разным местам или просто спрячьтесь друг от друга. Зайдите в какой-нибудь чат-сервис под придуманными именами (например «Собеседник А», «Собеседник Б» и так далее. Задача играющего – задавая вопросы, узнать, кто из друзей под каким ником прячется.

Само собой, никто не запрещает задать прямой вопрос типа «как тебя зовут на самом деле?», но откуда вы будете знать, что вас не обманывают, если вы не видите собеседника? Чтобы выиграть в эту игру, нужно очень хорошо знать своих друзей – их привычки, темперамент, характерные фразы и «область компетенции» (например, не спрашивайте «Ты мальчик или девочка?» или «Какого цвета у тебя волосы?», а спрашивайте: «У Nissan Skyline задний или передний привод?» или «Я вышла из чата» – это Монеточка или Клава Кока?»). Но что делать, если мы совсем не знаем своего собеседника?

Выдающийся математик Алан Тьюринг ещё в 1950 году в статье «Вычислительные машины и разум» задался вопросом: а можно ли наверняка, со стопроцентной гарантией, отличить одного человека от другого при общении «по удалённому каналу»? Или – что ещё интереснее! – отличить человека от компьютерной программы?

Алан Тьюринг

Довольно быстро он пришёл к неожиданному ответу: сделать это без получения какой-то дополнительной информации нельзя. А значит, вполне возможно создание компьютера, который в состоянии заставить человека поверить, что он общается с другим человеком…

Итак, машина может обмануть человека и притвориться разумной. Но будет ли такая машина разумной в действительности? «А почему бы и нет? – предположил другой учёный, Фрэнк Розенблатт. – В конце концов, что представляет собой человеческий мозг? Это очень большая сеть, состоящая из одинаковых клеток-нейронов, между которыми формируются сложные связи. Почему бы не попробовать сконструировать компьютер, подобный человеческому мозгу?».

Фрэнк Розенблатт работает с ЭВМ

Было это в 1960 году, и Розенблатту удалось построить такой прибор – учёный назвал своё изобретение «перцептроном», от латинского слова «перцепцио» – «восприятие». Впереди у перцептрона был «глаз» – сетка, состоящая из 400 светочувствительных фотоэлементов. По многочисленным проводам электрические сигналы попадали в ячейки памяти, «искусственные нейроны», образующие «ассоциирующую систему». К искусственным нейронам изобретатель присоединил две специальные кнопки – «поощрения» и «наказания».

Чтобы «научить» перцептрон распознавать буквы, изобретатель подносил изображения к «глазу» – «это буква А», «это буква Б» и так далее. Нужная информация «откладывалась» в виде связей между ячейками памяти. Дальше экспериментатор подносил изображение, но уже как бы «задавал вопрос» – «что это за буква?». Если машина ошибалась, нажималась кнопка «наказания» – сигналы, порождённые неправильным ответом, ослаблялись. Если машина выдавала правильный ответ, нажималась кнопка «поощрения» – «правильные» сигналы, наоборот, усиливались. Очень похоже на систему обучения детей в школе или дома! За правильный ответ – пятёрка, за неправильный – двойка, и так одну букву за другой… Знакомо, правда?
Итак, первый способный к обучению «электронный мозг» был построен и назван «Марк Первый». Розенблатт раздавал интервью, в которых рассказывал о том, что уже совсем скоро его машины смогут писать под диктовку, переводить с одного языка на другой, играть в шахматы, решать сложнейшие задачи и комментировать тончайшие нюансы поэзии Шекспира – и, в итоге, обретут сознание, подобное человече- скому. В журнале New Yorker писали: «Наш собственный мозг абсолютно ослеплён предполагаемыми возможностями электронного».

Фрэнк Розенблатт был убеждённым сторонником так называемой «теории сильного искусственного интеллекта» – то есть считал, что созданная человеком «умная машина» в конце концов обретает сознание, осознаёт себя как личность.

В середине 60-х годов прошлого века «компьютер, имеющий сознание» – самая любимая идея писателей-фантастов. Тут и придуманный Хайнлайном «революционер» Майк, главный суперкомпьютер Луны. Тут и мудро управляющий целой планетой суперкомпьютер Марк Четвёртый из книжки «Стальная крыса идёт в армию» писателя Гарри Гаррисона. Именно под впечатлением от статей Розенблатта писатель Артур Кларк придумал для своего романа «Космическая одиссея» разумный суперкомпьютер HAL-9000, который по трагической случайности сошёл с ума и убил четверых астронавтов на корабле «Дискавери»…

Неудача!

Однако время шло, а обещанные изобретателем чудеса никак не наступали. Шумиха в газетах утихла. Да, перцептрон научился распознавать буквы, напечатанные на карточках, но… и всё! Достаточно было частично закрыть контур буквы для того, чтобы машина перестала её узнавать. Перцептрон Розенблатта был очень громоздким, хотя содержал всего 512 электронных «нейронов». А ведь даже нервная система муравья содержит свыше 20 тысяч нейронов, а в нервной системе человека свыше 100 миллиардов нейронов!

Как сравниться с природой? Строить компьютер размером с небоскрёб, которому для обеспечения энергией понадобится отдельная электростанция, а для охлаждения – самый настоящий Ниагарский водопад? Дороговато… И для чего? Сама по себе идея создания способной к обучению искусственной нейронной сети была хороша – скажем, именно с помощью таких сетей работают знакомые всем нам современные программы распознавания лиц на фотографиях. Но конструкция Розенблатта для этого не годилась…

Другой подход

Убеждённым противником перцептронов стал Марвин Минский – выдающийся математик, который, кстати говоря, в школе был одноклассником Розенблатта.

Марвин Минский

«Глядя на торчащий из-за дивана кошачий хвост, эта машина никогда не поймёт, что она видит кошку!» – говорил он. И ещё: «Для того, чтобы научиться уверенно отличать букву «А» от буквы «Б», нейронной сети нужно длительное обучение на примерах, и то после этого она способна ошибиться. Пятилетний ребёнок учится различать эти буквы за одну минуту!»

И тут с учёным трудно не согласиться. Программа распознавания лиц на фотографиях предварительно «обучается» на базе из 500 миллионов самых разных фотографий! А годовалый малыш безошибочно различает лица – и мамы, и папы, и братьев-сестёр, и товарищей по играм – безо всяких баз данных…
Марвин Минский был сторонником другого подхода к искусственному интеллекту. Вместо того, чтобы конструировать электронные подобия нейронных сетей, он призывал научиться писать сложные компьютерные программы, имитирующие те или иные человеческие способности.

Это позволило специалистам существенно продвинуться в создании систем, способных решать вполне себе творческие «человеческие» задачи. Например, играть в шахматы и шашки – причём на самом высоком уровне! Дошло и до виртуального общения…

Привет, Элиза!

Уже в 1966 году американский учёный Джозеф Уайзенбаум создал первого в мире «чат-бота» – программу, которую назвал «Элиза» в честь Элизы Дулиттл – неграмотной девушки из пьесы Бернарда Шоу «Пигмалион». В пьесе Элиза Дулиттл училась говорить всё лучше и лучше – вот и компьютерная программа «Элиза» тоже «училась говорить».

Человек набирал на клавиатуре какой-нибудь текст, а программа «прочитывала» его и выдавала на монитор «ответ». Программный код (довольно простой) не обладал никаким сознанием – он просто находил в написанном человеком тексте нужные ключевые слова, поддакивал, переспрашивал, в общем, только изображал общение. Однако при этом многие люди всерьёз верили, что общаются с настоящим собеседником – «человеком на другом конце провода». То есть совершенно неразумная программа могла ввести в заблуждение разумного человека!

Существует немало анекдотов о том, что вполне уважаемые люди с высшим образованием, крупные научные специалисты, вдруг начинали всерьёз «плакаться в жилетку» незатейливой компьютерной программе!
Уайзенбаум был настолько обеспокоен этим эффектом, что даже написал книгу «Возможности вычислительных машин и человеческий разум», в которой доказывал, что никогда никакая компьютерная программа не сможет обрести сознание, что самая совершенная система искусственного интеллекта представляет собой просто кусок выполняемого машинного кода и всегда останется «неразумной», «бездушной».

Эту теорию называют «теорией слабого искусственного интеллекта». Да, современные компьютеры могут и умеют очень многое – и уже давно обыграли в шахматы чемпиона мира. Но это вовсе не говорит об их «разумности» – это говорит только о быстродействии компьютера в сочетании с искусством программиста. То есть – всё-таки человека…

Учимся у лягушек!

Но продолжим разговор об искусственном интеллекте. Все компьютеры основаны на идее алгоритма. Алгоритм – это последовательность действий, выполнение которых ведёт к решению задачи. Недостаток в том, что все действия должны происходить последовательно, одно за другим, и чем сложнее программа, тем дольше она выполняется. А, как мы уже знаем, задача распознавания образа (например, мысленно «дорисовать» кошку по её хвосту) – очень сложная.

Однако уже в пятидесятые годы были изданы работы учёных-физиологов о том, как работают настоящие нейроны, как они могут изменяться и обучаться. Физиологи Ма-Каллок и Питтс даже разрабтали математическую модель биологической нейронной сети. Они доказали, что её мощность зависит не от сложности каждого элемента (они как раз могут быть простыми), а от их количества и сложности соединений. Эти работы подстегнули исследования по моделированию искусственных сетей нейронов (они так и стали называться – нейросети).

Начиная с 1952 года новые модели стали появляться каждый год. Казалось, вот-вот получится создать нейросеть, сравнимую с мозгом. Но на это пути исследователей подстерегали…

…Три проблемы

Первая – это сложность сети. В обычном компьютере, как мы помним, и простые, и сложные задачи решаются на одном и том же процессоре. В нейросети для сложных задач нужно больше элементов. Перцептрон Розенблатта, едва умеющий распознавать буквы, состоял из полутысячи (для сравнения – глаз лягушки содержит три миллиона нейронов). Вторая проблема – не все задачи могли решаться искусственными нейронными сетями. Перцептрон, как мы помним, не мог распознавать букву, если её часть была закрыта. В то же время наши «естественные» устройства распознавания способны достроить знакомый объект, как треугольник на этой картинке. – Сколько треугольников вы здесь видите? Два? Или восемь?!.. А компьютерная программа – ни одного… (Помните, мы говорили, что разум – это воображение?)

И, наконец, третья проблема. Обученная нейросеть, в отличие от живого организма, не может передавать свои знания «потомству»…

Ну, а теперь главная новость

Относительно недавно все эти проблемы получилось решить (или обойти). Мы не будем сейчас рассказывать, что такое «технология CMOS», «когнитроны», «обратное распространение ошибки», это выйдет совсем уж долго. Но вы и так видите – нейросети переживают второе рождение. Их научились делать малого размера и сразу обученными. Любой современный телефон поддерживает распознавание лиц. В Москве люди уже проход в метро лицом оплачивают! «А, это ты, Иван Иваныч… Ну проходи, проходи, я в курсе, сколько там у тебя на карточке. Не обессудь, рубликов 35 спишу…»

Нейросеть не только об этом «в курсе». Она знает, когда вы ложитесь спать и когда встаёте, знает ваш маршрут и график передвижений по городу, знает, чьи каналы в «Телеграм» вы читаете по утрам вместо газет, и какие сайты посещаете перед сном. Знает, сколько вы зарабатываете и сколько тратите. Знает, что вы едите (что покупаете в продуктовом магазине). Знаете, чем вы болеете (к каким врачам записаны, какие анализы вам назначены и каковы их результаты). И уж спрогнозировать, за какого кандидата вы проголосуете на выборах (если, конечно, они случатся), ей буквально раз плюнуть. Тоже мне бином Ньютона, она же все ваши «лайки» в интернете видит, для неё ваши политические взгляды как на ладони!

Не успели мы в России как следует выучить слова «приватность», «неприкосновенность личной жизни», «достоинство», как всё это развеялось, обратилось в пыль – стало считаться архаичным и бессмысленным, как какой-нибудь пережиток XIX века… Зачем же всё это вообще понадобилось? Какого, так сказать, лешего всё это было придумано? Просто плод легкомысленного любопытства учёных? Не совсем.

Умные машины – «за»…

Попробуйте угадать, с какой скоростью катался по Луне наш космический вездеход «Луноход 1»? Ни за что не поверите – его максимальная скорость составляла… 2 километра в час! А обычная, «рабочая» – 1 километр в час. А скорость американского марсохода «Кьюриосити» – и вовсе 140 метров в час. Не километров – метров! Догадываетесь, почему?

И «Луноход», и «Кьюриосити» управляются по радио. А скорость распространения радиоволн всем равняется скорости света. Это значит, что сигнал от «Лунохода» идёт к оператору 1 секунду, и сигнал от оператора обратно к «Луноходу» – ещё 1 секунду, итого две. Автомобиль, движущийся со скоростью 60 километров в час, за две секунды проезжает 35 метров! Если бы «Луноход» ехал со скоростью обыкновенного автомобиля, он бы очень быстро разбился, свалившись в какую-нибудь лунную яму. А до Марса минимальное расстояние – 3 световых минуты, а максимальное – 22 световых минуты…
А если мы отправим космический аппарат к Плутону, куда радиосигнал идёт 4 с половиной часа? При таких условиях обеспечить дистанционное управление с Земли не получится вообще. Космическому аппарату придётся самостоятельно распознавать препятствия, принимать решения – куда ехать, где бурить грунт и собирать образцы, какие участки поверхности фотографировать, какие из них интересны для науки, а какие – не очень, и так далее… То есть в данной ситуации нам нужен искусственный интеллект. Специалисты-кибернетики говорят, что потребность в искусственном интеллекте возникает, где требуются:

а) скорость;
б) безопасность;
в) массовость.

Со скоростью мы уже разобрались. С безопасностью тоже всё понятно (допустим, надо выполнять работы в условиях сильной радиации, на дне океана или в жерле действующего вулкана). Осталось понять, что же такое массовость?

Человек – существо очень умное, он способен решать самые сложные в мире задачи. Но может ли человек решать множество пусть не самых сложных задач одновременно? Наглядный пример – ошибки авиадиспетчеров. В ситуациях, когда нужно одновременно контролировать множество различных параметров, помощь искусственного интеллекта незаменима…

Умные машины – «против»

Но вот система распознавания изображений перепутала весёлую свадьбу в местной деревне с боевой колонной противника – и отдаёт приказ открыть огонь… (Такие случаи уже были.) Именно поэтому большинство учёных утверждают: разработка систем искусственного интеллекта ради комфорта, ради экономии денег, ради удобства должна быть строжайше запрещена! «Умная» машина, способная самостоятельно принимать решения, может и должна заменять человека там, где он не справляется. Но там, где человек вполне может справиться самостоятельно, машина заменять человека ни в коем случае не должна. Иначе рано или поздно жди беды…

Например, сейчас очень много разговоров идёт о беспилотных такси, управляемых компьютером с системой искусственного интеллекта. С одной стороны, вождение автомобиля – это типичная «многозадачность», с которой компьютер справляется лучше человека. Плюс компьютер – «экономически выгодный» водитель: ему не надо спать и есть, семьи у него нет, денег ему не надо платить ни копейки, всё, что заплатит пассажир, пойдёт в карман владельцу таксопарка… Но с другой стороны – а если произойдёт сбой в программе? Если управляющая система такого такси «зависнет»?

А вот другой пример: ещё каких-нибудь десять лет назад люди прекрасно умели ориентироваться в незнакомых местах с помощью карт, атласов, городских схем и планов. А сегодня из-за вошедших в быт систем спутниковой навигации это умение уходит, становится «эксклюзивным» – вроде умения добыть огонь трением или принять роды. Становится ли человек от этого «совершеннее»?..

Вывод: чтобы не становиться «рабом компьютера», достаточно использовать «цифровизацию» дифференцированно – только там, где это крайне необходимо. И не использовать ни для наживы, ни для комфорта, ни ради моды. Как вы думаете, кто-нибудь сегодня этому правилу следует? А если нет, то к какому результату мы движемся?

Источник

Публикация на Тelegra.ph

Подпишитесь на наш телеграм-канал https://t.me/history_eco.