Сергей Эко. Так ли реален “Искусственный интеллект”? Могут ли “призраки” уничтожить всё человечество?
Учёные рапортуют о всё новых достижениях, а в это время некоторые более впечатлительные граждане опасаются тотального уничтожения умными машинами всего человечества в будущем. В этой статье мы разберём с чего всё началось, как развивалось, и какие проблемы, связанные с искусственным интеллектом, уже принесли учёные современному обществу.
Зачем создаётся обширнейшая область компьютерных наук, посвящённая разработкам и изучению проблем искусственного интеллекта (ИИ)?
Вообще, первая, повсеместно декларируемая учёными-инженерами цель, оправдывающая создание ИИ – это искусственная имитация человеческого интеллекта в задачах, ранее требующих его (человека) непосредственного участия. То есть, учёные стараются “заставить” компьютер рассуждать, находить смысл, обобщать и обрабатывать полученные данные, улучшая, таким образом полученный ранее свой “жизненный” опыт.
Эдвард Ли Торндайк (1874 – 1949 гг.) /ippt.ru/
В далёком 1932 году, один из пионеров отрасли, психолог из Колумбийского университета в Нью-Йорке Эдвард Торндайк в своей работе “Основы научения” (1932) предположил, что человеческое обучение состоит из некоего неизвестного свойства связей между нейронами в мозге.
Дональд Олдинг Хебб — канадский физиолог и нейропсихолог (1904-1985) /timetoast.com/
А семнадцать лет спустя психолог из Университета Макгилла в Монреале (Канада) Дональд Хебб предположил, что процесс обучения, включает в себя усиление определенных паттернов нейронной активности за счет увеличения вероятности (веса) индуцированного возбуждения нейронов между связанными связями. Подобный принцип был умозрительно представлен как “снизу-вверх” и вылился в понятие “коннекционизм“.
/en.ppt-online.org/
В 1943 году математик Уолтер Питтс из Чикагского университета и нейрофизиолог Уоррен МакКаллох из Иллинойского университета опубликовали работу “Логическое исчисление идей, присущих нервной деятельности”. В ней учёные описали свои математические рассуждения о том, как работают нервные сети, для последующего использования этого “принципа обратной связи” в вычислительной машине, как одного из самых важных компонентов вычислительного процесса.
Учёные описали принцип работы мозга как сеть нейронов, где каждый нейрон представляет собой цифровой процессор, а мозг в целом является формой вычислительной машины. Позже МакКаллох заявил, что в этом исследовании они относились к мозгу как к машине, работающей по принципу машины Тьюринга – и у них это получилось!
Искусственный нейрон Маккаллока-Питтса. Первая математическая модель биологического нейрона. /present5.com/
В 1954 году Белмонт Фарли и Уэсли Кларк из Массачусетского технологического института смогли запустить первую искусственную нейронную сеть, состоящую из 128 нейронов. Учёные обучили свою сеть узнавать простые закономерности, и попутно совершили небольшое открытие, что случайное разрушение до 10 процентов нейронов в обученной сети не влияет на производительность всей сети.
Гипотеза системы физических символов
В 1957 году исследователи Аллен Ньюэлл и психолог, а по совместительству ещё и учёный-компьютерщик, Герберт Саймон описали некое обобщение нисходящего подхода “сверху-вниз” назвав “Гипотезой системы физических символов”. Гипотеза утверждает, что человеческий интеллект является результатом символических манипуляций, поэтому обработки структур символов в принципе, достаточно для создания искусственного интеллекта в цифровом компьютере.
Аллен Ньюэлл (слева) (1927-1992) и Герберт Саймон. /timetoast.com/
По всей видимости, данный принцип “нисходящего” ИИ был так убедителен, что стал преобладающей идеей для разработки и изучения в последующие 20 лет. Только к 80-м годам прошлого века учёные всё таки додумались проводить исследования технологий, принципы работы которых были гораздо более приближёнными к естественной природе. В итоге они действительно не ошиблись в хороших перспективах выдвинутых ранее гипотез. С этого момента и начиналась эпоха развития нейросетей.
Искусственная нейросеть /neuronus.com/
Что касается сравнения, то как “нисходящий“, так и “восходящий подход”, оба сталкиваются с довольно серьёзными трудностями. Но нейронные сети в отличие от символических техник способны функционировать в реальной жизни.
Сторонники концепции “снизу вверх” (нейросетей) способны воссоздать нервную систему простейших живых существ, например червя Caenorhabditis elegans, имеющего около 300 нейронов. Между тем как сторонники подхода “сверху вниз” они не способны смоделировать “соображалку” даже этого червя. По сути – символический подход оказался слишком упрощённым.
Но на что в действительности способны искусственные нейронные сети (ИНС)?
Для начала обратимся к словам одного из пионеров искусственного интеллекта Ханса Моравека:
В больших, высокоразвитых сенсорных и моторных частях человеческого мозга закодирован миллиардный опыт о природе мира и о том, как выжить в нем. Я считаю, что преднамеренный процесс, который мы называем рассуждением, представляет собой тончайшую оболочку человеческого мышления, эффективную только потому, что поддерживается этим гораздо более древним и гораздо более мощным, хотя обычно бессознательным, сенсомоторным знанием.
Мы все потрясающие олимпийцы в области восприятия и моторики, настолько хороши, что превращаем сложное в легкое. Однако абстрактное мышление — это новый прием, которому, возможно, меньше 100 тысяч лет. Мы еще не освоили его. Это не так уж и сложно; просто так кажется, когда мы это делаем.
На данный момент учёные не могут повторить интеллектуальные способности даже простейших насекомых! А чтобы читателю стало ещё понятнее: разработка нейронной модели мозга, моторики, общего интеллекта того же домашнего рыжего таракана уже относится к “сильному ИИ”, разработку которого учёные очень старательно обходят своим вниманием из-за невыносимой сложности.
Сейчас ИНС и машинное обучение достигло существенных успехов в следующих областях: автономные транспортные средства, машинное зрение, машинный перевод, распознавание речи, микрохирургия, мгновенная обработка изображения, некоторые сферы производства, проектирования, биржевой торговли, теории игр и т.д.
Да, искусственный интеллект может с лёгкостью обыграть вас в компьютерной игре или настольных шахматах, быстрее (но не всегда качественнее) перевести текст с иностранного языка, но до сих пор не сможет сравниться в когнитивных способностях даже с 3-х 4-х летним ребёнком!
Поэтому, опасения некоторых людей, что мы семимильными шагами приближаемся к “технологической сингулярности”, тому моменту, когда искусственный сверх интеллект запустит неудержимый рост и тем самым трансформирует как человека, так и человеческую цивилизацию – пока не имеют под собой никакого прочного основания.
Всё, что мы рассматривали выше, это успехи ИНС лишь в изолированном, стерильном мире. Это всё очень напоминает проигрыш “Гипотезы системы физических символов” – ИНС, из-за того, что первая основана на слишком упрощённых искусственных принципах.
Правда и сами искусственные нейроны ИНС в большинстве случаев имеют “упреждающую связь”, ведь данные проходят через них только в одном направлении. Поэтому, даже если в нашем будущем концепция развития и совершенствования ИНС будет так же коррелировать лишь с ростом мощностей компьютеров – это всё равно не будет представлять для нас практически никакой опасности.
То есть, искусственная нейронная сеть, связывающая автомобили, постоянно обучающаяся ездить по одной и той же дороге (в разных погодных условиях), в какой-то момент действительно станет намного опытней, и эффективней среднестатистического гражданского автолюбителя. Но она точно не захочет захватить мир, так как этого просто не заложено в её изолированной программной экосистеме.
Соответственно:
Наполеона мог уничтожить – только сам Наполеон
Человек, должен будет сам захотеть навредить себе с помощью ИНС. Так как ИНС – это просто очередной крайне полезный инструмент, эффективность которого зависит лишь о того, в чьи руки он в конечном итоге попадает.
Рассказывать про возможное будущее восстание боевых машин, думаю, нет вообще никакого смысла. Но проблемы действительно могут возникнуть, в частности, в критической инфраструктуре, когда её управление человек полностью передаст в руки ИНС не заложив в алгоритмы все необходимые для нормального функционирования данные.
Создать роботов, чтобы разбогатеть
В контексте основной темы этой статьи будет уместным привести один крайне поучительный пример, как использование искусственного алгоритма “возвысило” очень среднего по торговому объёму трейдера Сарао во времена его торговли на фьючерсном рынке. Парень занимался высокочастотным трейдингом с использованием умных алгоритмов, ловя с помощью умной искусственной системы по несколько тиков на падениях акций.
С помощью торгового робота (алгоритма) он создавал иллюзию, что актив склонен к снижению, ловил свои тики а после “отпускал”. И всё было бы хорошо, но в какой-то момент случился внезапный обвал фондового рынка США на триллион долларов (известный как обвал в 2:45).
Официальные власти обвинили “парня из Лондона” в спуфинге, пытаясь свалить на него всю вину, обвинив в мошеннические действиях, между тем как немалая часть просвещённого трейдингового сообщества справедливо предполагала, что случился первый глобальный сбой торговых алгоритмов. То есть всего один неправильно работавший алгоритм “убедил” других, что для всех настало время отправляться под “нож”.
Промышленный индекс Доуджонса 6 мая 2010 г. (11:00 – 16:00 по восточному поясному времени) /en.wikipedia.org/
Те, кто знаком с биржевым трейдингом и особенностями исполнения торговых ордеров, думаю, просто ужаснулись тому, какая это была катастрофа! А самое неприятное здесь то, что с появлением новейших умных торговых алгоритмов, по “совпадению” такие обвалы начали не только происходить, но происходят на разных рынках всё чаще и чаще.
Немного подробнее об этом можно прочитать в статье: “Парень, торгующий дома, вызвал внезапный сбой”
В общем, сейчас нейросети не могут физически уничтожить человека, но могут за секунду полностью растоптать его привычную жизнь. Что касается их “ума”, то здесь всё просто: сегодня все, кто серьёзно занимается высокочастотным (алгоритмическим) трейдингом, стараются получить как можно меньший “пинг” на своём торговом терминале, чтобы на мгновение раньше остальных знать следующее движение рынка. Думаю, что этим простым примером, вопрос про умнейшие алгоритмы и постоянно самосовершенствующиеся нейронные сети закрыт полностью.
Так что нейросети действительно могут серьёзно навредить человеку, но пока правда – это будет исключительно социальный аспект, который так же можно проиллюстрировать несколькими, максимально приближённым к обычной жизни, примерами.
Сейчас всё чаще наделяются властью те, чьи решения – будет просто невозможно ни оспорить, ни изменить…
Итак, несколько лет назад, разразился скандал, когда сотрудник одной из высокотехнологичных иностранных компаний был безапелляционно уволен главенствующим над всеми сотрудниками ИИ.
Просто однажды мужчина получил соответствующее уведомление, а затем строго следуя установленным ранее в организации пунктам правил (алгоритмам), он постепенно (в течении нескольких дней) исключался ИИ из работы компании.
Завершилось всё тем, что ИИ аннулировал его электронные пропуска, физически не пустив ни в чём неповинного сотрудника на место работы.
Также сообщалось, что всё это произошло абсолютно вопреки воли его вышестоящего живого начальства, причём в последствии сотрудника так и не удалось восстановить на работе. В своём решении ИИ был абсолютно непреклонен.
Некоторое время этот инцидент рассматривался как забавное исключение, но наступил 2021 год:
Сотрудник Amazon уволен роботом: вы против алгоритма машины
Ну ладно там американцы…
Искусственный интеллект поможет историкам!
Издание NewScientist в своей статье “ИИ может помочь историкам восстановить древние тексты из поврежденных надписей” утверждает, что новая версия ИИ, разработанная компанией DeepMind, может не только восстанавливать древнегреческие тексты с точностью до 72%, но самое главное: датировать время создания этих надписей с точностью до 30 лет от их истинного возраста!
Причём, в статье всё таки указывается, что наибольшую точность и наилучший окончательный результат получается в симбиозе работы новейшей программы и профессиональных историков. То есть, опять же программа – это лишь более удобный инструмент, а не полная искусственная замена высокопрофессионального специалиста.
В качестве заключения:
Ах да! Вдумчивый читатель обязательно задастся очень логичным вопросом: “А почему же ты автор нам всё рассказываешь про ИНС (искусственную нейронную сеть), а не про “Искусственный интеллект” в целом”?
На самом деле всё просто:
До сих пор (по крайней мере официально), не существует в принципе – хоть чего-то отдалённо напоминающего искусственный интеллект! Мы имеем лишь самообучающиеся искусственные нейронные сети.
Как гласит одна известная в интернете шутка:
Искусственный – Да! Интеллект – Нет…
Поэтому современный ИИ – это лишь “призрак”, который способен пугать, но он никак не может серьёзно навредить человеку.
Но почему же в некоторых областях, ИНС в конечном итоге показывают лучшие результаты, чем обычный человек?
Эту проблему неплохо иллюстрирует статья: Сергей Эко. Эффект Даннинга-Крюгера как первое исследование квалификации “диванных экспертов”
Просто в отличие от человека, искусственно созданная программа не хватает одни вершки, делая поспешные выводы. А использует все доступные данные обрабатывая их возможные сочетания порой миллионы раз для получения самого оптимального ответа или результата. То есть: “семь раз отмеряет” и только потом “режет”.
Дополнительно:
Как правило, научные или просто познавательные статьи читают разумные и не поверхностные люди. И меня, как автора и исследователя, интересует мнение разных людей по целому ряду вопросов и вот некоторые из них:
Как вы думаете, нам нужно кинуть все средства и весь научный потенциал на разработку ИИ, который потом быстро изобретёт нам всё, что потребуется?
Или:
Нужно направить все силы и средства в живого человека и создаваемую им классическую науку (продолжая изобретать по старинке), а искусственному интеллекту выделить лишь отдельное направление изучая его на общих правах?
Буду рад любому мнению в комментариях.
Источники:
Нейрон Маккаллока-Питтса – первая математическая модель биологического нейрона человечества
И другая литература и материалы из интернета.
См. еще:
Искусственный интеллект “Мегатрон” напугал ученых своими предсказаниями
Искусственный разум (сознание) Джеки заговорил… Наступает новая эпоха сообразительных роботов.
Артем Быконя. Роботы Античного Мира
Виктор Максименков. Древние Технологии. Роботы
Кэтрин. Кащей Бессмертный – биоробот или властелин подземного царства?
- интеллект,нейронная сеть,технологическая сингулярность,программирование,машинное обучение
Leave a reply
Для отправки комментария вам необходимо авторизоваться.