Ангелина Бржевская. Гонку за высокими технологиями назвали угрозой для человечества: утянет на дно

Профессор физики и исследователь ИИ в Массачусетском технологическом институте Макс Тегмарк призвал обратить внимание, что мир «наблюдает за гонкой на дно, которую нужно остановить». Он подписал открытое письмо, в котором призвал к шестимесячному перерыву в экспериментах с ИИ. Это обращение подписали тысячи деятелей технологической отрасли, включая Илона Маска и соучредителя Apple Стива Возняка. Главный аргумент учёных – мощные системы ИИ следует разрабатывать только тогда, когда будет уверенность, что их эффект будет положительным, а риски управляемыми. Тегмарк полагает, что бесконтрольное развитие фирм, использующих искусственный интеллект, создают угрозу для общества. Например, в прошлом месяце Amazon заявил, что инвестирует до 4 миллиардов долларов в Anthropic, стартап, который планирует собрать данные об облачных сервисах Amazon. Сделка Amazon-Anthropic рассматривается как важный шаг гиганта электронной коммерции, чтобы догнать Microsoft и Alphabet, являющихся лидерами в области разработки ИИ.
0
835

Профессор физики и исследователь ИИ в Массачусетском технологическом институте Макс Тегмарк выступил с предупреждением, что бесконтрольное развитие фирм, использующих искусственный интеллект, создают угрозу для будущего общества. В последние годы отмечается, что рост ИИ приобретает экспоненциальный характер.

Технологические компании ставят под угрозу будущее человечества из-за неконтролируемого развития искусственного интеллекта. Эксперт призвал 26 октября, что надо немедленно остановить «гонку на дно» и поставить на паузу все программы по созданию мощных систем ИИ.

Профессор Макс Тегмарк

В разговоре с The Guardian профессор Тегмарк призвал обратить внимание, что сейчас мир «наблюдает за гонкой на дно, которую нужно остановить». Тегмарк подписал открытое письмо, опубликованное в апреле 2023, в котором призвал к шестимесячному перерыву в гигантских экспериментах с ИИ. Это обращение подписали тысячи деятелей технологической отрасли, включая Илона Маска и соучредителя Apple Стива Возняка.

Илон Маск и Стив Возняк

«Нам срочно нужны стандарты безопасности ИИ, чтобы это превратилось в гонку на вершину. ИИ обещает много невероятных преимуществ, но безрассудное и неконтролируемое развитие все более мощных систем без надзора ставит под угрозу нашу экономику, наше общество и нашу жизнь. Регулирование имеет решающее значение для безопасных инноваций, чтобы горстка корпораций с искусственным интеллектом не ставила под угрозу наше общее будущее» — заявил Тегмарк в разговоре с британским изданием.

В документе 23 эксперта по ИИ, включая двух современных «крёстных отцов» технологии, призвали, что правительства должны позволить прекратить разработку будущих моделей. Главный аргумент учёных — мощные системы ИИ следует разрабатывать только тогда, когда будет уверенность, что их эффект будет положительным, а риски управляемыми.

Директор Института технологий и общества Шварца Рейсмана при Университете Торонто Джиллиан Хэдфилд раскрыла, что в течение следующих 18 месяцев будут построены модели ИИ, которые будут во много раз мощнее, чем те, которые уже работают.

Джиллиан Керелдена Хэдфилд

«Есть компании, которые планируют обучить модели с превышением количества вычислений в 100 раз, чем существует сейчас. И, по сути, нет никаких правил о том, что они смогут сделать с этими моделями», — предупреждает она.

Неограниченная разработка искусственного общего интеллекта — системы, которая может выполнять широкий спектр задач на уровне человеческого интеллекта или выше — является ключевой проблемой, которую призывают решить ученые и требуют жесткого регулирования и лицензирования правительств.

Почему же стоит контролировать развитие искусственного интеллекта? Появляется все больше и больше компаний, которые бесконтрольно могут «выпустить» ИИ в мир. В прошлом месяце Amazon заявил, что инвестирует до 4 миллиардов долларов в Anthropic, стартап, который планирует собрать данные об облачных сервисах Amazon. Сделка Amazon-Anthropic рассматривается как самый важный шаг гиганта электронной коммерции, чтобы догнать Microsoft и Alphabet, которые являются лидерами в области искусственного интеллекта.

Microsoft инвестировал 13 миллиардов долларов в OpenAI, создателя ультрапопулярного чат-бота ChatGPT и генератора изображений DALL-E 3, после первоначальных инвестиций в 1 миллиард долларов в 2019 году.

Компания Google не отстаёт от своих конкурентов и инвестировала 300 миллионов долларов в Anthropic и вложила ту же сумму в стартап AI Runway. Такой шаг компания сделала из-за того, что находится в процессе интеграции ИИ в свои самые популярных в мире программ: Google Search, Gmail, Google Maps, Google Docs.

«Мы видим, что это самый важный способ выполнить нашу миссию: организовать мировую информацию и сделать ее универсально доступной и полезной», — заявил исполнительный директор Alphabet Сундар Пичаи в феврале 2023.

Исполнительный директор Alphabet Сундар Пичаи

Эти цифры не являются всей суммой инвестиционного бума в области искусственного интеллекта. Goldman Sachs опубликовала в августе этого года отчет, в котором предсказывается, что к 2025 будут крупномасштабные преобразования бизнеса и общества с помощью генеративного ИИ и общее повышение глобальной производительности и ВВП.

Прорывы в этой области могут привести к радикальным изменениям в мировой экономике“, – говорится в отчёте.

Ожидается, что инвестиции в ИИ будут сосредоточены в четырех ключевых бизнес-сегментах: компании, которые обучают и разрабатывают модели ИИ; центры обработки данных для запуска приложений ИИ; компании, которые разрабатывают программное обеспечение для запуска приложений с поддержкой ИИ; корпоративные конечные пользователи, которые платят за это программное обеспечение и услуги облачной инфраструктуры.

Согласно данным, собранным для Bloomberg фирмой по обработке данных PitchBook, инвестиционный бум сравнивается с падением финансирования технологических стартапов на 31% по всему миру за тот же период времени.

Ранее во вторник, 24 октября, глава Google DeepMind Демис Хассабис призывал к удвоенному регулирования, чтобы подавить опасения по поводу технологий с уровнем интеллекта выше человеческого.

Глава Google DeepMind Демис Хассабис

Хассабис утверждает, что мир должен немедленно действовать в ответ на опасность технологии, которые включают в себя помощь в создании суперинтеллектуальными системами биологического оружия.

«Мы должны относиться к рискам ИИ так же серьезно, как и к другим крупным глобальным проблемам, таким как изменение климата. Международному сообществу потребовалось слишком много времени, чтобы скоординировать эффективный глобальный ответ на это, и сейчас мы живем с последствиями этого. Мы не можем позволить себе такую же задержку», — обратился к техническому сообществу исполнительный директор подразделения искусственного интеллекта.

Источник

Публикация на Тelegra.ph

Подпишитесь на наш телеграм-канал https://t.me/history_eco.

  • Ангелина Бржевская,гонку,за высокими технологиями,назвали угрозой,для человечества

Leave a reply

Авторизация
*
*
Регистрация
*
*
*
Пароль не введен
*