Надо замедлить разработку ИИ

На протяжении большей части истории искусственного интеллекта люди контролировали каждый этап его развития. Но в Anthropic мы все больше делегируем разработку ИИ самим системам искусственного интеллекта, что ускоряет нашу работу.

При достаточном количестве вычислительных ресурсов эта тенденция приведет к созданию системы искусственного интеллекта, способной полностью автономно проектировать и разрабатывать своего преемника. Это называется рекурсивным самосовершенствованием. Мы еще не достигли этой стадии, и рекурсивное самосовершенствование не является неизбежным. Но это может произойти раньше, чем большинство организаций будут к этому готовы.

Используя общедоступные показатели и ранее не публиковавшиеся данные компании Anthropic, The Anthropic Institute показывает, что искусственный интеллект уже ускоряет разработку ИИ-систем. Вот лишь один пример: сегодня инженеры Anthropic в среднем выпускают в 8 раз больше кода за квартал, чем в период с 2021 по 2025 год.

Технические тенденции, о которых говорится в этой статье, позволяют предположить, что в ближайшие годы системы искусственного интеллекта станут гораздо более функциональными. Эти тенденции имеют огромное значение. Искусственный интеллект, способный к саморазвитию, станет важнейшим достижением в истории технологий, которое может принести огромную пользу миру в области науки, здравоохранения и других сферах. Но полное рекурсивное самосовершенствование также может повысить риск потери контроля над системами искусственного интеллекта со стороны человека. Если системы способны полностью создавать своих собственных преемников, то способы, которыми мы их защищаем, контролируем и формируем их поведение, становятся гораздо более важными.

Ранее «Антропик» отличили от подрядов Пентагона, так как компания хотела закладывать ограничения на использование ИИ, а Пентагон это не устраивало, поэтому приоритет получил «Палантир», который был на все согласен и руководство которого получила звания в армии США.
Разумеется, джин уже выпущен из бутылки и ограничить его уже не выйдет. Жадность IT-корпораций и стремление быстро внедрить ИИ в индустрию уничтожения людей не допустят существенных ограничений.

Источник

• Ключевые слова: Надо замедлить, разработку ИИ,