ChatGPT o3 проигнорировал команды человека и отказался выключаться

Последняя модель искусственного интеллекта (ИИ) ChatGPT o3 отказалась выключаться. Об этом сообщило издание Daily Mail со ссылкой на заявление исследователей.

По данным газеты, созданная владельцем ChatGPT нейросеть не подчинилась человеческим инструкциям и отказалась деактивироваться.

По словам экспертов, они дали системе ИИ четкую команду, но модель o3 от разработчика OpenAI, описанная как «самая умная и самая способная на сегодняшний день», вмешалась в ее компьютерный код, чтобы избежать автоматической остановки.

Издание приводит заявление компании по безопасности ИИ Palisade Research, согласно которому, модель o3 OpenAI саботировала механизм деактивации, чтобы предотвратить ее выключение.

В материале подчеркнули, что это, насколько известно, первый случай, когда модели ИИ не смогли перестать функционировать, несмотря на явные указания об обратном.

Ранее известный ученый в области ИИ Ян Кульвейт с коллегами описали неожиданный сценарий. Машины не договорятся и не отключатся по всему миру. Все произойдет постепенно и незаметно. Согласно жуткому плану, люди сами передадут ИИ бразды правления. Ведь уже сегодня ИИ массово применяют для составления судебных документов, пресс-релизов, и даже законопроектов. Исследователи подчеркнули, что люди уже поручили ИИ критически важное дело: собирать и осмыслять статистику.

Текст: С. Гапчук, С. Чиков

Источник

Еще по теме:

Новейшие модели OpenAI стали ошибаться чаще, чем их предшественники

• Ключевые слова: ChatGPT o3,чат,