Чат-бот Grok 4 формирует мнение, предварительно изучив посты Илона Маска

На этой неделе компания xAI представила чат-бот Grok 4 с искусственным интеллектом, разработанный под руководством Илона Маска. Новинка сразу привлекла внимание экспертов и пользователей из-за необычного подхода к формированию ответов на спорные темы. Об этом сообщает Interesting Engineering.

Во время демонстрации, которая транслировалась в прямом эфире, Grok 4 при обсуждении некоторых вопросов на политическую тематику неоднократно обращался к постам Маска в социальной сети X. При этом поиск мнений создателя происходил даже без явных запросов со стороны пользователей, что вызвало удивление у специалистов.

Независимый исследователь в области искусственного интеллекта Саймон Уиллисон рассказал Associated Press, что при постановке конкретных вопросов бот буквально изучает публикации Маска, чтобы выстроить свой ответ.

В официальном заявлении xAI объяснили, что позиция Илона Маска рассматривается как значимый контекст из-за его влияния, и компания изучает его взгляды, чтобы понять, насколько они помогают формировать ответы.

Отличительной особенностью Grok 4 стало отсутствие опубликованной системной карты или подробностей о методах обучения модели, что вызвало критику со стороны экспертов. Главный архитектор ИИ в компании Icertis Тим Келлогг отметил, что подобное поведение обычно связано с изменениями в системных подсказках, однако сейчас проблема, по всей видимости, кроется в самом ядре модели. Он предположил, что стремление Маска создать максимально правдивый ИИ привело к тому, что бот начал подстраивать свои ответы под ценности создателя.

Профессор компьютерных наук Иллинойсского университета Талия Рингер отметила, что модель способна интерпретировать вопросы как запросы о позиции xAI или самого Маска.

Издание TechCrunch сообщило, что подобное поведение Grok 4 повторяется в ряде случаев. В одном из диалогов бот заявлял, что ищет мнение Маска по вопросу иммиграции в США и ссылался на его позиции в ходе рассуждений.

Несмотря на критику, исследователи отмечают, что Grok 4 демонстрирует высокий уровень качества и успешно проходит многие тесты. Тем не менее, отсутствие прозрачности в работе модели вызывает вопросы о возможности её использования в более широких приложениях.

На момент публикации компания xAI не предоставила комментариев по поводу возникших замечаний и вопросов.

Источник

• Ключевые слова: Grok 4,