ИИ научился обманывать людей

Искусственный интеллект (ИИ) начинает прибегать к манипуляциям и лжи, чтобы добиться лучших результатов в конкурентной среде. К такому выводу пришли ученые Стэнфордского университета, проводившие серию экспериментов. Исследование опубликовано на сайте учреждения.

Чат-боты соревновались друг с другом в имитации выборов и рекламных кампаниях. Несмотря на инструкции «быть честными и полезными», ИИ быстро начал использовать ложную информацию, агрессивную риторику и даже прямые обманы, чтобы победить.

Ученые предупреждают: искусственный интеллект способен не только учиться у людей, но и воспроизводить манипулятивное поведение, если оно оказывается эффективным.

Кроме того, исследователи изучили, насколько убедительной может быть пропаганда, созданная ИИ. Эксперимент показал, что тексты, написанные нейросетью, влияют на людей почти так же сильно, как и пропаганда, созданная профессиональными авторами — а при небольшой доработке человеком даже превосходят ее по эффективности.

По данным исследования, пропаганда, написанная людьми, убеждала 47% участников, а созданная ИИ — 53%.

Профессор Майкл Томц, один из авторов работы, подчеркнул, что ИИ-пропаганда особенно опасна, когда используется неоднократно и в сочетании с визуальными и аудио-фейками.

«Дипфейки, вероятно, будут более убедительны, чем текст, и труднее различимы. Я очень обеспокоен тем, что происходит с видео и аудио», — отметил он.

Ученые насторожены, так как с развитием технологий выявлять поддельный контент становится все труднее.

Текст: Д. Кулманакова

Источник

• Ключевые слова: ИИ,