В 2024-м закончились данные для обучения ИИ. Технологическая сингулярность отменяется?

Американский миллиардер Илон Маск и бывший главный научный сотрудник OpenAI Илья Суцкевер заявили, что у компаний, занимающихся искусственным интеллектом, закончились данные для обучения генеративных моделей.

«Мы уже практически исчерпали совокупный объем человеческих знаний <…> в области обучения ИИ. И это произошло в прошлом году», — заявил Маск в разговоре с председателем компании Stagwell Марком Пенном в соцсети X.

Эти слова прозвучали всего через несколько дней после того, как Суцкевер, который помогал создавать ChatGPT, рассказал на ежегодном мероприятии Neurips, что компании достигли пика данных — и больше их не будет.

Если это правда, значит, восполнить дефицит можно с помощью синтетических данных, то есть контента, который производят сами генеративные модели ИИ. Однако этот способ далек от идеала.

Исследователи из Стэнфордского университета и Университета Райса ранее обнаружили, что модели, обучаемые на данных, сгенерированных ИИ, будь то тексты или изображения, имеют тенденцию «сходить с ума» после пяти циклов обучения.

В ноябре прошлого года выяснилось, что OpenAI испытывает трудности со своей новой моделью Orion: она оказалась не такой продвинутой, как надеялись в компании. Аналогично новейшая версия Gemini от Google стала не намного лучше предыдущей. В то же время Anthropic вообще отложила выпуск своей модели Claude.

Ранее Маск и руководитель OpenAI Сэм Альтман заявляли, что ИИ близок к тому, чтобы превзойти интеллектуальные способности отдельно взятого человека, а потом и интеллект всех людей, вместе взятых.

Текст: А. Кирсанова

Источник

Еще по теме:

Маск уверен, что технологическая сингулярность будет достигнута к 2030 году

• Ключевые слова: закончились,обучен,