Ученые предупредили о риске вымирания человечества из-за ИИ к 2100 году

Человечество может вымереть к 2100 году из-за злонамеренного использования ИИ или ядерного конфликта, считают ученые из комиссии журнала Lancet по глобальным угрозам здоровью XXI века.

«Злонамеренное использование ИИ, включая биологическое оружие, и ядерный конфликт с ядерным голодом несут в себе риск вымирания в ближайшие 75 лет», — сказано в докладе.

При этом ученые отмечают, что подобные сценарии развития будущего «несут в себе высокую степень неопределенности», однако обширные политические дискуссии и их потенциальная масштабность требуют их включения в анализ.

Всего эксперты выделяют три основных направления рисков, когда ИИ может угрожать человечеству, — первым является случай, когда ИИ используется для разработки биологического оружия. Вторым они называют интеграцию ИИ в критически важную социальную инфраструктуру, что может привести к созданию массовых «политических дипфейков», использованию ИИ в качестве инструмента для шантажа, автономного ядерного оружия и другим проблемам. Последним направлением специалисты называют потерю контроля в результате появления общего ИИ-интеллекта, что может лишить человечество контроля или привести к его вымиранию

Источник