Тема: Безопасность ИИ

Увольнение исследователя безопасности Джейкоба Коксона из американской лаборатории Anthropic спровоцировало масштабную дискуссию об экзистенциальных угрозах искусственного интеллекта. Несколько ведущих специалистов компании, включая руководителя направления по сонаправлению моделей Эвана Хубингера, публично согласились с тем, что бесконтрольное создание сверхразума представляет реальную угрозу для выживания человечества уже в ближайшие годы.