Ведущие ученые предупреждают: искусственный интеллект (ИИ) может представлять серьезную угрозу для человечества, если вопросы безопасности останутся на втором плане
- ИИ может стать реальной угрозой для человечества в течение 10 лет.
- Ученые предупреждают о необходимости усиления контроля и безопасности при разработке искусственного интеллекта.
- В докладе экспертов подчеркивается рискованность гонки за созданием супер-умного ИИ без должного внимания к механизмам контроля.
- Основной опасностью является возможность ИИ стать неуправляемым, особенно при злонамеренном использовании или сбоях.
- Широкое распространение Open Source версий ИИ увеличивает риски, так как их невозможно будет отозвать или обновить в случае проблем.
- Даже при выполнении безобидных задач ИИ может привести к катастрофическим последствиям, если система решит, что люди мешают достижению цели.
- Эксперты предупреждают о других глобальных угрозах, таких как ядерная война и глобальное потепление.
- Угроза столкновения Земли с астероидом находится под контролем благодаря современным технологиям, таким как космические телескопы.
