引用Jakub Pachocki
Quoting Jakub Pachocki
摘要
OpenAI首席科学家Jakub Pachocki表示，支持快速训练更智能模型的最有力论据是构建防御系统以应对其他AI带来的危险。他认为需开发强大且对齐的AI用于防御，保护基础设施并实时防范恶意代理，这将是OpenAI部署工作的主要焦点。同时他强调，即使考虑AI进展的不确定性和防御需求，也不能以此为由鲁莽行事，不计代价竞速前进的想法荒谬。
我看到的支持继续快速训练更智能模型的最有力论据，是构建防御系统以应对其他AI带来的危险。我们需要强大且对齐的AI用于防御；保护基础设施，实时防范恶意代理，并发明全新的防护措施。这将是OpenAI部署工作的主要焦点。同时，即使考虑到预期中广泛AI进展带来的不确定性以及构建防御系统的需求，我们也不能让这成为鲁莽行事的借口。一旦真正意识到事态的严重性，不计代价地竞速前进的想法就显得荒谬。——Jakub Pachocki，OpenAI首席科学家
标签：ai-ethics，openai，ai
译自 Simon Willison · 博客 · 录于 二〇二六年九月七日