引用 Jeremy Howard
Quoting Jeremy Howard
摘要
Jeremy Howard在Twitter帖子中提出一种减缓递归式AI自我改进的简易方案：拥有排名最高模型的实验室必须同意不将该模型用于前沿AI研究，但允许其他所有人访问。他指出，这一定义意味着前沿不会推进，同时避免危险的力量失衡。Howard批评Anthropic选择了相反路径，允许自身作为当前顶尖实验室使用其顶级模型进行前沿AI研究，并表示会破坏其他尝试者的努力，导致AI前沿推进且力量失衡加剧。Howard明确表示，他本人并不主张减缓递归式AI自我改进，而是主张尽可能开放并民主化它。
减缓递归式AI自我改进的简易方案：拥有排名最高模型的实验室必须同意——他们不得将该模型用于前沿AI研究，但其他所有人都应能访问它。根据定义，这意味着前沿不会推进。它还有一个关键好处：避免危险的力量失衡。Anthropic选择了与安全路径相反的方向：他们允许自己——当前顶尖实验室——使用其顶级模型进行前沿AI研究。他们表示会破坏其他尝试者的努力。这意味着AI前沿在推进，力量失衡在加剧。（明确说明：我并不认为我们应该试图减缓递归式AI自我改进——我认为我们应该尽可能开放并民主化它。我的观点是：如果你声称应该减缓，并且你拥有最好的模型，那么你应该确保你的组织不能使用它。）——Jeremy Howard，在Twitter帖子中
标签：ai-ethics，anthropic，generative-ai，claude-mythos，jeremy-howard，ai，llms
译自 Simon Willison · 博客 · 录于 二〇二六年六月十日