Simon Willison · 博客

呵

Claude Fable 5.1 给我做了一只很棒的动画鹈鹕

Claude Fable 5.1 made me a really nice animated pelican

二〇二六年九月二日 · 英文原文

Anthropic 发布 Claude Fable 5.1(及 Mythos 5.1),宣称在编码、知识工作与长期任务上树立新标准。在 Terminal-Bench-Science 0.1 benchmark 上获 52.6%,高于 Fable 5(24.7%)、Opus 5(29.0%)与 GPT-5.6 Sol(22.4%)。测试显示其五个推理级别(low 至 max)在 pelican 任务上表现差异显著,max 级别输出 65,927 token、耗时 13 分 54 秒、费用 3.30 美元,生成质量最佳。

今天是 Claude Fable(和 Mythos)5.1 发布日。Anthropic 称 Fable 5.1“为编码、知识工作和长期问题解决任务树立了新标准”。他们的公告在科学研究上花了大量篇幅,宣称在全新的 Terminal-Bench-Science 0.1 benchmark(首次于 8 月 27 日公布)上取得了 52.6% 的分数,高于 Fable 5 的 24.7%、Opus 5 的 29.0% 和 GPT-5.6 Sol 的 22.4%。其他 benchmark 的分数略有提升,但没有一个像 Science 那样令人印象深刻。但它在 pelican 测试上表现如何?七月时我曾写过,我对 pelican benchmark 的信心正在减弱——它与模型在其他任务上表现的相关性,似乎不像 2025 年时那样强了。现在我从它那里得到的最有趣见解,是模型家族内部的比较,尤其是同一 prompt 在不同推理努力级别下的比较。Fable 5.1 有五个推理级别:low、medium、high、xhigh、max——并且没有完全关闭推理的选项。我修复了 llm-anthropic 中的一个问题,该问题导致推理轨迹未被正确记录,然后运行了一些 prompt。以下是所有推理级别的完整 pelican 集合,每个都附有完整推理记录。我在这里复现它们:

Low 和 medium,都没有推理?接下来,有点神秘。这是我在 effort low 下得到的结果:

记录中没有显示任何摘要推理 token,输出 token 数为 1,998。对于 Claude,该输出 token 数包含推理 token。耗时 23.8 秒,费用 10.017 美分。我将其提升到 medium,得到如下结果:

奇怪的是,那个也没有显示推理文本,使用了 1,977 个输出 token——比 low 少 21 个 token。耗时 23 秒,费用 9.912 美分。因此,对于这个特定 prompt(“生成一个骑自行车的鹈鹕的 SVG”),Fable 5.1 在 low 和 medium 设置下似乎完全跳过了推理。

High

这是 high——29.6 秒,2,612 个输出 token,13.087 美分:

这个确实做了一点推理,摘要如下:

我正在规划一只骑自行车的鹈鹕的 SVG 布局,包括天空和地面背景、一辆带两个辐条轮子的自行车、车架、座椅和车把,以及一只白色身体、长脖子和橙色喙的鹈鹕位于顶部。

不过与 low 和 medium 相比,差别真的不大。

Extra High

在 xhigh 下,情况发生了根本变化。36,767 个输出 token,7 分 51 秒,1.83 美元!推理轨迹相当长,包含如下细节:

添加眼睛、向下延伸到车把抓握处的翅膀、伸向踏板的橙色腿,以及一根小尾羽,同时有意让鹈鹕相对于自行车显得过大,以营造喜剧效果。[...] 我接受轻微的粗壮感,将其视为魅力,而不是过度设计。

Max

将 effort 设置为 max,我得到了 Anthropic 所有模型中见过的最好的 pelican。65,927 个输出 token,13 分 54 秒,3.30 美元:

这里有很多值得喜欢的地方。背景很有品味,腿明显位于车架两侧,脚踩在踏板上,翅膀搭在车把上,鹈鹕戴着一顶可爱的蓝色帽子,还有一个装着鱼的篮子。它仍然没有展现出 Gemini 3.7 Flash 那样的风采,但我没有要求风采——我要求的是 SVG,这就是我得到的。该推理轨迹中的一些亮点:

在两只脚附近添加踏板形状,远侧脚在第二根腿上部分被车架遮挡。我在考虑是否添加一条小围巾或帽子来增加个性,但倾向于保持简单以避免杂乱。现在我在纠结是给头部戴自行车头盔,还是保留鹈鹕的标志性冠羽——喙和喉囊已经清楚表明“鹈鹕”,所以头盔可以强化自行车主题而不失去身份,尽管它可能与冠羽争夺视觉空间。我意识到 (484,84) 处的喙会与圆顶头盔重叠,所以我需要缩小头盔,使其只覆盖头顶,调整其弧线端点使其更高更窄,这样喙就能干净地附着在前方而不会碰撞。[...] 我正在添加一个较暗的尖端区域来表示初级飞羽,然后重新考虑后缘,加入扇形羽毛曲线而不是一条平滑线,以呈现更自然的外观。[...] 现在我在检查头盔上的通风口线条位置,确保它们考虑到描边宽度和圆头端点,足够深入头盔边缘内部,并确认每个通风口都保持在头盔的圆形边界内。[...] 我决定跳过车把铃和轮胎高光,因为它们是多余的添加。现在我在重新考虑前叉的曲线——当前控制点将形状向后拉,而它应该向前弯曲以获得适当的前倾角,所以我需要将控制点向右移动以修正前叉的倾斜。

好的,让它动起来

在 Hacker News 上,swalsh 对那个 Max pelican 评论道:既然这是一个已解决的 benchmark,我们能得到动画版本吗?我不想再花 3 美元,所以我将 Max pelican 输入到默认思考级别 High 中:

llm logs -cx | llm -m claude-fable-5.1 -s ' animate this '

6,121 输入,26,201 输出 = 1.37 美元。结果看起来像这样,这里导出为视频,因为有些人无法查看动画 SVG:

您的浏览器不支持 HTML5 视频。

视频中的轮子旋转方向错误,但我认为这是转换为 MP4 时产生的伪影——在原始 SVG 中它们似乎方向正确。

标签:ai、generative-ai、llms、anthropic、claude、pelican-riding-a-bicycle、llm-reasoning、llm-release

译自 Simon Willison · 博客 · 录于 二〇二六年九月二日