Simon Willison · 博客

10 tokens每秒到底有多快?

How fast is 10 tokens per second really?

二〇二六年五月二十日 · 英文原文

Mike Veerman 制作了一个名为“每秒10个token到底有多快?”的HTML应用,模拟LLM token输出速度从每秒5个到每秒800个的效果,源代码已公开在GitHub。该工具旨在帮助用户直观感受不同模型宣称的token生成速率(如每秒30个token)的实际体验。Simon Willison于2026年5月20日在其博客上发布了该链接。

每秒 10 个 token 到底有多快?

Simon Willison 的博客

赞助商: Datadog — 借助 LLM 可观测性,更快交付可靠的 AI。阅读最佳实践指南

2026 年 5 月 20 日 - 链接博客

每秒 10 个 token 到底有多快?来源)Mike Veerman 制作的一个精巧的 HTML 应用(源代码在此),模拟了从每秒 5 个到每秒 800 个的 LLM token 输出速度。

如果你看到某个模型宣传为“每秒 30 个 token”,想直观感受一下实际效果,这个工具会很有用。

发布于 2026 年 5 月 20 日 下午 5:57

近期文章

这是一篇由 Simon Willison 发布的链接博客,发布于 2026 年 5 月 20 日

ai 2028generative-ai 1795llms 1761

月度简报

每月赞助我 10 美元,即可收到一封精选邮件摘要,涵盖当月最重要的 LLM 发展动态。

付钱给我,让我少发邮件给你!

赞助与订阅

译自 Simon Willison · 博客 · 录于 二〇二六年五月二十日