録
议 词 历二〇二六年八月二十六日 · 最近 24 小时收录 12 篇 · 3 条主线
AI算力集中化
-
Dylan Patel：到2028年，Anthropic与OpenAI将拥有全球大部分算力
Semi Analysis创始人Dylan Patel在播客中讨论AI算力集中化趋势。2025年全球资本支出超1万亿美元，预计2028年超2万亿美元。OpenAI和Anthropic今年新增算力占比约30%，明年将达40%-50%，2028年底合计或超100吉瓦。两家实验室已开始盈利，Anthropic每兆瓦收入达5000万美元。中国2028年AI算力预计约30吉瓦，2029年新增可达50吉瓦。
读全文 → -
Jalapeño首批结果展示AI推理领域行业领先的速度与效率
OpenAI 推出定制推理芯片 Jalapeño，旨在为现代模型提供更快、更节能的 AI 推理，实现更高吞吐量与更低延迟。该芯片针对推理场景优化，具体性能数据未披露。
读全文 →
LLM推理优化
-
NVIDIA Dynamo 影子引擎恢复：数秒内恢复 LLM 推理能力
NVIDIA Dynamo 预览功能引入影子引擎恢复机制，用于处理 LLM 引擎进程故障。传统冷重启需从存储加载权重至 HBM、编译内核并捕获 NVIDIA CUDA 图，大型模型初始化耗时数分钟，期间幸存 worker 需承接转移流量。影子引擎恢复通过预先启动备用引擎缩短恢复时间，减少服务中断窗口。
读全文 → -
vLLM 中基于 Ray Direct Transport (RDT) 的大规模分片权重迁移
在vLLM中实现原生分片权重传输引擎，基于Ray Direct Transport（RDT），在48个8xH100节点上以BF16格式完成Kimi K2模型权重传输，耗时7.53秒。
读全文 →
LLM评估实践
-
如何在生产前评估LLM
GitHub 分享了在生产环境中评估基于 LLM 系统的实践，以秘密扫描误报减少为例。团队将评估分为主要结果、安全约束和操作护栏，采用一次一变量、版本化配置的集成测试方法，保持离线评估贴近生产任务，并将生产标签视为信号而非绝对真理。通过合成数据补充覆盖、错误分析定位失败来源，以及 LLM-as-judge 分流人工审查，最终在离线数据集上实现误报减少 95%，同时召回率保持在定义护栏内。
读全文 → -
Import AI 470：机器无权利；用SPADE自动化环境生成；用Hawkeye构建更好的GPU内核
Import AI是一份AI研究通讯，本期涵盖多项进展。METR研究显示AI对网络安全漏洞发现加速显著，对数学贡献有限，对AI自身优化难以定论。多所大学团队构建SPADE框架，通过自对弈生成合成环境训练LLM，在30B规模下套件平均达58.3分。哈佛、斯坦福等机构开发Hawkeye，通过单元测试分类法帮助编码智能体生成硬件感知GPU内核，在Blackwell上实现1.22倍加速。DeepMind联合多所大学使用AlphaEvolve改进矩阵乘法指数，将SOTA界限提升约1.62×10^-4。此外，AI研究员Julian Togelius和Taylor Belrose分别就AI研究意义及AI权利问题发表观点文章。
读全文 →
未归线
-
STARFlow2：弥合语言模型与归一化流，实现统一多模态生成
统一多模态模型在理解、推理及生成交错文本-图像序列时存在结构碎片化问题：现有方法或通过离散tokenization牺牲视觉保真度，或结合因果文本生成与迭代扩散去噪造成结构不对称，或在适配生成任务时削弱预训练理解能力。研究观察到，自回归归一化流本质上是自回归Transformer，与LLM共享因果掩码、KV-cache机制及从左到右结构，使其成为统一架构的候选方案。
读全文 → -
EVE Online：迁移至Python 3启动！
EVE Online 宣布启动向 Python 3 的迁移。该游戏自 2003 年上线以来运行于 Stackless Python，2010 年升级至 2.7 版本。此次迁移将先用 futurize 脚本处理 240 万行代码，再人工审查约 20,000 处 Python 2 与 Python 3 行为差异（如整数除法结果不同）。公告未提及 Stackless 的替代方案，但去年会议展示了在 EVE Frontier 中使用开源的 carbonengine/scheduler 库替换 Stackless 的方案。
读全文 → -
Granite 4.2 LLM：构建方式解析
-
Granite Speech 5.0 Turbo CTC 实现极速精准转录
-
量化感知修复：压缩4-bit模型性能超越全精度原版
-
Hugging Face推理端点、任务与存储桶如何助力Papers with Code搜索
经由机器分线 · 不构成评价