transformers v5.14.1

二〇二六年八月二十六日 · 英文原文

摘要

补丁版本 v5.14.1 修复了集成 Inkling 模型时的若干问题，主要涉及使用 EncoderDecoderCache 的模型在辅助生成（assisted generation）过程中的问题，以及 prefill 阶段使用 StaticCache 和 sdpa 且无 padding 时针对 position_bias 的问题。提交包括修复带 position_bias 的 sdpa prefill 问题（#47359）、修复使用 EncoderDecoder cache 及 OlmoHybrid 模型的辅助解码问题（#47361）、升级 FP8 kernels 版本（#47344）及修复 deepgemm 多设备问题（#47323），由 Cyrilvallez、vasqu 和 IlyasMoutawwakil 提交。

补丁版本 v5.14.1

此补丁解决了集成 Inkling 模型时出现的若干问题，其中最主要的是影响使用 EncoderDecoderCache 的模型在辅助生成（assisted generation）过程中的问题。同时，它还修复了在 prefill 阶段使用 StaticCache 和 sdpa 且无 padding 时可能出现的、针对使用 position_bias 的 Inkling 模型的问题。

包含以下提交：

修复带 position_bias 的 sdpa prefill 问题 (#47359) @Cyrilvallez
修复使用 EncoderDecoder cache 及 OlmoHybrid 模型的辅助解码问题 (#47361) @Cyrilvallez
[FP8] 升级 kernels 版本 (#47344) @vasqu
修复 deepgemm 在多设备上的问题 (#47323) @IlyasMoutawwakil

译自 GitHub · 版本发布 · 录于二〇二六年八月二十六日