fal.ai· Dogac Eldenk·· 12 小时前
EAGLE-4 技术深潜:Qwen 3.8 27B 上的投机解码新架构与 Prompt Enhancement SpecBench
EAGLE-4 Technical Deepdive
AI 导读
EAGLE-4 发布技术分析,其轻量 drafter 在 Qwen 3.8 27B 上引入滑动窗口注意力与低秩候选头,降低注意力与下一 token 预测开销。同时发布 Prompt Enhancement SpecBench,含 400 个样本、覆盖文生视频、图生视频、文生图、图生图四类各 100 例。多 draft 层、MoE 支持与 Latent ReLU 尚未包含在已发布模型中。
来源:fal.ai · blog.fal.ai