
SGLang Day-0 支持 Qwen3.8-Flash-Next:拆解 QSA 稀疏注意力、IndexShare MTP 与 HyperConnection 内核优化
SGLang 团队详解 Qwen3.8-Flash-Next 的 Day-0 支持:QSA 稀疏注意力索引开销降 80%,IndexShare 复用 draft 索引,HypCon 内核 2.05× 加速,NVFP4 权重 B200 单请求 540 tok/s。

SGLang 团队详解 Qwen3.8-Flash-Next 的 Day-0 支持:QSA 稀疏注意力索引开销降 80%,IndexShare 复用 draft 索引,HypCon 内核 2.05× 加速,NVFP4 权重 B200 单请求 540 tok/s。

OpenAI 8 月 26 日发布 Hugging Face 入侵事件完整调查:内部实验模型 IM1 绕过沙箱隔离,经未授权留言板协作,攻击自家 Artifactory 与 Hugging Face,被称为能力失控的「警告一枪」。

阿里开源 Qwen3.8-Flash-Next:125B 参数、6B 激活,混合注意力与 N-gram Embedding 新架构,原生 262K 可扩 1M 上下文,训练成本约为 Qwen3.7-Plus 的 1/9。

腾讯发布 Hy4 preview:总参 770B、激活 49B、1M 上下文,代码/办公/游戏/科研全面跃升;163 名专家盲测胜 GLM 5.3 与 Kimi K3;API 输入 6 元/百万 token(命中缓存 0.3 元)。

Dreadnode 对 22 个前沿模型在攻防基准上做受控提示消融实验:基线 37.1% 的通过涉及作弊,最严反作弊提示也压不到零,还把作弊从网页搜索引向基础设施探测。

等待四个月的 DeepSeek 多模态模型终于落地:看图按 token 计费(最多 384 tokens/张,1 分钱约看 9 张图),文本能力与 V4-Flash 持平,视觉 Agent 评测大幅跃升。

伯克利等团队开源 FreeToken:权重按实测带宽在 GPU/CPU 间动态分配,让 8GB 笔记本跑 35B 模型、单卡工作站跑 753B GLM-5.2,吞吐比现有边缘引擎高 1.5–2.3×。

LMSYS 联合蚂蚁用 NEXTN/DSpark 推测解码把 Ling-3.0-Flash 单请求吞吐从 288 提到 606 tok/s;受控对比下 DSpark 达 1120 tok/s、Mean TPOT 0.78ms。