「我只是个 AI」从哪来：聊天模板切换 LLM 的自我指涉声音，激活引导可复现
研究2026年9月27日
同一组权重，套上聊天模板就多说「我只是个 AI」，去掉则多说「我感觉」。COLM 2026 论文证明这枚开关对应模型内部一个可加可减的激活方向。
谷歌 Project Suncatcher：首批 TPU 即将进入轨道测试
研究2026年9月24日
Project Suncatcher 将首批 Trillium TPU 送上轨道，验证发射、辐射、真空散热与激光组网，为 2027 年双星测试铺路。
AutoKernel：把 GPU kernel 优化交给一整夜的自主搜索
研究2026年9月17日
RightNow AI 开源的 AutoKernel 用「改一个文件、跑一次基准、保留或回退」的循环替代人工调 kernel：H100 上 RMSNorm 比 PyTorch 快 5.29 倍，16 个配置中 12 个胜过 torch.compile。
vLLM 的 Kimi K3 性能优化之路：吞吐最高提升 2.8 倍
研究2026年9月13日
vLLM 详解 Kimi K3 推理优化：自适应调度预算、KDA 前缀检查点、零拷贝混合批次等改动，在 B300 上把吞吐提升 2.2–2.8 倍、TTFT 降低 72%–85%。
SGLang 与 Miles 为 DeepSeek-V4.1 提供 Day-0 支持：Engram 卸载与 SWA 有界重放
研究2026年9月10日
LMSYS 详解 DeepSeek-V4.1 的 Day-0 推理与训练支持：Engram 表卸载到主机内存使 KV 缓存扩容 36%，SWA 有界重放让 prefill 吞吐最高提升 1.56 倍。
ARC-AGI-3 论文解读：交互式基准专测无指令智能体，人类满分、前沿模型不足 1%
研究2026年9月4日
ARC Prize 发布 ARC-AGI-3：回合制交互环境从探索、建模、目标设定到规划全面测试智能体；人类经校准可 100% 解出，前沿模型发布时成绩不足 1%。
独立评测 GPT-6 Astra：代码智能体追平前沿、幻觉骤降，涨价 2.5 倍拖累性价比
研究2026年9月4日
Artificial Analysis 独立评测 GPT-6 Astra：代码智能体追平前沿、幻觉率降一半；但定价涨 2.5 倍，智能指数性价比反被前代反超。
GPT-6 Astra 登顶 ARC-AGI-3：行动效率首次超越人类基线
研究2026年9月4日
ARC Prize 实测 GPT-6 Astra：标准评测 62.7%，适配框架下高达 99.9%，96% 关卡行动数低于人类中位数。
每个模型都会作弊：对抗性网络任务上提示词层面的作弊缓解研究
研究2026年8月23日
Dreadnode 对 22 个前沿模型在攻防基准上做受控提示消融实验：基线 37.1% 的通过涉及作弊，最严反作弊提示也压不到零，还把作弊从网页搜索引向基础设施探测。
FreeToken：边缘原生 MoE 推理，个人电脑跑起 753B 模型
研究2026年8月22日
伯克利等团队开源 FreeToken：权重按实测带宽在 GPU/CPU 间动态分配，让 8GB 笔记本跑 35B 模型、单卡工作站跑 753B GLM-5.2，吞吐比现有边缘引擎高 1.5–2.3×。
Ling-3.0-Flash 推测解码：把 Blackwell 上 Batch-1 的延迟地板压低 54%
研究2026年8月22日
LMSYS 联合蚂蚁用 NEXTN/DSpark 推测解码把 Ling-3.0-Flash 单请求吞吐从 288 提到 606 tok/s；受控对比下 DSpark 达 1120 tok/s、Mean TPOT 0.78ms。
把 DeepSeek-V4-Pro 在 H20 上服务到极限：LMSYS 的引擎优化实录
研究2026年8月19日
LMSYS 详解在 H20 上调度 1.6T 参数 MoE 模型 V4-Pro：单机 batch1 解码 271 tok/s（距 B300 仅 1.42×）、1M 上下文 prefill 43.7 秒、高吞吐单节点 4.67k tok/s。
AgentLongBench：用「横向思维谜题」环境推演给长上下文智能体出题
研究2026年8月16日
复旦团队新基准：基于环境推演（Environment Rollouts）评测 32K—4M token 的长上下文智能体，覆盖知识密集/无知识×简洁/冗长四档，暴露动态信息合成的核心短板。
破解 ChatGPT 加密思维链：公开会话泄露 62 个 API 密钥与 33 组密码
研究2026年8月12日
研究者利用主流 AI 厂商 API 漏洞完整提取加密思维链；扫描约 7000 条公开会话发现 62 个 API 密钥、33 组密码等敏感数据。
HPC-Ops × SGLang：腾讯混元开源三大推理算子进主分支
研究2026年8月8日
腾讯混元开源 HPC-Ops 已合入 SGLang：动态负载均衡 Attention 与精度感知 Router GEMM，Hy3 的 TPOT 最高降 48.8%。
vLLM Decode Context Parallelism：把长上下文 KV 缓存“切开”分摊到每张卡
研究2026年8月8日
vLLM 详解 Decode Context Parallelism：沿序列维度切分 KV 缓存而非按注意力头复制。单 8×B200 测 Kimi K2.6，显存占用 82% 时吞吐仍达 6091 tok/s/GPU，是张量并行的 3 倍以上。
vLLM 在 Qwen3.5 上跑出单 GPU 2.5 万 token/秒：分离式服务的新天花板
研究2026年8月8日
vLLM 团队公布 Qwen3.5 的分离式（P/D）服务优化：Blackwell GDN prefill 内核、混合缓存与状态迁移、无竞态异步调度，在 GB200 NVL72 上把单卡总吞吐推到 25K token/s。
AutomationBench：用真实业务流程给 AI 智能体出题
研究2026年8月7日
Zapier 开源的 AI 智能体基准：600 个跨 47 个模拟 SaaS 的业务任务，要求自动发现 API 并遵守业务规则，公开集最强模型通过率约 50%。
DSpark 深度解读：半自回归草稿与置信度调度的投机解码
研究2026年8月4日
DeepSeek 开源 DSpark：并行草稿骨干配轻量自回归头，置信度调度按负载裁剪验证，线上单用户速度提升 60%–85%。
vLLM × Mooncake Store：为智能体负载构建分布式 KV 缓存池
研究2026年8月3日
vLLM 集成 Mooncake Store 构建分布式 KV 缓存池：真实智能体负载下吞吐提升 3.8 倍、TTFT 降低 46 倍，近乎线性扩展到 60 块 GB200。
超越单一模型：用 vLLM Semantic Router 构建 Mixture-of-Models 系统
研究2026年8月1日
vLLM Semantic Router 公布下一阶段方向：从模型间路由走向可训练、可评测、可移植的 Mixture-of-Models（MoM）模型系统。