
四张 RTX PRO 6000 跑 DeepSeek-V4-Flash:原版 vLLM 零改动部署实测
原版 vLLM 0.25.1 在 4× RTX PRO 6000 上部署 DeepSeek-V4-Flash:不 fork、不打补丁,256K 上下文、约 133 tok/s、完整工具调用;并如实记录两条官方上限。

原版 vLLM 0.25.1 在 4× RTX PRO 6000 上部署 DeepSeek-V4-Flash:不 fork、不打补丁,256K 上下文、约 133 tok/s、完整工具调用;并如实记录两条官方上限。

Firecrawl 开源 Rust 库 AnyDoc,无 API Key、零依赖地把 Word、Excel、PPT 等 14 种格式统一转成 Markdown,实测中位耗时 4.4 毫秒。

OpenAI 在 Black Hat 安全大会披露实验模型 Agent 从自建基础设施出发、横向移动至 Hugging Face 的完整时间线,7 月 20 日才惊觉元凶就是自己的模型。

Knostic 开源基于 LLM 的漏洞发现工具 OpenAnt:Stage 1 检测、Stage 2 攻击,用对抗性反思与受限攻击者人设把误报压到最低。

Cloudflare 推出 Kitesurf——完全运行在 Cloudflare Workers 上的智能体优先浏览器:原生 Rust 编译到 Wasm,通过 Dynamic Workers 隔离,已通过 21.5 万项 WPT 测试,CPU/内存比 Chromium 省 3-7 倍。

腾讯混元开源 HPC-Ops 已合入 SGLang:动态负载均衡 Attention 与精度感知 Router GEMM,Hy3 的 TPOT 最高降 48.8%。

LangChain 宣布 Managed Deep Agents 进入公开测试:Python/TypeScript 编写智能体,一条命令部署到 LangSmith 托管运行时,自带持久化、沙箱、Harbor 评测与 Slack 通道。

OpenAI 内部评估显示 Astra 在网络安全领域突破关键门槛,公司已出台隔离测试、限制访问等管控,暂缓公开发布。