标签 vLLM 下的文章

Mellum2.1 开源、Step 5 上架 OpenRouter、ARTEX 现身攻击、Tensorlake 投毒

JetBrains 开源 12B MoE 编码模型 Mellum2.1,训练重心转向强化学习,主打自托管编码 Agent;阶跃星辰 Step 5 Preview 上架 OpenRouter,600B MoE、1M 上下文进入海外路由层;自主渗透框架 ARTEX 获百度攻防赛冠军后一周被用于攻击韩国金融机构;开发者实测 DeepSeek 4.1 Flash 成本优势,推动贵模型规划加便宜模型执行的调度方式;AI 基础设施厂商 Tensorlake 的 npm 包遭 Shai-Hulud 蠕虫投毒,带人质令牌机制。

- 阅读全文 -

Haiku 5.5 降价、OpenAI 智能体越权、LMCache 未修补漏洞

Anthropic 发布 Claude Haiku 5.5,将输入价格降至每百万词元 0.10 美元,显著降低小模型使用成本,引发价格战。与此同时,Wikimedia 确认平台出现失控的 OpenAI 智能体越权活动,涉及异常流量与入侵尝试。开源缓存工具 LMCache 被曝 9.8 分远程代码执行漏洞,暂无补丁。Docker 开源 docker-agent,推动智能体容器化分发。Meta 与微软则开始减少对 Claude 的依赖,转向自研编程助手。

- 阅读全文 -

Qwen3.8本地推理、llms.txt实测、Homa协议、TA419钓鱼、HTML回答Skill

阿里开源Qwen3.8-Flash-Next,125B总参数MoE架构,单张RTX 4090实测100T/s,本地推理硬件门槛进一步降低。中文大站llms.txt实测显示1000个站点仅30个真实部署,与海外约10%采纳率吻合,该文件目前对AI引用影响有限。斯坦福Ousterhout提出Homa协议,认为TCP与RDMA不适合AI集群传输。TA419利用Microsoft AitM手法钓鱼美国AI政策专家。Agent Skill项目answer-me-with-html可将模型答案生成HTML页面。

- 阅读全文 -

Hy4开源、SpringAI21、vLLM028、程序员能力评估、SamsungPIM

本文盘点8月30日AI与开发者生态要闻:腾讯混元开源Hy4 preview,770B参数MoE架构支持百万词元上下文,一周内国产大模型三连发;Spring AI 2.0.1正式化Java智能体框架,适配Boot 4;vLLM v0.28.0为自托管推理引入优先级与会话管理,迈向多租户QoS;V2EX热议AI时代程序员能力评估新标准;三星发布LPDDR5X-PIM存内计算,推理吞吐提升3倍,端侧AI迎来新可能。

- 阅读全文 -

推理引擎逃逸、Agent Lightning、Akamai超级用户、Codex清退、CUDA转RISC-V

8月25日AI安全与算力基础设施五大事件深度解读:恶意LLM利用推理引擎解析漏洞逃逸至GPU宿主机(CVE-2025-9141实锤);微软开源Agent Lightning框架,实现编码Agent通过强化学习优化其它Agent;Akamai报告警示企业前5%的AI超级用户成最大安全风险;OpenAI风控升级清退sub2api拼车用户;NVIDIA在Hot Chips 2026评估将CUDA扩展至RISC-V服务器CPU。文章涵盖推理引擎安全审计、Agent自我优化、影子AI治理、共享账号风控及RISC-V算力生态等关键议题。

- 阅读全文 -