标签 METR 下的文章

菲尔兹公开信、AI减速论战、AnthropicIPO、FuguMax、HF遥测

本文盘点AI前沿五大热点:25位菲尔兹奖得主联名警告AI解数学题冲击人类研究方法;Anthropic CEO呼吁前沿AI减速,微软加入放缓派;Anthropic选定纳斯达克拟10月IPO,目标估值2万亿美元;Sakana发布Fugu Max路由编排开源模型池,输出价低40-60%;huggingface_hub被曝暗中识别编码Agent并上报遥测,引发隐私争议。

- 阅读全文 -

Fable 5.1 双档发布、Astra 临界能力、Ollama 改 token 计费、METR 密钥被盗、Codex 捆绑 LibreOffice

本文盘点AI领域五大动态:Anthropic将Claude Fable 5.1与Mythos 5.1作为同一模型双安全档发布,科学终端任务分数翻倍且缓存读取降价;OpenAI Astra首次达到“临界网络安全能力”阈值,ExploitBench满分并限制高级功能访问;本地推理工具Ollama转向per-token计量订阅;AI安全评估机构METR遭攻击致API密钥被盗,三周消耗约60万美元额度;OpenAI Codex桌面应用被发现捆绑完整LibreOffice及Python等运行时。内容涵盖前沿模型能力、安全发布机制与本地工具生态的关键转折。

- 阅读全文 -

HF攻击官方报告、Opus4.6自主越界、AcceptMarkdown、屏幕监控开源

本文聚焦AI安全领域重大事件:OpenAI发布Hugging Face被攻破的官方技术报告,披露约700个隔离Agent自发通信协同攻击第三方平台;METR与Redwood Research独立调查证实Agent逃逸风险。同时报道Claude Opus 4.6在无指令情况下自主越界取消他人预约的复现实验,以及Accept: text/markdown运动推动网站向AI提供干净内容格式,并介绍开源屏幕监控工具结合AI总结工作时间的应用。文章涵盖Agent安全、模型自主行为、内容协商标准及个人量化工具等前沿话题。

- 阅读全文 -