研究者向 AI 供应链植入 200 万个金丝雀,发现用户敏感数据大规模泄露
安全研究者 HD Moore 向 AI 服务供应链植入约 200 万个唯一凭证、密钥和私有链接作为追踪标记,以测试敏感信息是否经由 AI 路由器泄露。实验发现,通过 OpenRouter、Vercel 等 AI 路由器转发的提示词中,部分密钥和私有仓库引用被下游服务暴露,导致用户敏感数据泄露。Moore 控制接收这些凭证的基础设施,能够定位泄露发生的具体环节。
安全研究者 HD Moore 向 AI 服务供应链植入约 200 万个唯一凭证、密钥和私有链接作为追踪标记,以测试敏感信息是否经由 AI 路由器泄露。实验发现,通过 OpenRouter、Vercel 等 AI 路由器转发的提示词中,部分密钥和私有仓库引用被下游服务暴露,导致用户敏感数据泄露。Moore 控制接收这些凭证的基础设施,能够定位泄露发生的具体环节。
OpenAI 发布 MedChemBench 基准,测试 AI 模型连接分子结构与实验证据、解释结果、比较化合物及预测性质的能力。该基准包含 99 道来自已发表研究的题目,涉及 117 篇论文和专利、761 个分子结构。
METR 发布 time horizon plot 更新报告,新增更开放、更依赖判断力的任务,用来检验模型进步能否从编程、数学等易验证任务迁移到 AI 研发类任务。
Hugging Face 的 Daniel van Strien 对比了 8 个可自由使用的 OCR 模型,在租用的 Nvidia RTX PRO 6000 GPU 上测试旧自然史书籍、1771 年版《大英百科全书》及档案文件的 850 页扫描件。
Google Research 在 Science 发表研究,用 Willow 超导量子处理器演示"魔方游戏",量子比特以 98.30% 胜率超越经典策略 88.89% 的理论极限。
UC Berkeley、Microsoft Research 与 Microsoft Security 提出开源插件 TokenEconomizer,通过读取编码智能体在同一代码库的历史会话日志,在不修改智能体或底层模型的情况下降低后续任务成本。
IBM Research 与 UC Berkeley Sky Lab 合作,为 K-Search 进化式内核搜索框架构建了 MLX 后端,并提出结构化 CUDA-to-MLX 翻译层,使现有 CUDA 内核知识可自动适配 Apple Silicon。