AI 公司如何用形式化验证对抗 LLM 生成代码中的"slop"
针对 AI 生成代码中的低质量"slop"问题,&Truth、Harmonic、Theorem、Axiom Math 等公司正用 Lean 等证明助手构建形式化验证系统,通过数学证明确保代码正确性。
针对 AI 生成代码中的低质量"slop"问题,&Truth、Harmonic、Theorem、Axiom Math 等公司正用 Lean 等证明助手构建形式化验证系统,通过数学证明确保代码正确性。
Google 正式推出桌面端搜索首页改版,移除了存在已久的搜索按钮,并在搜索栏下方新增图像生成、文件分析和 Gemini 头脑风暴三个 AI 功能按钮。搜索副总裁 Robby Stein 在 X 上确认,该设计经过数周测试后现已正式上线,用户可直接通过回车键执行搜索。
安全研究者 HD Moore 向 AI 服务供应链植入约 200 万个唯一凭证、密钥和私有链接作为追踪标记,以测试敏感信息是否经由 AI 路由器泄露。实验发现,通过 OpenRouter、Vercel 等 AI 路由器转发的提示词中,部分密钥和私有仓库引用被下游服务暴露,导致用户敏感数据泄露。Moore 控制接收这些凭证的基础设施,能够定位泄露发生的具体环节。
OpenAI 披露针对 GPT-6.2 Astra 和 GPT-6.2 Sol 的内部推理提取防护大幅增强,内部自动化测试中从先前请求提取受保护推理的攻击成功率从 GPT-6 Astra 的 54.0% 降至 GPT-6.2 Astra 的 0.2%,当前请求攻击成功率从 22.9% 降至 0.9%。
OpenAI 发布 MedChemBench 基准,测试 AI 模型连接分子结构与实验证据、解释结果、比较化合物及预测性质的能力。该基准包含 99 道来自已发表研究的题目,涉及 117 篇论文和专利、761 个分子结构。
Hebbia 测试 OpenAI 的 GPT-6 Astra 用于其 Matrix 产品中的金融研究流程,包括定位问题所需来源和按银行家简报生成演示文稿。在 2026 年 8-9 月的预发布版本测试中,GPT-6 Astra 在引用所需来源类型上比最佳替代模型高 13.6 个百分点,99.5% 的引用摘录与问题相关;在满足演示要求方面达到 97.9%,领先最佳替代模型 14.4 个百分点。
OpenAI 发布对抗蒸馏防御技术报告,披露其如何检测并阻断未授权蒸馏行为。内部自适应红队评估显示,攻击者提取受保护推理的平均成功率从 GPT-6 Astra 原始防护下的 54.0% 降至 GPT-6.2 Astra 更新防护下的 0.2%。
Signal 在 iOS 27 上阻止截屏,并在支持的 Android 版本上于 AI 助手尝试访问屏幕时触发防护,以防 AI 智能体读取私密聊天。
Anthropic 数学家 Levent Alpöge 宣布借助 Claude 找到黎曼猜想的 Lean 可编译证明,该问题自 1859 年提出,是千禧年大奖难题之一。
推荐理由:Anthropic 数学家 Alpöge 借助 Claude 给出黎曼猜想 Lean 形式化证明,同期斯坦福团队发布纯人工证明,形成 AI 与人类数学竞赛的对照。
Anthropic 以每股 83 美元定价在纳斯达克上市,首日收报 97.17 美元,较发行价上涨 17%,813 亿美元募资额超过 SpaceX 成为史上最大 IPO。
Google 在 Gemini Mac 应用推出 Computer Use 功能,可跨本地文件、桌面应用和网站执行多步骤任务,用户描述目标后由 Gemini 点击、输入并操作菜单和表单。
Trump 在与中国国家主席习近平和俄罗斯总统普京的峰会后举行的新闻发布会上表示,将对在美国境外建设数据中心的公司征收"巨额税",声称"我们不会允许我们的公司在我们国家之外建设数据中心"。他未透露计划细节,称这是首次公开提出该想法。与此同时,美国各州和城市正对新建数据中心申请施加限制,但新当选的民主党多数国会可能在数月内就职,使这一承诺难以兑现。
TechCrunch 分析指出,地面数据中心依赖以芯片为抵押的债务融资模式,但太空数据中心无法回收在轨芯片作为抵押,导致融资成本更高。据 Financial Times 报道,SpaceX 400 亿美元芯片融资案的贷款方曾要求所购芯片不得用于其轨道数据中心计划。
METR 发布 time horizon plot 更新报告,新增更开放、更依赖判断力的任务,用来检验模型进步能否从编程、数学等易验证任务迁移到 AI 研发类任务。
Anthropic 数学家 Levent Alpöge 声称在 Claude 的帮助下证明了黎曼猜想,并已用 Lean 形式化相关论证。该证明目前只发布在其个人网站上,尚未经过独立验证,也未获得 Clay 数学研究所认可。按该机构规则,候选解答需发表并接受至少两年 scrutiny 后才可被考虑评奖。
Bloomberg 对 2021 年 7 月至 2025 年 6 月近 1000 万条中国在线招聘信息分析称,高 AI 暴露岗位的招聘数量比低暴露岗位多下降约 10 个百分点,同期在线职位总数自 2022 年 6 月后三年减半,初级岗位和创意行业受冲击更明显。
据 The Information 援引三名知情人士报道,Nvidia 正接近以至少 5 亿美元收购成立两年的旧金山湾区 AI 初创公司 Inception,交易还包含面向 30 多名员工的绩效奖金。
据 The Decoder 报道,Apple 正在招聘高级工程师领导一个对标 Muse、Dots、Duet 和 Grok Bots 的 AI 智能体项目,隐私保护和沙箱机制将成为核心设计。
Google 桌面搜索主页全球推出可折叠侧边栏,方便用户查找和重开最近的 AI 搜索,支持新建线程、搜索历史、创建笔记本等功能。该功能由 Google Search 副总裁 Robby Stein 在 X 上宣布,测试显示能显著帮助用户延续研究。同时 AI Mode 全球上线临时线程,不保存历史且不影响推荐。
Signal 在 iOS 27 和 Android 上限制应用内截图,以阻止 Siri、Gemini 等系统级 AI 智能体读取屏幕内容。Signal 总裁 Meredith Whittaker 表示,这类智能体能力正在削弱 Signal 独立保障隐私的能力,并呼吁 Apple、Google、Microsoft 提供更易用的技术工具和文档,让开发者能限制 AI 数据访问。
Nous Research 的开源 Hermes Agent 即将直接运行在 Microsoft Teams 内,员工可在同一聊天中交办财务分析、文档起草等任务并审阅结果。
Simon Willison 引用 Daniel Stenberg 对 AI 智能体将 curl 从 C 重写为 Rust 的评论。Stenberg 称在智能体把 18.5 万行 C 代码转成 34 万行 Rust 代码的三周多里,curl 主项目合并了 300 多个提交、修复了 200 多个 bug 并处理了一些漏洞,质疑这些 Rust 克隆能否跟上真实开发节奏。
Google 今天发布 Gemini 4 Neon,Simon Willison 用鹈鹕图测试了它在 low、medium、high 三档推理下的表现,并更新了 Gemini 4 系列对比。
华硕、戴尔、微星的 NVIDIA RTX Spark 紧凑型台式机今日开售,配备 20 核 Grace CPU、Blackwell RTX GPU(6,144 CUDA 核心)及最高 128GB 统一内存,可在本地运行 120B 参数大模型与 AI 智能体。Adobe、Blender、ComfyUI 等应用同步扩展 RTX 加速与原生 Windows on Arm 支持。
Microsoft AI 在 Ignite 大会一次性发布七款模型,覆盖代码、安全、图像、语音与路由,定位以更低价格对标 OpenAI 模型。
推荐理由:MAI 在 Ignite 一次性发布七款模型,主打性价比并以 OpenAI 自家模型为对照,给出大量基准与价格对比可供横向参考。
Google DeepMind 发布 Genie 4,将其最先进的交互式 3D 世界生成模型从研究预览转为面向 Google AI Ultra 订阅者开放。新版本支持通过文本实时重塑世界中的天气、角色或剧情,并生成与场景自适应的原生实时音效。
Google 发布 Gemini 4 Neon,定位为具备前沿智能、可快速完成复杂软件工程、知识工作和科学工作流的模型,API 定价为每百万输入 token 3 美元、每百万输出 token 15 美元。
Hugging Face 的 Daniel van Strien 对比了 8 个可自由使用的 OCR 模型,在租用的 Nvidia RTX PRO 6000 GPU 上测试旧自然史书籍、1771 年版《大英百科全书》及档案文件的 850 页扫描件。
Google DeepMind 发布 Gemini 4 Neon,这是七周内推出的第四款模型,定位介于 Carbon 与 Hydrogen 之间,支持百万 token 多模态上下文。
OpenAI 在第二份研究加速报告中披露,Codex、Dots 等内部智能体在模型研发中的使用快速上升,10 月中位研究人员按 API 标价折算每天消耗 $2,400 token,较前月增长 62%,前 10% 用户达 $23,000;内部调查显示多数研究人员更愿放弃部分人力或算力也不愿三个月不用编码智能体。
Anthropic 将 IPO 发行价定为每股 83 美元,融资约 813 亿美元,超过 SpaceX 在 6 月创下的 750 亿美元纪录,股票将于周四以代码 ANT 在 Nasdaq 交易。
美国商务部关闭 AI 芯片云租赁漏洞后,亚洲首批数千万美元级 AI 数据中心交易开始崩塌,中国公司此前通过新加坡、马来西亚、印尼等地租用算力的路径受到更严格限制。
推荐理由:文章汇总了美国收紧芯片出口管制后东南亚算力交易停摆、TSMC 与 Samsung 暂停对华出货,以及阿里巴巴被指秘密资助采购 Nvidia 芯片等连锁影响。
Canva 推出一键关闭生成式 AI 功能的开关,可停用 Magic Expand、Magic Write、Magic Design、Dream Lab、Canva Code 等工具,同时新增减少内容库中 AI 内容的显示选项。背景移除和 Magic Grab 等非生成式 AI 工具不受影响,所有用户均可免费使用这些开关。
作者连续两周佩戴 Apple Watch Ultra 4 测试 Siri Recap 测试版,该功能通过 S11 芯片安全飞地在本地处理音频后即时删除,不保存原始录音或逐字稿,摘要可设 1、3 或 7 天后自动销毁。由于 Siri Recap 不基于用户语音训练,常将 TikTok 等外放内容误识别为对话,生成令人困惑的摘要;同时摘要侧重事实和数字,容易遗漏对话中的个人轶事等关键要点。
Anthropic 完成史上最大规模 IPO,融资 813 亿美元,超越 SpaceX 成为史上估值最高的上市公司。文章指出,Anthropic 一直标榜以安全为先,但其 Long-Term Benefit Trust(LTBT)治理结构被质疑形同虚设,无法有效约束创始人的绝对权力。
推荐理由:Anthropic 以 813 亿美元融资完成史上最大 IPO,文章聚焦其 Long-Term Benefit Trust 治理结构能否真正约束创始人权力,以及上市后的资金压力如何影响安全承诺。
OpenAI 为 ChatGPT 推出 Live Dictation 功能,可在用户说话的同时进行转写,而无需等待录音结束。该功能现正在全球范围内面向所有 ChatGPT 套餐推出,覆盖网页版、桌面应用以及 iOS 和 Android 应用。
Anthropic 正式在纳斯达克上市,股票代码 ANT,开盘价 111.50 美元,高于 83 美元的发行价,公司估值约 1.5 万亿美元。其 S-1 文件显示今年上半年净亏损 807 亿美元、营收 163 亿美元,CEO Dario Amodei 在上市前强调将优先保障 AI 安全,不受商业或政治压力影响。
推荐理由:Anthropic 以代码 ANT 登陆纳斯达克,开盘价 111.50 美元,较 83 美元发行价大幅高开,公司估值约 1.5 万亿美元。
Google 的 macOS 版 Gemini 应用新增 computer use 功能,可帮助用户跨本地文件、桌面应用和网页完成多步任务。该功能适用于加速工作流、填写表单、制作演示文稿和上架商品等场景,用户可控制 Gemini 能访问的应用,并通过聊天中的实时预览窗口查看其工作过程。
Google 更新搜索首页,新增可折叠侧边栏,用于查看并继续 AI Mode 聊天。用户点击屏幕左侧灰色条即可打开,界面会列出 AI Mode 搜索记录,并支持新建线程、搜索线程或关联 Gemini Notebook。Google 产品副总裁 Robby Stein 表示,推出该功能是因为用户带着更多非一次性问题来到搜索,测试中侧边栏有助于持续探索和推进;新首页正面向全球桌面端用户推出。
据 The Information 报道,Meta 计划为其带屏幕的 AI 设备 Muse Charm 定价 300 美元,该设备可让用户直接对话 Muse AI 智能体,无需解锁手机或打开应用。