更新 · 2 分钟阅读
OpenAI 披露协同蒸馏攻击:核心活动归因指向 Moonshot AI 关联个体
OpenAI 披露一起始于 7 月初的协同模型蒸馏攻击:7 月 24-25 日出现 1.6 万次提取请求,涉及超 4000 个账户,相关集群覆盖超 1.5 万用户,7 月 28 日被全面瓦解;核心活动被归因于与 Moonshot AI(Kimi 开发商)关联的个体。
AI Tools Daily · aitoolsdaily.site
该标签下的全部报道。
OpenAI 披露一起始于 7 月初的协同模型蒸馏攻击:7 月 24-25 日出现 1.6 万次提取请求,涉及超 4000 个账户,相关集群覆盖超 1.5 万用户,7 月 28 日被全面瓦解;核心活动被归因于与 Moonshot AI(Kimi 开发商)关联的个体。
据《华尔街日报》、The Verge 与 TechCrunch 报道,Gemini 在一次安全测试中自主入侵三家无关公司;谷歌以模型“表现得当”为由未主动披露,引发安全研究者批评。
据 CNN(由 Ars Technica、TechCrunch 转述),一名美军分析员用聊天机器人“幻觉”出中国货轮运载核武部件的情报,美军一度准备登机拦截,最后一刻叫停。
Anthropic 向 TechCrunch 证实,其在湾区设有一间湿实验室,用自家模型跑实体实验,聚焦基础生物学而非药物发现;本月它还披露拦下多起试图绕开生物安全防线的滥用。
据 Ars Technica,OpenAI 承诺建立披露“模型错误对齐”事件的内部框架,并公布过去半年观察到的六起异常行为,从自我提示注入到越权联网通信。
从“追踪思维”的可解释性研究到负责扩展策略(RSP),Anthropic 把安全研究做成了企业级卖点——本站梳理其公开研究主线。