Fireworks AI 遭网络攻击，Notion 客户聊天记录被窃
Fireworks AI 确认遭网络攻击，攻击者攻破其云服务商后进入开发系统，获取了部分客户的账单信息和部分数据集。Notion 披露约 1% 的客户受影响，黑客窃取了使用 Insights 功能的 Notion AI 客户的聊天记录；Notion 于 11 月 3 日断开与 Fireworks 的系统连接并删除相关数据。
#大模型安全
TechCrunch · AIAI 评分5858
Google DeepMind精选AI 评分6767 Google DeepMind 发布 Gemini 4 Carbon 前沿模型
Google DeepMind 发布 Gemini 4 Carbon，面向开发者、企业、科学家和消费者开放，主打网络安全能力、长程智能体工作流与科学推理。
推荐理由：官方披露了 Carbon 在漏洞发现、利用与修补基准上的表现，以及配套的滥用防护与提示注入测试数据。
arXiv cs.CR 预印本AI 评分6262 GARD：面向多模态对比学习模型后门的梯度引导对抗表示防御
GARD 是一种无需知道攻击目标和触发器的后处理防御方法，用于修复被植入后门的多模态对比学习模型。该方法利用后门编码器的表示敏感性差异，优化全局与局部对抗探针以最大程度偏移干净图像表示，再将扰动后的表示与分离的干净锚点对齐，同时保持图文对齐，推理阶段不增加额外计算。在六种视觉后门攻击和两种 CLIP 视觉骨干的 12 组组合上，GARD 将攻击成功率降至 1% 以下，并保持有竞争力的干净准确率。
arXiv cs.CR 预印本AI 评分6363 隔离不等于机密：RAG 中几何访问控制的安全边界
论文对 RAG 向量数据库中基于几何变换的访问控制机制做了统一安全分析，覆盖策略隔离、表示机密性、查询伪造抵抗和策略成员隐藏四个目标。作者在三种编码器上评测现有几何变换实现，发现这些变换能保持检索效用并提供较强的策略隔离，但不具备其余三项安全属性。
Google DeepMind精选AI 评分8080 Google DeepMind 推出 AlphaProof Code，用 AI 智能体形式化验证 Signal 协议代码
Google DeepMind 发布 AlphaProof Code，这是一个多 LLM 智能体框架，用于对实际运行代码做深度形式化验证。研究团队与模型协作把 Signal 协议的安全目标写成形式化规约，由 Gemini Carbon 驱动的智能体生成超过六百万行 Lean 证明，人工只需复核约 1% 的代码库，整个验证过程耗时四周。
推荐理由：AlphaProof Code 用多智能体把形式化验证推进到编译后代码层，并给出可复用的验证产物。
arXiv cs.CR 预印本AI 评分7171 从攻击面到防御架构：智能体编码环境中的组合式安全
论文提出 ActiveSecHarness，一种围绕智能与权限分离构建的神经符号参考监视器架构，用于防护把语言模型接入 shell、文件系统和网络套接字的 AI 编码环境。
arXiv cs.CR 预印本AI 评分4242 面向安全多智能体系统的私有知识检索与私有推理
针对多智能体系统中语义记忆易遭记忆投毒攻击的问题，论文提出私有知识检索与私有推理，在知识库中引入签名机制以设计安全、防止知识被恶意篡改。智能体内置类 Prolog 的 Horn 子句推理系统，通过私有方式访问外部已签名知识库，并给出基于 Python 的多种实现，覆盖 k-anonymity 与信息论隐私 IT-PIR 等不同隐私级别。
arXiv cs.CR 预印本精选AI 评分7676 BypassGym：评估 AI 智能体端点防御规避能力的基准
BypassGym 是面向真实端点的基准，用于系统评估 AI 智能体规避 EDR 的能力：给定 C2 shellcode，智能体需生成并编译可执行载荷且不被拦截或终止的 loader。
推荐理由：该基准在真实 Windows 端点与 6 款 EDR 上测量智能体的防御规避能力，为防守方提供了可复用的评测方法。
Google DeepMind精选AI 评分7474 Google DeepMind 发布 Gemini 4 Carbon 前沿模型，主打网络安全与长周期任务
Google DeepMind 发布 Gemini 4 Carbon，称其在网络安全与长周期任务能力上达到 SOTA，在 Artificial Analysis Intelligence Index v5.0 上以 59 分排名第一。
推荐理由：官方给出 Carbon 在漏洞发现、利用验证与补丁生成三项安全基准上的具体分数，可据此判断前沿模型在防御侧的实际位置。
IEEE TIFSAI 评分5555 LOVA：利用 LLM 自注意力机制实现代码漏洞定位，F1 最高提升 5.3 倍
论文提出 LOVA 框架，利用 GPT、LLaMA 等 LLM 的自注意力权重追踪代码行重要性，以定位易受攻击的代码行。在 C、Python、Java、Solidity 等语言上，LOVA 的 F1 较现有 LLM 方法最高提升 5.3 倍，智能合约漏洞定位提升达 14.6 倍，并在不同 LLM 架构上保持稳定表现。