Google DeepMind 发布 Gemini 4 Carbon 前沿模型
Google DeepMind 发布 Gemini 4 Carbon，面向开发者、企业、科学家和消费者开放，主打网络安全能力、长程智能体工作流与科学推理。
推荐理由：官方披露了 Carbon 在漏洞发现、利用与修补基准上的表现，以及配套的滥用防护与提示注入测试数据。
研究方向
大模型安全 最新动态
大模型自身的越狱、提示词注入、后门与数据泄露，以及用大模型做日志分析、告警研判与入侵检测。
5 条精选近 30 天 3 条共收录 18 条
更新
大模型安全的精选
Google DeepMind精选AI 评分6767
Google DeepMind精选AI 评分8080 Google DeepMind 推出 AlphaProof Code，用 AI 智能体形式化验证 Signal 协议代码
Google DeepMind 发布 AlphaProof Code，这是一个多 LLM 智能体框架，用于对实际运行代码做深度形式化验证。研究团队与模型协作把 Signal 协议的安全目标写成形式化规约，由 Gemini Carbon 驱动的智能体生成超过六百万行 Lean 证明，人工只需复核约 1% 的代码库，整个验证过程耗时四周。
推荐理由：AlphaProof Code 用多智能体把形式化验证推进到编译后代码层，并给出可复用的验证产物。
Google DeepMind精选AI 评分7474 Google DeepMind 发布 Gemini 4 Carbon 前沿模型，主打网络安全与长周期任务
Google DeepMind 发布 Gemini 4 Carbon，称其在网络安全与长周期任务能力上达到 SOTA，在 Artificial Analysis Intelligence Index v5.0 上以 59 分排名第一。
推荐理由：官方给出 Carbon 在漏洞发现、利用验证与补丁生成三项安全基准上的具体分数，可据此判断前沿模型在防御侧的实际位置。
IEEE TDSC精选AI 评分6868 Beyond the Scope：团队工作区权限管理的安全测试
研究针对 Google Workspace、Microsoft OneDrive 等团队工作区中第三方 add-ons 的权限管理展开安全测试，分析了这类生态内置的访问控制机制，识别出三种可被利用来实施权限提升的安全风险。
推荐理由：研究拆解团队工作区中第三方 add-ons 的权限隔离机制，并给出可复用的自动化测试工具 TAI。
IEEE TIFS精选AI 评分5858 LOVA：利用 LLM 自注意力机制定位代码漏洞
论文提出 LOVA 框架，利用 LLM 的自注意力机制追踪模型对具体代码行的关注权重，以此定位易受攻击的代码行。作者称 LOVA 相比现有基于 LLM 的方法在 F1 上最高提升 5.3 倍，在 C、Python、Java、Solidity 等语言的智能合约漏洞定位上最高提升 14.6 倍，并在不同 LLM 架构上表现一致。
推荐理由：论文把 LLM 自注意力权重当作漏洞行定位信号，并给出跨语言与跨模型架构的对比结果。