Google DeepMind 发布 Gemini 4 Carbon 前沿模型
Google DeepMind 发布 Gemini 4 Carbon,面向开发者、企业、科学家和消费者开放,主打网络安全能力、长程智能体工作流与科学推理。
推荐理由:官方披露了 Carbon 在漏洞发现、利用与修补基准上的表现,以及配套的滥用防护与提示注入测试数据。
Google DeepMind 发布 Gemini 4 Carbon,面向开发者、企业、科学家和消费者开放,主打网络安全能力、长程智能体工作流与科学推理。
推荐理由:官方披露了 Carbon 在漏洞发现、利用与修补基准上的表现,以及配套的滥用防护与提示注入测试数据。
Fortress 是一个面向分布式学习的多层级安全框架,同时应对梯度级重建、模型级推理和训练级操纵三类威胁。该框架用双服务器布尔秘密共享实现安全聚合,在秘密份额上直接加噪并以多项式近似规避加密域中的高开销非线性运算,再用基于转录的轻量验证保证恶意韧性。多数据集评测显示,Fortress 在保持多层级安全与恶意攻击下鲁棒性的同时,将通信开销降低 6.2 到 32.3 倍。 开源代码:github.com/tiliondev/fortress
推荐理由:Fortress 把安全聚合、差分隐私与恶意韧性放在同一框架里协同设计,通信开销降低 6.2 到 32.3 倍。
研究提出一种新威胁模型:攻击者仅掌握分布式学习中模型的边缘部分(初始网络层),即可生成通用对抗扰动(UAP),通过操控边缘关键特征表示使未知云端组件产生误判。在 ImageNet 上的结果显示,该方法对未知云端部分具有较强攻击迁移性,并与经典白盒、黑盒方法进行了对比。这是分割推理中首个仅凭边缘知识实施的对抗攻击,凸显部分模型访问下的对抗鲁棒性问题。
针对物理隔离与周期性密钥重随机化两类安全分支预测单元(SBPU)方案的安全与性能缺陷,论文提出冲突不可见的 CIBPU,采用冗余存储、负载感知索引与替换设计以及无需周期性更新密钥的加密机制,阻止攻击者感知分支冲突。
论文提出 GHOST 两阶段后门攻击方法,用于在 non-IID 联邦学习中维持后门持久性。第一阶段用 GAN 借助全局模型反馈推断其他客户端的数据分布,以缩小本地与全局分布差距;第二阶段用 GAN 生成的数据近似良性客户端行为,模拟并预判未来轮次的全局模型,从而跨多轮优化后门持久性而非只针对当前轮。 开源代码:github.com/TryGhost/Ghost
推荐理由:论文针对 non-IID 联邦学习下后门易被良性更新覆盖的问题,用 GAN 推断其他客户端分布并预演后续轮次,思路对联邦后门持久性研究有参考价值。