跳到正文
#对抗攻击与防御
11月11日周三
11月10日周二
  1. arXiv cs.CR 预印本62

    GARD：面向多模态对比学习模型后门的梯度引导对抗表示防御

    GARD 是一种无需知道攻击目标和触发器的后处理防御方法，用于修复被植入后门的多模态对比学习模型。该方法利用后门编码器的表示敏感性差异，优化全局与局部对抗探针以最大程度偏移干净图像表示，再将扰动后的表示与分离的干净锚点对齐，同时保持图文对齐，推理阶段不增加额外计算。在六种视觉后门攻击和两种 CLIP 视觉骨干的 12 组组合上，GARD 将攻击成功率降至 1% 以下，并保持有竞争力的干净准确率。

  3. arXiv cs.CR 预印本63

    隔离不等于机密：RAG 中几何访问控制的安全边界

    论文对 RAG 向量数据库中基于几何变换的访问控制机制做了统一安全分析，覆盖策略隔离、表示机密性、查询伪造抵抗和策略成员隐藏四个目标。作者在三种编码器上评测现有几何变换实现，发现这些变换能保持检索效用并提供较强的策略隔离，但不具备其余三项安全属性。

  4. arXiv cs.CR 预印本47

    利用线性与仿射子空间约束的梯度反演攻击

    研究指出全连接层聚合梯度在正确缩放下实为输入的仿射组合，并据此在每个全连接层利用已知线性子空间或仿射子空间信息实施梯度反演攻击，在部分设置下重建质量显著优于所选基线。适度高估批大小通常能提升或保持重建质量，即使真实批大小未知。研究还考察了差分隐私机制引入梯度扰动下的重建效果。

  5. arXiv cs.CR 预印本58

    域不变与语言模型辅助的键盘声学侧信道攻击

    该预印本研究声学侧信道攻击（ASCA）能否在未见键盘、多样用户、噪声环境和压缩传输通道下依然恢复输入文本，作者提出让声学模型显式具备域不变性，并用语言模型纠正其含噪预测。论文指出，此前工作只在单一键盘、固定麦克风、安静房间且训练与测试同设备的理想实验室条件下验证成功，而本文的结论是这类攻击在开放世界中仍然可行。摘要未给出具体数据集与指标数字。

7月21日周二
  1. IEEE TDSC58

    Fortress：多层级安全且高效的分布式学习框架

    Fortress 是一个面向分布式学习的多层级安全框架，同时应对梯度级重建、模型级推理和训练级操纵三类威胁。该框架用双服务器布尔秘密共享实现安全聚合，在秘密份额上直接加噪并以多项式近似规避加密域中的高开销非线性运算，再用基于转录的轻量验证保证恶意韧性。多数据集评测显示，Fortress 在保持多层级安全与恶意攻击下鲁棒性的同时，将通信开销降低 6.2 到 32.3 倍。 开源代码：github.com/tiliondev/fortress

    推荐理由：Fortress 把安全聚合、差分隐私与恶意韧性放在同一框架里协同设计，通信开销降低 6.2 到 32.3 倍。

1月1日周四
  1. IEEE TIFS49

    分布式学习中的纯边缘通用对抗攻击

    研究提出一种新威胁模型：攻击者仅掌握分布式学习中模型的边缘部分（初始网络层），即可生成通用对抗扰动（UAP），通过操控边缘关键特征表示使未知云端组件产生误判。在 ImageNet 上的结果显示，该方法对未知云端部分具有较强攻击迁移性，并与经典白盒、黑盒方法进行了对比。这是分割推理中首个仅凭边缘知识实施的对抗攻击，凸显部分模型访问下的对抗鲁棒性问题。

  3. IEEE TIFS58

    GHOST：在 non-IID 联邦学习中利用 GAN 与未来更新预判实现策略性后门持久化

    论文提出 GHOST 两阶段后门攻击方法，用于在 non-IID 联邦学习中维持后门持久性。第一阶段用 GAN 借助全局模型反馈推断其他客户端的数据分布，以缩小本地与全局分布差距；第二阶段用 GAN 生成的数据近似良性客户端行为，模拟并预判未来轮次的全局模型，从而跨多轮优化后门持久性而非只针对当前轮。 开源代码：github.com/TryGhost/Ghost

    推荐理由：论文针对 non-IID 联邦学习下后门易被良性更新覆盖的问题，用 GAN 推断其他客户端分布并预演后续轮次，思路对联邦后门持久性研究有参考价值。