GARD:面向多模态对比学习模型后门的梯度引导对抗表示防御
GARD 是一种无需知道攻击目标和触发器的后处理防御方法,用于修复被植入后门的多模态对比学习模型。该方法利用后门编码器的表示敏感性差异,优化全局与局部对抗探针以最大程度偏移干净图像表示,再将扰动后的表示与分离的干净锚点对齐,同时保持图文对齐,推理阶段不增加额外计算。在六种视觉后门攻击和两种 CLIP 视觉骨干的 12 组组合上,GARD 将攻击成功率降至 1% 以下,并保持有竞争力的干净准确率。
GARD 是一种无需知道攻击目标和触发器的后处理防御方法,用于修复被植入后门的多模态对比学习模型。该方法利用后门编码器的表示敏感性差异,优化全局与局部对抗探针以最大程度偏移干净图像表示,再将扰动后的表示与分离的干净锚点对齐,同时保持图文对齐,推理阶段不增加额外计算。在六种视觉后门攻击和两种 CLIP 视觉骨干的 12 组组合上,GARD 将攻击成功率降至 1% 以下,并保持有竞争力的干净准确率。
作者在固定容器中复现 CAGE 4 的两个参考防御者 KEEP 和 H-MARL Expert,指出该基准有三处读数被高估。
论文对 RAG 向量数据库中基于几何变换的访问控制机制做了统一安全分析,覆盖策略隔离、表示机密性、查询伪造抵抗和策略成员隐藏四个目标。作者在三种编码器上评测现有几何变换实现,发现这些变换能保持检索效用并提供较强的策略隔离,但不具备其余三项安全属性。
研究指出全连接层聚合梯度在正确缩放下实为输入的仿射组合,并据此在每个全连接层利用已知线性子空间或仿射子空间信息实施梯度反演攻击,在部分设置下重建质量显著优于所选基线。适度高估批大小通常能提升或保持重建质量,即使真实批大小未知。研究还考察了差分隐私机制引入梯度扰动下的重建效果。
该预印本研究声学侧信道攻击(ASCA)能否在未见键盘、多样用户、噪声环境和压缩传输通道下依然恢复输入文本,作者提出让声学模型显式具备域不变性,并用语言模型纠正其含噪预测。论文指出,此前工作只在单一键盘、固定麦克风、安静房间且训练与测试同设备的理想实验室条件下验证成功,而本文的结论是这类攻击在开放世界中仍然可行。摘要未给出具体数据集与指标数字。