GARD:面向多模态对比学习模型后门的梯度引导对抗表示防御
GARD 是一种无需知道攻击目标和触发器的后处理防御方法,用于修复被植入后门的多模态对比学习模型。该方法利用后门编码器的表示敏感性差异,优化全局与局部对抗探针以最大程度偏移干净图像表示,再将扰动后的表示与分离的干净锚点对齐,同时保持图文对齐,推理阶段不增加额外计算。在六种视觉后门攻击和两种 CLIP 视觉骨干的 12 组组合上,GARD 将攻击成功率降至 1% 以下,并保持有竞争力的干净准确率。
GARD 是一种无需知道攻击目标和触发器的后处理防御方法,用于修复被植入后门的多模态对比学习模型。该方法利用后门编码器的表示敏感性差异,优化全局与局部对抗探针以最大程度偏移干净图像表示,再将扰动后的表示与分离的干净锚点对齐,同时保持图文对齐,推理阶段不增加额外计算。在六种视觉后门攻击和两种 CLIP 视觉骨干的 12 组组合上,GARD 将攻击成功率降至 1% 以下,并保持有竞争力的干净准确率。
论文对 RAG 向量数据库中基于几何变换的访问控制机制做了统一安全分析,覆盖策略隔离、表示机密性、查询伪造抵抗和策略成员隐藏四个目标。作者在三种编码器上评测现有几何变换实现,发现这些变换能保持检索效用并提供较强的策略隔离,但不具备其余三项安全属性。
论文提出 ActiveSecHarness,一种围绕智能与权限分离构建的神经符号参考监视器架构,用于防护把语言模型接入 shell、文件系统和网络套接字的 AI 编码环境。
针对多智能体系统中语义记忆易遭记忆投毒攻击的问题,论文提出私有知识检索与私有推理,在知识库中引入签名机制以设计安全、防止知识被恶意篡改。智能体内置类 Prolog 的 Horn 子句推理系统,通过私有方式访问外部已签名知识库,并给出基于 Python 的多种实现,覆盖 k-anonymity 与信息论隐私 IT-PIR 等不同隐私级别。
BypassGym 是面向真实端点的基准,用于系统评估 AI 智能体规避 EDR 的能力:给定 C2 shellcode,智能体需生成并编译可执行载荷且不被拦截或终止的 loader。