vault backup: 2024-10-21 12:14:06

content/post/模型后门攻击论文阅读.md

@@ -56,7 +56,7 @@ BadMerging攻击框架包含两个主要部分：攻击机制设计和特征插
   $$\begin{array}{l}F=p \cdot \mathcal{V}_{\theta_{\text {adv }}}(x \oplus t)+(1-p) \cdot \mathcal{V}_{\theta_{\mathrm{pre}}}(x \oplus t), \\\mathcal{L}_{B D}(x, c, t)=\mathcal{L}_{C E}\left(\left[\left\langle F, \mathcal{T}\left(c_{1}\right)\right\rangle, \cdots,\left\langle F, \mathcal{T}\left(c_{k}\right)\right\rangle\right]^{\top}, c\right) .\end{array}$$
   对于 λadv = 1，我们使用 Mθadv 的视觉编码器提取的特征来近似合并模型的特征。对于 λadv = 0，由于对手不知道 Δθbenign，我们使用 Mθpre 的视觉编码器提取的特征来近似合并模型的特征。
 ### off-task
-目标任务与攻击者任务不同，
+目标任务与攻击者任务不同。假设目标
 
 
 ## 实验结果
@@ -82,8 +82,8 @@ BadMerging攻击框架包含两个主要部分：攻击机制设计和特征插
 - 研究如何结合多种防御机制来提高模型融合的安全性。
 - 考虑实际部署场景，研究如何在不牺牲太多性能的情况下提高模型的鲁棒性。
 
---- idea: 多源模型版权保护。
-	在模型融合过程中，关注每个融合模型的版权。比如a + b + c。每个的版权都能查到。
+## idea: 多源模型版权保护。
+在模型融合过程中，关注每个融合模型的版权。比如a + b + c。每个模型所有者的版权都能查到。
 	**可能的挑战**： 1. 版权冲突 a / b / c 后门水印冲突
 				 2. 水印容量
 				 3.