社科动态

Science Events

社科动态

首 页 > 正文

【成果动态】我校论文获ACM CCS 2022最佳论文提名

2022-11-17 17:57

近日,第29届ACM计算机与通信安全会议(ACM Conference on Computer and Communications Security, CCS 2022)召开,信息管理学院博士生刘家伟为第一作者的论文被录用并获得最佳论文提名。

论文题目为“Order-Disorder: Imitation Adversarial Attacks for Black-box Neural Ranking Models”(《有序-无序:针对黑盒神经排序模型的模仿对抗攻击》)。武汉大学为第一署名单位,指导教师为信息管理学院教授陆伟(通讯作者)、美国伍斯特理工学院副教授刘晓钟(共同通讯作者)、美国印第安纳大学教授Xiaofeng Wang。印第安纳大学博士后Di Tang、阿里巴巴达摩院算法专家康杨杨、宋凯嵩、孙常龙参与论文相关工作。

随着大规模预训练模型的提出和广泛应用,经过深度预训练和微调的模型在众多文本排序任务中取得了最优越的性能。然而,这些模型继承了神经网络的对抗性弱点,即一个小的故意的扰动(比如图像上的一些像素变化、文本中几个字符的改变等)可能会引发预测结果的极大变化。这种弱点可能被用作搜索引擎毒化、观点引导等。先前的排序攻击主要集中在深度图像排序模型、文本分类和机器翻译系统上,而深度文本排序模型的漏洞尚未得到较多探索。此外,真实场景下的排序系统禁止任何形式的白盒访问权限,即攻击者无法得知目标模型的架构、参数、训练数据等信息时禁止其访问。因此,黑盒攻击更能揭示贴近实际的排序系统漏洞。

该论文利用不同神经网络之间的对抗样本的可迁移特性,提出了一种针对深度文本排序系统的新型黑盒攻击方法,揭示了深度文本排序模型存在的安全漏洞。通过采样目标排序模型的排序结果列表,无需白盒访问权限,训练一个模仿模型来替代目标排序模型,基于替代模型来产生对抗攻击文本,然后迁移到目标排序模型上验证攻击效果。大量的自动检测和人工评测证明,该方法能够以黑盒方式有效实现攻击目标,可用于检测评估检索模型的鲁棒性,同时论文中也讨论了相应的防御和鲁棒性优化策略和方法。目前进一步完善的防御方法正在研究推进中,并取得了积极进展。

据悉,ACM CCS已有近30年的历史,在系统及网络安全领域享有崇高的声誉,一直引领国际信息安全研究的潮流,被中国计算机学会(CCF)认定为网络与信息安全领域A类国际学术会议,与IEEE S&P、USENIX Security、NDSS被业界称为网络安全领域“四大顶级会议”。ACM CCS的谷歌H-5指数为98,在计算机安全与密码学领域期刊会议中该指数排名位列第一。CCS2022共收到971篇有效投稿论文,录用218篇,其中20篇论文被提名为最佳论文。

论文链接:https://dl.acm.org/doi/10.1145/3548606.3560683

来源丨武汉大学新闻网

通讯员 | 程齐凯

编辑丨孙华东 韩潇雨

审核丨方德斌

联系我们

地址:湖北武汉市珞珈山武汉大学半山庐

电话:027-87882011

友情链接

Copyright @ 2021 武汉大学人文社会科学研究院. All rights reserved.