近日,我院彭浩教授,以浙江师范大学为第一单位,以第一作者/通讯作者在中国计算机学会(CCF)推荐的网络与信息安全领域A类期刊IEEE Transactions on Dependable and Secure Computing和IEEE Transactions on Information Forensics and Security连续发表两篇高水平期刊论文,有力推进了人工智能安全领域前沿性研究,扩大了我校计算机学科在网络与信息安全领域的学术影响力。
论文1:TextCheater: A Query-Efficient Textual Adversarial Attack in the Hard-Label Setting(IEEE Transactions on Dependable and Secure Computing,TDSC)TDSC是网络安全领域的顶级期刊,属于CCF-A类。浙师大为该论文第一单位和通讯单位,彭浩教授为论文第一作者,博士研究生郭仕鑫为第二作者,青年教师钟鸣博士为通讯作者,国防科大杨星教授为共同通讯作者。
本文在人工智能模型安全方向,提出了一种名为TextCheater的基于决策的元启发式搜索方法,通过禁忌搜索来高效的完成文本对抗攻击任务。该方法引入了多初始化点和Tabu搜索策略,防止搜索过程陷入局部最优,并应用于6个基准数据集和8个真实世界的商业情绪分析平台/模型。此外,还通过对有毒评论检测和文本分类任务的对抗性训练来增强其鲁棒性。该研究首次引入了基于个体的元启发式搜索算法,在当前主流目标模型和真实世界的平台/模型上进行了充分的实验,用于高效的生成对抗样本。结果表明,无论在理想的环境下,本方法生成的对抗样本都具有较高的语义相似性、较低的干扰率和更高的流畅性,同时获得较高的攻击成功率以及更低的查询次数。
论文2:MalGNE: Enhancing Performance and Efficiency of CFG-Based Malware Detector by Graph Node Embedding in Low Dimension Space(IEEE Transactions on Information Forensics and Security,TIFS)TIFS是网络安全领域的顶级期刊,属于CCF-A类。浙师大为该论文第一单位和通讯单位,彭浩教授为论文第一作者,硕士研究生杨介帅为第二作者,青年教师钟鸣博士为通讯作者,浙江大学纪守领教授为共同通讯作者。
本文在恶意软件智能检测方向,提出了一种名为MalGNE的控制流程图节点表征方法,通过将节点指令序列映射至低维连续空间以提高基于控制流程图的恶意软件检测器的检测精确度和效率。该方法引入了一种新颖的指令编码规则来解决OOV问题,生成高质量的初始向量。同时,采用聚合层和序列层来提取节点聚合特征和执行序列特征,并结合GNN预训练节点嵌入模型,将节点汇编指令序列的语义信息映射到一个紧凑的、低维的连续空间中,确保高质量的特征提取,提高了检测器的性能和效率。该研究应用于当前3个主流图神经网络模型和3个业界公认恶意软件样本集,均展现出较好的增强效果。结果表明,MalGNE增强后的检测器,在低维空间能够展现出色的性能和效率。