【成果】陈鸿龙教授团队在人工智能安全领域取得新进展

陈鸿龙教授团队在人工智能安全领域取得新进展，相关研究成果《Towards Channel-Level Privacy: Exploring Gradient Leakage Attack and Lightweight Defense in Federated Learning》被国际顶级期刊《IEEE Transactions on Multimedia》录用。《IEEE Transactions on Multimedia》是多媒体技术领域的国际权威期刊，目前影响因子为9.9，为SCI一区Top、CCF A类推荐期刊。论文第一作者为青岛科技大学特聘副教授李哲（我院2025届博士毕业生），通讯作者为陈鸿龙教授，该研究得到国家自然科学基金、山东省泰山学者青年专家项目和山东省自然科学基金等项目的资助。

图1 论文首页

联邦学习是一种分布式机器学习范式，能够在保持数据本地化的前提下实现全局模型的多方协同训练。然而，客户端与服务器在协同训练过程中仍需频繁交换参数，可能带来新的安全隐患。近年来相关研究表明，攻击者可借助梯度泄露攻击分析共享参数，并重构客户端原始训练数据，进而造成隐私泄露；对于图像等包含丰富语义信息的数据类型，该类风险尤为突出。现有隐私保护方法多从整体梯度或模型参数层面实施扰动，难以在隐私保护强度、模型预测性能与计算开销之间取得更优平衡。针对上述问题，本研究从通道视角探索联邦学习中模型参数共享引发的隐私泄露风险，揭示了攻击者仅利用模型参数的部分通道信息即可重构原始训练数据的潜在威胁。在此基础上，研究提出轻量化通道级隐私保护方法FedLCP，根据不同通道的隐私敏感程度实施自适应差异化防护，在增强关键通道保护能力的同时降低噪声扰动对模型性能的影响。实验结果表明，FedLCP能够有效抵御梯度泄露攻击及通道级隐私泄露威胁，在提供充分隐私保护的同时显著提升模型准确率，并保持良好的收敛性能与较低计算开销，为隐私保护联邦学习研究提供了新的技术思路和方法参考。

图2 FedLCP轻量化通道级隐私保护框架图

陈鸿龙教授带领的团队长期致力于人工智能安全、智能物联网、边缘计算与边缘智能等领域的研究，近年来先后在IEEE Transactions on Mobile Computing, IEEE Transactions on Information Forensics & Security, IEEE Transactions on Dependable and Secure Computing, IEEE Transactions on Multimedia, IEEE Transactions on Wireless Communications等顶级国际期刊和AAAI, ICML, ACM MM, IEEE INFOCOM, IJCAI, CVPR等顶级国际会议上发表高水平学术论文，研究成果屡获国内外同行认可。