本发明公开了一种针对联邦学习神经元梯度攻击的防御方法,基于强化学习的联邦系统偏见中毒防御,以保护模型免受梯度中毒攻击,可以应用于水平联邦学习。本发明方法在服务器端记录5个回合的参与者上传的梯度信息,统计神经元参数的变化趋势,计算每个用户每个神经元参数变化趋势,与其他用户该神经元参数变化趋势的Jaccard相似度,查找企图进行梯度攻击的恶意用户,一旦确定了恶意客户端,服务器将从记录的5个回合的梯度信息中剔除恶意用户,重新聚合生成新的全局模型,在保证联邦学习正常进行的情况下,提高学习系统的安全鲁棒性。本发明能够检测哪一个是攻击者操控的客户端,并且通过模型回档的方式避免整个联邦学习系统遭到毒害。
声明:
“针对联邦学习神经元梯度攻击的防御方法” 该技术专利(论文)所有权利归属于技术(论文)所有人。仅供学习研究,如用于商业用途,请联系该技术所有人。
我是此专利(论文)的发明人(作者)