近日,计算机科学与技术学院鲁剑锋教授团队再次在中国计算机学会(CCF)推荐的A类国际顶级期刊《IEEE Transactions on Service Computing》上发表了题为“FedUP: Bridging Fairness and Efficiency in Cross-Silo Federated Learning”的最新科研成果。继2023年10月于同一期刊发表“Incentivizing Proportional Fairness for Multi-Task Allocation in Crowdsensing”之后,鲁剑锋教授团队再次在微观经济公平与联邦学习效率交叉优化领域取得新突破。团队通过创新的乌托邦公平理念,巧妙解决了联邦学习中协同效率与收益公平相互冲突的难题,为人工智能物联网领域的前沿研究注入了新动力,进一步提升了本校计算机学科的学术地位和影响力。我院硕士研究生刘海波(目前在上海交通大学计算机系读博深造)为第一作者,鲁剑锋是该文章的通讯作者,计算机科学与技术学院为论文的第一完成单位。
跨筒仓联邦学习以保护隐私的方式实现多个数据孤岛之间的协作训练,在医疗、金融等研究领域备受瞩目。然而,公平且高效的协同对于联邦学习的可持续发展至关重要,但参与者的策略性行为以及数据分布的天然异构性等挑战,严重阻碍了高效且公平的联邦学习的实现。传统的加权聚合损失最小化方法忽视了参与者的个体策略性和集体协同贡献,导致联邦协同低效且不稳定。为了攻克这一难题,研究团队引入了乌托邦公平性概念,以阐释个体收益与集体效率之间的微妙关系,并提出了一种名为FedUP的联邦学习框架。该框架旨在实现高效合作与公平聚合,通过以下创新手段取得了显著成效:在分布式协作方面,将策略性参与者之间的协同过程建模为超模博弈,通过设计最优奖励策略,激励参与者最大化程度参与模型训练;在模型聚合方面,创新性地设计了一种权重注意力机制,通过最小化模型性能偏差来计算公平的模型聚合权重;研究团队还利用交替优化理论来桥接协作效率与乌托邦公平性,并从理论上证明了FedUP框架具有快速的训练收敛速度。通过对合成数据集和真实数据集的广泛实验验证,进一步彰显了FedUP在解决联邦学习协同效率与收益公平冲突方面的优越性。
鲁剑锋是湖北省“楚天学者”特聘教授、浙江省杰出青年基金获得者、武汉科技大学计算机学院三级教授、博导、CCF高级会员、CCF物联网/普适计算专委会执行委员、国家重点研发计划“物联网与智慧城市”重点专项答辩评审专家、湖北省/浙江省/上海市/广东省/江西省/海南省/黑龙江省科技计划项目评审专家等;主要从事边缘智能、联邦学习、群智计算等方向研究,借鉴博弈论策略思维,采用最优化理论、李雅普诺夫优化、近似算法、机器学习等多学科交叉知识融会贯通,联合解决联邦学习与群智计算中比例公平激励、服务交换、众包竞争困境等难题。近年来以第一作者/通讯作者在IEEE TSC、IEEE JSAC、IEEE TIFS、IJCAI、ACM TOIT、IEEE TII、IEEE TVT、IEEE TCSS、IEEE TCE、IEEE TETCI、IEEE IOTJ、电子学报等有影响力的学术期刊及会议上发表论文50余篇,授权国家发明专利8件;先后主持国家自然科学基金4项、省部级课题6项;指导研究生获省/校优秀毕业生称号、优秀硕士学位论文、研究生国家奖学金、校长特别奖多人次,多人毕业后赴上海交通大学、东南大学、浙江师范大学、武汉科技大学等高校读博深造。