公平联邦学习及其设计研究综述.pdf

第4 6卷 第9期2 0 2 3年9月计 算 机 学 报CH I N E S E J OUR NA L O F C OMP UT E R SV o l.4 6 N o.9S e p.2 0 2 3 收稿日期:2 0 2 2-0 6-2 0;在线发布日期:2 0 2 3-0 1-1 1.本课题得到国家自然科学基金(N o.U 2 2 A 2 0 9 9,6 2 1 7 2 3 5 0)资助.古天龙,博士,教授,中国计算机学会(C C F)杰出会员(0 7 0 0 7 D),主要研究领域为形式化方法、可信人工智能、人工智能伦理、数据治理等.E-m a i l:g u t i a n l o n g j n u.e d u.c n.李 龙,博士,讲师,中国计算机学会(C C F)会员(5 0 4 8 7 M),主要研究领域为人工智能安全、公平机器学习、逻辑程序设计等.常 亮,博士,教授,主要研究领域为知识图谱、知识表示、形式化方法等.李晶晶,博士,讲师,主要研究领域为可解释机器学习、基于区块链的联邦学习等.公平联邦学习及其设计研究综述古天龙1)李 龙1)常 亮2)李晶晶1)1)(暨南大学可信人工智能教育部工程研究中心 广州 5 1 0 6 3 2)2)(桂林电子科技大学广西可信软件重点实验室 广西 桂林 5 4 1 0 0 4)摘 要 联邦学习是由多个客户端协作开展模型训练的一种分布式机器学习解决方案.在联邦学习架构下,公平性被赋予了更加丰富的内涵:一方面,联邦学习中不同参与者对模型训练的贡献可能会有很大不同,能够公平反映每个参与者贡献的奖惩激励机制是联邦学习生态可持续发展的关键;另一方面,无论发送给各个参与方的全局模型是被直接用于结果预测还是用于优化参与方的个性化模型,各个参与方所使用的模型在最终的预测性能或精准度上应该具有公平性.具有某一个或多个方面公平性的联邦学习称为公平联邦学习.通过系统梳理和全面剖析近年来的研究工作,对联邦学习的公平性概念、定义及度量进行了阐释;从公平联邦学习生命周期的不同阶段出发,分别对与公平联邦学习设计相关的公平客户端选择、公平模型优化、公平贡献评估、公平激励机制等进行了综述;从可信人工智能及可信联邦学习的角度,对联邦学习公平性与隐私性、鲁棒性的综合设计进行了讨论;立足于区块链与联邦学习的不同耦合方式,即完全耦合、柔性耦合和松散耦合,对基于区块链的联邦学习框架结构进行了分类阐述,进一步从框架结构、公平性、鲁棒性及隐私保护功能等方面对相关研究工作进行了述评;最后,从公平性定义及度量、公平联邦学习方法、鲁棒公平联邦学习及符合伦理联邦学习等四个方面,给出了公平联邦学习及其设计所面临的主要问题、挑战及研究热点.关键词 联邦学习;公平性;隐私保护;鲁棒性;区块链;人工智能伦理中图法分类号T P 1 8 D O I号1 0.1 1 8 9 7/S P.J.1 0 1 6.2 0 2 3.0 1 9 9 1F a i r F e d e r a t e d M a c h i n e L e a r n i n g a n d I t s D e s i g n:A C o m p r e h e n s i v e S u r v e yGU T i a n-L o n g1)L I L o n g1)CHANG L i a n g2)L I J i n g-J i n g1)1)(E n g i n e e r i n g R e s e a r c h C e n t e r o f T r u s t w o r t h y A I,M i n i s t r y o f E d u c a t i o n,J i n a n U n i v e r s i t y,G u a n g z h o u 5 1 0 6 3 2)2)(G u a n g x i K e y L a b o r a t o r y o f T r u s t e d S o f t w a r e,G u i l i n U n i v e r s i t y o f E l e c t r o n i c T e c h n o l o g y,G u i l i n,G u a n g x i 5 4 1 0 0 4)A b s t r a c t F e d e r a t e d l e a r n i n g i s a d i s t r i b u t e d m a c h i n e l e a r n i n g s o l u t i o n i n w h i c h m u l t i p l e c l i e n t s t r a i n m o d e l s u n d e r t h e c o o r d i n a t i o n o f a c e n t r a l s e r v e r.F a i r n e s s i s e n d o w e d w i t h r i c h e r c o n n o t a-t i o n u n d e r t h e f e d e r a l l e a r n i n g f r a m e w o r k.T h e f a i r n e s s o f f e d e r a l l e a r n i n g h a s r o u g h l y t w o m e a n i n g s:c o o p e r a t i v e f a i r n e s s a n d m o d e l f a i r n e s s.F e d e r a t e d l e a r n i n g w i t h o n e o r m o r e a s p e c t s o f f a i r n e s s i s c a l l e d f a i r f e d e r a t e d l e a r n i n g o r f a i r n e s s-a w a r e f e d e r a t e d l e a r n i n g.F i r s t l y,t h i s p a p e r s y s t e m a t i c a l l y r e v i e w s a n d c o m p r e h e n s i v e l y a n a l y z e s t h e r e s e a r c h w o r k i n r e c e n t y e a r s,a n d t h e c o n c e p t,d e f i n i t i o n a n d m e t r i c s o f f a i r n e s s i n f e d e r a t e d l e a r n i n g a r e e x p l a i n e d.F e d e r a t e d l e a r n i n g r e q u i r e s m a n y d i f f e r e n t c l i e n t s t o c o o p e r a t i v e l y u n d e r t a k e m o d e l t r a i n i n g.F a i r n e s s i s n o t o n l y r e-l a t e d w i t h s e n s i t i v e a t t r i b u t e s o r p r o t e c t e d g r o u p s,b u t a l s o a f f e c t e d b y d i f f e r e n t c l i e n t s a n d t h e i r i n t e r a c t i o n s.O n t h e v i e w o f t h e c l i e n t s,t h e g l o b a l m o d e l f o r e a c h c l i e n t m a y h a v e d i f f e r e n t a c c u-r a c y,t h e m o d e l f a i r n e s s s h o u l d g u a r a n t e e t h a t t h e c l i e n t s w i t h s i m i l a r l o c a l d a t a h a v e t h e c o m p a r-a t i v e p r e d i c t i o n r e s u l t s(i.e.t h e i n d i v i d u a l f a i r n e s s),o r d i f f e r e n t c l i e n t g r o u p s s h o u l d h a v e c o n-s i d e r a b l e m o d e l p r e d i c t i o n a c c u r a c y(i.e.t h e g r o u p f a i r n e s s);S e c o n d l y,t h e f a i r f e d e r a l l e a r n i n g d e s i g n m e t h o d s a r e t h o r o u g h l y s u r v e y e d.F a i r n e s s e n h a n c e m e n t m e t h o d o l o g y i n m a c h i n e l e a r n-i n g,o r f a i r m a c h i n e l e a r n i n g d e s i g n,i n c l u d e s p r e-p r o c e s s i n g,i n-p r o c e s s i n g,a n d p o s t-p r o c e s s-i n g.F a i r n e s s e n h a n c e m e n t f o r f e d e r a t e d l e a r n i n g,o r f a i r f e d e r a t e d l e a r n i n g d e s i g n,c a n a l s o b e c a t e g o r i z e d a s t h e s e t h r e e a p p r o a c h e s.M o s t o f t h e e x i s t i n g f a i r f e d e r a t e d l e a r n i n g d e s i g n s f o c u s o n i n-p r o c e s s i n g a p p r o a c h e s.F r o m t h e l i f e c y c l e s t a g e s o f f a i r f e d e r a t i o n l e a r n i n g,t h e y c a n b e r o u g h l y d i v i d e d i n t o c l i e n t s e l e c t i o n,m o d e l o p t i m i z a t i o n,c o n t r i b u t i o n e v a l u a t i o n,i n c e n t i v e m e c h a n i s m a n d s o o n;M e a n w h i l e,i n l i g h t o f t r u s t w o r t h y a r t i f i c i a l i n t e l l i g e n c e,t h e i n t e g r a t e d d e s i g n o f f a i r n e s s,p r i v a c y a n d r o b u s t n e s s o f f e d e r a t e d l e a r n i n g i s d i s c u s s e d,a n d t h e f a i r f e d e r a-t e d l e a r n i n g f r a m e w o r k b a s e d o n b l o c k c h a i n i s i l l u s t r a t e d i n d e t a i l.F a i r n e s s a n d p r i v a c y a r e c o m-p l e m e n t a r y e t h i c a l c o n c e p t s.M a n y a p p l i c a t i o n s c e n a r i o s r e q u i r e b o t h p r i v a c y p r o t e c t i o n a n d f a i r-n e s s.D a t a s e n s i t i v i t y i s t h e k e y f a c t o r o f b o t h f a i r n e s s a n d p r i v a c y,a n d f e d e r a t e d l e a r n i n g m a y b e u s e d i n p r i v a c y-p r o t e c t e d d a t a s c e n a r i o s,w h e r e t h e p r i v a c y o f s e n s i t i v e d a t a a n d f a i r n e s s o f s e n s i-t i v e a t t r i b u t e g r o u p s n e e d t o b e g u a r a n t e e d.T h e f a i r n e s s o f f e d e r a t e d l e a r n i n g h a s b e c o m e a n e w t a r g e t o f a d v e r s a r y a t t a c k.M a l i c i o u s a d v e r s a r y c a n i n f l u e n c e t h e c o n s i s t e n c y o f m o d e l p e r f o r m-a n c e d i s t r i b u t i o n b y d a t a p o i s o n i n g.T h e b a c k d o o r a t t a c k a n d c o o p e r a t i v e f a i r n e s s a t t a c k o f f a i r f e d e r a t e d l e a r n i n g a r e a l s o e m e r g i n g.T h e r o b u s t n e s s o f f a i r f e d e r a t i o n l e a r n i n g r e q u i r e s d e f e n s e m e c h a n i s m s t o d e a l w i t h t h e s e f a i r n e s s a t t a c k s,a n d f a i r n e s s i n a n o m a l y d e t e c t i o n s h o u l d a l s o b e c o n s i d e r e d.F a i r b l o c k c h a i n f e d e r a t e d l e a r n i n g i s t h e c o m b i n a t i o n o f b l o c k c h a i n a n d f a i r f e d e r a t e d l e a r n i n g,w h o s e m a i n c o m b i n a t i o n m e t h o d s i n c l u d e b l o c k c h a i n s m a r t c o n t r a c t o r c o n s e n s u s m e c h-a n i s m f o r f a i r c l i e n t s e l e c t i o n a n d f a i r i n c e n t i v e m e c h a n i s m d e s i g n,a n d b l o c k c h a i ns d i s t r i b u t e d l e d g e r t o s t o r e i n f o r m a t i o n r e l a t e d t o f a i r n e s s d e s i g n a n d d e c i s i o n m a k i n g;F i n a l l y,t h e m a i n p r o b l e m s,c h a l l e n g e s a n d r e s e a r c h t o p i c s i n t h e f i e l d o f f a i r f e d e r a t e d l e a r n i n g a r e p r o p o s e d f r o m t h e d e f i n i t i o n a n d m e a s u r e m e n t o f f a i r n e s s i n f e d e r a t e d l e a r n i n g,m e t h o d s o f f a i r f e d e r a t e d l e a r n-i n g,r o b u s t a n d f a i r f e d e r a t e d l e a r n i n g,a n d e t h i c a l l y a l i g n e d f e d e r a t e d l e a r n i n g f o r t h e h e a l t h y a n d s u s t a i n a b l e d e v e l o p m e n t o f a r t i f i c i a l i n t e l l i g e n c e e c o l o g y.K e y w o r d s f e d e r a t e d m a c h i n e l e a r n i n g;f a i r n e s s;p r i v a c y p r o t e c t i o n;r o b u s t n e s s;b l o c k c h a i n;a r-t i f i c i a l i n t e l l i g e n c e e t h i c s1 引 言人工智能(A r t i f i c i a l I n t e l l i g e n c e,A I)在带来巨大机遇的同时,也蕴含着一系列风险和挑战,如:算法安全导致应用风险、黑箱模型导致算法不透明、数据歧视导致智能决策偏见、数据滥用导致隐私泄露风险等.这些问题直接影响着社会和公众对人工智能的信任,影响着人工智能技术的应用及其系统的部署.面对人工智能引发的信任焦虑,发展可信人工智能(T r u s t w o r t h y A r t i f i c i a l I n t e l l i g e n c e)成为了全球共识1.从学术研究角度,可信人工智能研究包含了安全性、可解释、公平性、隐私保护等多方面内容.机器学习是一种实现人工智能的重要方法,可信机器学习是建立可信人工智能系统的核心技术2.公平性(F a i r n e s s)概念的提出和探讨始于2 0世纪6 0年代3.能够确保每个人都有平等的机会获得一些利益的行为,称为公平的行为,或者称这样的行为具有公平性.不能够确保每个人平等地获得一些利益,损害弱势群体的利益的行为,称为不公平的行为,或者称这样的行为具有不公平性.歧视和偏见是与不公平相关联的概念,不公平的行为又称为具有偏见的行为或者歧视的行为.如果机器学习的预测或决策能够确保每个人或群体都有平等的机会获得一些利益,则称该机器学习具有公平性,并称之为公平机器学习4-5.联邦学习(F e d e r a t e d L e a r n i n g,F L)又称联邦机器学习(F e d e r a t e d M a c h i n e L e a r n i n g,FML),是2991计 算 机 学 报2 0 2 3年由多个客户端(用户)在中央服务器(聚合器)的协调下协作开展模型训练的一种分布式机器学习解决方案6-7.联邦学习概念最早由M c M a h a n等领衔的G o o g l e研究院团队提出8,用以解决面向个体用户的键盘输入优化问题.联邦学习面向的是分散或分布式的多用户(客户端)场景,每个客户端拥有用户自己的数据集.传统的机器学习需要将这些客户端的数据收集在一起,通过数据集完成模型的集中式训练.联邦学习则无需汇总收集各个客户端的数据,而是由参与的用户分别在本地训练各自的本地模型,同时将本地模型参数上传至服务器,服务器则聚合形成全局模型参数(根据不同的联邦学习架构,可以配置由独立的服务器,也可以由某个客户端来承担服务器的模型参数聚合任务),并发布给各个参与方共享使用.联邦学习较好地解决了数据孤岛和数据隐私问题,引起了学术研究和工业应用人员的极大关注6-7,9-1 0,并被大致划分为跨设备(c r o s s-d e-v i c e)F L和跨孤岛(c r o s s-s i l o)F L两类,其中跨设备F L是指参加学习的客户端是大量的移动设备或物联网设备,而跨孤岛F L则指参加学习的客户端是组织、机构或数据孤岛.近年来,伴随着对可信人工智能关注度的不断提升,可信联邦学习(T r u s t w o r-t h y F e d e r a t e d L e a r n i n g)的概念被提出.可信联邦学习是在传统联邦学习分布式联合训练的基础上,加入安全可信机制保证数据隐私及模型安全,同时满足模型性能可使用、效率可控、决策可监督、模型可监管以及普惠等要求,是一种增强型的联邦学习.由其内涵可以发现,可信联邦学习更多聚焦安全性、隐私保护及实用性方面的内容1 1-1 2.鉴于在数据安全和隐私保护方面所具备的明显优势,F L在医疗、金融、保险等领域均具有较好的应用前景6-7.通过高效利用多来源医疗数据,比如电子病历、诊断记录、治疗方案,F L可以协助医疗组织在不侵犯患者隐私的情况下,提升在病情相似性学习、疾病早期诊断、康养方案建议、诊疗效果预测等方面的能力,达到提升疾病诊断及治疗方案的科学性与合理性的效果.通过融合销售记录、纳税情况、产能数据、征信报告等多个数据源,F L可实现更为精准的企业风险评估,类似地也可协助提升个人信贷风险评估、金融欺诈监测的效果.通过融合保险购买记录、历史出险数据等多个数据源,F L可实现更为合理的保险定价及智能理赔等.通过对智能终端上的行为数据进行学习,F L可建立用户行为模型,提升下一个单词预测、人脸检测、语音识别等方面的效果,而不会泄漏个人数据.例如,谷歌将联邦学习应用于手机键盘(谷歌G b o a r d系统)的输入预测,大大提升了手机输入法预测的准确度.随着 通用 数 据 保 护 条 例(G e n e r a l D a t a P r o t e c t i o n R e g u l a t i o n,G D P R)、健康保险携带和责任法案(H e a l t h I n s u r a n c e P o r t a b i l i t y a n d A c c o u n t a b i l i t y A c t,H I P P A)、个人信息保护法 等法律法规的严格实施,以人们对数据安全及隐私保护重视程度的提升,F L必将被越来越多地用于解决各行各业的实际问题.机器学习的广泛应用给人们生活带来了诸多深刻改变,其中的公平性也因此逐渐受到了广泛关注,产业界和学术界从机器学习公平性的定义及度量指标、公平数据集构造、公平机器学习算法设计等多个维度展开了探讨,取得了一定的研究进展4-5.作为一种新型机器学习架构,联邦学习不同于传统的集中式学习(针对传统机器学习公平性的主要研究主题如表1所示)4-5.因此,联邦学习如何处理传统机器学习中的公平性?联邦学习是否会引发新的公平性?这些是联邦学习必须面对的问题6.公平性在联邦学习架构下,被赋予了更加丰富的内涵.联邦学习的公平性具有协作公平性和模型公平性两个方面的含义1 3-1 4.联邦学习是由多方用户参与的协作学习,不同参与者对学习过程的贡献可能会有很大不同,参与者的贡献会受到数据规模、数据质量、通信开销等多个因素影响.例如,银行、政府和科技巨头等具有较大数据规模和更广数据类型范围,这些参与者对学习模型的效果影响更大.此外,一些参与者可能会“搭便车”,只是利用模型,并不对模型学习提供任何贡献;有些甚至是攻击者,可能对学习过程有恶意的负面影响.因此,一个能够公平反映每个参与者贡献的奖惩机制对于联邦学习是非常必要的,奖惩激励系统是联邦学习生态健康、可持续发展的关键.现有的联邦学习系统通常允许每个参与者访问基于所有参与者的数据训练的同一个全局模型,缺乏协作公平性.为此,必须构建衡量每个参与者贡献的度量指标,并设计相应的激励方案,使贡献更多的参与者获得更高的回报,以吸引更多的用户参与模型训练.联邦学习的全局模型会发送到各个参与方的客户端进行预测或决策.一方面,全局模型对于各个客户端在预测性能或精准度上应该具有公平性1 1-1 2.首先,具有相似数据和相同全局模型的客户端,应该具有大致相当的模型预测结果,即,联邦学习客户端39919 期古天龙等:公平联邦学习及其设计研究综述的个体公平性;其次,多个客户端站点的群体之间应当具有相当的模型预测精度,即,联邦学习客户端的群体公平性.另一方面,全局模型对于具有敏感属性或受保护群体的预测,应当满足如下公平性4-6:个体公平性,相似属性的数据具有相似的模型预测结果;群体公平性,受保护群体和非受保护群体具有相同的正类预测率,或者,模型预测与敏感属性无关;反事实公平性,假设个体具有某些其他属性或者属于其他群体,在考虑了所有因果相关的途径后该个体仍能获得一致的结果,即,预测的结果不受属性变化的影响.具有某一个或多个方面公平性的联邦学习称为公平联邦学习(F a i r F e d e r a t e d L e a r n i n g,F F L),或者公平感知联邦学习(F a i r n e s s-a w a r e F L,F A F L)6.在F L的核心功能实现方面,K a i r o u z、Y a n g、L i等从基本概念、数据分布、机器学习模型、优化技术、信息理论、通信结构、通信效率、隐私机制、资源管理、应 用 领 域 等 角 度 出 发,论 述 了F L的 研 究 进展6-7,9-1 0,1 5-1 7.在F L激 励 机 制 设 计 方 面,Z h a n、Z e n g、S t a c k e l b e r g等从数据价值评估、最优资源分配、基于合约理论/博弈论/S h a p l e y值/强化学习/区块链/拍卖理论的F L激励机制设计等方面出发,论述了已有研究和值得开展的工作1 8-2 2.L i u等进一步从F L模型质量改进2 3、区块链F L2 4、个性化F L2 5、模型融合和学习范式2 6等角度全面分析和论述了相关研究工作.L y u、Y i n、M o t h u k u r i等从F L安全性和隐私保护的角度,对与F L相关的投毒攻击和推理攻击技术2 7、安全威胁与隐私泄露风险2 8-2 9、隐私攻击技术及其防御方法2 8-3 0等相关的研究工作进行了综述.关于F L在边缘计算及物联网中的应用方面,L i m、K h a n、N g u y e n等分别从资源开销3 1、性能增强3 2、业务实现3 3、硬件需求3 4等角度对现有研究工作进行了综述讨论.针对联邦学习在医疗领域的应用,N g u y e n、S h y u、A n t u n e s等分别从医疗功能实现(如电子病历管理、远程健康监控、医学图像分析)3 5及医疗数据处理及应用(如医学影像数据、重症监护数据的数据分割、数据分布、数据隐私保护)3 6-3 8的角度综述了F L在智慧医疗中的应用研究.L i u等对分类、推荐、语音识别、医学文本挖掘等自然语言处理任务的F L算法进行了综述,并介绍了相关的评测及工具3 9.Y u等结合教育、医护等应用中的数据挖掘分析了F L的优势,讨论了F L数据挖掘面临的挑战和问题4 0.G a d e k a l l u等讨论了大数据获取、存储、分析和隐私保护等业务应用中的F L技术4 1.A g r a w a l等从入侵检测系统的部署结构、异构异常检测、分布式拒绝服务攻击(D i s t r i b u t e d D e n i a l o f S e r v i c e,D D o S)攻击检测等方面综述了F L在入侵检测的应用研究4 2.以上工作所关注的主要内容如表2所示.表1 针对传统机器学习公平性的主要研究主题研究维度研究内容或技术补充说明公平性概念及度量基于预测结果的公平性统计与度量,基于预测和真实结果的公平性统计与度量,基于预测概率和真实结果的公平性统计与度量等机器学习公平性分析关联规则挖掘方法,k最邻近分类方法,概率因果网络方法等公平机器学习的设计预处理,中间处理,后处理F L架构的特殊性,使得其公平性涵义更为丰富,进一步导致需要更加多样化的公平性分析及设计技术.公平性与隐私性多方安全计算,差分隐私,同态加密,安全聚合协议等当前应用于传统机器学习的隐私保护技术基本适用于F L.但F L对隐私保护的要求更高、公平性含义也更加多样.公平性与鲁棒性面向不同计算环境(如分布漂移、数据不足等)的鲁棒性,面向不同攻击意图(如数据投毒、模型窃取等)的鲁棒性F L的实现依赖于分布式客户端的联合学习,架构的复杂性使其更容易收到来个多方面的攻击或干扰,如恶意客户端投毒攻击、多客户端串谋攻击等.区块链F L的公平性/区块链的分布式特征使其能够较好地协助F L训练,并能够利用其激励机制、智能合约等功能协助提升F L的公平性.注:“/”表示文献中缺少相关内容。尽管如此,目前尚缺乏联邦学习的公平性及其设计的全面性综述讨论.联邦学习架构下公平性的概念和度量如何有别于传统公平性以及公平机器学习?公平联邦学习的训练数据、学习算法、隐私保护、激励机制的特点及其设计方法和技术有哪些?公平联邦学习的应用场景以及应用中面临的问题和挑战有哪些?这些都是需要系统梳理和亟待解决的问题.为此,本文从联邦学习的公平性定义和度量、公平联邦学习设计方法、联邦学习的公平性和隐私性、联邦学习的公平性和鲁棒性、基于区块链的公平联邦学习等方面,对公平联邦学习及其设计进行了分析和综述,同时讨论了公平联邦学习面临的挑战和进一步研究方向.本文主要内容及相互间关系如图1所示.4991计 算 机 学 报2 0 2 3年表2 联邦学习相关的综述论文综述内容分类主要文献涉及公平性文献综合性F L技术K a i r o u z e t a l.,2 0 2 16;Y a n g e t a l.,2 0 1 97;L i e t a l.,2 0 2 09;A b d u l R a h m a n e t a l.,2 0 2 01 0;Z h a n g e t a l.,2 0 2 11 5;L i e t a l.,2 0 2 11 6;L o e t a l.,2 0 2 11 7K a i r o u z e t a l.,2 0 2 16;L i e t a l.,2 0 2 11 6F L的激励机制Z h a n e t a l.,2 0 2 11 8;Z h a n e t a l.,2 0 2 21 9;Z e n g e t a l.,2 0 2 12 0;A l i e t a l.,2 0 2 12 1;T u e t a l.,2 0 2 12 2Z e n g e t a l.,2 0 2 12 0F L的其他技术L i u e t a l.,2 0 2 02 3;W a n g e t a l.,2 0 2 12 4;T a n e t a l.,2 0 2 12 5;J i e t a l.,2 0 2 12 6J i e t a l.,2 0 2 12 6F L隐私与安全L y u e t a l.,2 0 2 02 7;Y i n e t a l.,2 0 2 12 8;M o t h u k u r i e t a l.,2 0 2 12 9;L i u Y i-X u a n e t a l.,2 0 2 23 0边缘计算F LL i m e t a l.,2 0 2 03 1;K h a n e t a l.,2 0 2 13 2;N g u y e n e t a l.,2 0 2 13 3;A b r e h a e t a l.,2 0 2 23 4医疗健康F LN g u y e n e t a l.,2 0 2 23 5;S h y u e t a l.,2 0 2 13 6;A n t u n e s e t a l.,2 0 2 23 7;P f i t z n e r e t a l.,2 0 2 13 8F L其他应用L i u e t a l.,2 0 2 13 9;Y u e t a l.,2 0 2 24 0;G a d e k a l l u e t a l.,2 0 2 14 1;A g r a w a l e t a l.,2 0 2 1 4 2图1 本文整体架构 本文的组织结构如下:第2部分对联邦学习的公平性概念、定义及度量进行了阐释;第3部分从客户端选择、模型优化、贡献评价、激励机制等几个联邦学习环节角度,对公平联邦学习的设计方法进行了综述;第4部分讨论了联邦学习的公平性和隐私性之间的联系,以及联邦学习的公平性和隐私性综合设计;第5部分剖析了联邦学习的公平性和鲁棒性,介绍了鲁棒公平联邦学习设计方法;第6部分介绍了区块链架构的公平联邦学习结构模式及设计方法;第7部分给出了公平联邦学习领域面临的问题、挑战及研究热点.2 联邦学习的公平性概念公平性是一个交叉学科概念,许多学科领域都对其进行了研究4,4 3.在传统机器学习领域,已经提出了多种公平性的概念定义及度量4-5,4 4.从公平性的观测对象角度,这些概念大致可分为群体公平性和个体公平性两类4-5.群体公平性强调的是具有敏感属性或受保护群体应该受到与其他群体相当的待遇,要求机器学习模型的性能表现不应该受到敏感属性影响,受保护群体的模型表现应当和其他群体相当;个体公平性要求相似的个体应该受到相似的待遇,对于机器学习而言,特征或性质相似的个体的模型预测结果应该保持一致.从公平性的度量方式角度,这些概念大致可分为统计度量、相似度量和因果推理等三类4-5.总体上,传统机器学习是基于数据训练模型的