# 联邦学习为公平性研究提供了几个思考 #
机器学习模型的表现经常会令人惊讶。当这些行为模型对用户非常不友好时，研究者会将其归为不公平。例如，如果具有相似特征的人得到了完全不同的结果，那么这就违反了个体公平的标准。如果某些敏感群体(种族、性别等)得到不同的结果，那么这可能违反人口统计学公平的各种标准........
训练数据中的偏差：机器学习模型中不公平的一个驱动因素是训练数据中的偏差，包括认知抽样、报告和确认偏差。一种常见的现象是个别特征数据在总的数据集中代表性不足，因此模型训练过后得到的权重并不能代表问题。就像联合学习中使用的数据访问过程可能会引入数据集移位和非独立性一样。
公平而不获取敏感属性：明确获取人口统计信息，例如种族、性别等会引发关于公平性标准的讨论，当个人敏感属性不可用时，经常部署联邦学习的环境也会引起对公平性的讨论，例如开发个性化的语言模型和公平的医学分类器。所以测量和纠正不公平是联合学习研究人员要解决的一个关键问题。
公平、隐私和稳健：公平和数据隐私似乎是互补的伦理概念，在许多需要隐私保护的现实环境中，公平也是非常需要的。由于联合学习最有可能部署在隐私和公平都需要的敏感数据环境中，因此解决公平和隐私问题至关重要。
利用联邦提高模式多样性：联合学习提供的分布式训练将以前可能不切实际甚至非法地数据，都能合理的利用起来。当前的一些数据隐私保护法已经逼得企业在数据孤岛中建模。另外，训练数据中缺乏代表性和多样性会导致模型性能的下降，联邦学习能够组合可能已经与敏感属性相关的数据来改善这些模型的公平性，进而提高模型的性能。
