微 众银行分布式机器学习算法“联邦学习”的三种学习模式

十月好88

　　微 众银行分布式机器学习算法“联邦学习”的三种学习模式
　　
　　2019年世界人工智能大会在上海世博会中心拉开帷幕，海内外大咖齐聚，学术界、工业界交汇，共同讨论人工智能的未来。“联邦学习”,英文叫“Fed-eratedLearning”，数据的各个拥有方，在各自数据不出本地的情况下建立模型，并且让这个模型能够共享，那么在建立模型的过程中便不会侵犯用户的隐私，整个建模的过程就叫联邦学习的框架和算法。
　　
　　微 众银行首席人工智能官杨强教授也在大会中表示：联邦学习已经成为AI在学术界和工业界的新趋势，未来行业面临的社会大众的要求和监管会越来越严格，联邦学习能够在满足用户隐私保护和数据安全需求的同时，实现多方共赢。微 众
　　
　　
　　
　　微 众银行
　　
　　Google在2016年就开始进行一个项目，在安卓系统的手机用户中建立联邦学习，解决用户个人终端设备的数据隐私问题。首先初始化模型下载到各终端，各终端根据自己本身的数据更新模型参数,不同的终端就会产生不同的更新结果，这些更新被送到云端进行聚合,汇总后的模型参数将作为下一次更新的初始参数,这样一直迭代直到收敛。用这样的一个方法既能保证用户隐私,同时又能共享一个通用模型,利用群体智能在云端不断更新。We Bank
　　
　　微 众银行分布式机器学习算法“联邦学习”的三种学习模式
　　
　　这样的模型不仅需要一个机器学习算法，更需要一个分布式的机器学习算法。在分布式的机器学习算法之上，还要有各种加密的算法。在这个基础上,一共有三种模式来进行联邦学习。微 众银行
　　
　　第一种叫做横向联邦学习
　　
　　横向联邦学习是指当两个数据集的用户不同，重叠较少，但用户特征重叠较多时，我们把数据集按照横向(即用户维度)切分,并取出双方用户特征相同而用户不完全相同的那部分数据进行训练。
　　
　　第二种叫做纵向联邦学习
　　
　　纵向联邦学习是说两个数据集的用户特征重叠较少，但它们却有较多的重叠用户，那么我们就把数据集按照纵向(即特征维度)切分,并取出双方用户相同而用户特征不完全相同的那部分数据进行训练。
　　
　　第三种叫做联邦迁移学习
　　
　　如果两个数据集既不重叠用户特征,又不重叠用户，那么在这个场景下,微 众银行也提出一个新的算法，叫做联邦迁移学习。它可以利用迁移学习的算法,把这两方数据模型的本质挖掘出来,把抽象的模型加以聚合,在聚合的过程中保护用户隐私,也取得了非常大的成功。
　　
　　相关参考：
　　
　　微 众
　　
　　http://www.sootoo.com/keyword/223823/
　　
　　微 众银行We Bank