从算法讲解到应用实战,这是一份完整的联邦学习入门教程(附课程视频)

百家 作者:机器之心 2020-03-29 13:12:51
3 月 26 日,机器之心联合微众银行开设的公开课《联邦学习 FATE 入门与应用实战》第六讲结课,微众银行人工智能部高级研究员谭奔为大家介绍了联邦推荐系统背景、联邦推荐系统分类以及现有工作、联邦推荐算法实现和联邦推荐在新闻推荐的应用。第六讲回顾视频:


第6课精选问答

Q:在纵向联邦因子分解机中,数据提供方输出预估结果会泄漏信息吗?

我想这里泄露是指,数据提供方输出部分预估结果过程中,他的原始数据是否会被其他参与方或者被第三方服务器反推。这里信息泄露是不存在的。

首先在模型训练过程中,各方都是在加密环境下进行,然后各方基于自己的特征进行建模,拥有自己的模型参数并保留在本地,双方都是不知道对方模型参数的内容,另外发送给对方的预估值是模型参数和特征的乘积和,在特征交叉的场景下,特征维度和参数个数非常大,可能是上千万,所以这个预估值是几千万个数字乘积汇总成一个值,然后传送给对方。对方想要从这个值推出它的原始数据是不可能的。所以输出预估结果不存在隐私泄露的风险。

Q:目前只支持两方的联邦吗?可以拓展到更多方吗?

可以的,在这个技术分享中,我们为了将问题简化,更注重在算法逻辑的介绍,我们把联邦参与数量限制在两个进行讲解。其实它是可以非常简单的拓展到多方的。比如说以横向矩阵分解为例子,我们的server可以分别接收来自很多方的user profile梯度,进行汇总,然后再发送回去。 

Q:后续会有哪些算法的支持?

目前我们支持了矩阵分解,以及矩阵分解的多个变种,还有联邦因子分解机。接下来我们会支持基于深度学习的推荐算法。

Q:有联邦推荐和普通推荐的效果数据吗?

有。联邦推荐能够联合多方数据,在保护各方数据安全和用户隐私的情况下,构建新的推荐系统,提升推荐效果。我们会比较新的联邦推荐系统和单个推荐系统的效果,它的提升非常明显。

首先在刚才的demo中有个直观的比较结果。对同一个用户,联邦推荐系统对item的排序结果相比普通推荐系统有很大变化。另外在实际应用场景中,比如我们刚提到的内容推荐,我们分流量做A/B test,可以看到联邦推荐的效果提升非常大。

Q:user profile初始化最后共享同个user profile吗?

对的,在横向联邦推荐系统中,他们有大量相同用户,item不一样,在这个场景中, user profile是共享的。

全程回顾



《联邦学习 FATE 入门与应用实战》是机器之心与微众银行联合开设的系列公开课,于3月5日正式开课,超过 1000 名同学一起在 4 周的时间内完成了 6 期课程的学习,微众银行与 VMware 资深工程师与研究员倾情讲授,从 FATE 整体简介、环境配置到系统应用,帮助初学者循序渐进掌握相关知识与技能。全部回顾视频如下:


第一课:联邦学习技术介绍、应用和FATE开源框架

第二课:快速部署FATE开发环境
第三课:联邦学习FATE算法模块梳理及建模演示
第四课:基于Kubernetes构建FATE联邦学习环境
第五课:FATE整体架构介绍与系统实践
第六课:联邦推荐算法及其应用

在为期 4 周的课程学习过程中,多位讲师回答了小伙伴们的众多疑问,其中有 50 余个问题被大家广泛提到,所以我们再次做了精选与编辑,供大家参考。详情请关注公开课专栏,点击
阅读原文即可跳转。

有更多对联邦学习感兴趣的同学,欢迎添加机器之心小助手,备注「FATE」,加入联邦学习交流群。




接下来,我们将持续推出更多主题的系列公开课,敬请期待。大家有哪些想学习的主题,也欢迎在评论区留言,安排!

关注公众号:拾黑(shiheibook)了解更多

[广告]赞助链接:

四季很好,只要有你,文娱排行榜:https://www.yaopaiming.com/
让资讯触达的更精准有趣:https://www.0xu.cn/

公众号 关注网络尖刀微信公众号
随时掌握互联网精彩
赞助链接