WeBank_加速安全计算 赋能联邦学习.pdf
5墨值下载
加速安全计算 赋能联邦学习
来自不同参与方的大规模、高质量数据已被证明能有效提升人工智能 (Artificial
Intelligence，AI) 的应用效能。但出于数据安全和隐私保护的考虑，多源数据在共享建
模时也需要寻求更高效、更安全的隐私计算方案。为此，一直致力于探索与推进联邦学
习的微众银行，以领先的 FATE (Federated AI Technology Enabler) 联邦学习开源框
架助力用户快速构建联邦学习方案。
作为联邦学习中常用的隐私技术，同态加密 (Homomorphic Encryption，HE) 在保证
安全性的同时也有着巨大的计算开销。为提升方案的计算效率，微众银行与合作伙伴
英特尔一起，在面向单路和双路的第三代英特尔® 至强® 可扩展处理器中，基于英特尔®
AVX-512 (英特尔® 高级矢量扩展 512) 新增的整数融合乘加 (Integer Fused Multiply-
Add，IFMA) 指令集，以英特尔® IPP-Crypto（Intel® Integrated Performance Primitives
Cryptography）库提供的多缓冲区函数对其中半同态加密（Partial Homomorphic
Encryption，PHE）的模幂运算进行加速，进而提升基于 FATE 框架的联邦学习整体的运
行效率。目前，这一优化方案已得到测试验证，并计划面向用户推广使用，以期帮助用户提
升联邦学习方案效率的同时有效降低总拥有成本 (Total Cost of Ownership，TCO)。
微众银行为联邦学习提供更具优势的联邦学习开源框架
随着算法的日趋成熟与算力的不断增强，更多商业化 AI 应用已在众多行业崭露头角。
例如在金融行业，一些银行正通过基于 AI 的智能风控模型对信贷风险进行管控，从而
降低贷款不良率。但这些 AI 应用要想发挥更大的效能，就需要引入更为充沛且来源丰
富的数据作为支撑。
但多源数据的协同与共享并不容易。一方面，出于对业务敏感信息的保护，大多数企
业在数据共享上都持谨慎态度，即便同一企业内，不同部门间的信息传递往往也需经
过层层审批；另一方面，全社会对数据安全和隐私保护的日益重视，也使多源数据在进
行交互、传输和聚合时需要更多考虑数据安全问题。
“联邦学习开源框架旨在帮助
用户更高效、更快捷地构建
联 邦 建 模 方 案 ，从 而 以 丰 富 的
多源数据打造性能更优的 AI
模 型 。通 过 引 入 英 特 尔 ® I P P -
Crypto 库提供的多缓冲区函
数，我们的 FATE 框架中半同
态加密的模幂运算效率获得
了 显 著 提 升 ，在 助 力 用 户 方 案
效率获得整体提升的同时，有
效降低了 TCO。”
徐倩
人工智能部副总经理
微众银行
第三代英特尔® 至强® 可扩展处理器
英特尔® IPP-Crypto 库
英特尔® AVX-512 IFMA 指令集
联邦学习
同态 / 半同态加密
以英特尔® IPP-Crypto 库加速半同态加密，第三代英特尔® 至强® 可扩展处理器赋能
微众银行 FATE 联邦学习开源框架
微众 广告
微众 广告
案例研究
因此，各个企业的 AI 团队在建模时，都力图寻找更为安全高
效的隐私计算方法来提升多源数据协同能力，为 AI 模型训练
提供更大规模、更高质量的数据。
这其中，联邦学习方法是近年来受到广泛关注的隐私计算方
法。与以往多方安全计算、分布式机器学习和深度学习方法相
比，联邦学习方法具有以下特征：
• 各参与方的数据都留存在本地来参与训练，一种联邦学习
方法的基本流程如图一所示；
• 每个参与方的数据都参与训练过程，相比合并所有数据训
练的模型，联邦学习模型的准确率损失可控；
• 训练过程中兼顾隐私和安全，各参与方能够在不披露原始数据
的前提下共同参与和推动 AI 模型的优化，并共享最终模型。
为了让联邦学习方案的构建更为便捷高效，并能够快速与用户
应用场景融合，作为联邦学习的积极探索者和参与者，微众银行
率先发布了联邦学习工业级开源框架 FATE。作为一种分布式
安全计算框架，FATE 支持同态加密 (包括全同态、半同态) 等隐
私技术，并覆盖横向联邦学习、纵向联邦学习以及联邦迁移学
习等不同联邦学习类型，可为机器学习、深度学习等提供高性
能安全计算。
一直以来，英特尔都以先进的软硬件产品与技术为联邦学习方
案中的各类隐私技术提供出色的基础能力。微众银行 FATE 框
架中支持的各类同态加密算法，其运行过程中需要执行高密度
的计算任务，而英特尔® 架构处理器平台在密集型计算上的优
势可对其提供巨大助力。
现在，面向单路和双路的第三代英特尔® 至强® 可扩展处理器
的到来，进一步为各项联邦学习任务提供了强劲算力，其集成
的英特尔® AVX-512 IFMA 指令集可与英特尔® IPP-Crypto
库等出色技术和产品协同，也为半同态加密过程提供了特定加
速能力。
以多缓冲区函数加速半同态加密中的模幂运算
同态加密是联邦学习中常见的隐私技术之一。所谓同态，是指
通过一定的加密方法，让原始数据的操作，与加密数据的操作
始终能保持同一种形态。如图二所示，假设原始数据 A 和 B 分
别来自联邦学习的参与方 a 和 b，双方计划通过协同运算得到
结果 C，但 ab 双方都不希望对方知道自己的数是多少。在使用
同态加密的联邦学习环境中，可以对 AB 分别进行加密，并在
加密环境下执行运算，所得到的结果进行解密后即可得到 C。
由于整个协同计算过程都是在加密状态下进行，ab 双方在计
算过程中无法看到原始数据，因此保证了原始数据的安全性。
使用同态加密的联邦学习环境
参与方 a 参与方 b
加密 加密
解密
A
A
B
B
C
C
运算符
运算符
图二 同态加密协议基本方法
加密实体对齐
加密模型训练
协同方 C
A 数据 B 数据
2
1
3 3
1
4 4
发送公钥
计算梯度与损失
交换中间结果
更新模型
1
3
2
4
数据源 A 防火墙 数据源 B
11010101
01011110
10010101
11010101
01011110
10010101
模型 B模型 A
图一 一种联邦学习基本架构
2
案例研究
|
加速安全计算 赋能联邦学习
of 5
5墨值下载
【版权声明】本文为墨天轮用户原创内容，转载时必须标注文档的来源（墨天轮），文档链接，文档作者等基本信息，否则作者和墨天轮有权追究责任。如果您发现墨天轮中有涉嫌抄袭或者侵权的内容，欢迎发送邮件至：contact@modb.pro进行举报，并提供相关证据，一经查实，墨天轮将立刻删除相关内容。
下载排行榜
文档被以下合辑收录
评论