数据向善联合无碍腾讯隐私计算白皮书参与人员顾问司晓蒋杰徐炎江波刘煜宏腾讯研究院李南翟尤王京婕管洪博秦天雄宋扬赵子飞王融王天元腾讯数据平台部程勇郝海琪陶阳宇陈鹏腾讯安全刘站奇王海波姜军军腾讯云区块链李力邵兵刘江李佳苏庆慧敖萌蒋昊腾讯数据隐私保护部张亚男王小夏黄晓林腾讯安全平台部张博何林书胡珀腾讯广告江毅邹正勇郭俊徐威序言卢山腾讯高级执行副总裁伴随着数字技术的创新应用人类社会进入全新数字时代数据的融合应用驱动各行各业走向数字化网络化和智能化正在深刻地改变人类的生产和生活方式与此同时数字社会的治理成为我们需要面对的重要议题数据安全个人隐私保护等问题受到社会广泛关注也是我们要心怀敬畏审慎对待的课题隐私计算的兴起为人们提供了在数据安全合规融合应用过程中寻求发展和安全之间平衡点的技术路径和解决思路其正成为未来数字治理的有效路径之一但是数字治理的探索是一项系统性工程仅仅依靠单一技术无法满足当前和未来复杂的治理需求需要技术法律等多种手段相结合的综合治理才能更好适应数字社会发展需要腾讯作为一家科技公司以用户为本科技向善为愿景使命对技术迭代应用创新充满敬畏之心始终相信守正创新方能行稳致远希望和业界携手探索新技术新应用新模式的创新和治理积极探索数字世界守护数据安全助力人们生产效率和生活品质的持续提升数据向善联合无碍腾讯隐私计算白皮书编写说明隐私计算作为在数据融合应用过程中保障数据安全合规的关键技术路径其商业模式应用场景技术变革产业趋势法律问题等正成为当前政产学研用等各界关注的热点在此背景下腾讯多个部门联合撰写腾讯隐私计算白皮书旨在与业界共同探讨推动隐私计算技术产业的发展寻求在数字治理中发展和安全的平衡点白皮书主要分为五个部分第一部分阐述了隐私计算的发展背景基本概念和主要作用第二部分主要分析了隐私计算的技术体系重点对联邦学习可信计算安全多方计算以及区块链和隐私计算融合发展进行了探讨第三部分主要描述了隐私计算当前应用的重点行业和场景第四部分重点探讨了在法律视角下隐私计算在数据安全合规方面的作用和痛点第五部分重点从技术应用法律等视角对隐私计算的发展进行了展望隐私计算的发展总体还处于起步阶段并随着产学研用各界的研究以及政策环境用户需求等变化加速演进当前我们对隐私计算认识也处于探索阶段未来将根据腾讯及合作伙伴的实践以及来自各界的反馈意见在持续深入研究的基础上适时修订目录参与人员序言编写说明一隐私计算成为释放数据融合价值的助推器一数据融合应用需求迫切兼顾发展与安全合规成为行业命题二隐私计算三大流派交织演进和区块链融合成为主流方向一联邦学习助力实现多方联合机器学习三可信计算助力隐私计算服务安全高效运行四隐私计算融合区块链提升数据协作全流程保护能力三数据协作需求推动隐私计算应用从金融医疗等向其他行业延伸一金融二医疗三政务四广告四隐私计算助力数据安全合规的价值凸显但仍存在较大提升空间一隐私计算有望成为数据协作过程中数据合规和隐私保护的技术工具二隐私计算的推广应用仍存在合规痛点五技术演进应用拓展和法律完善将加速隐私计算商业化进程一效率性能提升和技术融合将成为隐私计算产品化的主要方向二隐私计算应用场景不断拓展有望重塑数据使用模式三隐私计算将通过助力法规政策落地促进数据融合应用参考文献二隐私计算应运而生成为数据协作过程中保护多方数据权益的技术解二安全多方计算提供更加安全的联合数据分析能力一隐私计算成为释放数据融合价值的助推器一数据融合应用需求迫切兼顾发展与安全合规成为行业命题数据驱动数字经济蓬勃发展数据安全合规成为焦点议题伴随着云计算大数据人工智能等新一代信息技术的落地应用数据作为战略性和基础性资源不但是连接虚拟空间和实体空间的纽带也是数字经济体系中技术创新需求挖掘效率提升的重要动能但数据在不断创造价值的同时其安全保护合规应用等问题也成为政产学研用等各界关注的焦点一是数据发挥价值需要融合应用数据跨层级跨地域跨系统跨部门跨业务的融合应用才能推动新模式新应用新业态的不断涌现加速数字经济创新发展二是数据可复制可传输等特性期待多元创新的安全合规手段数据的应用会涉及政府社会企业个人等多方主体权益关系到国家安全经济运行社会治理个人权益等多主体需要创新安全管理模式三是数据的价值发挥和安全合规需要寻求动态平衡点数据治理体系搭建需要兼顾发展和安全的平衡既要保护数据主体的权益也要实现公共利益和社会福利的最大化多方主体的数据协作成为趋势数据安全合规风险亟需消除当前全球数据总量呈现指数性增长态势但从现阶段数据的从属来看海量数据散落于不同的组织机构和信息系统中即使是同一区域产业和企业也仍存在数据孤岛问题多方的数据协作已经成为医疗工业零售金融政务等领域挖掘数据价值的重要路径聚合态体系中的多方数据进行联合建模分析也是当下放大数据价值的必然选择但数据安全和合规仍是多方主体数据协作过程中的痛点问题一方面缺乏能够兼顾安全合规和数据协作的合作机制与技术路径无法消除数据主体之间对商业秘密泄露风险商业利益分配等方面的信任鸿沟传统的数据保护方案往往适用于单一的信息系统或者有可能降低数据可用性导致无法满足现有的智慧医疗智慧金融数字政府等涉及跨系统的业务形态另一方面黑灰产隐私保护等问题也为不同主体的数据协作带来挑战由于黑灰产的存在不但加大了企业的数据保护成本也扩大了数据泄露的风险此外由于企业的数据也会包含用户个人信息在协作过程中如何有效进行个人信息保护也是数据价值挖掘的难点数据法律体系日益完善推动企业加速构建数据应用安全合规体系近年来数据保护成为全球关注的焦点一方面数据保护法律法规体系逐渐清晰完善领先国家纷纷出台数据保护相关法律欧盟早在年月就出台一般数据保护条例旨在加强对欧盟境内居民的个人数据和隐私保护年我国的民法典出口管制法数据安全法草案个人信息保护法草案出台或公布不断填补我国数据安全管理方面的空白韩国在年月份通过了新修订的个人信息保护法信用信息法信息通信网法三部法律随后又对个人信息保护法执行令的相关内容也进行了修订美国继年月加州消费者隐私法案生效后年弗吉尼亚州州长拉尔夫签署了消费者数据保护法这使得弗吉尼亚州成为美国第二个制定全面隐私立法的州另一方面各国关于数据保护的监管执行日趋严格根据跨国律师事务所公布的通用数据保护条例罚款和数据违规报告年月日实施后数据保护当局已经执行了亿欧元的罚款涉及欧盟个成员国以及英国挪威冰岛和列支敦士登其中年月日以来执行的罚款数额为亿欧元二隐私计算应运而生成为数据协作过程中保护多方数据权益的技术解隐私计算基本概念和现状图隐私计算体系架构隐私计算是一种由两个或多个参与方联合计算的技术和系统参与方在不泄露各自数据的前提下通过协作对他们的数据进行联合机器学习和联合分析隐私计算的参与方既可以是同一机构的不同部门也可以是不同的机构在隐私计算框架下参与方的数据明文不出本地在保护数据安全的同时实现多源数据跨域合作可以破解数据保护与融合应用难题常见的实现隐私计算的技术路径包括联邦学习安全多方计算可信计算等此外区块链也是隐私计算的重要补充隐私计算也是当前数据保护领域各界关注的热点在学术界近年来有关隐私计算的学术会议和论文呈现爆发式增长例如中国计算机学会多次组织隐私计算技术研讨会在国际顶级学术会议上如等也多次出现有关隐私计算技术的专题研讨会每年出现的与隐私计算相关的学术论文也呈指数增长平均每年都超过一千篇产业界愈加关注隐私计算技术和产品由中国信息通信研究院牵头成立的隐私计算联盟有六十多家成员单位包括大型互联网公司金融机构初创型科技公司等企业各企业单位都争相投入隐私计算研发和产品化工作有多家公司都推出了自己的隐私计算平台产品并开始进行隐私计算在金融医疗等领域的商用落地政府部门和监管机构也非常重视隐私计算技术的发展一方面希望能够通过隐私计算技术推进安全的数据协同应用推动数据经济发展另一方面也积极制定规范和指导意见促进隐私计算技术及产业健康发展推动合法合规的数据协同应用隐私计算的主要作用对于个人消费者而言隐私计算应用有助于保障个人信息安全个人消费者在享受数字经济便利与发展红利的同时个人信息也被采集和广泛应用同时也面临着信息泄露风险而隐私计算在很多场景的应用可以提升对个人信息的保护水平降低个人信息在应用过程中泄露的风险例如欧洲的项目中多家药企正在探索借助隐私计算和区块链来进行的基于的药物研发不同于所有数据收集到一个集中的位置进行训练借助隐私计算只需在本地设备上训练模型然后将这些学习结果传输回一个全局模型而数据不需要离开任何特定的设备并且可以通过区块链保持对数据的可控性实现对诊断数据健康数据等的保护对于企业和机构而言隐私计算是数据协作过程中履行数据保护义务的关键路径一方面在企业内借助隐私计算能够切实保护企业在采集存储分析等过程中的关键信息商业秘密等数据既能保护企业自身的利益还能践行企业的数据保护责任另一方面隐私计算能够促进企业的跨界数据合作由于隐私计算能够实现数据可用不可见能够帮助不同企业和机构与产业链上下游的主体进行联合分析打造数据融合应用同时在数据协作的过程中履行数据安全和合规义务实现生态系统内的数据融合推动企业自身产业层面的数据价值最大化对于政府而言隐私计算是实现数据价值和社会福利最大化的重要支撑一是借助隐私计算能够在政府数据开放过程中在采集存储协作等方面提升数据安全和隐私保护水平在保障数据安全的同时增强全社会的数据协作通过数据的应用最大化社会福利二是借助隐私计算推动数据要素赋能产业升级例如北京国际大数据交易所上线北京数据交易系统基于区块链和隐私计算技术支持的全链条交易服务体系将为市场参与者提供数据清洗供需撮合法律咨询价值评估等一系列专业化服务二隐私计算三大流派交织演进和区块链融合成为主流方向隐私计算伴随着密码技术硬件技术的发展加速商业化其技术路径也处于高速的演进和变化状态其中联邦学习多方安全计算和可信计算是当前主流技术路径也是当下产品化的主要方向此外区块链与隐私计算的融合应用也成为业界的共识两者相辅相成一联邦学习助力实现多方联合机器学习基本概念联邦学习是一种分布式机器学习技术和系统包括两个或多个参与方这些参与方通过安全的算法协议进行联合机器学习可以在各方数据不出本地的情况下联合多方数据源建模和提供模型推理与预测服务在联邦学习框架下各参与方只交换密文形式的中间计算结果或转化结果不交换数据保证各方数据不露出联邦学习可以通过同态加密差分隐私秘密分享等提高数据协作过程中的安全性根据联邦学习各参与方拥有的数据的情况可以将联邦学习分为两类即横向联邦学习和纵向联邦学习图横向联邦学习中数据合作示例图纵向联邦学习中特征合作示例如图所示在横向联邦学习中参与方在各方数据的数量这个维度上进行合作解决单个参与方的训练数据不足的问题如图所示在纵向联邦学习中参与方在数据的特征和标签这两个维度上进行合作解决单个参与方的数据特征过少或者没有标签的问题纵向联邦学习需要计算参与方共同拥有的样本可以通过多方安全计算中的隐私集合求交技术实现技术趋势联邦学习