看见更大的世界，遇见更好的自己
See a better world to meet better for ourselves.

机器学习中的隐私保护（英文：Privacy Preserving ML 缩写：PPML）是防止机器学习算法中的数据泄漏的方法。数据隐私是训练和测试AI模型的核心问题，尤其是那些训练和推理敏感数据的模型。隐私保护可以划分为四个重点方向：1.训练数据隐私，保证破坏者无法对训练数据进行逆向工程；2.输入隐私，保证用户的输入数据不能被其他方观察到，包括模型的创建者；3.输出隐私，保证模型的输出对任何人都不可见，除了正在推理其数据的用户；4.模型隐私，保证模型不会被破坏者窃取。目前机器学习中的隐私保护仍然是一个研究问题，但Python提供一些工具可以解决一些最紧迫的隐私需求。

2022年12月，机器学习技术正被广泛应用在各个领域，充分发挥数据的价值，好事者特别推荐10款优秀的Python计算生态，帮助您了解机器学习中的隐私保护。

PySyft

PySyft是用于安全和隐私深度学习的Python库，它在主流深度学习框架（例如PyTorch和TensorFlow）中使用联邦学习，差分隐私和加密计算（例如多方计算（MPC）和同态加密（HE））将隐私数据与模型训练分离。

https://github.com/OpenMined/PySyft

flower

一个友好的联邦学习框架。Flower是一个用于构建联邦学习系统的框架。

https://github.com/adap/flower

openfl

OpenFL 是用于联合学习的 Python 3 框架。OpenFL 旨在成为数据科学家的灵活、可扩展且易于学习的工具。

https://github.com/intel/openfl

Rosetta

Rosetta 是一个基于TensorFlow的隐私保护框架。

https://github.com/LatticeX-Foundation/Rosetta 

tf-encrypted

TF Encrypted 是 TensorFlow 中用于加密机器学习的框架。它的外观和感觉都像 TensorFlow，利用 Keras API 的易用性，同时通过安全的多方计算和同态加密对加密数据进行训练和预测。TF Encrypted 旨在使保护隐私的机器学习随时可用，而不需要密码学、分布式系统或高性能计算方面的专业知识。

https://github.com/tf-encrypted/tf-encrypted

differential-privacy

谷歌的差分隐私库。

https://github.com/google/differential-privacy

substra

Substra 是一个 python 库和一个与 Substra 平台交互的命令行界面。

https://github.com/Substra/substra

TensorFlow Privacy

TensorFlow Privacy是一个开源库，它允许研究人员和开发人员构建具有强大隐私保护功能的机器学习模型。

https://github.com/tensorflow/privacy

DeepPrivacy

DeepPrivacy 是一种全自动图像匿名化技术。

https://github.com/hukkelas/DeepPrivacy

fawkes

Fawkes，针对面部识别系统的隐私保护工具。

https://github.com/Shawn-Shan/fawkes