The trend of the next generation of the internet has already been scrutinized by top analytics enterprises. According to Gartner investigations, it is predicted that, by 2024, 75% of the global population will have their personal data covered under privacy regulations. This alarming statistic necessitates the orchestration of several security components to address the enormous challenges posed by federated and distributed learning environments. Federated learning (FL) is a promising technique that allows multiple parties to collaboratively train a model without sharing their data. However, even though FL is seen as a privacy-preserving distributed machine learning method, recent works have demonstrated that FL is vulnerable to some privacy attacks. Homomorphic encryption (HE) and differential privacy (DP) are two promising techniques that can be used to address these privacy concerns. HE allows secure computations on encrypted data, while DP provides strong privacy guarantees by adding noise to the data. This paper first presents consistent attacks on privacy in federated learning and then provides an overview of HE and DP techniques for secure federated learning in next-generation internet applications. It discusses the strengths and weaknesses of these techniques in different settings as described in the literature, with a particular focus on the trade-off between privacy and convergence, as well as the computation overheads involved. The objective of this paper is to analyze the challenges associated with each technique and identify potential opportunities and solutions for designing a more robust, privacy-preserving federated learning framework.

Exploration de l'apprentissage fédéré vérifiable et respectueux de la vie privée grâce à la confidentialité différentielle et aux protocoles cryptographiques: L’apprentissage fédéré est apparu comme un paradigme distribué permettant à plusieurs participants d’entraîner conjointement un modèle d’apprentissage automatique sans échanger leurs données brutes. En conservant les données localement, cette approche réduit considérablement les risques liés à la divulgation d’informations sensibles, risques souvent présents dans les architectures d’apprentissage centralisées. Toutefois, malgré cette promesse de confidentialité, plusieurs travaux récents ont démontré que les gradients échangés lors du processus d’apprentissage peuvent encore révéler des informations sur les jeux de données locaux. Par ailleurs, la majorité des approches actuelles reposent sur des hypothèses de confiance fortes envers le serveur central, sans offrir de mécanismes permettant de vérifier la bonne application des mesures de protection de la vie privée. Ces limites mettent en évidence un écart important entre les garanties théoriques de confidentialité et leur concrétisation dans les déploiements réels. Dans cette thèse, nous proposons de réduire cet écart en combinant la confidentialité différentielle avec des outils cryptographiques et des protocoles de vérifiabilité. L’objectif est d’assurer un apprentissage fédéré à la fois vérifiable et moins dépendant de la confiance envers les entités centrales. Dans un premier temps, nous explorons l’utilisation du chiffrement homomorphe additif afin de protéger les mises à jour locales tout en limitant la dépendance à un agrégateur de confiance. Dans un second temps, nous introduisons un protocole de vérifiabilité non interactif fondé sur les zk-SNARKs et les fonctions de hachage cryptographiques. Ce protocole permet de prouver et de vérifier la correcte application de la confidentialité différentielle sans révéler d’informations sensibles. Enfin, nous présentons ProoFed, un cadre distribué reposant sur le partage de secret pour décentraliser la génération du bruit et intégrer des preuves d’agrégation vérifiables en connaissance nulle, supprimant ainsi les points uniques de confiance.