Optimisation décentralisée

Cette séance de cours explore les aspects pratiques de l'apprentissage automatique, en se concentrant sur les méthodes appliquées à l'apprentissage en profondeur, à l'optimisation et aux préoccupations en matière de confidentialité. L'instructeur discute de l'apprentissage fédéré, où les données restent sur les appareils, et de l'apprentissage collaboratif, en soulignant l'importance de garder les données privées. La séance de cours explore le concept de formation décentralisée, en utilisant des techniques telles que la moyenne fédérée et l'agrégation sécurisée pour assurer la robustesse contre les participants malveillants. De plus, l’instructeur explique le compromis entre robustesse et équité dans l’apprentissage collaboratif, en soulignant l’importance d’utiliser la médiane au lieu de la moyenne pour exclure les valeurs aberrantes. La séance de cours aborde également la robustesse antagoniste et l'optimisation du système pour une formation efficace, en concluant avec des informations sur l'optimisation hyperparamétrique et le méta-apprentissage.