Apprentissage par machine de l'adversaire

Cette séance de cours explore le concept d'apprentissage automatique contradictoire, en mettant l'accent sur la façon dont les petites perturbations peuvent causer des erreurs de classification avec une grande confiance dans les réseaux neuraux. Elle se penche sur les implications, les risques et les vulnérabilités liés aux exemples contradictoires en matière de sécurité. L'instructeur discute de la génération d'exemples contradictoires, de différentes méthodes d'attaque et des défis à relever pour optimiser les pertes de classification. En outre, la séance de cours couvre les attaques en boîte blanche et en boîte noire, les attaques de transfert et l'importance des attaques réalisables physiquement. L'instructeur explique également la formation contradictoire comme méthode pour former des modèles robustes et le compromis entre la précision et la robustesse.