Modèles linéaires pour la classification: Extensions multi-classes

Cette séance de cours poursuit la discussion sur les modèles linéaires de classification, en se concentrant sur les techniques de classification multi-classes. Il commence par un résumé de la classification binaire, mettant laccent sur le concept de limite de décision et les limites de la classification des moindres carrés. L'instructeur explique comment la régression logistique améliore ces limitations en utilisant une fonction logistique pour modéliser les probabilités. La séance de cours passe ensuite à la classification multi-classes, introduisant un codage unique pour les étiquettes de classe et discutant de la façon d'étendre la régression logistique pour gérer plusieurs classes en utilisant la fonction softmax. Le risque empirique est défini en termes de perte d'entropie croisée, et la méthode de descente du gradient est décrite pour optimiser les paramètres du modèle. La séance de cours couvre également les mesures d'évaluation pour les classificateurs multi-classes, y compris les matrices de confusion, la précision, le rappel et les scores F1. Enfin, l'instructeur compare la régression logistique et les machines vectorielles de soutien, en soulignant leurs forces et leurs faiblesses respectives dans divers ensembles de données, et conclut par une discussion sur la nécessité de classificateurs non linéaires pour des distributions de données plus complexes.