Explore la compression des données par la définition, les types et les exemples pratiques d'entropie, illustrant son rôle dans le stockage et la transmission efficaces de l'information.
Explore les avantages prouvables d'une surparamétrie dans la compression des modèles, en mettant l'accent sur l'efficacité des réseaux neuronaux profonds et sur l'importance du recyclage pour améliorer les performances.
Explore la compression des données, y compris les méthodes sans perte et la nécessité de la compression sans perte pour les nombres réels et les signaux.
Explore les techniques de compression des modèles dans les NLP, en discutant de la taille, de la quantification, de la factorisation du poids, de la distillation des connaissances et des mécanismes d'attention.
Explore l'évolution des normes et techniques de compression vidéo, de H.261 à VVC, en mettant l'accent sur les progrès dans l'efficacité de compression et la qualité vidéo.
