Publication

On the Generalization of Stochastic Gradient Descent with Momentum

Publications associées (51)

À propos
Confidentialité
Mentions légales

Graph Chatbot

Chattez avec Graph Search

Posez n’importe quelle question sur les cours, conférences, exercices, recherches, actualités, etc. de l’EPFL ou essayez les exemples de questions ci-dessous.

AVERTISSEMENT : Le chatbot Graph n'est pas programmé pour fournir des réponses explicites ou catégoriques à vos questions. Il transforme plutôt vos questions en demandes API qui sont distribuées aux différents services informatiques officiellement administrés par l'EPFL. Son but est uniquement de collecter et de recommander des références pertinentes à des contenus que vous pouvez explorer pour vous aider à répondre à vos questions.

Connectez-vous pour utiliser Chat avec Graph Search

On the Generalization of Stochastic Gradient Descent with Momentum

Graph Chatbot

Chattez avec Graph Search

Phase diagram of Stochastic Gradient Descent in high-dimensional two-layer neural networks

Disparity Between Batches as a Signal for Early Stopping

Adaptation in Stochastic Algorithms: From Nonsmooth Optimization to Min-Max Problems and Beyond

STORM+: Fully Adaptive SGD with Momentum for Nonconvex Optimization

Byzantine Fault-Tolerant Distributed Machine Learning with Norm-Based Comparative Gradient Elimination

Regret Minimization in Stochastic Non-Convex Learning via a Proximal-Gradient Approach

PACOH: Bayes-Optimal Meta-Learning with PAC-Guarantees

Distributed Momentum for Byzantine-resilient Stochastic Gradient Descent

Extrapolation for Large-batch Training in Deep Learning

Generalization error in high-dimensional perceptrons: Approaching Bayes error with convex optimization