Publication

Phase diagram of Stochastic Gradient Descent in high-dimensional two-layer neural networks

Publications associées (78)

À propos
Confidentialité
Mentions légales

Graph Chatbot

Chattez avec Graph Search

Posez n’importe quelle question sur les cours, conférences, exercices, recherches, actualités, etc. de l’EPFL ou essayez les exemples de questions ci-dessous.

AVERTISSEMENT : Le chatbot Graph n'est pas programmé pour fournir des réponses explicites ou catégoriques à vos questions. Il transforme plutôt vos questions en demandes API qui sont distribuées aux différents services informatiques officiellement administrés par l'EPFL. Son but est uniquement de collecter et de recommander des références pertinentes à des contenus que vous pouvez explorer pour vous aider à répondre à vos questions.

Connectez-vous pour utiliser Chat avec Graph Search

Phase diagram of Stochastic Gradient Descent in high-dimensional two-layer neural networks

Graph Chatbot

Chattez avec Graph Search

Supplementary Material - AL2: Progressive Activation Loss for Learning General Representations in Classification Neural Networks

Deep Neural Networks With Trainable Activations and Controlled Lipschitz Constant

Second-order guarantees in centralized, federated and decentralized nonconvex optimization

The Error-Feedback Framework: Better Rates for SGD with Delayed Gradients and Compressed Updates

Extrapolation for Large-batch Training in Deep Learning

Multi-Gradient Descent for Multi-Objective Recommender Systems

On Convergence-Diagnostic based Step Sizes for Stochastic Gradient Descent

Optimizer Benchmarking Needs to Account for Hyperparameter Tuning

Byzantine machine learning

Tracking Performance of Online Stochastic Learners