Long short-term memoryLong short-term memory (LSTM) network is a recurrent neural network (RNN), aimed to deal with the vanishing gradient problem present in traditional RNNs. Its relative insensitivity to gap length is its advantage over other RNNs, hidden Markov models and other sequence learning methods. It aims to provide a short-term memory for RNN that can last thousands of timesteps, thus "long short-term memory".
Réseau neuronal résidueldroite|vignette| Forme canonique d'un réseau neuronal résiduel. Une couche l − 1 est ignoré sur l'activation de l − 2. Un réseau neuronal résiduel ( ResNet ) est un réseau neuronal artificiel (ANN). Il s'agit d'une variante du HighwayNet , le premier réseau neuronal à action directe très profond avec des centaines de couches, beaucoup plus profond que les réseaux neuronaux précédents. Les sauts de connexion ou "raccourcis" sont utilisés pour passer par-dessus certaines couches ( les HighwayNets peuvent également avoir des poids pour les saut eux-mêmes, grâce à une matrice de poids supplémentaire pour leurs portes).
Q-learningvignette|400x400px|Dans le Q-learning, l'agent exécute une action a en fonction de l'état s et d'une fonction Q. Il perçoit alors le nouvel état s' et une récompense r de l'environnement. Il met alors à jour la fonction Q. Le nouvel état s' devient alors l'état s, et l'apprentissage continue. En intelligence artificielle, plus précisément en apprentissage automatique, le Q-learning est un algorithme d'apprentissage par renforcement. Il ne nécessite aucun modèle initial de l'environnement.
Batch normalizationBatch normalization (also known as batch norm) is a method used to make training of artificial neural networks faster and more stable through normalization of the layers' inputs by re-centering and re-scaling. It was proposed by Sergey Ioffe and Christian Szegedy in 2015. While the effect of batch normalization is evident, the reasons behind its effectiveness remain under discussion. It was believed that it can mitigate the problem of internal covariate shift, where parameter initialization and changes in the distribution of the inputs of each layer affect the learning rate of the network.
Bandit manchot (mathématiques)vignette|Une rangée de machines à sous à Las Vegas. En mathématiques, plus précisément en théorie des probabilités, le problème du bandit manchot (généralisable en problème du bandit à K bras ou problème du bandit à N bras) se formule de manière imagée de la façon suivante : un utilisateur (un agent), face à des machines à sous, doit décider quelles machines jouer. Chaque machine donne une récompense moyenne que l'utilisateur ne connait pas a priori. L'objectif est de maximiser le gain cumulé de l'utilisateur.
Highway networkIn machine learning, the Highway Network was the first working very deep feedforward neural network with hundreds of layers, much deeper than previous artificial neural networks. It uses skip connections modulated by learned gating mechanisms to regulate information flow, inspired by Long Short-Term Memory (LSTM) recurrent neural networks. The advantage of a Highway Network over the common deep neural networks is that it solves or partially prevents the vanishing gradient problem, thus leading to easier to optimize neural networks.
Recherche automatique d'architecture neuronaleLa recherche automatique d'architecture neuronale (Neural Architecture Search, NAS) est un ensemble de techniques visant à découvrir automatiquement de nouveaux modèles de réseaux de neurones artificiels. Les principales méthodes employées dans la littérature sont basées soit sur de l'apprentissage par renforcement, sur de la descente de gradient ou bien sur des algorithmes génétiques. Plusieurs méthodes NAS parviennent à obtenir des architectures qui atteignent ou surpassent les performances des modèles créés à la main.
Paysagethumb|Paysage photographique aux multiples couleurs de la Serranía de Hornocal, massif montagneux situé près de la ville d'Humahuaca, province de Jujuy, Argentine. thumb|Paysage photographique brumeux près d'Arnhem, aux Pays-Bas. Les étendues naturelles sont protégées par décret et des capteurs de vérification du niveau des eaux sont installés. thumb|Le sud du massif des Coyote Buttes (Arizona), vu depuis le lieu-dit de Cottonwood Cove. Un paysage est une étendue spatiale couverte par un point de vue.
Courburevignette|Le déplacement d'une Dictyostelium discoideum dont la couleur du contour est fonction de la courbure. Échelle : 5 μm ; durée : 22 secondes. Intuitivement, courbe s'oppose à droit : la courbure d'un objet géométrique est une mesure quantitative du caractère « plus ou moins courbé » de cet objet. Par exemple : dans le plan euclidien, une ligne droite est un objet à une dimension de courbure nulle et un cercle un objet de courbure constante positive, valant 1/R (inverse du rayon) ; dans l'espace euclidien usuel à trois dimensions, un plan est un objet à deux dimensions de courbure nulle, et une sphère est un objet à deux dimensions de courbure constante positive.
Courbure scalaireEn géométrie riemannienne, la courbure scalaire (ou scalaire de Ricci) est un des outils de mesure de la courbure d'une variété riemannienne. Cet invariant riemannien est une fonction qui affecte à chaque point m de la variété un simple nombre réel noté R(m) ou s(m), portant une information sur la courbure intrinsèque de la variété en ce point. Ainsi, on peut décrire le comportement infinitésimal des boules et des sphères centrées en m à l'aide de la courbure scalaire.
