En mathématiques, une rotation hyperbolique est une application linéaire du plan euclidien qui laisse globalement invariantes des hyperboles ayant les mêmes asymptotes.
Par une telle fonction, l'image d'une droite est une autre droite, dans le même quart de plan entre les asymptotes, ce qui donne l'impression qu'il y a eu une rotation de l'une à l'autre.
Les fonctions hyperboliques en permettent une expression élégante, et la plus utilisée.
Du fait qu'en relativité restreinte lors d'un changement de référentiel inertiel, des hyperboles doivent rester invariantes dans l'espace de Minkowski, on peut utiliser les rotations hyperboliques dans l'expression des transformations de Lorentz.
Dans le cas d'un repère dont les axes sont les asymptotes des hyperboles considérées, l'équation d'une telle hyperbole est xy = q, et une rotation hyperbolique est une transformation linéaire du plan , avec .
L'ensemble de ces rotations hyperboliques, avec la loi de composition est et R = Id, forme un groupe commutatif homéomorphe à . Comme pour toute application linéaire, l'image d'une droite est une droite, et l'image de points sur une droite placés à intervalles réguliers est un ensemble de points sur une droite et placés à intervalles réguliers. Les sous-espaces vectoriels invariants par R sont les asymptotes (qui sont ici les axes).
L'expression matricielle de R est ; comme son déterminant est égal à 1, une figure géométrique transformée par une rotation hyperbolique ne change pas d'aire.
Dans un repère orthonormé, cela signifie que ces hyperboles sont les images des hyperboles dont les asymptotes sont les axes, par une rotation d'angle –π/4, ce qui leur donne pour équation x – y = k. En utilisant cette rotation, on obtient que les rotations hyperboliques ont pour écriture matricielle
Pour a > 0, et en posant , on obtient a = e, C = cosh(α) et S = sinh(α), les fonctions hyperboliques habituelles.
En relativité restreinte, l'intervalle d'espace-temps entre deux événements quelconques est invariant par changement de référentiel inertiel.