thumb|250px|Photographie de la tablette YBC 7289 annotée. Les nombres écrits dans le système babylonien donnent la racine carrée de 2 avec quatre chiffres sexagésimaux significatifs, soit près de six chiffres décimaux :1 + 24/60 + 51/602 + 10/603 = 1,41421296... (crédit : Bill Casselman).
Les mathématiques mésopotamiennes sont les mathématiques pratiquées par les peuples de l'ancienne Mésopotamie (dans l’Irak actuel), depuis l'époque des Sumériens jusqu'à la chute de Babylone en . Alors que l'on ne dispose que de très rares sources sur les mathématiques en Égypte antique, notre connaissance des mathématiques babyloniennes s'appuie sur environ 400 tablettes d'argile mises au jour depuis les années 1850. Écrites en cunéiforme, ces tablettes furent travaillées sur de l'argile encore humide, puis cuites dans un four ou séchées au soleil. La plupart des tablettes qui nous sont parvenues datent de 1800 à , et traitent de fractions, d’équations algébriques (équations du second degré et du troisième degré), de calculs d'hypoténuse et de triplets pythagoriciens voire, peut-être, de certaines lignes trigonométriques (cf. notamment la tablette Plimpton 322). La tablette YBC 7289 fournit une approximation de précise à six décimales près.
Numération mésopotamienne
À côté de systèmes de numérations hybrides utilisés en métrologie, les Mésopotamiens possédaient un système de numération savante destiné aux calculs. Ce système de numération était de type sexagésimal (« base 60 »). C'est d'ailleurs des Babyloniens que nous avons hérité l'usage de diviser les heures en soixante minutes, et chaque minute en 60 secondes, et aussi de diviser la circonférence d'un cercle en 360 degrés représentant 6 angles de triangle équilatéral de 60° (360=6×60) . Le développement des mathématiques chez les Babyloniens tient à deux choses ; tout d'abord, au fait que le nombre 60 est un nombre hautement composé, dont les nombreux diviseurs : 2, 3, 4, 5, 6, 10, 12, 15, 20, et 30, facilitent les calculs de fractions ; ensuite, à ceci que, contrairement aux Égyptiens et aux Romains, les Babyloniens (comme plus tard les Indiens) disposaient d'un authentique système à numération de position, où les chiffres les plus à gauche représentent les plus grandes valeurs (exactement comme dans notre système décimal : 734 = 7×100 + 3×10 + 4×1).