Unit in the last place

In computer science and numerical analysis, unit in the last place or unit of least precision (ulp) is the spacing between two consecutive floating-point numbers, i.e., the value the least significant digit (rightmost digit) represents if it is 1. It is used as a measure of accuracy in numeric calculations. One definition is: In radix with precision , if , then . Another definition, suggested by John Harrison, is slightly different: is the distance between the two closest straddling floating-point numbers and (i.e., those with and ), assuming that the exponent range is not upper-bounded. These definitions differ only at signed powers of the radix. The IEEE 754 specification—followed by all modern floating-point hardware—requires that the result of an elementary arithmetic operation (addition, subtraction, multiplication, division, and square root since 1985, and FMA since 2008) be correctly rounded, which implies that in rounding to nearest, the rounded result is within 0.5 ulp of the mathematically exact result, using John Harrison's definition; conversely, this property implies that the distance between the rounded result and the mathematically exact result is minimized (but for the halfway cases, it is satisfied by two consecutive floating-point numbers). Reputable numeric libraries compute the basic transcendental functions to between 0.5 and about 1 ulp. Only a few libraries compute them within 0.5 ulp, this problem being complex due to the Table-maker's dilemma. Let be a positive floating-point number and assume that the active rounding mode is round to nearest, ties to even, denoted . If , then . Otherwise, or , depending on the value of the least significant digit and the exponent of . This is demonstrated in the following Haskell code typed at an interactive prompt:

until (\x -> x == x+1) (+1) 0 :: Float 1.6777216e7 it-1 1.6777215e7 it+1 1.6777216e7 Here we start with 0 in single precision and repeatedly add 1 until the operation does not change the value.

À propos de ce résultat

Cette page est générée automatiquement et peut contenir des informations qui ne sont pas correctes, complètes, à jour ou pertinentes par rapport à votre recherche. Il en va de même pour toutes les autres pages de ce site. Veillez à vérifier les informations auprès des sources officielles de l'EPFL.

Publications associées (2)

Concepts associés (3)

Cours associés (1)

Séances de cours associées (6)

PHYS-641: Quantum Computing

After introducing the foundations of classical and quantum information theory, and quantum measurement, the course will address the theory and practice of digital quantum computing, covering fundament

Near- and Sub-Threshold Design for Ultra-Low-Power Embedded Systems

Andreas Peter Burg

Ultra-low-power (ULP) software-programmable architectures are gradually replacing  dedicated VLSI circuits in many applications, including health care and other critical areas. However, the cost for more flexibility is the less frugal use of energy. This c ...

2013

Eikonal approximation in Ads/CFT: from shock waves to four-point functions

We initiate a program to generalize the standard eikonal approximation to compute amplitudes in Anti-de Sitter spacetimes. Inspired by the shock wave derivation of the eikonal amplitude in flat space, we study the two-point function epsilon similar to < O1 ...

Springer2007

IEEE 754

En informatique, l’IEEE 754 est une norme sur l'arithmétique à virgule flottante mise au point par le Institute of Electrical and Electronics Engineers. Elle est la norme la plus employée actuellement pour le calcul des nombres à virgule flottante avec les CPU et les FPU. La norme définit les formats de représentation des nombres à virgule flottante (signe, mantisse, exposant, nombres dénormalisés) et valeurs spéciales (infinis et NaN), en même temps qu’un ensemble d’opérations sur les nombres flottants.

Double-precision floating-point format

Double-precision floating-point format (sometimes called FP64 or float64) is a floating-point number format, usually occupying 64 bits in computer memory; it represents a wide dynamic range of numeric values by using a floating radix point. Floating point is used to represent fractional values, or when a wider range is needed than is provided by fixed point (of the same bit width), even if at the cost of precision. Double precision may be chosen when the range or precision of single precision would be insufficient.

Virgule flottante

vignette|Comme la notation scientifique, le nombre à virgule flottante a une mantisse et un exposant. La virgule flottante est une méthode d'écriture de nombres fréquemment utilisée dans les ordinateurs, équivalente à la notation scientifique en numération binaire. Elle consiste à représenter un nombre par : un signe (égal à −1 ou 1) ; une mantisse (aussi appelée significande) ; et un exposant (entier relatif, généralement borné).

Estimation de la phase quantique : Fondements et applications PHYS-641: Quantum Computing

Explore les fondamentaux, les défis et les applications de l'estimation de phase quantique dans le calcul quantique.

Polymère Science: Enchevêtrement et Reptation MSE-360: Polymer science + TP

Explore les concepts d'enchevêtrement et de reptation dans la science des polymères, en mettant l'accent sur les contraintes de chaîne et le comportement de relaxation.

TrackMate: Analyse d'images et suivi des données

Présente TrackMate pour l'analyse d'image et le suivi des données, en mettant l'accent sur les caractéristiques, les défis et les conseils pratiques.