Les nombres à virgule flottante stockent un nombre fixe de bits significatifs, donc ils ne peuvent pas représenter toutes les valeurs. Le calculateur de précision des flottants prend un format (demi, simple ou double précision) et un nombre et donne les chiffres décimaux de précision, l’erreur d’arrondi, la plage, le plus grand entier exact, l’écart entre nombres voisins près du vôtre et la taille de stockage.
Comment se fait le calcul
- Chiffres décimaux de précision = bits de la mantisse × log10(2). La simple précision a une mantisse de 24 bits (bit caché compris), soit environ 7,2 chiffres.
- Erreur d’arrondi de 1,0 = 2^(1 − bits de la mantisse), l’écart entre 1,0 et le nombre suivant. Elle est donnée en puissance de dix.
- Plus grande valeur finie vaut environ 2^(2^(e − 1)), où e est le nombre de bits de l’exposant, et la plus petite valeur normale est 2^(2 − 2^(e − 1)). Les deux sont données en puissances de dix.
- Écart entre nombres voisins près de votre valeur = 2^(partie entière de log2 de la valeur − (bits de la mantisse − 1)). Il grandit avec la taille du nombre.
Exemple
En demi-précision (11 bits de mantisse, 5 bits d’exposant) les nombres ont environ 3,31 chiffres décimaux de précision. L’erreur d’arrondi relative est d’environ 10^−3,01, et la plus grande valeur finie d’environ 10^4,82 (soit 65 504). Les entiers sont stockés exactement jusqu’à 2 048. Près de 1 500, l’écart entre deux nombres voisins est de 2^(10 − 10) = 1, donc 1 500,5 ne peut pas être stocké.
Pourquoi c’est utile
Les erreurs d’arrondi causent de vrais bogues dans le code financier, les simulations, les jeux et le traitement de capteurs. Savoir combien de chiffres un format contient vraiment, et à quel point les écarts grandissent pour les grandes valeurs, aide à choisir le bon type et à décider comment comparer les nombres.
À savoir
Le calculateur suit les formats binaires IEEE 754, utilisés par presque tous les processeurs et langages. Les nombres dénormalisés étendent la plage sous la plus petite valeur normale au prix de la précision, et les valeurs spéciales comme l’infini et NaN ne sont pas couvertes. Les puissances de dix sont données sous forme d’exposants, car les valeurs ne tiendraient pas à l’écran.
Outils liés
Le calculateur de propagation d’erreur montre comment les incertitudes se combinent dans un calcul et celui de plage d’entiers donne les limites des types entiers.