- Règle d'affichage.
- Les résultats portent jusqu'à 12 chiffres significatifs. Entre 10⁻¹⁰ et 10¹⁵, ils s'affichent avec séparateur de milliers et au plus 10 décimales (
1,609,344, 167.64, 0.000000001) ; à partir de 10¹⁵ et en dessous de 10⁻¹⁰, ils passent en forme exponentielle à six décimales (9.460730e+15, 1.057001e-25) ; zéro s'affiche 0. - Précision stockée.
- L'arithmétique n'est pas arrondie aux étapes intermédiaires ; la règle des 12 chiffres masque le bruit de la virgule flottante binaire.
1 m en nanomètres affiche 1,000,000,000 alors que le double stocké vaut 999,999,999.9999999, donc le dernier chiffre affiché n'est pas une garantie ; utilisez directement les définitions pour plus de précision. - Bords et débordement.
- Les bords découlent de la règle d'affichage. À 10¹⁵ et au-delà, seuls sept chiffres significatifs sont visibles, et Entrée enregistre ce qui est à l'écran :
1 ly → Mètre affiche 9.460730e+15, et Entrée du côté mètre laisse 9460730000000000 m face aux 9,460,730,472,580,800 m définis ; la ligne Kilomètre garde plus de chiffres (9,460,730,472,580 km), mais seul le facteur 365.25 d × 299,792,458 m/s est exact. Au petit bout, 1 nm en années-lumière affiche 1.057001e-25. Un résultat qui déborde de binary64, comme 1e300 années-lumière, affiche --- ; les entrées négatives se convertissent normalement (-5*2 mètres font -32.8083989501 ft).