- Anzeigeregel.
- Ergebnisse tragen bis zu 12 signifikante Stellen. Zwischen 10⁻¹⁰ und 10¹⁵ werden sie mit Tausendertrennzeichen und höchstens 10 Nachkommastellen ausgegeben (
1,609,344, 167.64, 0.000000001); ab 10¹⁵ und unterhalb von 10⁻¹⁰ wechseln sie in eine Exponentialform mit sechs Nachkommastellen (9.460730e+15, 1.057001e-25); null wird als 0 ausgegeben. - Gespeicherte Genauigkeit.
- Die Arithmetik wird bei Zwischenschritten nicht gerundet; die 12-Stellen-Regel verbirgt binäres Gleitkomma-Rauschen.
1 m in Nanometern zeigt 1,000,000,000, obwohl der gespeicherte Double 999,999,999.9999999 lautet; die letzte angezeigte Ziffer ist also keine Garantie — verwenden Sie für mehr Genauigkeit direkt die Definitionen. - Randfälle und Überlauf.
- Die Randfälle folgen aus der Anzeigeregel. Ab 10¹⁵ sind nur sieben signifikante Stellen sichtbar, und Enter übernimmt, was auf dem Bildschirm steht:
1 ly → Meter zeigt 9.460730e+15, und Enter auf der Meter-Seite hinterlässt 9460730000000000 m gegenüber den definierten 9,460,730,472,580,800 m; die Kilometer-Zeile behält mehr Stellen (9,460,730,472,580 km), aber nur der Faktor 365.25 d × 299,792,458 m/s ist exakt. Am kleinen Ende zeigt 1 nm in Lichtjahren 1.057001e-25. Ein Ergebnis, das binary64 überläuft, etwa 1e300 Lichtjahre, zeigt ---; negative Eingaben rechnen normal um (-5*2 Meter sind -32.8083989501 ft).