- Regra de exibição.
- Os resultados carregam até 12 dígitos significativos. Entre 10⁻¹⁰ e 10¹⁵ eles são impressos com separador de milhares e no máximo 10 casas decimais (
1,609,344, 167.64, 0.000000001); em 10¹⁵ ou acima, e abaixo de 10⁻¹⁰, mudam para forma exponencial com seis decimais (9.460730e+15, 1.057001e-25); zero é impresso como 0. - Precisão armazenada.
- A aritmética não é arredondada nas etapas intermediárias; a regra de 12 dígitos esconde o ruído do ponto flutuante binário.
1 m em nanômetros mostra 1,000,000,000 embora o double armazenado seja 999,999,999.9999999, então o último dígito exibido não é garantia; use as definições diretamente para mais precisão. - Bordas e estouro.
- As bordas decorrem da regra de exibição. Em 10¹⁵ ou acima só sete dígitos significativos são visíveis, e Enter registra o que está na tela:
1 ly → Metro mostra 9.460730e+15, e Enter no lado metro deixa 9460730000000000 m contra os 9,460,730,472,580,800 m definidos; a linha Quilômetro guarda mais dígitos (9,460,730,472,580 km), mas só o fator 365.25 d × 299,792,458 m/s é exato. Na ponta pequena, 1 nm em anos-luz mostra 1.057001e-25. Um resultado que estoura o binary64, como 1e300 anos-luz, imprime ---; entradas negativas convertem normalmente (-5*2 metros são -32.8083989501 ft).