Ho una calcolatrice che visualizza 9 cifre e internamente utilizza dieci cifre (di mantissa). Che cosa ottengo se eseguo i seguenti calcoli? I risultati sono diversi dall'arrotondamento a 9 cifre del risultato esatto? perché?

 (1)   54321.5432 1 7 10050000

 (2)   1 5.64 8 0. 999 999 999 7

(1)  Si ottiene 4321.54 invece di 4321.5432 in quanto il risultato della addizione (10054321.5432) viene internamente arrotondato a 10 cifre (10054321.54), con la perdita di due cifre significative, per cui la sottrazione finale (di 10050000) dà luogo a un valore con due cifre significative in meno.
(2)  Ottengo 8.14285714·10^-9 (anche se sul visore potrebbe apparire 8.142857 E-9), mentre il risultato esatto è 8.2·10^-9: la prima addizione viene internamente arrotondata a 1.000000056, la successiva sottrazione dà così luogo a 0.000000057 invece che a 0.0000000574; con la divisione per 7 si ottiene 8.14285714·10^-9, che non ha in comune con il risultato corretto neanche l'arrotondamento a due cifre.

Per altri commenti: "calcolatore(6)" neGli Oggetti Matematici