PDA

View Full Version : XL vs. OO - precisione di calcolo


guldo76
03-07-2004, 15:18
Excel vs. OpenOffice
Un altro thread ha sollevato una questione che mi rende abbastanza perplesso.
Espongo il problema:
Ho due colonne di numeri, e voglio verificare una certa formula.
(la media degli scarti dalla media; la prima colonna contiene le osservazioni, la seconda le frequenze assolute)
http://guldo.altervista.org/immagini/media-scarti.jpg
Scrivo la formula seguente:
SOMMA((valore-SOMMA(valore*freq)/SOMMA(freq))*freq)
che deve dare zero come risultato.

In OpenOffice il risultato e` appunto zero.
In XL (versione 2000), invece, il risultato e` un numero molto piccolo, ma decisamente diverso da zero: -9,3132^{-10}

Come mai? :confused:

Guldo

Methis
03-07-2004, 19:52
Forse Excel opera con una maggiore precisione anche se ordini di grandezza del tipo n^(-10) mi sembrano francamente esagerati da prendere in considerazione