View Single Post
Old 16-04-2003, 00:20   #1
Violator
Senior Member
 
L'Avatar di Violator
 
Iscritto dal: Aug 1999
Messaggi: 179
Quanto è preciso un processore???

Avrei bisogno di un' informazione: vorrei sapere la precisione dei seguenti processori: Pentium II, Pentium III, Celeron e Pentium IV.
Se mi chiedete cosa intendo per "precisione"... diciamo che se faccio fare un' operazione al computer il cui risultato è un numero decimale, vorrei sapere a quale cifra decimale il computer comincia a commettere l' errore numerico...
Mi pare centri qualcosa con il calcolo in virgola mobile della CPU, ma potrei sbagliarmi.

Grazie a tutti per l' aiuto.
Violator è offline   Rispondi citando il messaggio o parte di esso