Plateforme Level Extreme
Abonnement
Profil corporatif
Produits & Services
Support
Légal
English
Bugs with literal double-precision floating-point number
Message
De
24/11/2003 12:56:04
 
 
À
24/11/2003 11:08:51
Information générale
Forum:
Visual FoxPro
Catégorie:
Autre
Divers
Thread ID:
00852922
Message ID:
00852999
Vues:
19
[snip]
>
>>... Hence, log10(2^52) yields 15.65 digits of precision.
>
>This is incorrect, because any mantissa+exponent rapresentation have the first bit of mantissa set to
>1, but it is not stored on the memory.
>Hence log10(2^(52+1)) -> 15.95
[snip]

Fabio,
I forgot the (so called) ghostbit
Sorry
Gregory
Précédent
Suivant
Répondre
Fil
Voir

Click here to load this message in the networking platform