Information générale
Catégorie:
Codage, syntaxe et commandes
David,
>Floating point numbers are rarely ever "accurate" especially when you
>bring functions like log() into the mix, because the constants used
>in the calculation can't be expressed in 32, 64 or even an infinite
>number of bits.
I understand about lack of precision when it comes to LOG(). I don't understand lack of precision when it comes to 2^2.
Thanks.
-Bob
Précédent
Suivant
Répondre
Voir le fil de ce thread
Voir le fil de ce thread à partir de ce message seulement
Voir tous les messages de ce thread
Voir tous les messages de ce thread à partir de ce message seulement