Information générale
Catégorie:
Codage, syntaxe et commandes
Hi,
>>Doing a test:
a=0xffffffff * 2^32 + 0xffffffff
?mod(a,0x80000000) yields 0.00, ie precision lost
Oh. My problem is I don't DO testing <g>
>> You can safely go up to 52 bits.
Ah well, at least it's a lot more than 32.
Regards,
Viv
Précédent
Répondre
Voir le fil de ce thread
Voir le fil de ce thread à partir de ce message seulement
Voir tous les messages de ce thread
Voir tous les messages de ce thread à partir de ce message seulement