Information générale
Catégorie:
Codage, syntaxe et commandes
Titre:
What's wrong with VFP 5.0a's math (or is it me)?
I have a program with the following line of code:
lPayment_Amount = lpct * tpd_payments_lte.weekly_ttd_rt
When I run my program and check the debugger, the following values are used:
10.8539997 = 0.04998 * 217.18
When I ROUND(lPayment_Amount,2) I get 10.85.
But when I do the math using the Windows 95 calculator (0.04998 * 217.18) I get 10.8546564 which should round to 10.86.
Any ideas on how I can fix this?
Thanks!
Jeff Rusch
UW-Madison
Suivant
Répondre
Voir le fil de ce thread
Voir le fil de ce thread à partir de ce message seulement
Voir tous les messages de ce thread
Voir tous les messages de ce thread à partir de ce message seulement