Level Extreme platform
Subscription
Corporate profile
Products & Services
Support
Legal
Français
Precision problem???
Message
From
16/03/2014 07:09:17
 
 
To
16/03/2014 06:42:47
Lutz Scheffler
Lutz Scheffler Software Ingenieurbüro
Dresden, Germany
General information
Forum:
Visual FoxPro
Category:
Coding, syntax & commands
Environment versions
Visual FoxPro:
VFP 9 SP2
OS:
Windows 7
Network:
Windows 2003 Server
Database:
MS SQL Server
Application:
Web
Miscellaneous
Thread ID:
01596565
Message ID:
01596623
Views:
43
>In simple words:
>
>*...
>>nd = INT(x1000 - x0930)
>*...
>
>will do best work

no, comparing x1000 - x0930 to a specific value (see Al's 1799.5 for example...) is best.
>
>>The best overall strategy is always to compare to correct number in the scale given by measurement. Stay away from calculations done on measurements....

>Arrgh. I have the feeling to understand but somehow I don't grok it. Kannst Du das in Deutsch wederholen, bitte?

Die beste Strategie ist es, immer in der Maßeinheit der vorgenommenen Messung zu verbleiben. Das englische "scale" verweist ebenfalls noch auf Skalenniveau, was auch nah am Thema ist, aber die Maßeinheit (Sekunden, Bier, Lichtjahre) wird potentiell mit jeder Umrechnung verwässert ("halbe Stunde"~#Secs/3600*0.5 ist ja nichts anderes als eine Transformation innerhalb des Intervall-Skalenniveaus)

Hoffe, für einen verkaterten So klar genug zu sein

thomas
Previous
Next
Reply
Map
View

Click here to load this message in the networking platform