Level Extreme platform
Subscription
Corporate profile
Products & Services
Support
Legal
Français
Precision problem???
Message
From
16/03/2014 07:28:04
Lutz Scheffler
Lutz Scheffler Software Ingenieurbüro
Dresden, Germany
 
 
To
16/03/2014 07:09:17
General information
Forum:
Visual FoxPro
Category:
Coding, syntax & commands
Environment versions
Visual FoxPro:
VFP 9 SP2
OS:
Windows 7
Network:
Windows 2003 Server
Database:
MS SQL Server
Application:
Web
Miscellaneous
Thread ID:
01596565
Message ID:
01596625
Views:
41
>>In simple words:
>>
>>*...
>>>nd = INT(x1000 - x0930)
>>*...
>>
>>will do best work
>
>no, comparing x1000 - x0930 to a specific value (see Al's 1799.5 for example...) is best.
>>
>>>The best overall strategy is always to compare to correct number in the scale given by measurement. Stay away from calculations done on measurements....
>
>>Arrgh. I have the feeling to understand but somehow I don't grok it. Kannst Du das in Deutsch wederholen, bitte?
>
>Die beste Strategie ist es, immer in der Maßeinheit der vorgenommenen Messung zu verbleiben. Das englische "scale" verweist ebenfalls noch auf Skalenniveau, was auch nah am Thema ist, aber die Maßeinheit (Sekunden, Bier, Lichtjahre) wird potentiell mit jeder Umrechnung verwässert ("halbe Stunde"~#Secs/3600*0.5 ist ja nichts anderes als eine Transformation innerhalb des Intervall-Skalenniveaus)
>
>Hoffe, für einen verkaterten So klar genug zu sein
>
>thomas

Yepp und gute Besserung

http://www.sadanduseless.com/image.php?n=2570

#5
(gdr)
Words are given to man to enable him to conceal his true feelings.
Charles Maurice de Talleyrand-Périgord

Weeks of programming can save you hours of planning.

Off

There is no place like [::1]
Previous
Reply
Map
View

Click here to load this message in the networking platform