Skrevet 16. mars 2010 14 år 999999999999999-99999999999998=0 ??? Kanskje ikke den mest troverdige kalkulatoren?
Skrevet 16. mars 2010 14 år Flere kalkulatorer kan produsere slike løsninger... Husker flere tilfeller fra flyskolen hvor ASA sin CX-2 plutselig ga masse desimaler, når man hadde regnestykker med hele tall. Men hvis man trenger en kalkulator til slike regnestykker som gitt ovenfor, så er det kanskje ikke Google som sliter mest... Hilsen T
Skrevet 16. mars 2010 14 år http://www.google.com/support/forum/p/Web%20Search/thread?tid=71cd68ae3c8f458f&hl=en
Skrevet 16. mars 2010 14 år Dette er en konsekvens av at datamaskiner ikke skjønner konseptet med en kontinuerlig tallinje. I den vanlige IEEE standarden er tallinjen på det høyeste presisjonsnivået et endelig antall punkter mellom +/- 10^(+/-4931), og alt utenfor dette blir oppfattet som uendelig. Det kan skape en den rare situasjoner, som den nevnte i første innlegg. Jeg mistenker dog at Google ikke har så imponerende høyt presijonsnivå. I Matlab får jeg 999999999999999-999999999999998 = 1 men 99999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999-99999999999999999999999999999999999999999999999999999999999999999999999999999999999999999998 = 0 Dette er roten til mye krøll i numeriske beregninger... :confused:
_svg_med.thumb.png.ed63f3f0946dea9e1c21fb17742cd5c1.png){kind=tracking}
Bli med i diskusjonen!
Du kan poste innlegg nå og registrere deg senere. Hvis du har en brukerkonto kan du logge inn nå for å poste med din egen konto.