Er Google dårlig i matematikk?

[Geir G]

999999999999999-99999999999998=0 ???

 

Kanskje ikke den mest troverdige kalkulatoren?

[T F]

Flere kalkulatorer kan produsere slike løsninger... Husker flere tilfeller fra flyskolen hvor ASA sin CX-2 plutselig ga masse desimaler, når man hadde regnestykker med hele tall.

 

Men hvis man trenger en kalkulator til slike regnestykker som gitt ovenfor, så er det kanskje ikke Google som sliter mest...

 

 

Hilsen T

[Andreas Grindvoll]

Hvor lang tid tok det deg fra 1-1 til x9 - x98, Geir?

[Karl Mathias Moberg]

http://www.google.com/support/forum/p/Web%20Search/thread?tid=71cd68ae3c8f458f&hl=en

[H O]

Dette er en konsekvens av at datamaskiner ikke skjønner konseptet med en kontinuerlig tallinje. I den vanlige IEEE standarden er tallinjen på det høyeste presisjonsnivået et endelig antall punkter mellom +/- 10^(+/-4931), og alt utenfor dette blir oppfattet som uendelig.

 

Det kan skape en den rare situasjoner, som den nevnte i første innlegg. Jeg mistenker dog at Google ikke har så imponerende høyt presijonsnivå. I Matlab får jeg

 

999999999999999-999999999999998 = 1

 

men

 

99999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999-99999999999999999999999999999999999999999999999999999999999999999999999999999999999999999998 = 0

 

Dette er roten til mye krøll i numeriske beregninger... :confused: