Archiv verlassen und diese Seite im Standarddesign anzeigen : FP32: 16777216 + 1 = ?
Meine CPU behauptet, 16777216 + 1 = 16777216. Ich hätte 16777218 erwartet, da man doch ab 0,5 aufrundet?
Muh-sagt-die-Kuh
2004-01-02, 12:06:50
Nein, die IEEE 754 Rundungslogik funktioniert anders:
The IEEE standard has four different rounding modes. The usual mode is to round to the nearest value, with a number that falls midway between two others being rounded to the nearest value with an even (zero) low-order digit. The other modes are round toward zero, round toward plus infinity, and round toward minus infinity.
Das letzte Signifikandenbit von 16777218 ist eine 1, folglich wird auf 16777216 gerundet, wo das letzte Signifikandenbit eine 0 ist.
vBulletin®, Copyright ©2000-2024, Jelsoft Enterprises Ltd.