Als «ieee-754» getaggte Fragen

IEEE 754 ist der am häufigsten verwendete und am weitesten verbreitete Gleitkomma-Standard, insbesondere das Binärformat mit einfacher Genauigkeit (aka float) und das Binärformat mit doppelter Genauigkeit (aka64).

3
Warum funktioniert NaN - NaN == 0.0 mit dem Intel C ++ - Compiler?
Es ist bekannt, dass sich NaNs in der Arithmetik ausbreiten, aber ich konnte keine Demonstrationen finden, deshalb schrieb ich einen kleinen Test: #include <limits> #include <cstdio> int main(int argc, char* argv[]) { float qNaN = std::numeric_limits<float>::quiet_NaN(); float neg = -qNaN; float sub1 = 6.0f - qNaN; float sub2 = qNaN …
300 c++  c  floating-point  ieee-754  icc 
9
Float- und Double-Datentyp in Java
Der Float-Datentyp ist ein 32-Bit-IEEE 754-Gleitkomma mit einfacher Genauigkeit, und der doppelte Datentyp ist ein 64-Bit-IEEE 754-Gleitkomma mit doppelter Genauigkeit. Was heißt das? Und wann sollte ich float anstelle von double verwenden oder umgekehrt?
4
Warum sieht der Gleitkommawert von 4 * 0,1 in Python 3 gut aus, 3 * 0.1 jedoch nicht?
Ich weiß, dass die meisten Dezimalstellen keine exakte Gleitkommadarstellung haben ( Ist die Gleitkomma-Mathematik gebrochen? ). Aber ich verstehe nicht, warum gut 4*0.1gedruckt wird 0.4, aber 3*0.1nicht, wenn beide Werte tatsächlich hässliche Dezimaldarstellungen haben: >>> 3*0.1 0.30000000000000004 >>> 4*0.1 0.4 >>> from decimal import Decimal >>> Decimal(3*0.1) Decimal('0.3000000000000000444089209850062616169452667236328125') >>> Decimal(4*0.1) …
3
Was ist eine subnormale Gleitkommazahl?
Die Referenzseite isnormal () sagt: Bestimmt, ob die angegebene Gleitkommazahl arg normal ist, dh weder Null, subnormal, unendlich noch NaN ist. Eine Zahl, die Null, unendlich oder NaN ist, ist klar, was es bedeutet. Es heißt aber auch subnormal. Wann ist eine Zahl nicht normal?
7
Welcher Zahlenbereich kann in einem 16-, 32- und 64-Bit-IEEE-754-System dargestellt werden?
Ich weiß ein wenig darüber, wie Gleitkommazahlen dargestellt werden, aber leider nicht genug. Die allgemeine Frage lautet: Welcher Zahlenbereich kann für eine bestimmte Genauigkeit (für meine Zwecke die Anzahl der genauen Dezimalstellen in Basis 10) für 16-, 32- und 64-Bit-IEEE-754-Systeme dargestellt werden? Insbesondere interessiert mich nur der Bereich von 16-Bit- …
3
Dürfen JS-Engines die Bits eines NaN ändern?
In JavaScript kann der NaN-Wert intern durch einen weiten Bereich von 64-Bit-Doubles dargestellt werden. Insbesondere jedes Double mit der folgenden bitweisen Darstellung: x111 1111 1111 xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx Wird als NaN interpretiert. Meine Frage lautet: Angenommen, ich wandle zwei 32-Bit-Uint …
Durch die Nutzung unserer Website bestätigen Sie, dass Sie unsere Cookie-Richtlinie und Datenschutzrichtlinie gelesen und verstanden haben.
Licensed under cc by-sa 3.0 with attribution required.