Programmierung floating-accuracy

30

Overа этот вопрос есть ответы на Stapelüberlauf на русском : Вычисления на числах с плавающей точкой не работают Betrachten Sie den folgenden Code: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Warum treten diese Ungenauigkeiten auf?

2983 math language-agnostic floating-point floating-accuracy

11

Wie gefährlich ist es, Gleitkommawerte zu vergleichen?

Ich kenne UIKitVerwendungen CGFloatwegen des auflösungsunabhängigen Koordinatensystems. Aber jedes Mal , möchte ich , wenn beispielsweise überprüfen , frame.origin.xist 0es macht mich krank: if (theView.frame.origin.x == 0) { // do important operation } Ist das nicht CGFloatanfällig für Fehlalarme bei einem Vergleich mit ==, <=, >=, <, >? Es ist …

391 objective-c ios c floating-point floating-accuracy

6

Warum sind diese Zahlen nicht gleich?

Der folgende Code ist offensichtlich falsch. Was ist das Problem? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15

273 r floating-point floating-accuracy r-faq

21

Was ist falsch daran, == zum Vergleichen von Floats in Java zu verwenden?

Laut dieser java.sun-Seite == ist der Gleichheitsvergleichsoperator für Gleitkommazahlen in Java. Wenn ich jedoch diesen Code eingebe: if(sectionID == currentSectionID) In meinem Editor und bei der statischen Analyse wird Folgendes angezeigt: "JAVA0078 Gleitkommawerte im Vergleich zu ==" Was ist falsch ==daran, Gleitkommawerte zu vergleichen? Was ist der richtige Weg, um …

177 java equality floating-accuracy

4

Warum sieht der Gleitkommawert von 4 * 0,1 in Python 3 gut aus, 3 * 0.1 jedoch nicht?

Ich weiß, dass die meisten Dezimalstellen keine exakte Gleitkommadarstellung haben ( Ist die Gleitkomma-Mathematik gebrochen? ). Aber ich verstehe nicht, warum gut 4*0.1gedruckt wird 0.4, aber 3*0.1nicht, wenn beide Werte tatsächlich hässliche Dezimaldarstellungen haben: >>> 3*0.1 0.30000000000000004 >>> 4*0.1 0.4 >>> from decimal import Decimal >>> Decimal(3*0.1) Decimal('0.3000000000000000444089209850062616169452667236328125') >>> Decimal(4*0.1) …

158 python floating-point rounding floating-accuracy ieee-754

12

Ist es möglich, 0 durch Subtrahieren von zwei ungleichen Gleitkommazahlen zu erhalten?

Ist es im folgenden Beispiel möglich, eine Division durch 0 (oder unendlich) zu erhalten? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } Im Normalfall wird dies natürlich nicht der Fall sein. Was aber, …

131 floating-point double floating-accuracy ieee-754

26

Dezimalzahlen in Javascript abschneiden (nicht abrunden)

Ich versuche, Dezimalzahlen auf Dezimalstellen zu kürzen. Etwas wie das: 5.467 -> 5.46 985.943 -> 985.94 toFixed(2)macht genau das Richtige, aber es rundet den Wert ab. Ich brauche den Wert nicht abgerundet. Hoffe das ist in Javascript möglich.

91 javascript floating-point floating-accuracy

4

Was ist das nächste Doppel zu 1.0, das ist nicht 1.0?

Gibt es eine Möglichkeit, programmgesteuert das Double zu erhalten, das 1.0 am nächsten kommt, aber nicht 1.0 ist? Ein hackiger Weg, dies zu tun, wäre, das Double auf eine gleich große Ganzzahl zu speichern und dann eine zu subtrahieren. So wie IEEE754-Gleitkommaformate funktionieren, würde dies dazu führen, dass der Exponent …

88 c++ floating-point floating-accuracy

3

Warum 0,1 + 0,2 == 0,3 in D?

assert(0.1 + 0.2 != 0.3); // shall be true ist meine Lieblingsprüfung, dass eine Sprache native Gleitkomma-Arithmetik verwendet. C ++ #include <cstdio> int main() { printf("%d\n", (0.1 + 0.2 != 0.3)); return 0; } Ausgabe: 1 http://ideone.com/ErBMd Python print(0.1 + 0.2 != 0.3) Ausgabe: True http://ideone.com/TuKsd Andere Beispiele Java: http://ideone.com/EPO6X …

75 floating-point floating-accuracy d constantfolding

6

(.1f + .2f ==. 3f)! = (.1f + .2f) .Gleich (.3f) Warum?

Bei meiner Frage geht es nicht um schwebende Präzision. Es geht darum, warum Equals()anders ist als ==. Ich verstehe warum .1f + .2f == .3fist false(während .1m + .2m == .3mist true). Ich verstehe, das ==ist Referenz und .Equals()ist Wertvergleich. ( Bearbeiten : Ich weiß, dass mehr dahinter steckt .) …

68 c# equality floating-accuracy

Als «floating-accuracy» getaggte Fragen