Programmierung floating-point

3

Warum funktioniert NaN - NaN == 0.0 mit dem Intel C ++ - Compiler?

Es ist bekannt, dass sich NaNs in der Arithmetik ausbreiten, aber ich konnte keine Demonstrationen finden, deshalb schrieb ich einen kleinen Test: #include <limits> #include <cstdio> int main(int argc, char* argv[]) { float qNaN = std::numeric_limits<float>::quiet_NaN(); float neg = -qNaN; float sub1 = 6.0f - qNaN; float sub2 = qNaN …

300 c++ c floating-point ieee-754 icc

13

Lassen Sie einen Float nur zwei Dezimalstellen anzeigen

Ich habe den Wert 25.00in a float, aber wenn ich ihn auf dem Bildschirm drucke, ist es 25.0000000. Wie kann ich den Wert mit nur zwei Dezimalstellen anzeigen?

296 objective-c formatting floating-point

6

Warum liefert das Ändern der Summenreihenfolge ein anderes Ergebnis?

Warum liefert das Ändern der Summenreihenfolge ein anderes Ergebnis? 23.53 + 5.88 + 17.64 = 47.05 23.53 + 17.64 + 5.88 = 47.050000000000004 Sowohl Java als auch JavaScript geben die gleichen Ergebnisse zurück. Ich verstehe, dass aufgrund der Art und Weise, wie Gleitkommazahlen binär dargestellt werden, einige rationale Zahlen ( …

294 java javascript floating-point

2

Warum sind einige Float <Integer-Vergleiche viermal langsamer als andere?

Beim Vergleich von Floats mit ganzen Zahlen dauert die Auswertung einiger Wertepaare viel länger als bei anderen Werten ähnlicher Größe. Beispielsweise: >>> import timeit >>> timeit.timeit("562949953420000.7 < 562949953421000") # run 1 million times 0.5387085462592742 Wenn der Gleitkomma oder die Ganzzahl jedoch um einen bestimmten Betrag kleiner oder größer wird, läuft …

284 python performance floating-point cpython python-internals

19

Warum können Dezimalzahlen nicht genau binär dargestellt werden?

In SO wurden mehrere Fragen zur Gleitkomma-Darstellung gestellt. Zum Beispiel hat die Dezimalzahl 0.1 keine exakte Binärdarstellung, daher ist es gefährlich, den Operator == zu verwenden, um sie mit einer anderen Gleitkommazahl zu vergleichen. Ich verstehe die Prinzipien hinter der Gleitkomma-Darstellung. Was ich nicht verstehe, ist, warum aus mathematischer Sicht …

284 math floating-point

3

Float vs Decimal in ActiveRecord

Manchmal verwirren mich Activerecord-Datentypen. Ähm, oft. Eine meiner ewigen Fragen ist für einen bestimmten Fall: Soll ich verwenden :decimaloder :float? Ich bin oft auf diesen Link gestoßen , ActiveRecord :: decimal vs: float? , aber die Antworten sind nicht klar genug, um sicher zu sein: Ich habe viele Threads gesehen, …

283 ruby-on-rails types floating-point decimal rails-activerecord

6

Warum sind diese Zahlen nicht gleich?

Der folgende Code ist offensichtlich falsch. Was ist das Problem? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15

273 r floating-point floating-accuracy r-faq

14

Zufällige Erzeugung von Gleitkommazahlen

Wie generiere ich zufällige Floats in C ++? Ich dachte, ich könnte den ganzzahligen Rand nehmen und ihn durch etwas teilen. Wäre das ausreichend?

271 c++ random floating-point

12

Was ist der Grund für alle Vergleiche, die für IEEE754-NaN-Werte falsch zurückgeben?

Warum verhalten sich Vergleiche von NaN-Werten anders als alle anderen Werte? Das heißt, alle Vergleiche mit den Operatoren ==, <=,> =, <,>, bei denen einer oder beide Werte NaN sind, geben entgegen dem Verhalten aller anderen Werte false zurück. Ich nehme an, dies vereinfacht numerische Berechnungen in gewisser Weise, aber …

267 floating-point comparison nan ieee-754 iec10967

12

Wann sollte ich double anstelle von decimal verwenden?

Ich kann drei Vorteile für die Verwendung double(oder float) anstelle von nennen decimal: Verbraucht weniger Speicher. Schneller, da Gleitkomma-Mathematikoperationen von Prozessoren nativ unterstützt werden. Kann einen größeren Zahlenbereich darstellen. Diese Vorteile scheinen jedoch nur für rechenintensive Operationen zu gelten, wie sie beispielsweise in Modellierungssoftware zu finden sind. Natürlich sollten Doppelbilder …

265 c# types floating-point double decimal

9

Wann sollte ich das Schlüsselwort "strictfp" in Java verwenden?

Ich habe nachgeschlagen, was dies bewirkt, aber hat jemand tatsächlich ein Beispiel dafür, wann Sie das strictfpSchlüsselwort in Java verwenden würden? Hat jemand tatsächlich eine Verwendung dafür gefunden? Würde es irgendwelche Nebenwirkungen geben, wenn ich es nur auf alle meine Gleitkommaoperationen anwenden würde?

258 java floating-point strictfp

9

Welcher MySQL-Datentyp sollte für Latitude / Longitude mit 8 Dezimalstellen verwendet werden?

Ich arbeite mit Kartendaten und die Latitude/Longitudeerstreckt sich auf 8 Dezimalstellen. Beispielsweise: Latitude 40.71727401 Longitude -74.00898606 Ich habe in dem Google-Dokument gesehen, das verwendet: lat FLOAT( 10, 6 ) NOT NULL, lng FLOAT( 10, 6 ) NOT NULL Ihre Dezimalstellen gehen jedoch nur auf 6. Sollte ich eine FLOAT(10, 8)andere …

257 mysql types floating-point

7

Warum gibt die Division in Ruby eine Ganzzahl anstelle eines Dezimalwerts zurück?

Beispielsweise: 9 / 5 #=> 1 aber ich habe erwartet 1.8. Wie kann ich das richtige Dezimalergebnis (nicht ganzzahlig) erhalten? Warum kehrt es 1überhaupt zurück?

256 ruby math floating-point division integer-division

8

Wie konvertiere ich einen String in Float in JavaScript?

Ich versuche, zwei Werte aus einem Datagrid zu analysieren. Die Felder sind numerisch, und wenn sie ein Komma haben (z. B. 554,20), kann ich die Zahlen nach dem Komma nicht erhalten. Ich habe es versucht parseIntund parseFloat. Wie kann ich das machen?

255 javascript parsing floating-point

11

Kann jemand dieses seltsame Verhalten mit signierten Floats in C # erklären?

Hier ist das Beispiel mit Kommentaren: class Program { // first version of structure public struct D1 { public double d; public int f; } // during some changes in code then we got D2 from D1 // Field f type became double while it was int before public struct …

247 c# .net floating-point

Als «floating-point» getaggte Fragen