Als «precision» getaggte Fragen

Bei Fragen zur numerischen Präzision bei der Programmierung. Verwenden Sie für die Klassifizierungsgenauigkeit das Tag [Präzisionsrückruf].

11
In welcher Reihenfolge sollten Floats hinzugefügt werden, um das genaueste Ergebnis zu erzielen?
Dies war eine Frage, die mir kürzlich bei meinem Interview gestellt wurde und die ich wissen möchte (ich erinnere mich nicht wirklich an die Theorie der numerischen Analyse, also helfen Sie mir bitte :) Wenn wir eine Funktion haben, die Gleitkommazahlen akkumuliert: std::accumulate(v.begin(), v.end(), 0.0); vist ein std::vector<float>zum Beispiel. Wäre …
7
C # DateTime.Now Genauigkeit
Ich habe gerade ein unerwartetes Verhalten mit DateTime.UtcNow festgestellt, als ich einige Unit-Tests durchgeführt habe. Wenn Sie DateTime.Now/UtcNow schnell hintereinander aufrufen, erhalten Sie anscheinend den gleichen Wert für ein länger als erwartetes Zeitintervall zurück, anstatt genauere Millisekunden-Inkremente zu erfassen. Ich weiß, dass es eine Stoppuhrklasse gibt, die sich besser für …
6
Wie viele doppelte Zahlen gibt es zwischen 0,0 und 1,0?
Das ist etwas, woran ich seit Jahren denke, aber ich habe mir nie die Zeit genommen, danach zu fragen. Viele (Pseudo-) Zufallszahlengeneratoren erzeugen eine Zufallszahl zwischen 0,0 und 1,0. Mathematisch gesehen gibt es in diesem Bereich unendlich viele Zahlen, die jedoch doubleeine Gleitkommazahl sind und daher eine endliche Genauigkeit haben. …
11
PHP7.1 json_encode () Float-Problem
Dies ist keine Frage, da es eher bewusst ist. Ich habe eine Anwendung aktualisiert, die json_encode()PHP7.1.1 verwendet , und es wurde ein Problem festgestellt, bei dem Floats so geändert wurden, dass sie manchmal 17 Stellen umfassen. Laut Dokumentation wurde PHP 7.1.x serialize_precisionbeim Codieren von Doppelwerten anstelle der Genauigkeit verwendet. Ich …
92 php  json  precision  php-7.1 
2
Warum ist 199,96 - 0 = 200 in SQL?
Ich habe einige Kunden, die seltsame Rechnungen bekommen. Ich konnte das Kernproblem eingrenzen: SELECT 199.96 - (0.0 * FLOOR(CAST(1.0 AS DECIMAL(19, 4)) * CAST(199.96 AS DECIMAL(19, 4)))) -- 200 what the? SELECT 199.96 - (0.0 * FLOOR(1.0 * CAST(199.96 AS DECIMAL(19, 4)))) -- 199.96 SELECT 199.96 - (0.0 * FLOOR(CAST(1.0 …
5
Floating-Werte mit doppelter Genauigkeit in Python? [geschlossen]
Geschlossen . Diese Frage muss fokussierter sein . Derzeit werden keine Antworten akzeptiert. Möchten Sie diese Frage verbessern? Aktualisieren Sie die Frage so, dass sie sich nur auf ein Problem konzentriert, indem Sie diesen Beitrag bearbeiten . Im letzten Monat geschlossen . Verbessere diese Frage Gibt es Datentypen mit besserer …
7
Welcher Zahlenbereich kann in einem 16-, 32- und 64-Bit-IEEE-754-System dargestellt werden?
Ich weiß ein wenig darüber, wie Gleitkommazahlen dargestellt werden, aber leider nicht genug. Die allgemeine Frage lautet: Welcher Zahlenbereich kann für eine bestimmte Genauigkeit (für meine Zwecke die Anzahl der genauen Dezimalstellen in Basis 10) für 16-, 32- und 64-Bit-IEEE-754-Systeme dargestellt werden? Insbesondere interessiert mich nur der Bereich von 16-Bit- …
6
Warum ist 24.0000 in MATLAB nicht gleich 24.0000?
Ich schreibe ein Programm, in dem ich doppelte Punkte löschen muss, die in einer Matrix gespeichert sind. Das Problem ist, dass MATLAB bei der Überprüfung, ob sich diese Punkte in der Matrix befinden, diese in der Matrix nicht erkennen kann, obwohl sie vorhanden sind. Im folgenden Code intersectionserhält die Funktion …
2
Wie kann überprüft werden, ob der Unterschied kleiner als die Maschinengenauigkeit ist?
Ich lande oft in Situationen, in denen überprüft werden muss, ob der ermittelte Unterschied über der Maschinengenauigkeit liegt. Scheint für diesen Zweck R hat eine handliche Variable:.Machine$double.eps . Wenn ich mich jedoch an den R-Quellcode wende, um Richtlinien zur Verwendung dieses Werts zu erhalten, werden mehrere unterschiedliche Muster angezeigt. Beispiele …
1
Warum ist np.dot ungenau? (n-dim Arrays)
Angenommen, wir nehmen np.dotzwei 'float32'2D-Arrays: res = np.dot(a, b) # see CASE 1 print(list(res[0])) # list shows more digits [-0.90448684, -1.1708503, 0.907136, 3.5594249, 1.1374011, -1.3826287] Zahlen. Außer, sie können sich ändern: Fall 1 : Scheibea np.random.seed(1) a = np.random.randn(9, 6).astype('float32') b = np.random.randn(6, 6).astype('float32') for i in range(1, len(a)): print(list(np.dot(a[:i], …
15 python  c  arrays  numpy  precision 
5
Effiziente stabile Summe der bestellten Nummern
Ich habe eine ziemlich lange Liste von Gleitkomma-Positivzahlen ( std::vector<float>, Größe ~ 1000). Die Nummern sind in absteigender Reihenfolge sortiert. Wenn ich sie in der Reihenfolge summiere: for (auto v : vec) { sum += v; } Ich denke, ich kann ein numerisches Stabilitätsproblem haben, da nahe am Ende des …
Durch die Nutzung unserer Website bestätigen Sie, dass Sie unsere Cookie-Richtlinie und Datenschutzrichtlinie gelesen und verstanden haben.
Licensed under cc by-sa 3.0 with attribution required.