Als «floating-point» getaggte Fragen

Gleitkommazahlen sind Annäherungen an reelle Zahlen, die größere Bereiche als Ganzzahlen darstellen können, jedoch auf Kosten einer geringeren Genauigkeit dieselbe Speichermenge verwenden. Wenn es bei Ihrer Frage um kleine Rechenfehler (z. B. warum entspricht 0,2 + 0,1 gleich 0,300000001?) Oder um Dezimalumwandlungsfehler geht, lesen Sie bitte die unten verlinkte Seite "Info", bevor Sie Beiträge veröffentlichen.

Was ist der effektivste Weg für Float und Doppelvergleich?

Was wäre der effizienteste Weg, um zwei doubleoder zwei floatWerte zu vergleichen ? Einfach das zu tun ist nicht richtig: bool CompareDoubles1 (double A, double B) { return A == B; } Aber so etwas wie: bool CompareDoubles2 (double A, double B) { diff = A - B; return (diff …

524 c++ algorithm optimization floating-point

Wie kann man schwebende Zahlen ohne unnötige Dezimalzahl 0 in String formatieren?

Ein 64-Bit-Double kann eine ganze Zahl +/- 2 53 genau darstellen Angesichts dieser Tatsache verwende ich für alle meine Typen einen Doppeltyp als Einzeltyp, da meine größte Ganzzahl vorzeichenloses 32-Bit ist. Aber jetzt muss ich diese Pseudo-Ganzzahlen drucken, aber das Problem ist, dass sie auch mit tatsächlichen Doppelwerten gemischt werden. …

496 java string floating-point format double

Wie rundet man eine Zahl in Python auf?

Dieses Problem bringt mich um. Wie rundet man eine Zahl UP in Python auf? Ich habe versucht, die Zahl abzurunden, aber es hat die Zahl abgerundet. Beispiel: round(2.3) = 2.0 and not 3, what I would like Das habe ich versucht int (Nummer + .5) aber es rundet die Nummer …

487 python floating-point integer rounding python-2.x

Korrekter Formatbezeichner für double in printf

Wofür ist der richtige Formatbezeichner doublein printf? Ist es %foder ist es %lf? Ich glaube es ist %f, aber ich bin nicht sicher. Codebeispiel #include <stdio.h> int main() { double d = 1.4; printf("%lf", d); // Is this wrong? }

482 c floating-point printf double format-specifiers

Wie formatiere ich einen Float in Javascript?

Wie kann ich in JavaScript beim Konvertieren von einem Float in einen String nur zwei Stellen nach dem Dezimalpunkt erhalten? Zum Beispiel 0,34 anstelle von 0,3445434.

427 javascript floating-point

Was ist der Unterschied zwischen Float und Double?

Ich habe über den Unterschied zwischen doppelter und einfacher Genauigkeit gelesen. In den meisten Fällen scheint die Verwendung des einen oder anderen die Ergebnisse jedoch nicht zu beeinflussen floatund doublescheint austauschbar zu sein. Ist das wirklich der Fall? Wann sind Schwimmer und Doppel austauschbar? Was sind die Unterschiede zwischen ihnen?

420 c++ c floating-point precision

Wie erhalte ich eine Zufallszahl zwischen einem Float-Bereich?

randrange(start, stop)Nimmt nur ganzzahlige Argumente an. Wie würde ich also eine Zufallszahl zwischen zwei Gleitkommawerten erhalten?

413 python random floating-point

Wie analysiere ich float mit zwei Dezimalstellen in Javascript?

Ich habe den folgenden Code. Ich möchte es so haben, dass ich, wenn price_result gleich einer ganzen Zahl ist, sagen wir 10, zwei Dezimalstellen hinzufügen möchte. 10 wäre also 10.00. Oder wenn es gleich 10,6 wäre, wäre es 10,60. Ich bin mir nicht sicher, wie ich das machen soll. price_result …

410 javascript floating-point

Wie gefährlich ist es, Gleitkommawerte zu vergleichen?

Ich kenne UIKitVerwendungen CGFloatwegen des auflösungsunabhängigen Koordinatensystems. Aber jedes Mal , möchte ich , wenn beispielsweise überprüfen , frame.origin.xist 0es macht mich krank: if (theView.frame.origin.x == 0) { // do important operation } Ist das nicht CGFloatanfällig für Fehlalarme bei einem Vergleich mit ==, <=, >=, <, >? Es ist …

391 objective-c ios c floating-point floating-accuracy

So konvertieren Sie float mit Java in int

Ich habe die folgende Zeile verwendet, um float in int umzuwandeln, aber es ist nicht so genau, wie ich es gerne hätte: float a=8.61f; int b; b=(int)a; Das Ergebnis ist: 8(Es sollte sein 9) Wann a = -7.65fist das Ergebnis: -7(Es sollte sein -8) Was ist der beste Weg, um …

342 java floating-point int

Wie drucke ich mit cout einen doppelten Wert mit voller Präzision?

Also habe ich die Antwort auf meine letzte Frage bekommen (ich weiß nicht, warum ich nicht daran gedacht habe). Ich habe eine doubleVerwendung gedruckt cout, die gerundet wurde, als ich sie nicht erwartet hatte. Wie kann ich einen coutAusdruck doublemit voller Präzision erstellen?

331 c++ floating-point precision iostream cout

Was ist der beste Weg, um Floats in Python auf nahezu Gleichheit zu vergleichen?

Es ist bekannt, dass der Vergleich von Floats auf Gleichheit aufgrund von Rundungs- und Präzisionsproblemen etwas umständlich ist. Zum Beispiel: https://randomascii.wordpress.com/2012/02/25/comparing-floating-point-numbers-2012-edition/ Was ist der empfohlene Weg, um in Python damit umzugehen? Sicher gibt es dafür irgendwo eine Standardbibliotheksfunktion?

330 python floating-point

JavaScript, das einen Gleitkommawert mit 2 Dezimalstellen anzeigt

Ich wollte eine Zahl mit 2 Dezimalstellen anzeigen. Ich dachte, ich könnte toPrecision(2)in JavaScript verwenden. Wenn die Nummer jedoch ist 0.05, bekomme ich 0.0500. Ich möchte lieber, dass es gleich bleibt. Sehen Sie es auf JSbin . Was ist der beste Weg, dies zu tun? Ich kann mir vorstellen, ein …

316 javascript floating-point precision

Was bedeutet die Konstante 0,0039215689?

Ich sehe diese Konstante immer wieder in verschiedenen Grafik-Header-Dateien 0.0039215689 Es scheint vielleicht etwas mit Farbe zu tun zu haben? Hier ist der erste Treffer bei Google : void RDP_G_SETFOGCOLOR(void) { Gfx.FogColor.R = _SHIFTR(w1, 24, 8) * 0.0039215689f; Gfx.FogColor.G = _SHIFTR(w1, 16, 8) * 0.0039215689f; Gfx.FogColor.B = _SHIFTR(w1, 8, 8) …

310 c floating-point constants magic-numbers

Double vs. BigDecimal?

Ich muss einige Gleitkommavariablen berechnen und mein Kollege schlägt mir vor, sie BigDecimalstattdessen zu verwenden, doubleda sie genauer sind. Aber ich möchte wissen, was es ist und wie ich das Beste daraus machen kann BigDecimal?

303 java floating-point double bigdecimal

Durch die Nutzung unserer Website bestätigen Sie, dass Sie unsere Cookie-Richtlinie und Datenschutzrichtlinie gelesen und verstanden haben.

Licensed under cc by-sa 3.0 with attribution required.