Als «floating-point» getaggte Fragen

Gleitkommazahlen sind Annäherungen an reelle Zahlen, die größere Bereiche als Ganzzahlen darstellen können, jedoch auf Kosten einer geringeren Genauigkeit dieselbe Speichermenge verwenden. Wenn es bei Ihrer Frage um kleine Rechenfehler (z. B. warum entspricht 0,2 + 0,1 gleich 0,300000001?) Oder um Dezimalumwandlungsfehler geht, lesen Sie bitte die unten verlinkte Seite "Info", bevor Sie Beiträge veröffentlichen.


10
Fügen Sie Android-Ressourcen / -Werten Gleitkommawerte hinzu
Ich versuche, meinen TextViews mithilfe android:lineSpacingMultiplier der Dokumentation einen kleinen Abstand zwischen den Zeilen hinzuzufügen : Zusätzlicher Abstand zwischen Textzeilen als Multiplikator. Muss ein Gleitkommawert sein, z. B. "1.2". Da ich dies in einigen verschiedenen TextViews verwende, möchte ich meinen Ressourcen eine globale Dimension / einen globalen Wert hinzufügen, weiß …

18
Wie verwende ich die Gleitkommadivision in Bash?
Ich versuche, zwei Bildbreiten in einem Bash-Skript zu teilen, aber Bash gibt mir 0als Ergebnis: RESULT=$(($IMG_WIDTH/$IMG2_WIDTH)) Ich habe den Bash-Leitfaden studiert und weiß, dass ich ihn bcin allen Beispielen im Internet verwenden sollte bc. In echoich die gleiche Sache in meinem zu setzen versucht , SCALEaber es hat nicht funktioniert. …

16
Python JSON serialisiert ein Dezimalobjekt
Ich habe ein Decimal('3.9')als Teil eines Objekts und möchte dies in eine JSON-Zeichenfolge codieren, die aussehen sollte {'x': 3.9}. Präzision auf der Client-Seite ist mir egal, daher ist ein Float in Ordnung. Gibt es eine gute Möglichkeit, dies zu serialisieren? JSONDecoder akzeptiert keine Dezimalobjekte, und die vorherige Konvertierung in einen …


21
round () für float in C ++
Ich benötige eine einfache Gleitkomma-Rundungsfunktion, also: double round(double); round(0.1) = 0 round(-0.1) = 0 round(-0.9) = -1 Ich kann ceil()und floor()in der math.h finden - aber nicht round(). Ist es in der Standard-C ++ - Bibliothek unter einem anderen Namen vorhanden oder fehlt es?

10
Floats in Ints in Pandas konvertieren?
Ich habe mit Daten gearbeitet, die aus einer CSV importiert wurden. Pandas haben einige Spalten in Gleitkomma geändert, sodass die Zahlen in diesen Spalten jetzt als Gleitkommazahlen angezeigt werden! Sie müssen jedoch als Ganzzahlen oder ohne Komma angezeigt werden. Gibt es eine Möglichkeit, sie in Ganzzahlen umzuwandeln oder das Komma …


10
Formatieren Sie Float auf n Dezimalstellen
Ich muss ein Float auf "n" Dezimalstellen formatieren. habe versucht, BigDecimal, aber der Rückgabewert ist nicht korrekt ... public static float Redondear(float pNumero, int pCantidadDecimales) { // the function is call with the values Redondear(625.3f, 2) BigDecimal value = new BigDecimal(pNumero); value = value.setScale(pCantidadDecimales, RoundingMode.HALF_EVEN); // here the value is …

9
Float- und Double-Datentyp in Java
Der Float-Datentyp ist ein 32-Bit-IEEE 754-Gleitkomma mit einfacher Genauigkeit, und der doppelte Datentyp ist ein 64-Bit-IEEE 754-Gleitkomma mit doppelter Genauigkeit. Was heißt das? Und wann sollte ich float anstelle von double verwenden oder umgekehrt?


7
Formatieren eines Gleitkommas mit 2 Dezimalstellen
Ich baue derzeit ein Verkaufsmodul für eine Kundenwebsite auf. Bisher habe ich den Verkaufspreis perfekt berechnet, aber wo ich festgefahren bin, formatiere ich die Ausgabe auf 2 Dezimalstellen. Ich rufe dies derzeit in einer Variablen auf, damit ich die Ergebnisse an eine Listenansicht binden kann. Sale = float.Parse(((x.Sale_Price - (x.Sale_Price …


6
Warum sind Gleitkommazahlen ungenau?
Warum verlieren einige Zahlen an Genauigkeit, wenn sie als Gleitkommazahlen gespeichert werden? Zum Beispiel kann die Dezimalzahl 9.2genau als Verhältnis von zwei Dezimalzahlen ( 92/10) ausgedrückt werden, die beide genau in binär ( 0b1011100/0b1010) ausgedrückt werden können . Das gleiche Verhältnis, das als Gleitkommazahl gespeichert ist, ist jedoch niemals genau …


Durch die Nutzung unserer Website bestätigen Sie, dass Sie unsere Cookie-Richtlinie und Datenschutzrichtlinie gelesen und verstanden haben.
Licensed under cc by-sa 3.0 with attribution required.