Als «floating-point» getaggte Fragen

Gleitkommazahlen sind Annäherungen an reelle Zahlen, die größere Bereiche als Ganzzahlen darstellen können, jedoch auf Kosten einer geringeren Genauigkeit dieselbe Speichermenge verwenden. Wenn es bei Ihrer Frage um kleine Rechenfehler (z. B. warum entspricht 0,2 + 0,1 gleich 0,300000001?) Oder um Dezimalumwandlungsfehler geht, lesen Sie bitte die unten verlinkte Seite "Info", bevor Sie Beiträge veröffentlichen.

11
Was ist der Unterschied zwischen einer Gleitkommaoperation mit einfacher und doppelter Genauigkeit?
Was ist der Unterschied zwischen einer Gleitkommaoperation mit einfacher Genauigkeit und einer Gleitkommaoperation mit doppelter Genauigkeit? Ich interessiere mich besonders für praktische Begriffe in Bezug auf Videospielkonsolen. Verfügt der Nintendo 64 beispielsweise über einen 64-Bit-Prozessor, und wenn dies der Fall ist, bedeutet dies, dass er Gleitkommaoperationen mit doppelter Genauigkeit ausführen …
5
Formatieren / Unterdrücken der wissenschaftlichen Notation aus den Ergebnissen der Python Pandas-Aggregation
Wie kann man das Format für die Ausgabe einer Groupby-Operation in Pandas ändern, die eine wissenschaftliche Notation für sehr große Zahlen erzeugt? Ich weiß, wie man Zeichenfolgen in Python formatiert, aber ich bin ratlos, wenn es darum geht, sie hier anzuwenden. df1.groupby('dept')['data1'].sum() dept value1 1.192433e+08 value2 1.293066e+08 value3 1.077142e+08 Dies …
4
Warum sieht der Gleitkommawert von 4 * 0,1 in Python 3 gut aus, 3 * 0.1 jedoch nicht?
Ich weiß, dass die meisten Dezimalstellen keine exakte Gleitkommadarstellung haben ( Ist die Gleitkomma-Mathematik gebrochen? ). Aber ich verstehe nicht, warum gut 4*0.1gedruckt wird 0.4, aber 3*0.1nicht, wenn beide Werte tatsächlich hässliche Dezimaldarstellungen haben: >>> 3*0.1 0.30000000000000004 >>> 4*0.1 0.4 >>> from decimal import Decimal >>> Decimal(3*0.1) Decimal('0.3000000000000000444089209850062616169452667236328125') >>> Decimal(4*0.1) …
6
Warum ist Double.MIN_VALUE nicht negativ?
Kann jemand etwas Licht ins Dunkel bringen, warum Double.MIN_VALUEnicht der Mindestwert ist, den Doppel annehmen können? Es ist ein positiver Wert, und ein Double kann natürlich negativ sein. Ich verstehe, warum es eine nützliche Zahl ist, aber es scheint ein sehr unintuitiver Name zu sein, besonders im Vergleich zu Integer.MIN_VALUE. …
17
Wie vergleiche ich zwei Gleitkommazahlen in Bash?
Ich bemühe mich sehr, zwei Gleitkommazahlen in einem Bash-Skript zu vergleichen. Ich muss Variablen, z let num1=3.17648e-22 let num2=1.5 Jetzt möchte ich nur einen einfachen Vergleich dieser beiden Zahlen durchführen: st=`echo "$num1 < $num2" | bc` if [ $st -eq 1]; then echo -e "$num1 < $num2" else echo -e …
9
Warum gibt Double.NaN == Double.NaN false zurück?
Ich habe gerade OCPJP-Fragen studiert und diesen seltsamen Code gefunden: public static void main(String a[]) { System.out.println(Double.NaN==Double.NaN); System.out.println(Double.NaN!=Double.NaN); } Als ich den Code ausführte, bekam ich: false true Wie ist die Ausgabe, falsewenn wir zwei Dinge vergleichen, die gleich aussehen? Was heißt NaNdas
155 java  floating-point  nan  scjp  ocpjp 
16
Vergleiche Floats in PHP
Ich möchte zwei Floats in PHP vergleichen, wie in diesem Beispielcode: $a = 0.17; $b = 1 - 0.83; //0.17 if($a == $b ){ echo 'a and b are same'; } else { echo 'a and b are not same'; } In diesem Code wird das Ergebnis der elseBedingung anstelle …
7
'float' vs. 'doppelte' Präzision
Der Code float x = 3.141592653589793238; double z = 3.141592653589793238; printf("x=%f\n", x); printf("z=%f\n", z); printf("x=%20.18f\n", x); printf("z=%20.18f\n", z); gibt Ihnen die Ausgabe x=3.141593 z=3.141593 x=3.141592741012573242 z=3.141592653589793116 Dabei steht in der dritten Ausgabezeile 741012573242Müll und in der vierten Zeile 116Müll. Haben Doppel immer 16 signifikante Zahlen, während Floats immer 7 signifikante …
155 c  floating-point 
Durch die Nutzung unserer Website bestätigen Sie, dass Sie unsere Cookie-Richtlinie und Datenschutzrichtlinie gelesen und verstanden haben.
Licensed under cc by-sa 3.0 with attribution required.