Programmierung floating-point

30

Overа этот вопрос есть ответы на Stapelüberlauf на русском : Вычисления на числах с плавающей точкой не работают Betrachten Sie den folgenden Code: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Warum treten diese Ungenauigkeiten auf?

2983 math language-agnostic floating-point floating-accuracy

27

Wie analysiere ich einen String in einen Float oder Int?

Wie kann ich in Python eine numerische Zeichenfolge "545.2222"auf den entsprechenden Gleitkommawert analysieren 545.2222? Oder analysieren Sie die Zeichenfolge "31"auf eine Ganzzahl 31? Ich möchte nur wissen, wie man einen Float str zu einem floatund (separat) einen Int str zu einem analysiert int.

2251 python parsing floating-point type-conversion integer

12

Warum optimiert GCC nicht a * a * a * a * a * a bis (a * a * a) * (a * a * a)?

Ich mache eine numerische Optimierung für eine wissenschaftliche Anwendung. Eine Sache, die mir aufgefallen ist, ist, dass GCC den Aufruf pow(a,2)durch Kompilieren optimiert a*a, aber der Aufruf pow(a,6)nicht optimiert ist und tatsächlich die Bibliotheksfunktion aufruft pow, was die Leistung erheblich verlangsamt. (Im Gegensatz dazu eliminiert der ausführbare Intel C ++ …

2120 gcc assembly floating-point compiler-optimization fast-math

18

Unterschied zwischen Dezimal, Float und Double in .NET?

Was ist der Unterschied zwischen decimal, floatund doublein .NET? Wann würde jemand eines davon verwenden?

2086 .net floating-point double decimal

25

Das Begrenzen von Gleitkommazahlen auf zwei Dezimalstellen

Ich möchte aauf 13,95 gerundet werden . >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 Die roundFunktion funktioniert nicht wie erwartet.

1691 python floating-point rounding precision

30

Wie überprüfe ich, ob eine Zeichenfolge eine Zahl ist (float)?

Wie kann am besten überprüft werden, ob eine Zeichenfolge in Python als Zahl dargestellt werden kann? Die Funktion, die ich derzeit habe, ist: def is_number(s): try: float(s) return True except ValueError: return False Was nicht nur hässlich und langsam ist, sondern auch klobig erscheint. Ich habe jedoch keine bessere Methode …

1608 python casting floating-point type-conversion

5

Warum verlangsamt das Ändern von 0.1f auf 0 die Leistung um das 10-fache?

Warum macht dieses Stück Code, const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6}; const float z[16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, 1.790, 1.812, 1.923, 2.034, 2.145, 2.256, 2.367, 2.478, 2.589, 2.690}; float y[16]; for (int …

1527 c++ performance visual-studio-2010 compilation floating-point

15

Warum nicht Double oder Float verwenden, um die Währung darzustellen?

Mir wurde immer gesagt, ich solle niemals Geld mit doubleoder floatTypen repräsentieren , und diesmal stelle ich Ihnen die Frage: Warum? Ich bin sicher, es gibt einen sehr guten Grund, ich weiß einfach nicht, was es ist.

939 floating-point currency

7

Gibt es einen Float-Eingabetyp in HTML5?

Laut html5.org muss das "value-Attribut" des Eingabetyps "number", sofern angegeben und nicht leer, einen Wert haben, der eine gültige Gleitkommazahl ist. " Es handelt sich jedoch einfach (jedenfalls in der neuesten Version von Chrome) um ein "Updown" -Steuerelement mit Ganzzahlen, nicht um Floats: <input type="number" id="totalAmt"></input> Führen Sie das Code-Snippet …

816 html input floating-point

30

Formatieren Sie die Nummer so, dass immer 2 Dezimalstellen angezeigt werden

Ich möchte meine Zahlen so formatieren, dass immer 2 Dezimalstellen angezeigt werden, gegebenenfalls gerundet. Beispiele: number display ------ ------- 1 1.00 1.341 1.34 1.345 1.35 Ich habe dies verwendet: parseFloat(num).toFixed(2); Aber es wird angezeigt 1als1 statt 1.00.

783 javascript floating-point number-formatting

30

Wie verwende ich einen Dezimalbereich () Schrittwert?

Gibt es eine Möglichkeit, um 0,1 zwischen 0 und 1 zu wechseln? Ich dachte, ich könnte es wie folgt machen, aber es schlug fehl: for i in range(0, 1, 0.1): print i Stattdessen heißt es, dass das Schrittargument nicht Null sein kann, was ich nicht erwartet hatte.

744 python floating-point range

11

Wie kann ich die Division als Gleitkomma erzwingen? Division rundet weiter auf 0?

Ich habe zwei ganzzahlige Werte aund b, aber ich brauche ihr Verhältnis in Gleitkomma. Ich weiß das a < bund möchte berechnen a / b. Wenn ich also eine ganzzahlige Division verwende, erhalte ich immer 0 mit einem Rest von a. Wie kann ich cim Folgenden erzwingen , eine Gleitkommazahl …

721 python floating-point integer division python-2.x

13

Konvertieren Sie Dezimal in Double

Ich möchte a verwenden Track-Bar, um Formdie Deckkraft von a zu ändern . Das ist mein Code: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; Wenn ich die Anwendung erstelle, wird der folgende Fehler angezeigt: Konvertieren kann nicht implizit Art decimalzudouble Ich habe versucht, transund doubledann Controlfunktioniert das nicht. …

671 c# floating-point type-conversion double decimal

30

Wie gehe ich mit der Genauigkeit von Gleitkommazahlen in JavaScript um?

Ich habe das folgende Dummy-Testskript: function test() { var x = 0.1 * 0.2; document.write(x); } test(); Führen Sie das Code-Snippet ausErgebnisse ausblendenErweitern Sie das Snippet Dadurch wird das Ergebnis gedruckt, 0.020000000000000004während es nur gedruckt werden soll 0.02(wenn Sie Ihren Taschenrechner verwenden). Soweit ich verstanden habe, ist dies auf Fehler …

618 javascript floating-point

5

Warum gibt Math.round (0.49999999999999994) 1 zurück?

Im folgenden Programm können Sie sehen, dass jeder Wert etwas kleiner als .5abgerundet ist, außer 0.5. for (int i = 10; i >= 0; i--) { long l = Double.doubleToLongBits(i + 0.5); double x; do { x = Double.longBitsToDouble(l); System.out.println(x + " rounded is " + Math.round(x)); l--; } while …

567 java floating-point double rounding

Als «floating-point» getaggte Fragen