Als «floating-point» getaggte Fragen

Gleitkommazahlen sind Annäherungen an reelle Zahlen, die größere Bereiche als Ganzzahlen darstellen können, jedoch auf Kosten einer geringeren Genauigkeit dieselbe Speichermenge verwenden. Wenn es bei Ihrer Frage um kleine Rechenfehler (z. B. warum entspricht 0,2 + 0,1 gleich 0,300000001?) Oder um Dezimalumwandlungsfehler geht, lesen Sie bitte die unten verlinkte Seite "Info", bevor Sie Beiträge veröffentlichen.



12
Warum optimiert GCC nicht a * a * a * a * a * a bis (a * a * a) * (a * a * a)?
Ich mache eine numerische Optimierung für eine wissenschaftliche Anwendung. Eine Sache, die mir aufgefallen ist, ist, dass GCC den Aufruf pow(a,2)durch Kompilieren optimiert a*a, aber der Aufruf pow(a,6)nicht optimiert ist und tatsächlich die Bibliotheksfunktion aufruft pow, was die Leistung erheblich verlangsamt. (Im Gegensatz dazu eliminiert der ausführbare Intel C ++ …






7
Gibt es einen Float-Eingabetyp in HTML5?
Laut html5.org muss das "value-Attribut" des Eingabetyps "number", sofern angegeben und nicht leer, einen Wert haben, der eine gültige Gleitkommazahl ist. " Es handelt sich jedoch einfach (jedenfalls in der neuesten Version von Chrome) um ein "Updown" -Steuerelement mit Ganzzahlen, nicht um Floats: <input type="number" id="totalAmt"></input> Führen Sie das Code-Snippet …




13
Konvertieren Sie Dezimal in Double
Ich möchte a verwenden Track-Bar, um Formdie Deckkraft von a zu ändern . Das ist mein Code: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; Wenn ich die Anwendung erstelle, wird der folgende Fehler angezeigt: Konvertieren kann nicht implizit Art decimalzudouble Ich habe versucht, transund doubledann Controlfunktioniert das nicht. …

30
Wie gehe ich mit der Genauigkeit von Gleitkommazahlen in JavaScript um?
Ich habe das folgende Dummy-Testskript: function test() { var x = 0.1 * 0.2; document.write(x); } test(); Führen Sie das Code-Snippet ausErgebnisse ausblendenErweitern Sie das Snippet Dadurch wird das Ergebnis gedruckt, 0.020000000000000004während es nur gedruckt werden soll 0.02(wenn Sie Ihren Taschenrechner verwenden). Soweit ich verstanden habe, ist dies auf Fehler …


Durch die Nutzung unserer Website bestätigen Sie, dass Sie unsere Cookie-Richtlinie und Datenschutzrichtlinie gelesen und verstanden haben.
Licensed under cc by-sa 3.0 with attribution required.