Programmierung floating-point

7

Gibt es einen Unterschied zwischen diesen: float foo1 = (int)(bar / 3.0); float foo2 = floor(bar / 3.0); Soweit ich weiß, haben beide Fälle das gleiche Ergebnis. Gibt es einen Unterschied im kompilierten Code?

120 c++ c floating-point

5

John Carmacks ungewöhnliche schnelle Quadratwurzel (Quake III)

John Carmack hat eine spezielle Funktion im Quake III-Quellcode, die die inverse Quadratwurzel eines Floats berechnet, 4x schneller als normal (float)(1.0/sqrt(x)), einschließlich einer seltsamen 0x5f3759dfKonstante. Siehe den Code unten. Kann jemand Zeile für Zeile erklären, was genau hier vor sich geht und warum dies so viel schneller funktioniert als die …

112 algorithm floating-point square-root

29

Das Abschneiden von Floats in Python

Ich möchte Ziffern aus einem Float entfernen, um eine feste Anzahl von Ziffern nach dem Punkt zu erhalten, wie z. 1.923328437452 -> 1.923 Ich muss als Zeichenfolge für eine andere Funktion ausgeben, nicht drucken. Außerdem möchte ich die verlorenen Ziffern ignorieren und nicht umrunden.

110 python floating-point

7

Konvertieren von Zeichenfolgen in Float in C #

Ich konvertiere eine Zeichenfolge wie "41.00027357629127" und verwende; Convert.ToSingle("41.00027357629127"); oder float.Parse("41.00027357629127"); Diese Methoden geben 4.10002732E + 15 zurück . Wenn ich in float konvertiere, möchte ich "41.00027357629127". Diese Zeichenfolge sollte dieselbe sein ...

108 c# .net string floating-point type-conversion

6

Warum ist SSE skalar sqrt (x) langsamer als rsqrt (x) * x?

Ich habe einige unserer Kernmathematiken auf einem Intel Core Duo profiliert und bei der Betrachtung verschiedener Ansätze zur Quadratwurzel etwas Seltsames festgestellt: Mit den skalaren SSE-Operationen ist es schneller, eine reziproke Quadratwurzel zu nehmen und zu multiplizieren um das sqrt zu erhalten, muss der native sqrt-opcode verwendet werden! Ich teste …

106 performance assembly floating-point x86 sse

11

In welcher Reihenfolge sollten Floats hinzugefügt werden, um das genaueste Ergebnis zu erzielen?

Dies war eine Frage, die mir kürzlich bei meinem Interview gestellt wurde und die ich wissen möchte (ich erinnere mich nicht wirklich an die Theorie der numerischen Analyse, also helfen Sie mir bitte :) Wenn wir eine Funktion haben, die Gleitkommazahlen akkumuliert: std::accumulate(v.begin(), v.end(), 0.0); vist ein std::vector<float>zum Beispiel. Wäre …

105 c++ floating-point precision

10

"F" nach Nummer

Was bedeutet das fnach den Zahlen? Ist das von C oder Objective-C? Gibt es einen Unterschied, wenn dies nicht zu einer konstanten Zahl hinzugefügt wird? CGRect frame = CGRectMake(0.0f, 0.0f, 320.0f, 50.0f); Können Sie erklären, warum ich nicht einfach schreiben würde: CGRect frame = CGRectMake(0, 0, 320, 50);

102 objective-c c floating-point

8

Printf-Breitenbezeichner zur Aufrechterhaltung der Genauigkeit des Gleitkommawerts

Gibt es einen printfBreitenbezeichner, der auf einen Gleitkomma- Bezeichner angewendet werden kann, der die Ausgabe automatisch auf die erforderliche Anzahl signifikanter Stellen formatiert, sodass beim erneuten Einscannen der Zeichenfolge der ursprüngliche Gleitkommawert erfasst wird? Angenommen, ich drucke a floatmit einer Genauigkeit von 2Dezimalstellen: float foobar = 0.9375; printf("%.2f", foobar); // …

102 c floating-point printf c99 floating-point-precision

4

Was ist float in Java?

Ich habe diesen Code geschrieben: float b = 3.6; und ich verstehe das: Fehler: Ungelöstes Kompilierungsproblem: Typinkongruenz: Konvertiert nicht von Double in Float Warum? Was ist die Definition von float?

102 java floating-point

3

Ist es möglich, Quakes schnelle InvSqrt () -Funktion in Rust zu schreiben?

Dies ist nur, um meine eigene Neugier zu befriedigen. Gibt es eine Implementierung davon: float InvSqrt (float x) { float xhalf = 0.5f*x; int i = *(int*)&x; i = 0x5f3759df - (i>>1); x = *(float*)&i; x = x*(1.5f - xhalf*x*x); return x; } in Rust? Wenn es existiert, geben Sie …

101 rust floating-point sqrt type-punning

19

Konvertieren Sie String in Float in Swift

Ich versuche, Zahlen aus einem UITextField zu konvertieren, von denen ich annehme, dass sie tatsächlich Strings sind, und sie in Float zu konvertieren, damit ich sie multiplizieren kann. Ich habe zwei UITextfields, die wie folgt deklariert sind: @IBOutlet var wage: UITextField @IBOutlet var hour: UITextField Wenn der Benutzer einen UIButton …

101 string floating-point swift string-parsing

11

Gleitkomma-Ganzzahl-Berechnungen auf moderner Hardware

Ich mache einige leistungskritische Arbeiten in C ++ und wir verwenden derzeit ganzzahlige Berechnungen für Probleme, die von Natur aus Gleitkommawerte sind, weil "es schneller ist". Dies verursacht eine Menge nerviger Probleme und fügt viel nervigen Code hinzu. Jetzt erinnere ich mich, dass ich gelesen habe, wie langsam Gleitkommaberechnungen ungefähr …

100 c++ x86 floating-point x86-64

9

Ist es sicher, Gleitkommawerte auf Gleichheit mit 0 zu überprüfen?

Ich weiß, dass Sie sich normalerweise nicht auf die Gleichheit zwischen Doppel- oder Dezimalwerten verlassen können, aber ich frage mich, ob 0 ein Sonderfall ist. Während ich Ungenauigkeiten zwischen 0,00000000000001 und 0,00000000000002 verstehen kann, scheint 0 selbst ziemlich schwer zu vermasseln, da es einfach nichts ist. Wenn Sie auf nichts …

100 c# .net floating-point precision zero

14

Das Format schwebt mit dem Standard-JSON-Modul

Ich verwende das Standard- JSON-Modul in Python 2.6, um eine Liste von Floats zu serialisieren. Ich erhalte jedoch folgende Ergebnisse: >>> import json >>> json.dumps([23.67, 23.97, 23.87]) '[23.670000000000002, 23.969999999999999, 23.870000000000001]' Ich möchte, dass die Gleitkommazahlen nur aus zwei Dezimalstellen bestehen. Die Ausgabe sollte folgendermaßen aussehen: >>> json.dumps([23.67, 23.97, 23.87]) '[23.67, …

100 python json formatting floating-point

7

C ++ Warnung: Division von Double durch Null

Fall 1: #include <iostream> int main() { double d = 15.50; std::cout<<(d/0.0)<<std::endl; } Es wird ohne Warnungen kompiliert und gedruckt inf. OK, C ++ kann die Division durch Null verarbeiten ( siehe live ). Aber, Fall 2: #include <iostream> int main() { double d = 15.50; std::cout<<(d/0)<<std::endl; } Der Compiler …

98 c++ gcc floating-point divide-by-zero

Als «floating-point» getaggte Fragen