Programmierung floating-point

3

Die Argumentreihenfolge in std :: min ändert die Compilerausgabe für Gleitkommawerte

Ich habe im Compiler-Explorer herumgespielt und festgestellt, dass die Reihenfolge der an std :: min übergebenen Argumente die ausgegebene Assembly ändert. Hier ist das Beispiel im Godbolt Compiler Explorer double std_min_xy(double x, double y) { return std::min(x, y); } double std_min_yx(double x, double y) { return std::min(y, x); } Dies …

74 android c++ assembly x86 floating-point

5

Python Float to Int-Konvertierung

Grundsätzlich konvertiere ich einen Float in einen Int, aber ich habe nicht immer den erwarteten Wert. Hier ist der Code, den ich ausführe: x = 2,51 print("--------- 251.0") y = 251.0 print(y) print(int(y)) print("--------- 2.51 * 100") y = x * 100 print(y) print(int(y)) print("--------- 2.51 * 1000 / 10") …

73 python floating-point int

4

Funktion für 'Enthält die Matrix den Wert X?'

Gibt es eine eingebaute MATLAB-Funktion, um herauszufinden, ob eine Matrix einen bestimmten Wert enthält? (ala PHPs in_array())

72 matlab function matrix floating-point

3

Der Interface Builder verschlechtert Storyboards, ändert die Größe und positioniert Ansichten in kleinen Schritten neu

Wir haben eine Reihe von iOS-Apps, zu denen verschiedene Entwickler beitragen. Ein Problem, das ich weiterhin bemerke, ist, dass Ansichten in unseren Storyboards aus der Position verschoben werden, in der sie platziert wurden, oder die Größe geändert werden, sodass sie kleiner sind plötzlich kürzen sie ihren Text. Ich stelle fest, …

71 ios floating-point xcode6 interface-builder retina-display

7

Konvertieren einer Zahl mit Komma als Dezimalpunkt in Gleitkomma

Ich habe eine Preisliste mit einem Komma für einen Dezimalpunkt und einem Punkt als Tausendertrennzeichen. Einige Beispiele: 12,30 116,10 1,563,14 Diese kommen in diesem Format von Dritten. Ich möchte sie in Floats umwandeln und zusammenfügen. Was ist der beste Weg, dies zu tun? number_format scheint mit diesem Format nicht zu …

70 php parsing floating-point

6

Warum ist 24.0000 in MATLAB nicht gleich 24.0000?

Ich schreibe ein Programm, in dem ich doppelte Punkte löschen muss, die in einer Matrix gespeichert sind. Das Problem ist, dass MATLAB bei der Überprüfung, ob sich diese Punkte in der Matrix befinden, diese in der Matrix nicht erkennen kann, obwohl sie vorhanden sind. Im folgenden Code intersectionserhält die Funktion …

68 matlab floating-point precision

2

Wie kann überprüft werden, ob der Unterschied kleiner als die Maschinengenauigkeit ist?

Ich lande oft in Situationen, in denen überprüft werden muss, ob der ermittelte Unterschied über der Maschinengenauigkeit liegt. Scheint für diesen Zweck R hat eine handliche Variable:.Machine$double.eps . Wenn ich mich jedoch an den R-Quellcode wende, um Richtlinien zur Verwendung dieses Werts zu erhalten, werden mehrere unterschiedliche Muster angezeigt. Beispiele …

36 r floating-point rounding precision

7

Wann wird float vs decimal verwendet?

Ich erstelle diese API und die Datenbank speichert Werte, die einen der folgenden Werte darstellen: Prozentsatz durchschnittlich Bewertung Ich habe ehrlich gesagt keine Ahnung, wie ich etwas darstellen soll, dessen Zahlen zwischen 0 und 100% liegen. Sollte es sein 0,00 - 1,00 0,00 - 100,00 jede andere Alternative, die ich …

14 mysql sql types floating-point decimal

1

Seltsames Verhalten von (^) in Haskell

Warum gibt GHCi unten eine falsche Antwort? GHCi λ> ((-20.24373193905347)^12)^2 - ((-20.24373193905347)^24) 4.503599627370496e15 Python3 >>> ((-20.24373193905347)**12)**2 - ((-20.24373193905347)**24) 0.0 UPDATE Ich würde Haskells (^) Funktion wie folgt implementieren. powerXY :: Double -> Int -> Double powerXY x 0 = 1 powerXY x y | y < 0 = powerXY (1/x) …

12 haskell floating-point ghc ghci

5

Effiziente stabile Summe der bestellten Nummern

Ich habe eine ziemlich lange Liste von Gleitkomma-Positivzahlen ( std::vector<float>, Größe ~ 1000). Die Nummern sind in absteigender Reihenfolge sortiert. Wenn ich sie in der Reihenfolge summiere: for (auto v : vec) { sum += v; } Ich denke, ich kann ein numerisches Stabilitätsproblem haben, da nahe am Ende des …

12 c++ floating-point precision

2

Gültige Syntax zum Aufrufen des Pseudo-Destruktors für eine schwebende Konstante

Betrachten Sie das folgende Demonstrationsprogramm. #include <iostream> int main() { typedef float T; 0.f.T::~T(); } Dieses Programm wird zusammengestellt von Microsoft Visual Studio Community 2019. Aber clangund gccgeben Sie einen Fehler wie diesen aus prog.cc:7:5: error: unable to find numeric literal operator 'operator""f.T' 7 | 0.f.T::~T(); | ^~~~~ Wenn der …

9 c++ syntax floating-point c++17 pseudo-destructor

2

Gibt es eine Standardmethode, um den n-ten Gleitkommawert "nextafter" in C ++ zu erhalten?

C ++ hat std::nextafter(), was den nächsten darstellbaren Wert nach einem gegebenen Gleitkommawert f zurückgibt . In meinem Fall möchte ich n Bits Slop in den unteren Mantissenbits zulassen , sodass für 3 Bits Slop der 8. nächste Wert nach einem bestimmten Wert f erforderlich wäre . Ich könnte nextafter()acht …

8 c++ floating-point precision

Als «floating-point» getaggte Fragen