Als «floating-point» getaggte Fragen

Gleitkommazahlen sind Annäherungen an reelle Zahlen, die größere Bereiche als Ganzzahlen darstellen können, jedoch auf Kosten einer geringeren Genauigkeit dieselbe Speichermenge verwenden. Wenn es bei Ihrer Frage um kleine Rechenfehler (z. B. warum entspricht 0,2 + 0,1 gleich 0,300000001?) Oder um Dezimalumwandlungsfehler geht, lesen Sie bitte die unten verlinkte Seite "Info", bevor Sie Beiträge veröffentlichen.

9
Wie kann ich eine Zeichenfolge in Perl in eine Zahl konvertieren?
Ich habe eine Zeichenfolge, die einen Dezimalwert enthält, und ich muss diese Zeichenfolge in eine Gleitkommavariable konvertieren. Ein Beispiel für die Zeichenfolge, die ich habe, ist "5.45", und ich möchte ein Gleitkommaäquivalent, damit ich .1 hinzufügen kann. Ich habe im Internet gesucht, aber ich sehe nur, wie man eine Zeichenfolge …
3
Die doppelte Umwandlung in Int ohne Vorzeichen unter Win32 wird auf 2.147.483.648 abgeschnitten
Kompilieren des folgenden Codes: double getDouble() { double value = 2147483649.0; return value; } int main() { printf("INT_MAX: %u\n", INT_MAX); printf("UINT_MAX: %u\n", UINT_MAX); printf("Double value: %f\n", getDouble()); printf("Direct cast value: %u\n", (unsigned int) getDouble()); double d = getDouble(); printf("Indirect cast value: %u\n", (unsigned int) d); return 0; } Ausgänge (MSVC …
8
JavaScript: Auf eine Anzahl von Dezimalstellen runden, aber zusätzliche Nullen entfernen
Hier ist das Szenario: Ich bekomme, .9999999999999999wann ich bekommen sollte 1.0. Ich kann es mir leisten, eine Dezimalstelle der Genauigkeit zu verlieren, also benutze ich .toFixed(15), welche Art von Arbeit. Die Rundung funktioniert, aber das Problem ist, dass ich gegeben bin 1.000000000000000. Gibt es eine Möglichkeit, auf mehrere Dezimalstellen zu …
2
Verwendung von Gleitkommazahlen im Linux-Kernel
Ich lese Robert Loves "Linux Kernel Development" und bin auf folgende Passage gestoßen: Keine (einfache) Verwendung von Gleitkommazahlen Wenn ein User-Space-Prozess Gleitkomma-Anweisungen verwendet, verwaltet der Kernel den Übergang vom Ganzzahl- zum Gleitkomma-Modus. Was der Kernel bei der Verwendung von Gleitkommaanweisungen tun muss, hängt von der Architektur ab. Der Kernel fängt …
3
Was ist eine subnormale Gleitkommazahl?
Die Referenzseite isnormal () sagt: Bestimmt, ob die angegebene Gleitkommazahl arg normal ist, dh weder Null, subnormal, unendlich noch NaN ist. Eine Zahl, die Null, unendlich oder NaN ist, ist klar, was es bedeutet. Es heißt aber auch subnormal. Wann ist eine Zahl nicht normal?
17
Double-to-String-Konvertierung ohne wissenschaftliche Notation
Wie konvertiere ich ein Double in eine Gleitkomma-String-Darstellung ohne wissenschaftliche Notation in .NET Framework? "Kleine" Stichproben (effektive Zahlen können beliebig groß sein, z. B. 1.5E200oder 1e-200): 3248971234698200000000000000000000000000000000 0.00000000000000000000000000000000000023897356978234562 Keines der Standardnummernformate ist so, und ein benutzerdefiniertes Format scheint auch keine offene Anzahl von Ziffern nach dem Dezimaltrennzeichen zuzulassen. Dies ist …
Durch die Nutzung unserer Website bestätigen Sie, dass Sie unsere Cookie-Richtlinie und Datenschutzrichtlinie gelesen und verstanden haben.
Licensed under cc by-sa 3.0 with attribution required.