Programmierung floating-point

21

Behalten Sie die Präzision mit double in Java bei

public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } Der obige Code wird gedruckt: 11.399999999999 Wie würde ich dies dazu bringen, nur 11.4 zu drucken (oder als verwenden zu können)?

149 java floating-point double precision

12

Wie kann die wissenschaftliche Notation beim Drucken von Float-Werten unterdrückt werden?

Hier ist mein Code: x = 1.0 y = 100000.0 print x/y Mein Quotient wird als angezeigt 1.00000e-05. Gibt es eine Möglichkeit, die wissenschaftliche Notation zu unterdrücken und als anzuzeigen 0.00001? Ich werde das Ergebnis als Zeichenfolge verwenden.

147 python floating-point

2

Was macht gccs Fast-Mathe eigentlich?

Ich verstehe gcc's --ffast-math Flag von Geschwindigkeit für Float-Ops erheblich erhöhen kann und außerhalb der IEEE-Standards liegt, aber ich kann anscheinend keine Informationen darüber finden, was wirklich passiert, wenn es eingeschaltet ist. Kann jemand bitte einige Details erklären und vielleicht ein klares Beispiel dafür geben, wie sich etwas ändern würde, …

144 performance math gcc floating-point fast-math

7

Konvertieren Sie die Gleitkommazahl in eine bestimmte Genauigkeit und kopieren Sie sie in eine Zeichenfolge

Ich habe beispielsweise eine Gleitkommazahl 135.12345678910. Ich möchte diesen Wert mit einer Zeichenfolge verknüpfen, möchte aber nur 135.123456789. Mit print kann ich dies einfach tun, indem ich Folgendes mache: print "%.9f" % numvar mit numvarmeiner ursprünglichen Nummer zu sein. Gibt es eine einfache Möglichkeit, dies zu tun?

144 python string floating-point

11

Zeigen Sie in Python einen Gleitkommawert mit zwei Dezimalstellen an

Ich habe eine Funktion, die Float-Argumente verwendet (im Allgemeinen Ganzzahlen oder Dezimalstellen mit einer signifikanten Ziffer), und ich muss die Werte in einer Zeichenfolge mit zwei Dezimalstellen (5 -> 5,00, 5,5 -> 5,50 usw.) ausgeben. Wie kann ich das in Python machen?

136 python string programming-languages floating-point

12

Ist es möglich, 0 durch Subtrahieren von zwei ungleichen Gleitkommazahlen zu erhalten?

Ist es im folgenden Beispiel möglich, eine Division durch 0 (oder unendlich) zu erhalten? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } Im Normalfall wird dies natürlich nicht der Fall sein. Was aber, …

131 floating-point double floating-accuracy ieee-754

12

Warum hat C keine vorzeichenlosen Floats?

Ich weiß, die Frage scheint seltsam zu sein. Programmierer denken manchmal zu viel. Bitte lesen Sie weiter ... In CI verwenden signedund unsignedganze Zahlen viel. Ich mag die Tatsache, dass der Compiler mich warnt, wenn ich einer vorzeichenlosen Variablen eine vorzeichenbehaftete Ganzzahl zuweise. Ich erhalte Warnungen, wenn ich vorzeichenbehaftete mit …

131 c types floating-point format unsigned

7

C # Float-Ausdruck: Seltsames Verhalten beim Umwandeln des Ergebnisses float in int

Ich habe den folgenden einfachen Code: int speed1 = (int)(6.2f * 10); float tmp = 6.2f * 10; int speed2 = (int)tmp; speed1und speed2sollte den gleichen Wert haben, aber in der Tat habe ich: speed1 = 61 speed2 = 62 Ich weiß, ich sollte wahrscheinlich Math.Round anstelle von Casting verwenden, …

128 c# casting floating-point int expression

10

Umgang mit Gleitkommazahlen und Dezimaltrennzeichen mit HTML5-Eingabetypnummer

Ich baue eine Web-App, die hauptsächlich für mobile Browser ist. Ich verwende Eingabefelder mit Nummerntyp, daher rufen (die meisten) mobilen Browser zur besseren Benutzererfahrung nur die Zifferntastatur auf. Diese Web-App wird hauptsächlich in Regionen verwendet, in denen das Dezimaltrennzeichen ein Komma und kein Punkt ist. Daher muss ich beide Dezimaltrennzeichen …

127 javascript jquery mobile floating-point html-input

12

Eine Gleitkommazahl auf die nächste Ganzzahl runden?

Wie der Titel schon sagt, möchte ich eine Gleitkommazahl auf die nächste Ganzzahl abrunden. Wenn es jedoch kein Ganzes ist, möchte ich die Variable IMMER abrunden, unabhängig davon, wie nahe sie an der nächsten Ganzzahl liegt. Gibt es eine Möglichkeit, dies zu tun?

127 python floating-point integer rounding

2

Warum optimiert Clang x * 1.0 weg, aber NICHT x + 0.0?

Warum optimiert Clang die Schleife in diesem Code? #include <time.h> #include <stdio.h> static size_t const N = 1 << 27; static double arr[N] = { /* initialize to zero */ }; int main() { clock_t const start = clock(); for (int i = 0; i < N; ++i) { arr[i] …

125 c++ c optimization floating-point clang

27

Wie bekomme ich Zahlen nach dem Komma?

Wie erhalte ich die Zahlen nach einem Dezimalpunkt? Wenn 5.55ja, wie komme ich zum Beispiel .55?

124 python floating-point decimal

19

round () scheint nicht richtig zu runden

In der Dokumentation für die Funktion round () wird angegeben, dass Sie eine Zahl und die Positionen nach der Dezimalstelle an round übergeben. Also sollte es dies tun: n = 5.59 round(n, 1) # 5.6 Aber in Wirklichkeit schleicht sich eine gute alte Gleitkomma-Verrücktheit ein und Sie erhalten: 5.5999999999999996 Für …

123 python floating-point rounding

11

Warum kann ich den Float-Wert nicht als Vorlagenparameter verwenden?

Wenn ich versuche, floatals Vorlagenparameter zu verwenden, schreit der Compiler nach diesem Code, während er inteinwandfrei funktioniert. Liegt es daran, dass ich nicht floatals Vorlagenparameter verwenden kann? #include<iostream> using namespace std; template <class T, T defaultValue> class GenericClass { private: T value; public: GenericClass() { value = defaultValue; } T …

120 c++ templates generics floating-point

8

PHP String zum Float

Ich bin mit PHP überhaupt nicht vertraut und hatte eine kurze Frage. Ich habe 2 Variablen pricePerUnitund InvoicedUnits. Hier ist der Code, der diese auf Werte setzt: $InvoicedUnits = ((string) $InvoiceLineItem->InvoicedUnits); $pricePerUnit = ((string) $InvoiceLineItem->PricePerUnit); Wenn ich dies ausgebe, erhalte ich die richtigen Werte. Sagen wir in 5000Rechnung gestellte Einheiten …

120 php string casting floating-point

Als «floating-point» getaggte Fragen