Programmierung decimal

18

Unterschied zwischen Dezimal, Float und Double in .NET?

Was ist der Unterschied zwischen decimal, floatund doublein .NET? Wann würde jemand eines davon verwenden?

2086 .net floating-point double decimal

30

So runden Sie eine Zahl in Java auf n Dezimalstellen

Was ich möchte, ist eine Methode, um ein Double in eine Zeichenfolge umzuwandeln, die mit der Half-Up-Methode rundet. Wenn also die zu rundende Dezimalstelle 5 ist, wird immer auf die nächste Zahl gerundet. Dies ist die Standardmethode zum Runden, die die meisten Menschen in den meisten Situationen erwarten. Ich möchte …

1259 java decimal rounding digits

13

Konvertieren Sie Dezimal in Double

Ich möchte a verwenden Track-Bar, um Formdie Deckkraft von a zu ändern . Das ist mein Code: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; Wenn ich die Anwendung erstelle, wird der folgende Fehler angezeigt: Konvertieren kann nicht implizit Art decimalzudouble Ich habe versucht, transund doubledann Controlfunktioniert das nicht. …

671 c# floating-point type-conversion double decimal

17

Wie runde ich einen Dezimalwert auf 2 Dezimalstellen (für die Ausgabe auf einer Seite)?

Wenn der aktuelle Wert einer Dezimalstelle mit angezeigt wird .ToString(), entspricht dies genau 15 Dezimalstellen. Da ich damit Dollar und Cent darstelle, möchte ich, dass die Ausgabe nur 2 Dezimalstellen beträgt. Benutze ich dafür eine Variation von .ToString()?

647 c# .net decimal rounding

15

Wie rundet man eine Zahl in C # auf zwei Dezimalstellen?

Ich möchte dies mit der Math.RoundFunktion tun

380 c# decimal rounding bankers-rounding

5

Wofür steht das M in der C # -Dezimal-Literalschreibweise?

Um mit dezimalen Datentypen arbeiten zu können, muss ich dies mit variabler Initialisierung tun: decimal aValue = 50.0M; Wofür steht der M-Teil?

312 c# decimal literals

3

Float vs Decimal in ActiveRecord

Manchmal verwirren mich Activerecord-Datentypen. Ähm, oft. Eine meiner ewigen Fragen ist für einen bestimmten Fall: Soll ich verwenden :decimaloder :float? Ich bin oft auf diesen Link gestoßen , ActiveRecord :: decimal vs: float? , aber die Antworten sind nicht klar genug, um sicher zu sein: Ich habe viele Threads gesehen, …

283 ruby-on-rails types floating-point decimal rails-activerecord

8

Wie speichere ich Dezimalwerte in SQL Server?

Ich versuche, den dezimalen Datentyp einer Spalte in SQL Server herauszufinden. Ich muss in der Lage sein, Werte wie 15,5, 26,9, 24,7, 9,8 usw. Zu speichern Ich decimal(18, 0)habe den Spaltendatentyp zugewiesen , kann diese Werte jedoch nicht speichern. Was ist der richtige Weg, um dies zu tun?

272 sql sql-server types decimal

12

Wann sollte ich double anstelle von decimal verwenden?

Ich kann drei Vorteile für die Verwendung double(oder float) anstelle von nennen decimal: Verbraucht weniger Speicher. Schneller, da Gleitkomma-Mathematikoperationen von Prozessoren nativ unterstützt werden. Kann einen größeren Zahlenbereich darstellen. Diese Vorteile scheinen jedoch nur für rechenintensive Operationen zu gelten, wie sie beispielsweise in Modellierungssoftware zu finden sind. Natürlich sollten Doppelbilder …

265 c# types floating-point double decimal

22

Holen Sie sich den Dezimalteil einer Zahl mit JavaScript

Ich habe Float-Nummern wie 3.2und 1.6. Ich muss die Zahl in den ganzzahligen und den dezimalen Teil trennen. Zum Beispiel 3.2würde ein Wert von in zwei Zahlen aufgeteilt, dh 3und0.2 Das Erhalten des ganzzahligen Teils ist einfach: n = Math.floor(n); Aber ich habe Probleme, den Dezimalteil zu bekommen. Ich habe …

247 javascript floating-point numbers decimal rounding

3

Wie interpretiere ich die Genauigkeit und Skalierung einer Zahl in einer Datenbank?

Ich habe die folgende Spalte in einer Datenbank angegeben: dezimal (5,2) Wie interpretiert man das? Anhand der Eigenschaften in der Spalte, die in SQL Server Management Studio angezeigt werden, kann ich sehen, dass dies bedeutet: dezimal (numerische Genauigkeit, numerische Skala). Was bedeuten Präzision und Skalierung real? Es wäre einfach, dies …

245 sql database decimal scale precision

16

Python JSON serialisiert ein Dezimalobjekt

Ich habe ein Decimal('3.9')als Teil eines Objekts und möchte dies in eine JSON-Zeichenfolge codieren, die aussehen sollte {'x': 3.9}. Präzision auf der Client-Seite ist mir egal, daher ist ein Float in Ordnung. Gibt es eine gute Möglichkeit, dies zu serialisieren? JSONDecoder akzeptiert keine Dezimalobjekte, und die vorherige Konvertierung in einen …

242 python json floating-point decimal

10

Java String entfernt alle nicht numerischen Zeichen

Es wird versucht, alle Buchstaben und Zeichen zu entfernen, die nicht 0-9 und ein Punkt sind. Ich verwende, Character.isDigit()aber es entfernt auch Dezimalstellen. Wie kann ich auch die Dezimalstellen beibehalten?

237 java string character decimal

16

Dezimalgenauigkeit und Skalierung im EF-Code zuerst

Ich experimentiere mit diesem Code-First-Ansatz, finde aber jetzt heraus, dass eine Eigenschaft vom Typ System.Decimal einer SQL-Spalte vom Typ Dezimal (18, 0) zugeordnet wird. Wie stelle ich die Genauigkeit der Datenbankspalte ein?

230 c# .net entity-framework ef-code-first decimal

12

Wie konvertiere ich eine Dezimalstelle in ein Int in C #?

Wie konvertiere ich eine Dezimalstelle in eine Int?

227 c# .net int decimal

Als «decimal» getaggte Fragen