Als «floating-point» getaggte Fragen

Gleitkommazahlen sind Annäherungen an reelle Zahlen, die größere Bereiche als Ganzzahlen darstellen können, jedoch auf Kosten einer geringeren Genauigkeit dieselbe Speichermenge verwenden. Wenn es bei Ihrer Frage um kleine Rechenfehler (z. B. warum entspricht 0,2 + 0,1 gleich 0,300000001?) Oder um Dezimalumwandlungsfehler geht, lesen Sie bitte die unten verlinkte Seite "Info", bevor Sie Beiträge veröffentlichen.

4
Ziel-C - Float-Prüfung auf Nan
Ich habe eine Variable ( float slope), die beim Ausdrucken manchmal den Wert nan hat, da manchmal eine Division durch 0 auftritt. Ich versuche ein Wenn-Sonst zu tun, wenn das passiert. Wie kann ich das machen? if (slope == nan)scheint nicht zu funktionieren.
7
Welcher Zahlenbereich kann in einem 16-, 32- und 64-Bit-IEEE-754-System dargestellt werden?
Ich weiß ein wenig darüber, wie Gleitkommazahlen dargestellt werden, aber leider nicht genug. Die allgemeine Frage lautet: Welcher Zahlenbereich kann für eine bestimmte Genauigkeit (für meine Zwecke die Anzahl der genauen Dezimalstellen in Basis 10) für 16-, 32- und 64-Bit-IEEE-754-Systeme dargestellt werden? Insbesondere interessiert mich nur der Bereich von 16-Bit- …
4
Lassen Sie C-Gleitkomma-Literale schweben (anstatt zu verdoppeln)
Es ist bekannt, dass in C Gleitkomma-Literale (z . B. 1.23) einen Typ haben double. Infolgedessen wird jede Berechnung, die sie betrifft, auf das Doppelte hochgestuft. Ich arbeite an einem eingebetteten Echtzeitsystem mit einer Gleitkommaeinheit, die nur floatZahlen mit einfacher Genauigkeit ( ) unterstützt. Alle meine Variablen sind float, und …
7
Gleitkommadivision gegen Gleitkommamultiplikation
Gibt es einen Leistungsgewinn (ohne Mikrooptimierung) durch Codierung? float f1 = 200f / 2 im Vergleich zu float f2 = 200f * 0.5 Ein Professor von mir hat mir vor einigen Jahren erzählt, dass Gleitkommadivisionen langsamer sind als Gleitkommamultiplikationen, ohne das Warum zu erläutern. Gilt diese Aussage für die moderne …
3
Warum 0,1 + 0,2 == 0,3 in D?
assert(0.1 + 0.2 != 0.3); // shall be true ist meine Lieblingsprüfung, dass eine Sprache native Gleitkomma-Arithmetik verwendet. C ++ #include <cstdio> int main() { printf("%d\n", (0.1 + 0.2 != 0.3)); return 0; } Ausgabe: 1 http://ideone.com/ErBMd Python print(0.1 + 0.2 != 0.3) Ausgabe: True http://ideone.com/TuKsd Andere Beispiele Java: http://ideone.com/EPO6X …
7
ValueError: String konnte nicht in float: id konvertiert werden
Ich führe das folgende Python-Skript aus: #!/usr/bin/python import os,sys from scipy import stats import numpy as np f=open('data2.txt', 'r').readlines() N=len(f)-1 for i in range(0,N): w=f[i].split() l1=w[1:8] l2=w[8:15] list1=[float(x) for x in l1] list2=[float(x) for x in l2] result=stats.ttest_ind(list1,list2) print result[1] Ich habe jedoch folgende Fehler erhalten: ValueError: could not convert …
Durch die Nutzung unserer Website bestätigen Sie, dass Sie unsere Cookie-Richtlinie und Datenschutzrichtlinie gelesen und verstanden haben.
Licensed under cc by-sa 3.0 with attribution required.