Als «numeric-precision» getaggte Fragen

7
Was verursacht Gleitkomma-Rundungsfehler?
Mir ist bewusst, dass Gleitkomma-Arithmetik Präzisionsprobleme hat. Normalerweise überwinde ich sie, indem ich zu einer festen Dezimaldarstellung der Zahl wechsle oder einfach den Fehler vernachlässige. Ich weiß jedoch nicht, was die Ursachen für diese Ungenauigkeit sind. Warum gibt es so viele Rundungsprobleme mit Gleitkommazahlen?
5
Lösungen für Gleitkomma-Rundungsfehler
Beim Erstellen einer Anwendung, die sich mit vielen mathematischen Berechnungen befasst, bin ich auf das Problem gestoßen, dass bestimmte Zahlen Rundungsfehler verursachen. Ich verstehe zwar, dass Fließkommazahlen nicht exakt sind , aber das Problem besteht darin, wie ich mit exakten Zahlen umgehe, um sicherzustellen, dass beim Ausführen von Berechnungen mit …
4
Wie identifiziere ich instabile Gleitkommaberechnungen?
In der Numerik ist es sehr wichtig, instabile Schemata zu identifizieren und ihre Stabilität zu verbessern. Wie identifiziere ich instabile Gleitkommaberechnungen? Ich arbeite an einer sehr komplexen Simulation, bei der viele numerische Schemata zusammenarbeiten, und suche nach einer Methode, um ihre Schwachstellen zu identifizieren. Ich arbeite an einem physikalischen Modell …
1
Implizite Genauigkeit von Gleitkommafunktionen
Während eines anderen Programmierers Überprüfung Implementierung einer Funktion der Normalverteilung CDF zu berechnen , habe ich einen Vorschlag , um entweder die gesamte Implementierung mit Python eingebauten Funktionen oder verwenden SciPy, eine gemeinsame wissenschaftliche Bibliothek ersetzen. Ein anderer Programmierer wies darauf hin , dass weder math.erfc()noch scipy.stats.norm.cdf()bietet keine Präzision garantiert …
Durch die Nutzung unserer Website bestätigen Sie, dass Sie unsere Cookie-Richtlinie und Datenschutzrichtlinie gelesen und verstanden haben.
Licensed under cc by-sa 3.0 with attribution required.