Relative Vorteile der Festkomma- gegenüber der Gleitkommaberechnung?

Ich habe ein digitales Signalverarbeitungssystem, das auf einem schnellen x86-Computer mit Gleitkommazahlen mit doppelter Genauigkeit arbeitet . Mir ist aufgefallen, dass ich den riesigen Dynamikbereich der Gleitkommadarstellung nicht wirklich nutze - alle Größen passen problemlos in den Bereich ± 32768.

Meine Frage: Ist es möglich, dass das Umschalten auf Festpunktberechnungen einen Vorteil in Bezug auf die numerische Genauigkeit (hohe Priorität) oder die Rechenzeit (niedrige Priorität) bietet?

Die Antwort hängt natürlich davon ab, wie viele Bits für eine Festpunktberechnung verfügbar sind. Wie viele Präzisionsbits verwenden typische Festkommasysteme? Ist es möglich, Festpunktberechnungen mit beispielsweise 64 Bit ( 16 Bit ganzzahliger Teil, 48 Bit Bruchteil ) auf x86-64 effizient durchzuführen?

Ich hatte immer gedacht, dass Festkommaberechnungen nur in Situationen verwendet werden, in denen die CPU-Leistung begrenzt ist. Ist es sinnvoll, Festkommaberechnungen zu verwenden, wenn die CPU-Leistung keine Rolle spielt?

Die numerische Genauigkeit von Ganzzahlen ist nur dann besser als die numerische Genauigkeit von Gleitkommazahlen, wenn die Ganzzahlauflösung besser ist. Doubles haben 52 Bruchbits, daher haben Floats mit doppelter Genauigkeit eine schlechtere Auflösung als ganze Zahlen bei etwa , was viel größer als 32768 ist ( 2 15 ). Nein, die numerische Genauigkeit ist nicht besser, wenn Sie zu ganzen Zahlen wechseln.$2^{52}$$2^{15}$

Das zweite Problem ist die Geschwindigkeit. Die Antwort lautet: Es kommt auf die Hardware an. Wenn Sie Ihr Programm auf einem digitalen Signalprozessor ausführen, der über mehrere Festkomma-Multiplikations- / Akkumulationskerne verfügt, ist dies im Festkomma-Prozess weitaus schneller. Auf einem x86-Chip hingegen ist der Fixpunkt wahrscheinlich langsamer . Ich habe genau das getan, wovon Sie sprechen, und gesehen, wie sich meine Ausführungszeiten erhöht haben.

Nachdem ich einige Suchanfragen im Internet durchgeführt hatte, stellte ich fest, dass dies häufig vorkommt. Der Grund dafür ist, dass es einen dedizierten Gleitkomma-Prozessor gibt, der beim Übergang zum Festkomma nichts tut, während die Festkomma-Hardware mit der regulären Festkomma-Aktion wie der Zeigerarithmetik gemeinsam genutzt wird.

Wenn Sie die Verarbeitung beschleunigen möchten, müssen Sie von Floats mit doppelter Genauigkeit zu Floats mit einfacher Genauigkeit wechseln. Das sollte zu einer deutlichen Geschwindigkeitssteigerung führen. Dies würde natürlich Ihre numerische Genauigkeit verringern.

Die Vorteile von Festkomma liegen hauptsächlich in der Leistung (z. B. wenn Sie eine Auswahl an Prozessorhardware haben oder der Prozessor nicht verwendete Funktionseinheiten gut herunterfahren kann). Dies liegt daran, dass Festkommaeinheiten für eine bestimmte Technologie- und Betriebsausgaberate üblicherweise kleiner sind (weniger Transistoren, kürzere Drähte, weniger Kapazität, die pro MAC überwunden werden muss) als Gleitkommaeinheiten.

Eine große Anzahl gängiger moderner Prozessoren (Server, PC und sogar Mobilgeräte) verfügt jedoch über mehr und schnellere FPUs (insbesondere FP-Einheiten mit einfacher Genauigkeit) als ganzzahlige Multiplikatoren, und der größte Teil der Systemleistung stammt nicht aus der Verwendung der FPU, daher wird die Festplatte verwendet -point hat für die typische DSP-Berechnung dieser Produkte nur geringe oder keine Vorteile und kann wahrscheinlich einen Nachteil in Bezug auf die reine Leistung darstellen. Mit der aktuellen Technologie wird jeder Vorteil für den Festkomma-Modus hauptsächlich bei winzigen eingebetteten Produkten wie Geräten mit Tastengröße erzielt.

Berücksichtigen Sie jedoch auch Speicher- und Prozessor-Cache-Footprints. Die clevere Verwendung kleinerer Datentypen (Short Int und Float), um eine große Berechnung vollständig in den Datencache zu integrieren, kann alle Vorteile der reinen FPU-Bandbreite ausgleichen.

Ziehen Sie Floats mit einfacher Genauigkeit dem Doppelten vor - dies halbiert Ihre Speicherbandbreite, den Cache-Platzbedarf und die Speicheranforderungen und beschleunigt einige mathematische Operationen. Es eröffnet auch die Möglichkeit einer 4-Wege-SIMD, wenn weitere Optimierungen erforderlich sind.

Ein Fixpunkt lohnt sich nur dann wirklich, wenn Sie keine FPU haben. Die meisten modernen x86-CPUs verfügen über zwei FPUs, sodass durch die Verwendung eines Fixpunkts nichts zu gewinnen ist und die Leistung mit einem Fixpunkt möglicherweise sogar erheblich schlechter ist. (Beachten Sie auch, dass für Fixpunkte zusätzliche Anweisungen im Vergleich zu Gleitkommawerten für Operationen wie Multiplikation erforderlich sind.)

Zusätzlich zu den hier sehr guten Antworten gibt es einige Dinge, die es wert sind, hinzugefügt zu werden:

• Es gibt Situationen, in denen Sie, selbst wenn Sie sehr grundlegende Anforderungen an den Dynamikbereich der von Ihnen verarbeiteten Daten haben, für einige der daran ausgeführten Vorgänge eine sehr gute Präzision benötigen - zum Beispiel möchten Sie einen IIR-Filter anwenden, der erfordert relativ kleine Koeffizienten; und das Abschneiden würde Instabilitäten verursachen. Sobald Ihr System Feedback hat, besteht eine gute Chance, dass Quantisierungs- / Kürzungsprobleme Sie bei der Verwendung von Fixpunkten zurückbeißen. Sie müssen viel vorsichtiger sein, wenn es um Filtertopologie und Kürzungs- / Bruchsparungsschemata geht.
• Im Gegensatz zu vielen DSP / DSC-Architekturen verfügt der x86 nicht über gesättigte Ganzzahloperationen (nun, er ist in SSE vorhanden, nicht in Standard-Skalarcode). Dies bedeutet, dass im Falle eines Überlaufs schlimme Dinge passieren können - Werte, die Vorzeichen ändern und "einwickeln". Sie müssen bei Überläufen und Dynamikbereichen besonders vorsichtig sein oder Tests auf Operandenbereiche streuenüberall in Ihrem Code. Dies kann die Leistung ernsthaft beeinträchtigen. Im Vergleich dazu ist Gleitkomma für diese Probleme widerstandsfähiger, da der große Dynamikbereich mehr "Headroom" bietet und Überläufe nicht zu katastrophalen Ausfällen führen. Der meiste Code für die Verarbeitung von Audiosignalen, der auf Desktop-Computern ausgeführt wird, verwendet den Bereich -1,0 .. 1,0 mit einfacher oder doppelter Genauigkeit. Dies ergibt also mehr als Hunderte dB Headroom. Ich habe Audiosignalverarbeitungscode mit beiden Ansätzen geschrieben, und bei Verwendung von Gleitkomma gibt es nur wenige Stellen, an denen ich das Signal explizit abschneiden / sättigen muss - normalerweise nur am Ende der Signalverarbeitungskette oder an Stellen, an denen Rückkopplungen auftreten.

Einige Punkte zu beachten:

• Die meisten modernen Prozessoren optimieren seit vielen Jahren die Gleitkommazahlverarbeitung, und selbst GPUs werden dafür bereits sehr erfolgreich eingesetzt.
• Festkommaberechnungen beeinträchtigen Ihre Daten und können schwerwiegende Probleme verursachen, wenn arithmetische Operationen nicht gut konditioniert sind (aus diesem Grund wurden Festkommazahlen durch Gleitkommazahlen ersetzt).
• Selbst wenn Sie vorzeichenbehaftete Kurzschlüsse verwenden, um Ihre Daten zu enthalten (viele Datenlogger verwenden eine 16-Bit-Genauigkeit), sollten die BERECHNUNGEN in Gleitkommawerten ausgeführt und dann wieder in Ganzzahlen konvertiert werden, da sonst Artefakte wie Quantisierung und Aliasing auftreten können.

Als letztes Wort denke ich, dass unsere Daten aus der realen Welt wertvoll sind und das blinde Zahlen-Crunching des Computers eine bescheidene Kleinigkeit ist. Der Computer muss für Ihre Daten und für Sie die Schwerarbeit leisten und darf nicht so behandelt werden, als wäre er der wahre Star in der Show.