Ich frage mich, in welchem Verhältnis die GPU-Auslastung zum Stromverbrauch der Grafikkarte steht.
Im folgenden Screenshot beträgt die Auslastung von GPU 2 92%, während der Stromverbrauch 129 von 250 Watt beträgt. Warum liegt der Stromverbrauch nicht bei 250 * 0,92 = 230 Watt?
Antworten:
Der Lastfaktor zeigt an, wie viel mehr von derselben Berechnung durchgeführt werden könnte, nicht wie viel von der gesamten Verarbeitungskapazität des Chips für diese Berechnung verwendet wird.
Zum Beispiel zeigen Ihre 92%, dass die GPU im Durchschnitt 920.000 von 1 Million Taktzyklen ausgeführt hat. Dies bedeutet nicht, dass 92% jeder einzelnen Schaltung jedes einzelnen Shader-Prozessors aktiv waren, geschweige denn 92% jeder einzelnen Schaltung auf der gesamten Karte (VRAM-Controller, DAC, Shader und Rastereinheiten sowie Verzweigungsvorhersagen und Textur-Lookup-Einheiten und bald).
Wenn Ihre Nutzung nur einige wenige GPU-Funktionen nutzt, können Sie möglicherweise 100% des Durchsatzes dieser Funktionen nutzen, während die Hälfte des Chips eingeschlafen bleibt. Aber die Hälfte, die schläft, konnte für diese Art von Arbeit überhaupt nicht verwendet werden.
Normalerweise bedeutet dies, dass Ihr CUDA-Programm nicht optimal ist. Ich optimiere jetzt mein CUDA-Programm. Ich habe mehrere Iterationen davon geschrieben, um die Leistung in jeder Iteration zu verbessern. Überraschenderweise wurden in jeder Iteration 100% der GPU-Last gemeldet. Der Stromverbrauch war jedoch in jeder Iteration unterschiedlich. In der letzten Iteration wurde mein Programm mit dem Anstieg des Stromverbrauchs von 40% auf 70% siebenmal (!!!) in Bezug auf die Wandzeit verbessert, die erforderlich ist, um das zu berechnen, was ich benötige.
Die GPU bleibt meistens bei Speicheroperationen stehen. Ich habe für ein besseres Caching optimiert (dh weniger globale Speicher-Treffer) und die folgenden Änderungen an den Sensoren erhalten:
Leider ist der Quellcode proprietär, daher kann ich ihn Ihnen nicht geben, um es selbst zu versuchen. Sie können sich jedoch ein Bild davon machen, was der Engpass in meinem Programm bewirkt: Es handelt sich um eine Schleife mit einem Speicher, der aus einem Array ( ith-Element) gelesen wird , einer Addition und einer Multiplikation sowie einer Zuweisung von float.
250 Watt ist der maximale Stromverbrauch für dieses Grafikkartenmodell, nicht für diese spezielle Grafikkarte. Solange Sie nicht die schlechteste Instanz dieses Grafikkartenmodells haben, die jemals hergestellt wurde, werden Sie niemals 250 Watt verbrauchen.