Warum hat AMDs Installation einer SSD auf einer GPU-Karte die Latenz so stark reduziert?

AMD war kürzlich mit einem interessanten Radeon Pro-Board mit ein paar M2-SSDs in den Nachrichten .

Wie einige der detaillierteren Geschichten ( hier oder hier zum Beispiel) bemerken, können die Vorteile hauptsächlich nicht aus einer hohen Bandbreite resultieren (die M2 befinden sich nur auf jeweils 4 PCIe-Lanes, daher sollte der 16-Lane-Anschluss des Boards mehr haben) von geringer Latenz. Diese Geschichte enthält die Behauptung "Dies führt zu einer 10-mal geringeren Latenz beim Speicherzugriff".

Meine Frage lautet im Grunde: Warum sollten mit PCIe verbundene SSDs auf der GPU-Karte deutlich weniger Latenz haben als die GPU, die auf den RAM des Hauptsystems oder auf Speichergeräte auf dem PCIe-Bus des Systems zugreift? Was ist mit dem Hauptsystem, das "im Weg steht" und bedeutet, dass der Zugriff auf die integrierten SSDs so viel schneller sein kann?

gpu performance hardware

— timday
quelle

Es kann das Betriebssystem / den Treiber umgehen

— RichieSams

@RichieSams: Interessant; Bedeutet das im Prinzip, dass jemand das gleiche Ergebnis erzielen kann, wenn er über den Systembus auf eine dedizierte PCIe-SSD zugreift? (Ich weiß nicht, inwieweit der PCIe-Verkehr des Hauptsystems Betriebssystemunterstützung für Geräte benötigt, um Kommunikation zu ermöglichen, oder ob sie dies nach der Einrichtung autonomer tun können.)

— Tag

@Timday teilweise, aber es würde immer noch Overhead sein, da Sie warten müssten, bis Sie an der Reihe sind, von den Grafik-Controllern

— joojaa

Wenn ich aus der Perspektive eines Laien antworte (ich bin kein Hardware-Experte, aber ich habe meinen eigenen Computer gebaut), werde ich analogisieren und die Situation nutzen, einige Zutaten zum Kochen von Essen zu bekommen.

Wenn Sie den RAM / Speicher des "Hauptsystems" verwenden, suchen Sie nach einer Zutat, finden sie nicht in Ihren Schränken und gehen beispielsweise zu Ihrem Nachbarn und fragen, ob er welche hat. Es stellt sich heraus, dass sie es tun; Sie bringen es dir, du dankst ihnen und kehrst zu deinem Haus zurück und benutzt es.

Wenn Sie RAM / Speicher an Bord verwenden, suchen Sie nach einer Zutat, finden sie in Ihrem Schrank und verwenden sie.

Mit integriertem RAM / Speicher muss die GPU nur weniger arbeiten, um die benötigten Informationen zu erhalten. Die Informationen sind auch einfach näher, sowohl physisch als auch unter Berücksichtigung der Menge an Hardware und Software, die die Informationen durchlaufen müssen. Mit dem integrierten RAM / Speicher muss die GPU nur nachsehen, wo sich die Informationen befinden, und diese Informationen dann aus dem RAM / Speicher abrufen, der dann über ein paar Zentimeter Kabel zu den Prozessoreinheiten der GPU gelangt.

Mit dem RAM / Speicher des Hauptsystems gibt es eine größere Drahtstrecke für das Signal, durch die sich, obwohl es nur ein winziger Bruchteil einer Sekunde sein kann, immer noch über Tausende von Anrufen summieren können, um Informationen abzurufen. Es gibt auch mehr potenzielle Engpässe mit all den verschiedenen Teilen, die miteinander verbunden sind.

Schließlich hat AMD mit integriertem RAM / Speicher die Möglichkeit, das System zu optimieren, da genau gesteuert wird, welche Hardware verwendet wird. Dies ist genau so, wie Apple Mac OS an seine Mac-Computer anpasst.

— Ben Sandeen
quelle