Kapazität des AWGN-Kanals

Ich bin verwirrt, wenn ich grundlegende Konzepte der Kommunikation über AWGN-Kanäle verstehe. Ich weiß, dass die Kapazität eines zeitdiskreten AWGN-Kanals ist:

C = \frac{1}{2} \log_{2} (1 + \frac{S}{N})

$C=\frac{1}{2}\log_2\left(1+\frac{S}{N}\right)$ und es wird erreicht, wenn das Eingangssignal eine Gaußsche Verteilung hat. Aber was bedeutet es, dass das Eingangssignal Gaußsch ist? Bedeutet dies, dass die Amplitude jedes Symbols eines Codeworts einem Gaußschen Ensemble entnommen werden muss? Was ist der Unterschied zwischen der Verwendung eines speziellen Codebuchs (in diesem Fall Gauß) und der Modulation des Signals mit M-ary-Signalen, beispielsweise MPSK?

digital-communications gaussian information-theory

— Mah
quelle

Antworten:

Angenommen, ein Kanal, dessen Eingabe zu jedem Zeitpunkt eine kontinuierliche Zufallsvariable und dessen Ausgabe , wobei und unabhängig von , dann ist ist die Kapazität des kontinuierlichen Eingangskanals unter der Leistungsbeschränkung Die gegenseitige Information wird maximiert (und ist gleich ), wenn . $X$ $Y=X+Z$ $Z\sim\mathcal{N}(0,N)$ $Z$ $X$

C_{CI-AWGN} = \frac{1}{2} \log_{2} (1 + \frac{P}{N})

$C_{\text{CI-AWGN}}=\frac{1}{2}\log_2\left(1+\frac{P}{N}\right)$

E X^{2} \leq P

$\mathsf{E}X^2\le P$

I (X; Y)

$I(X;Y)$

C_{CI-AWGN}

$C_{\text{CI-AWGN}}$

X \sim N (0, P)

$X\sim\mathcal{N}(0,P)$

Dies bedeutet, dass wenn eine kontinuierliche Gaußsche Zufallsvariable mit der gegebenen Varianz ist, die Ausgabe die höchstmögliche gegenseitige Information mit der Eingabe hat. Das ist es! $X$

Wenn die Eingangsvariable diskretisiert (quantisiert) wird, ist eine neue Formulierung erforderlich. In der Tat können die Dinge leicht schwierig werden. Um es ein wenig zu sehen, kann man den einfachen Fall einer sehr groben Diskritisierung von bei der es nur zwei Werte haben kann. Nehmen wir also an, dass aus einem binären Alphabet ausgewählt ist, lassen Sie beispielsweise (oder eine skalierte Version, um eine Leistungsbeschränkung zu erfüllen). In Bezug auf die Modulation ist es identisch mit BPSK. $X$ $X$ $X$ $X\in\{\pm1\}$

Es stellt sich heraus, dass die Kapazität (auch in diesem einfachen Fall) keine geschlossene Form hat. Ich berichte aus "Modern Coding Theory" von Richardson und Urbanke:

Ein Vergleich zwischen den beiden Fällen ist in der folgenden Abbildung zu sehen:

\begin{aligned} C & _{BI-AWGN} = 1 + \\ \frac{1}{\ln (2)} ((\frac{2}{N} - 1) Q (\frac{1}{\sqrt{N}}) - \sqrt{\frac{2}{π N}} e^{- \frac{1}{2 N}} + \sum_{i = 1}^{\infty} \frac{(- 1)^{i}}{i (i + 1)} e^{\frac{2 i (i + 1)}{N}} Q (\frac{1 + 2 i}{\sqrt{N}})) \end{aligned}

$\begin{align}C&_{\text{BI-AWGN}}=1+\\&\frac{1}{\ln(2)} \left(\left(\frac{2}{N}-1\right)\mathcal{Q}\left(\frac{1}{\sqrt{N}}\right)-\sqrt{\frac{2}{\pi N}}e^{-\frac{1}{2N}}+\sum_{i=1}^{\infty}\frac{(-1)^i}{i(i+1)}e^{\frac{2i(i+1)}{N}}\mathcal{Q}\left(\frac{1+2i}{\sqrt{N}}\right)\right)\end{align}$

— msm
quelle

Was würden Sie tun, wenn Sie der Kapazität näher kommen möchten? Verwenden eines PSK-Schemas höherer Ordnung?

— Mah

@msm Ich habe immer geglaubt, dass FEC ein allgemeines Konzept ist, einschließlich H-ARQ, oder H-ARQ ist ein gerechter Trick, um die Codewortlänge pro Übertragung zu reduzieren, dh die Komplexität der Decodierung mit den Kosten einer längeren Gesamtübertragungszeit zu reduzieren. ist es nicht?

— AlexTP

@msm Bitte hör auf, deine alten, wertvollen Beiträge zu löschen!

— Peter K.

@msm Als Sie sich für SP.SE angemeldet haben, haben Sie der Site eine unwiderrufliche Lizenz zur Nutzung des Inhalts erteilt. Bitte hören Sie auf, Ihre wertvollen Inhalte zu löschen.

— Peter K.

Die Kapazitätsformel ist für einen diskreten Zeitkanal.

\begin{matrix} (1) & C = 0.5 \log (1 + \frac{S}{N}) \end{matrix}

$C = 0.5 \log (1+\frac{S}{N}) \tag{1}$

Angenommen, Sie müssen eine Folge von Daten senden, benötigen Sie einen orthonormalen Wellenformsatz für die Modulation. Bei der linearen Modulation, zu der die M-ary-Modulation gehört, ist wobei die Symboldauer und die Prototypwellenform ist, so dass das zeitkontinuierliche TX-Signal des Basisbandes $\left\lbrace a_n \right\rbrace$ $\left\lbrace \phi_n(t) \right\rbrace$ $\phi_n(t) = \phi(t - nT)$ $T$ $\phi(t)$

\begin{matrix} (2) & x (t) = \sum_{n} a_{n} ϕ (t - n T) \end{matrix}

$x(t) = \sum_n a_n \phi(t-nT) \tag{2}$

Typische Modulationen verwenden den Sonderfall, dass das Nyquist ISI-Kriterium mit angepasstem Filter erfüllt , um wiederherzustellen . Ein bekanntes ist Root Raised Cosine . $\left\lbrace \phi_n(t) \right\rbrace$ $a_n$ $\phi(t)$

Der kontinuierliche AWGN-Kanal ist ein Modell, bei dem

\begin{matrix} (3) & y (t) = x (t) + n (t) \end{matrix}

$y(t) = x(t) + n(t) \tag{3}$

wobei ein Gaußscher weißer stochastischer Prozess ist. $n(t)$

Aus (2) können wir sehen, dass die Projektion von auf . Machen Sie dasselbe mit , die Projektionen von auf einem orthonormal Satz ist eine Folge von iid Gaußsche Zufallsvariablen (ich glaube wirklich , dass $a_n$ $x(t)$ $\left\lbrace \phi_n(t) \right\rbrace$ $n(t)$ $n(t)$ $w_n = \langle n(t),\phi_n(t) \rangle$ $n(t)$ wird aus seinen Projektionen definiert); und Aufruf . Voilà, wir haben ein äquivalentes diskretes Zeitmodell $y_n = \langle y(t),\phi_n(t) \rangle$

\begin{matrix} (4) & y_{n} = {ein}_{n} + w_{n} \end{matrix}

$y_n = a_n + w_n \tag{4}$

Die Formel (1) ist angegeben für und sind Energie (Varianz, wenn und Mittelwert Null sind) von bzw. . Wenn und Gaußsch sind, ist und die Kapazität wird maximiert. (Ich kann einen einfachen Beweis hinzufügen, wenn Sie wollen). $S$ $N$ $a_n$ $w_n$ $a_n$ $w_n$ $a_n$ $w_n$ $y_n$

Was bedeutet es, dass das Eingangssignal Gaußsch ist? Bedeutet dies, dass die Amplitude jedes Symbols eines Codeworts einem Gaußschen Ensemble entnommen werden muss?

Es bedeutet, dass Zufallsvariablen Gaußsch sind. $a_n$

Was ist der Unterschied zwischen der Verwendung eines speziellen Codebuchs (in diesem Fall Gauß) und der Modulation des Signals mit M-ary-Signalen, beispielsweise MPSK?

$\phi_n(t)$ $w_n$

$a_n$

— AlexTP
quelle

@msm Ich meinte "diskrete Zeit" Kanal. Ja, diese Zufallsvariablen sind kontinuierlich, ihre Unterstützung ist kontinuierlich. Ich habe über kontinuierliche Zeit und diskrete Zeit gesprochen, weil der Autor nach Modulation gefragt hat.

— AlexTP

@msm my (3) ist stetig und (4) ist das äquivalente diskrete. Physikalisch im Nicht-Quantenmaßstab befinden wir uns in (3). Zur Analyse verwenden wir (4). Wir sprechen wohl nur über zwei verschiedene Dinge. Ich habe meine Antwort bearbeitet, um die richtige Terminologie zu verwenden.

— AlexTP

@msm hat Ihre Antwort gesehen und herausgefunden, dass ich falsch verstanden habe, was der Autor der Frage über Modulation fragen wollte und was Sie mir sagen. Ich habe meine Antwort aktualisiert, um den irreführenden Teil zu vermeiden. Vielen Dank.

— AlexTP

a_{n}

$a_n$

ϕ_{n} (t)

$\phi_n(t)$

@ MBaz ja ich stimme zu. Der Satz der Irrelevanz und der Satz der Abtastung sind das Paar, um ein grundlegendes diskretes Zeitkanalmodell zu etablieren. Der orthogonale Teil ist unkorreliert und somit unter Gaußscher Annahme unabhängig. Ich denke jedoch, ich würde meine Antwort nicht ändern, da sich dieses Projektionsmaterial nicht direkt auf die Frage bezieht. Vielen Dank für die Klarstellung.

— AlexTP

Zu sagen, dass das Eingangssignal eine Gaußsche Verteilung hat, bedeutet, dass es als Gaußsche Zufallsvariable verteilt ist. In der Praxis verlässt man sich auf das Codieren über mehrere Instanzen des Kanals (in der Zeit), anstatt sich auf eine Gaußsche Eingangsverteilung zu verlassen. Es gibt eine schöne Theorie voller Beweise, die den Rahmen dieser Antwort sprengt (Informationstheorie). Fehlersteuerungscodes (oder Kanalcodes) beruhen normalerweise auf der Verwendung bekannter QAM / PSK-Modulationen, aber durch die Redundanz des Codes und die Verwendung mehrerer Kanäle können sie sich der Kanalkapazität nähern (wenn auch nicht ganz erreichen). Als nächstes wird eine Skizze der Argumentation (ohne vollständige Details) bereitgestellt.

C. = sup_{p_{X.} (x)} ich (X.;; Y.)

$C = \sup_{p_X(x)} I(X; Y)$

X

$X$

Y

$Y$

I (\cdot, \cdot)

$I(\cdot,\cdot)$

X

$X$

Y

$Y$

p_{X} (x)

$p_X(x)$

Y. = X. + Z.

$Y = X + Z$

Z

$Z$

σ_{Z}^{2}

$\sigma_Z^2$

σ_{Z}^{2} = N

$\sigma_Z^2=N$

σ_{X}^{2} = S

$\sigma_X^2=S$

X

$X$

I (X; Y)

$I(X;Y)$

X

$X$

Y

$Y$

— Hopfen
quelle

Kein Grund für die Abwahl?

— Hopfen