Bei solchen Fragen bekommt man oft die richtige Intuition, wenn man an "flache" Zufallsvariablen denkt. Stellen Sie sich als die gleichmäßige Verteilung über eine Menge A vorXA der Größe und der Y als die gleichmäßige Verteilung über einen Satz B der Größe 2 H ( Y ) .2H(X)YB2H(Y)
Also, die Frage Sie fragen , ist (grob gesagt) , was können Sie über die Größe sagen im Vergleich zu | A | und | B | . Im Allgemeinen (z. B. wenn es sich um zufällige Mengen handelte) haben Sie in der Tat | A + B | ∼ | A | ⋅ | B | was H ( X + Y ) ≤ H ( X ) + H ( Y ) entspricht .|A+B||A||B||A+B|∼|A|⋅|B|H(X+Y)∼H(X)+H(Y)
Es gibt einige Sonderfälle, wenn vor allem, wenn A und B Intervalle sind (oder allgemeiner arithmetische Folgen). Es gibt einige Ergebnisse, die besagen, dass (zumindest unter bestimmten Bedingungen und wenn | A + B | fast so klein ist, wie es sein kann) dies der einzige Fall ist. Der Bereich, in dem solche Fragen untersucht werden, ist als "additive Kombinatorik" bekannt, und einige Ergebnisse haben den Geschmack, der in einer Gruppe ( G , + ) auftritt , wenn | A +|A+B|≪|A|⋅|B|AB|A+B|(G,+) dann sind A , B ungefähr Untergruppen von G (wie Sie in Ihrer Frage erwähnt haben, werden in Terence Taos Blog einige solche Ergebnisse erörtert; im Allgemeinen können Ergebnisse mit festgelegter Größe auf die Entropieeinstellung übertragen werden).|A+B|=O(|A|+|B|)A,BG
Der von Ihnen beschriebene Fall entspricht in etwa dem Fall, in dem ein ganzzahliges Intervall ist [ a . . b ] und B eine ganze Zahl Intervall der Form [ 0 .. c ] (in der Tat, wenn nicht versuchen , den Vorteil der Konzentration und für eine shoot zu nehmen ( 1 / 2 ) log n Entropiecodierung gebunden, müsste man c = 1 und a = 0 und b = k für k = 1 , . . .A[a..b]B[0..c](1/2)lognc=1a=0b=kk=1,...,n−1a∼k−k−−√b∼k+k−−√|A+B|≤|A|+c