Als «information-theory» getaggte Fragen

Fragen zur Informationstheorie, Entropie und zum Informationsgehalt verschiedener Quellen

1
Verfeinerungsarten ableiten
Bei der Arbeit wurde ich beauftragt, einige Typinformationen über eine dynamische Sprache abzuleiten. Ich schreibe Folgen von Anweisungen in verschachtelte letAusdrücke um, wie folgt: return x; Z => x var x; Z => let x = undefined in Z x = y; Z => let x = y in Z …
11 programming-languages  logic  type-theory  type-inference  machine-learning  data-mining  clustering  order-theory  reference-request  information-theory  entropy  algorithms  algorithm-analysis  space-complexity  lower-bounds  formal-languages  computability  formal-grammars  context-free  parsing  complexity-theory  time-complexity  terminology  turing-machines  nondeterminism  programming-languages  semantics  operational-semantics  complexity-theory  time-complexity  complexity-theory  reference-request  turing-machines  machine-models  simulation  graphs  probability-theory  data-structures  terminology  distributed-systems  hash-tables  history  terminology  programming-languages  meta-programming  terminology  formal-grammars  compilers  algorithms  search-algorithms  formal-languages  regular-languages  complexity-theory  satisfiability  sat-solvers  factoring  algorithms  randomized-algorithms  streaming-algorithm  in-place  algorithms  numerical-analysis  regular-languages  automata  finite-automata  regular-expressions  algorithms  data-structures  efficiency  coding-theory  algorithms  graph-theory  reference-request  education  books  formal-languages  context-free  proof-techniques  algorithms  graph-theory  greedy-algorithms  matroids  complexity-theory  graph-theory  np-complete  intuition  complexity-theory  np-complete  traveling-salesman  algorithms  graphs  probabilistic-algorithms  weighted-graphs  data-structures  time-complexity  priority-queues  computability  turing-machines  automata  pushdown-automata  algorithms  graphs  binary-trees  algorithms  algorithm-analysis  spanning-trees  terminology  asymptotics  landau-notation  algorithms  graph-theory  network-flow  terminology  computability  undecidability  rice-theorem  algorithms  data-structures  computational-geometry 

2
Gibt es eine Verallgemeinerung der Huffman-Codierung auf die arithmetische Codierung?
Beim Versuch, die Beziehungen zwischen Huffman-Codierung, arithmetischer Codierung und Bereichscodierung zu verstehen, begann ich über die Mängel der Huffman-Codierung nachzudenken, die mit dem Problem der fraktionierten Bitpackung zusammenhängen . Angenommen, Sie haben 240 mögliche Werte für ein Symbol und müssen diese in Bits codieren. Sie würden also mit 8 Bits …

1
Die Fehlerkorrekturrate ist irreführend
In der Codierungstheorie bedeutet "wie gut ein Code ist", wie viele Kanalfehler korrigiert oder besser ausgedrückt, der maximale Rauschpegel, mit dem der Code umgehen kann. Um bessere Codes zu erhalten, werden die Codes mit einem großen Alphabet (anstatt einem binären) entworfen. Und dann ist der Code gut, wenn er mit …

2
Existiert ein Binärcode mit Länge 6, Größe 32 und Abstand 2?
Das Problem besteht darin, die Existenz von , st, zu beweisen oder zu widerlegen ; ; . ( steht für Hamming Distance)CCC|c|=6,∀c∈C|c|=6,∀c∈C|c| = 6,\forall c\in C|C|=32|C|=32|C| = 32d(ci,cj)≥2,1≤i&lt;j≤32d(ci,cj)≥2,1≤i&lt;j≤32d(c_i,c_j)\geq2,1\leq i<j\leq32ddd Ich habe versucht, einen zufriedenstellenden Code zu erstellen. Das Beste, was ich bekommen kann, ist, , eine Verkettung von , die …




4
Komprimierungsfunktionen sind nur deshalb praktisch, weil „die in der Praxis vorkommenden Bitfolgen alles andere als zufällig sind“?
Ich hätte einen Kommentar abgegeben, da dies die Antwort von Andrej Bauer in diesem Thread betrifft ; Ich glaube jedoch, dass es eine Frage wert ist. Andrej erklärt, dass eine verlustfreie Komprimierungsfunktion angesichts der Menge aller Bitfolgen mit einer Länge von 3 oder weniger nur einige von ihnen "komprimieren" kann. …


1
Fingerabdruck beweisen
Sei zwei ganze Zahlen aus dem IntervallSei eine zufällige Primzahl mitBeweisen Sie, dass \ text {Pr} _ {p \ in \ mathsf {Primes}} \ {a \ equiv b \ pmod {p} \} \ le c \ ln (n) / (n ^ {c-1}).a≠ba≠ba \neq b[1,2n].[1,2n].[1, 2^n].ppp1≤p≤nc.1≤p≤nc. 1 \le p \le n^c.Prp∈Primes{a≡b(modp)}≤cln(n)/(nc−1).Prp∈Primes{a≡b(modp)}≤cln⁡(n)/(nc−1).\text{Pr}_{p …
Durch die Nutzung unserer Website bestätigen Sie, dass Sie unsere Cookie-Richtlinie und Datenschutzrichtlinie gelesen und verstanden haben.
Licensed under cc by-sa 3.0 with attribution required.