Gleichwertigkeit von Kolmogorov-Komplexitätsdefinitionen

Es gibt viele Möglichkeiten, die Kolmogorov-Komplexität zu definieren , und normalerweise sind alle diese Definitionen bis zu einer additiven Konstante äquivalent. Das heißt , wenn und Kolmogorov Komplexität Funktionen (definiert über verschiedene Sprachen oder Modelle) sind, dann gibt es eine Konstante , so dass für jeden String , . Ich glaube , das liegt daran , dass für jede Kolmogorov Komplexität Funktion und für jedes gilt , daß , für eine Konstante .K 2 c x | K 1 ( x ) - K 2 ( x ) | < c K x K ( x ) ≤ | x | + c $K_1$$K_2$$c$$x$$|K_1(x) - K_2(x)| < c$$K$$x$$K(x) \le |x| +c$$c$

Ich interessiere mich für die folgenden Definitionen für , basierend auf Turing-Maschinen$K$

1. Anzahl der Zustände : Definieren Sie als die minimale Zahl , sodass ein TM mit Zuständen für die leere Zeichenfolge ausgibt .q q $K_1(x)$$q$$q$$x$
2. Länge des Programms : Definieren Sie als das kürzeste "Programm", das ausgibt . Beheben Sie nämlich eine Möglichkeit, TMs in binäre Zeichenfolgen zu codieren. für eine Maschine bezeichnet ihre (binäre) Kodierung als . wobei das Minimum über allen , die bei leerer Eingabe ausgeben .x M ≤ M ≤ K 2 ( x ) = min | ⟨ M ⟩ $K_2(x)$$x$$M$$\langle M \rangle$$K_2(x) = \min |\langle M \rangle|$$M$$x$

Sind und gleichwertig? Was ist die Beziehung zwischen ihnen und welche man besser versteht das Konzept der Kolmogorov Komplexität, wenn sie nicht gleichwertig sind.$K_1$$K_2$

Was mich besonders stört, ist der Anstieg der Rate mit , der nicht zu sein scheint (oder zumindest linear mit der Konstanten so dass statt ). Betrachten Sie das einfachste TM, das ausgibt - dasjenige, das als Teil seiner Zustands- und Übergangsfunktion codiert . es ist sofort zu sehen, dass . Die Kodierung derselben Maschine ist jedoch viel größer und die triviale Grenze, die ich erhalte, ist K_2 (x) \ le | x | \ log | x | .$K_2$$x$$C>1$$K_2 < C|x|$$|x|+c$$x$$x$$K_1(x) \le |x|+1$$K_2(x) \le |x|\log |x|$

Ich entschuldige mich im Voraus dafür, dass ich zu viele Details weggebe, aber ich bin dabei, Leuten zu widersprechen.

Über$K(x)≤K'(x)+c$

Die Tatsache, dass kommt normalerweise von einem Interpreter der Beschreibungssprache # 2 in die Beschreibungssprache # 1 und nicht von einer Übersetzung von Programmen von # 2 in Programme von # 1.$K_1(x)≤K_2(x)+c$

Zum Beispiel und Sie erhalten diese Ungleichung so einfach wie :$K_\mathtt{C}(x)≤K_\mathtt{Python}(x)+c_\mathtt{py2c}$

void py_run(char * s) {
    // code of your Python interpreter
}

int main(void) {
    py_run("Put here your Python program of size Kpython(x)");
}

Dann ist Ihr stetiger etwas sein wie , wo die Anzahl der Bits für diesen Code ist und Bits ist die Größe der offiziellen Python - Interpreter in C geschrieben Natürlich brauchen Sie nur zu interpretieren , was möglich ist , in deiner Beschreibungssprache für Python also kannst du es besser machen als 69 MB :-)$c_\mathtt{py2c}$$528+490240688$$528$$490240688$

Wichtig ist, dass Sie Ihr Python-Programm linear in Ihren C-Code schreiben können . Beispielsweise ist eine Sprache, in der Sie "BANANA" zwischen jedes Zeichen setzen müssen, kein sehr gutes Beschreibungsprogramm, und die Eigenschaft ist dann falsch. (Wenn Sie jedoch aufgrund der Beschreibungssprache berechtigt sind, Daten in eine separate Datei oder in einen Block zu schreiben, verschwindet dieses Problem.)

Warum ist dein fehlerhaft?$K_1(x)=q$

Das Problem bei Ihrer Definition von ist, dass Sie möglicherweise mehr als Bits benötigen , um eine Turing-Maschine mit Zuständen zu beschreiben , da Sie Übergänge codieren müssen.$K_1$$q$$q$

Also sind und wahrscheinlich nicht gleichwertig, aber das ist hauptsächlich die Schuld von . Ich denke, wir können beweisen, dass es für alle ein so dass . Natürlich ist jedes genug, um die Tatsache zu widerlegen, dass keine gültige Funktion ist, da dies bedeuten würde, dass wir mehr alle möglichen Zeichenfolgen der Länge in Bit codieren können.$K_1$$K_2$$K_1$$a>0$$c_a$$K_1(x)≤a|x|+c_a$$a<1$$K_1$$2^n$$n$$an+c_a$

Aber die Größe ist beim Bau von Turing-Maschinen unglaublich eng. Die Idee ist, dass es in einem Block von Zuständen Möglichkeiten gibt, Übergänge für jeden Zustand zu finden, und das ist besser als die üblichen Möglichkeiten, mit denen Sie Bits füllen können. Dann können Sie in jedem Block Informationsbits speichern . (nicht weil man den Block auf die eine oder andere Weise und verlassen muss)$b$$b^{2b}$$2^b$$b$$\log_2 b$$2\log_2 b$

Also ja ... Mit Blöcken der Größe könnten Sie wahrscheinlich beweisen, dass . Aber ich habe bereits viel zu viel darüber geschrieben, warum die Anzahl der Zustände keine gültige Kolmogorov-Komplexitätsfunktion ist. Wenn du willst, dass ich es ausarbeite, werde ich es tun.$2^{1/a}$$K_1(x)≤a|x|+c_a$

Nun zu$K_2$

Die naive beschreibende Sprache entspricht in etwa (dh für jeden nächsten Zustand und Einzelheiten zum Schreiben und Beenden).$K_2(x)=q\cdot 2 \cdot (\log_2 q + 2)$$\log_2q$

Wie Sie zu sein scheinen, bin ich davon überzeugt, dass eine bessere / betrügerische Möglichkeit darin besteht, die Codierung von "Daten" in Turing-Maschinen zu autorisieren, indem möglicherweise ein binäres Tag in der Beschreibungssprache hinzugefügt wird, das besagt, ob ein Zustand ein Datenzustand ist ( das schreibt nur ein bisschen und geht zum nächsten Zustand) oder wenn es etwas anderes macht. Auf diese Weise können Sie ein Bit Ihres in einem Bit Ihrer beschreibenden Sprache speichern .$x$

Wenn Sie jedoch das gleiche , könnten Sie die gleiche Technik verwenden, die ich im vorherigen Teil verwendet habe, um ein paar Bits zu speichern, aber ich scheine bei (für any ) .. vielleicht kleiner als, gerade, aber es scheint schwierig , . (Und ich erwarte, dass es , nicht einmal .)$K_2$$K_2(x)≤a|x|\log|x|+c$$a>0$$\log|x|$$O(|x|)$$|x|$$O(|x|)$