Wirklich Zufallsgenerator: Turing berechenbar?

Ich suche eine endgültige Antwort darauf, ob die Erzeugung von "wirklich zufälligen" Zahlen für Turing berechenbar ist oder nicht. Ich weiß nicht, wie ich das genau ausdrücken soll. Diese StackExchange-Frage zum Thema "Effiziente Algorithmen für die Zufallsgenerierung" kommt der Beantwortung meiner Frage sehr nahe. Charles Stewart sagt in seiner Antwort: "Es kann keine [Martin-Löf-Zufälligkeit] von einer Maschine erzeugt werden." Ross Snider sagt: "Jeder deterministische Prozess (wie Turing / Register Machines) kann keine 'philosophischen' oder 'wahren' Zufallszahlen erzeugen." Gibt es eine klare und akzeptierte Vorstellung davon, was einen echten Zufallsgenerator ausmacht? Und wenn ja, ist es bekannt, dass es von einer Turing-Maschine nicht berechnet werden kann?

Vielleicht würde es ausreichen, mich auf die einschlägige Literatur zu verweisen. Vielen Dank für jede Hilfe, die Sie zur Verfügung stellen können!

Bearbeiten. Vielen Dank an Ian und Aaron für die sachkundigen Antworten! Ich bin in diesem Bereich relativ ungeschult und dankbar für die Unterstützung. Wenn ich die Frage in diesem Anhang ein wenig erweitern darf: Kann ein TM mit Zugriff auf eine reine Zufallsquelle (ein Orakel?) Eine Funktion berechnen, die ein klassisches TM nicht kann?

Ich nehme ziemlich spät an der Diskussion teil, werde aber versuchen, einige Fragen zu beantworten, die zuvor gestellt wurden.

Zunächst ist es, wie von Aaron Sterling festgestellt, wichtig, zunächst zu entscheiden, was wir unter "wirklich zufälligen" Zahlen verstehen, und zwar insbesondere dann, wenn wir die Dinge unter dem Gesichtspunkt der Komplexität der Berechnungen oder der Berechenbarkeit betrachten.

Lassen Sie mich jedoch argumentieren , dass in der Komplexitätstheorie, die Menschen vor allem interessiert sind Pseudo -randomness und Pseudo -random Generatoren, dh Funktionen von Strings in Strings , so dass die Verteilung der Ausgangssequenzen kann nicht abgesehen von der gleichmäßigen Verteilung erzählt wird durch ein effizientes Verfahren (wo mehrere Bedeutungen von effizient in Betracht gezogen werden können, z. B. Polyzeit berechenbare, polynomgroße Schaltungen usw.). Es ist ein wunderschönes und sehr aktives Forschungsgebiet, aber ich denke, die meisten Leute würden zustimmen, dass die Objekte, die es untersucht, nicht wirklich zufällig sind, es ist genug, dass sie nur zufällig aussehen (daher der Begriff "Pseudo").

In der Berechenbarkeitstheorie hat sich ein Konsens zu einem guten Begriff der "wahren Zufälligkeit" herauskristallisiert, und es hat sich tatsächlich der Begriff der Martin-Löf-Zufälligkeit durchgesetzt (andere wurden vorgeschlagen und sind interessant zu studieren, aber nicht alle die netten Eigenschaften, die Martin-Löf zufällig hat). Zur Vereinfachung betrachten wir die Zufälligkeit für unendliche binäre Sequenzen (andere Objekte wie Funktionen von Zeichenfolgen zu Zeichenfolgen können mit einer solchen Sequenz leicht codiert werden).

$\alpha$

$1/2$$0$$\alpha$
$k$$w_{k,0}$$w_{k,1}$$U_k$$w_{k,i}$$2^{-k}$$G=\bigcap_k U_k$$0$$\alpha$

Diese Definition mag technisch erscheinen, wird jedoch aus mehreren Gründen allgemein als die richtige angesehen:

• es ist effektiv genug, dh seine Definition beinhaltet berechenbare Prozesse
• Es ist stark genug: Jede "fast sichere" Eigenschaft, die Sie in einem Wahrscheinlichkeitstheorie-Lehrbuch finden (Gesetz der großen Zahlen, Gesetz des iterierten Logarithmus usw.), kann durch einen Martin-Löf-Test getestet werden (obwohl dies manchmal schwer zu beweisen ist).
• Es wurde unabhängig von mehreren Personen unter Verwendung unterschiedlicher Definitionen vorgeschlagen (insbesondere die Levin-Chaitin-Definition unter Verwendung der Kolmogorov-Komplexität). und die Tatsache, dass sie alle zu demselben Konzept führen, ist ein Hinweis darauf, dass es der richtige Begriff sein sollte (ein bisschen wie der Begriff der berechenbaren Funktion, der über Turing-Maschinen, rekursive Funktionen, Lambda-Kalkül usw. definiert werden kann).
• Die mathematische Theorie dahinter ist sehr schön! Siehe die drei ausgezeichneten Bücher Eine Einführung in die Kolmogorov-Komplexität und ihre Anwendungen (Li und Vitanyi), Algorithmische Zufälligkeit und Komplexität (Downey und Hirschfeldt), Rechenbarkeit und Zufälligkeit (Nies).

Wie sieht eine Martin-Löf-Zufallsfolge aus? Nehmen Sie eine perfekt ausbalancierte Münze und werfen Sie sie um. Schreiben Sie bei jedem Flip eine 0 für Kopf und eine 1 für Zahl. Fahren Sie bis zum Ende der Zeit fort. So sieht eine Martin-Löf-Sequenz aus :-)

$\alpha$$\alpha$$\alpha$$\alpha$$k$$a_k$$\alpha$$k$$2^{-k}$$U_k$${\alpha}$

$\alpha$$\beta$$\alpha$$n$$n-O(1)$$\beta$$n$$\alpha$

Ok, jetzt der "Edit" -Teil von Josephs Frage: Kann ein TM mit Zugriff auf eine reine Zufallsquelle (ein Orakel?) Eine Funktion berechnen, die ein klassisches TM nicht kann?

$f: \mathbb{N} \rightarrow \mathbb{N}$$f$$n$$n$

$f$$f$$n$$n$$f$$\epsilon >0$$\sigma$$\sigma$$f$$\sigma$

Es ist (vielleicht) zu unterscheiden zwischen "Turing berechenbar" und "effektiv berechenbar", um Ihre Frage zu beantworten. Wenn man "zufälligen Prozess" als "einen Prozess definiert, der nicht vorhergesagt werden kann, unabhängig davon, über welche Ressourcen wir verfügen", und man "deterministischen Prozess" als "vorhersagbaren Prozess" definiert, wenn man den Input und den Zugriff auf (möglicherweise viele) Ressourcen voraussetzt, "Dann kann keine berechenbare Turing-Funktion zufällig sein, denn wenn wir die Turing-Maschine kennen und simulieren würden, könnten wir immer das Ergebnis des nächsten" Experiments "des Prozesses vorhersagen.

In diesem Rahmen kann ein Martin-Lof-Test als deterministischer Prozess angesehen werden, und die Definition einer zufälligen Sequenz ist genau eine Sequenz, deren Verhalten von keinem Martin-Lof-Test / Turing-berechenbaren / deterministischen Prozess vorhergesagt wird.

Dies wirft jedoch die Frage auf: "Ist eine Zufallsfolge im wirklichen Leben effektiv berechenbar?" Tatsächlich gibt es hier eine Branche. Es gibt veröffentlichte CDs mit Milliarden zufälliger (?) Bits, die zur Durchführung von Computersimulationen physikalischer Systeme usw. verwendet werden. Diese CDs garantieren, dass ihre Bitsequenzen eine Reihe von Martin-Lof-Tests bestehen. Das Buch The Drunkard's Walk: Wie Zufälligkeit unser Leben regiert, gibt eine Pop-Science-Erklärung zu diesem Thema.

Irrelevanter Punkt: Ich genieße Ihre Kolumne. :-)

Intuitiv bedeutet "zufällig" "unvorhersehbar", und jede von einer Turing-Maschine erzeugte Sequenz kann durch Ausführen der Maschine vorhergesagt werden, so dass Turing-Maschinen keine "wirklich zufälligen" Zahlen erzeugen können. Es gibt eine Reihe formaler Definitionen von Zufallsfolgen (Zufälligkeit ist nur dann wirklich sinnvoll, wenn die Länge einer Zeichenfolge unendlich ist), die alle im Wesentlichen gleichwertig sind. Die vielleicht natürlichsten davon sind die Martin-Lof-Zufälligkeit, dh eine Sequenz besteht alle möglichen berechenbaren statistischen Tests auf Stochastizität, und die Chaitin-Zufälligkeit, dh alle anfänglichen Teilsequenzen sind inkompressibel (genauer gesagt, sie weisen eine hohe Kolmogorov-Komplexität auf). In diesen beiden Definitionen ist es nicht möglich, zufällige Sequenzen zu erzeugen und sie zu erkennen. Siehe das Buch "Information und Zufälligkeit:

Jeder, der arithmetische Methoden zur Erzeugung von Zufallszahlen in Betracht zieht, befindet sich natürlich in einem Zustand der Sünde. Denn wie bereits mehrfach erwähnt, gibt es keine Zufallszahl - es gibt nur Methoden zur Erzeugung von Zufallszahlen, und ein strenges Rechenverfahren ist natürlich keine solche Methode. - John von Neumann

Es scheint, als hätte niemand auf Ihren Nachtrag geantwortet, also werde ich es versuchen:

Wenn ich die Frage in diesem Anhang ein wenig erweitern darf: Kann ein TM mit Zugriff auf eine reine Zufallsquelle (ein Orakel?) Eine Funktion berechnen, die ein klassisches TM nicht kann?

Ich werde versuchen, die Frage zu präzisieren und sie dann zu beantworten. (Meine Version entspricht jedoch möglicherweise nicht Ihren Vorstellungen. Lassen Sie es mich wissen, wenn dies nicht der Fall ist.)

Wir haben ein deterministisches TM mit Zugriff auf einen Zufallszahlengenerator. Dieses TM berechnet nun eine Funktion (eine tatsächliche Funktion, dh eine deterministische Abbildung von einem Eingaberaum zu einem Ausgaberaum), wobei der Zufallszahlengenerator auf irgendeine Weise verwendet wird.

Darf das TM mit Zugriff auf die Zufälligkeit also Fehler machen? Wenn nicht, muss der DTM die richtige Antwort geben, unabhängig davon, welche zufälligen Bits er geliefert hat. In diesem Fall sind die Zufallsbits nicht erforderlich, da Sie die Zufallszeichenfolge einfach als 00000 annehmen könnten ...

$f_i(x,r)$$f_i$$r$

In Bezug auf Ihre "Bearbeitungsfrage": Es macht einen großen Unterschied, ob Sie nach der Berechenbarkeit oder Komplexität fragen. Wenn es Komplexitätsgrenzen für das TM gibt, erhalten Sie das sogenannte zufällige Orakelmodell . Wenn der TM beliebig große, aber endliche Ressourcen verwenden kann, dann befinden Sie sich in der Welt der relativen Zufälligkeit : Es gibt Zufallshierarchien von Orakeln, genau wie es Turing-Grade gibt. (Randbemerkung: Eine der (in) berühmten Kritiken von Koblitz und Menzes betraf die Verwendung des Zufalls-Orakelmodells, sodass Ihre Meta-Frage die jüngsten akademischen Debatten berührt.)

Ich versuche immer noch, Ihre veränderte Frage zu verstehen, insbesondere, welche Einschränkungen Sie dem TM auferlegen. Obwohl diese Antwort möglicherweise nicht genau Ihren Wünschen entspricht, hilft sie möglicherweise, die Dinge ein wenig einzugrenzen.

Wir wissen, dass es unbedingt unmöglich ist, das Volumen eines konvexen Körpers deterministisch mit einem subexponentiellen Faktor anzunähern (dies ist ein altes Ergebnis von Bárány und Füredi ). Im Gegensatz dazu können wir mithilfe von Stichproben ein FPRAS für dieses Problem erhalten. Ist dies ein Beispiel für die Trennung, die Sie suchen?