Gute Beispiele für „zwei sind einfach, drei sind schwer“ in den Computerwissenschaften

Ich bin kürzlich auf eine Formulierung des Meta-Phänomens gestoßen : " Zwei ist einfach, drei ist schwer " (so formuliert von Federico Poloni), die sich wie folgt beschreiben lässt:

Wenn ein bestimmtes Problem für zwei Entitäten formuliert wird, ist es relativ einfach zu lösen. Ein Algorithmus für eine Drei-Entitäten-Formulierung erhöht jedoch die Schwierigkeit enorm und macht möglicherweise sogar die Lösung nicht durchführbar oder nicht erreichbar.

_{(Ich begrüße Vorschläge, um die Formulierung schöner, prägnanter und genauer zu gestalten.)}

Welche guten Beispiele in verschiedenen Bereichen der Computerwissenschaften (beginnend mit der reinen linearen Algebra und endend mit einer pauschalen Computerphysik) kennen Sie?

Ein Beispiel, das in vielen Bereichen der Physik auftritt, insbesondere in der klassischen Mechanik und der Quantenphysik, ist das Zweikörperproblem. Das Zweikörperproblem bedeutet hier die Aufgabe, die Dynamik zweier wechselwirkender Teilchen zu berechnen, die beispielsweise durch Gravitations- oder Coulombkräfte zusammenwirken. Die Lösung für dieses Problem kann häufig in geschlossener Form durch eine variable Transformation in Massenschwerpunkt- und Relativkoordinaten gefunden werden.

Sobald Sie jedoch drei Partikel betrachten, existieren im Allgemeinen keine Lösungen in geschlossener Form .

Ein bekanntes Beispiel ist das Boolesche Erfüllbarkeitsproblem (SAT). 2-SAT ist in der Polynomzeit nicht kompliziert zu lösen, aber 3-SAT ist NP-vollständig.

In einer und zwei Dimensionen führen alle Straßen nach Rom, aber nicht in drei Dimensionen.

Insbesondere wenn ein zufälliger Gang (der sich mit gleicher Wahrscheinlichkeit in eine beliebige Richtung bewegt) auf den ganzen Zahlen in einer oder zwei Dimensionen erfolgt, gelangt der zufällige Gang mit der Wahrscheinlichkeit eins (auch bekanntlich mit ziemlicher Sicherheit) schließlich zu einem bestimmten Ziel Punkt ("Rom").

Bei drei oder mehr Dimensionen ist die Wahrscheinlichkeit, "Rom" zu erreichen, geringer als eins. mit abnehmender Wahrscheinlichkeit mit zunehmender Anzahl von Dimensionen.

Wenn Sie beispielsweise eine stochastische (Monte Carlo) Simulation eines zufälligen Spaziergangs ab "Rom" durchführen, der bei der Rückkehr nach Rom anhält, können Sie sicher sein, dass Sie es in einer und zwei Dimensionen wieder zurück nach Rom schaffen und die Simulation stoppen - so einfach. In drei Dimensionen schaffen Sie es vielleicht nie wieder, so schwer.

https://en.wikipedia.org/wiki/Random_walk#Higher_dimensions

Um den zweidimensionalen Fall zu visualisieren, kann man sich eine Person vorstellen, die willkürlich durch eine Stadt läuft. Die Stadt ist praktisch unendlich und in einem quadratischen Gitter von Bürgersteigen angeordnet. An jeder Kreuzung wählt die Person zufällig eine der vier möglichen Routen (einschließlich der ursprünglich befahrenen Route). Formal ist dies ein zufälliger Spaziergang auf der Menge aller Punkte in der Ebene mit ganzzahligen Koordinaten.

Wird die Person jemals zum ursprünglichen Ausgangspunkt der Wanderung zurückkehren? Dies ist das zweidimensionale Äquivalent des oben diskutierten Bahnübergangsproblems. 1921 bewies George Pólya, dass die Person mit ziemlicher Sicherheit einen zweidimensionalen Zufallsrundgang machen würde, aber ab drei Dimensionen sinkt die Wahrscheinlichkeit, zum Ursprung zurückzukehren, mit zunehmender Anzahl von Dimensionen. In 3 Dimensionen sinkt die Wahrscheinlichkeit auf ca. 34%

Zahlenwerte finden Sie unter http://mathworld.wolfram.com/PolyasRandomWalkConstants.html .

Folgendes liegt den Mitwirkenden bei SciComp.SE am Herzen:

Die Navier-Stokes - Existenz und Glätte Problem

Die dreidimensionale Version ist natürlich ein bekanntes offenes Problem und Gegenstand eines millionenschweren Ton-Millenium-Preises. Aber die zweidimensionale Version wurde bereits vor langer Zeit mit einer positiven Antwort gelöst. Terry Tao stellt fest, dass die Lösung im Wesentlichen auf Lerays These von 1933 zurückgeht!

Warum ist das dreidimensionale Problem so viel schwieriger zu lösen? Die standardmäßige, von Hand gewellte Reaktion besteht darin, dass die Turbulenzen in drei Dimensionen erheblich instabiler werden als in zwei Dimensionen. Eine mathematisch genauere Antwort finden Sie in der offiziellen Problemstellung von Charles Fefferman am Clay Institute oder in Terry Taos netter Darstellung der möglichen Beweisstrategien .

In der Theorie der sozialen Wahl ist das Entwerfen eines Wahlschemas mit zwei Kandidaten einfach (Mehrheitsregeln), aber das Entwerfen eines Wahlschemas mit drei oder mehr Kandidaten erfordert zwangsläufig Kompromisse zwischen verschiedenen vernünftig klingenden Bedingungen. ( Unmöglichkeitssatz von Arrow ).

$A_1$$A_2$

Wenn jedoch die gleichzeitige Reduktion von drei Matrizen zu einer kanonischen Form (schwächere Bedingung als oben) erforderlich ist:

Quelle: CF van Loan, "Vorlesung 6: Die generalisierte Singularwertzerlegung höherer Ordnung", CIME-EMS Summer School, Cetraro, Italien, Juni 2015.

Es gibt viele Beispiele für Quantencomputer, obwohl ich schon eine Weile nicht mehr da bin und mich deshalb nicht mehr an viele erinnere. Ein wichtiger Punkt ist, dass die zweiteilige Verflechtung (Verflechtung zwischen zwei Systemen) relativ einfach ist, während die Verflechtung zwischen drei oder mehr Systemen ein ungelöstes Durcheinander mit wahrscheinlich hundert Artikeln ist, die zu diesem Thema verfasst wurden.

$\max\left(u_a v_b w_c T^{abc} / \left\lVert u \right\rVert \left\lVert v \right\rVert \left\lVert w \right\rVert \right)$

Dieses Papier scheint relevant zu sein, obwohl ich es nicht gelesen habe: Die meisten Tensorprobleme sind NP-hart

Die Winkelhalbierung mit Lineal und Kompass ist einfach, eine Winkelteilung ist im Allgemeinen nicht möglich.

Typinferenz für Rank-n-Typen . Die Typinferenz für Rang 2 ist nicht besonders schwierig, aber die Typinferenz für Rang 3 oder höher ist unentscheidbar.

Hier ist ein schönes Beispiel aus der Optimierung: der ADMM-Algorithmus (Alternating Direction Method of Multipliers).

Bei einer entkoppelten und konvexen Zielfunktion zweier Variablen (die Variablen selbst könnten Vektoren sein) und einer linearen Beschränkung, die die beiden Variablen koppelt:

Die erweiterte Lagrange-Funktion für dieses Optimierungsproblem wäre dann

Der ADMM-Algorithmus führt grob eine "Gauß-Seidel" -Teilung der erweiterten Lagrange-Funktion für dieses Optimierungsproblem durch, indem zuerst in Bezug auf (während verbleiben minimiert wird fest), dann durch Minimieren von in Bezug auf (während fest bleiben), dann durch Aktualisieren von . Dieser Zyklus wird fortgesetzt, bis ein Stoppkriterium erreicht ist.$L_{\rho}(x_1, x_2, \lambda)$$x_1$$x_2, \lambda$$L_{\rho}(x_1, x_2, \lambda)$$x_2$$x_1, \lambda$$\lambda$

(Hinweis: Einige Forscher wie Eckstein verwerfen die Gauß-Siedel-Aufteilungsansicht zugunsten von proximalen Operatoren, siehe z. B. http://rutcor.rutgers.edu/pub/rrr/reports2012/32_2012.pdf. )

Bei konvexen Problemen hat sich gezeigt, dass dieser Algorithmus konvergiert - für zwei Variablensätze. Dies ist bei drei Variablen nicht der Fall. Zum Beispiel das Optimierungsproblem

Selbst wenn alle konvex sind, kann die Konvergenz des ADMM-ähnlichen Ansatzes (Minimierung des Augmented Lagrangian in Bezug auf jede Variable , dann Aktualisierung der dualen Variablen ) NICHT garantiert werden, wie in diesem Artikel gezeigt wurde.$f$$x_i$$\lambda$

https://web.stanford.edu/~yyye/ADMM-final.pdf

Ein Stück Papier ohne Werkzeug in zwei Hälften zu falten ist einfach. Es ist schwer, es in Drittel zu falten.

Ein Polynom mit zwei Wurzeln zu faktorisieren ist einfach. Das Faktorisieren eines Polynoms mit drei Wurzeln ist wesentlich komplizierter.

Eine glatte Kurve des Grades 2 (dh gegeben als die Lösung von wobei ein Polynom des Grades 2 ist) mit einem gegebenen Punkt ist rational , was bedeutet, dass sie durch Quotienten von Polynomen des Grades parametrisiert werden kann 3 ist es nicht. Die ersteren werden als gut verstanden angesehen, die letzteren als elliptische Kurven, wenn ein Basispunkt, dh eine bestimmte Lösung, herausgegriffen wird, sind Gegenstand intensiver Forschung.$f(x,y) = 0$$f$

Dieser Unterschied hat mehrere Auswirkungen:

• In Stufe 2 gibt es Algorithmen, um alle rationalen Punkte zu finden (Lösungen in rationalen Zahlen), in Stufe 3 ist ein solcher Algorithmus nicht bekannt.
• Integrale mit mit von Grad 1 oder 2 haben Lösungen in Elementarfunktionen, jedoch nicht für von Grad 3 oder höher.$\sqrt{f(x)}$$f$$f$
• Das diskrete Logarithmusproblem ist auf Kurven des Grades 2 übertragbar, daher nicht für kryptografische Anwendungen geeignet, während die angenommene Härte desselben Problems auf elliptischen Kurven auf einigen der beliebtesten Kryptosysteme mit öffentlichem Schlüssel beruht.

Die TREEFunktion.

Wir können rechnen TREE(2) = 3, sind aber TREE(3)im Universumsleben nicht berechenbar, wir wissen nur, dass es endlich ist.

In einem zweidimensionalen Raum können Sie komplexe Strukturen einführen, mit denen sich viele Probleme (z. B. potenzielle Strömungsprobleme ) auf elegante Weise lösen lassen. In drei Dimensionen gibt es jedoch kein Analogon.

In der Quantenvielkörperphysik untersuchen wir verschiedene Gitter von n Spins im Rahmen verschiedener Modelle (zB Heisenberg-Modell, Bose-Hubbard-Modell, Ising-Modell, ...). Sie haben natürlich verschiedene numerische Methoden, um sie zu studieren (DMRG, exakte Diagonalisierung, neuronale Netze, ...) und einer der Gründe, warum wir versuchen, verschiedene Methoden zu entwickeln, ist, dass Sie diese Modelle nicht lösen können, wenn n zu "hoch" wird. und es ist natürlich schlimmer, wenn du in höheren Dimensionen studierst. Für das Ising-Modell funktioniert beispielsweise die exakte Diagonalisierung in 1d für n nicht höher als 20. Für höheres n versuchen Sie also eine andere Methode: DMRG. Aber letztere funktionieren in der Tat gut für höheres n (wie n = 70, aber nicht gut für höheres n). Auch hier möchten Sie eine andere Methode für höhere n: neuronale Netze (dh künstliche Intelligenz). Und zusätzlich mit neuronalen Netzen, Sie können diese Modelle "leichter" (dh mit relativ höherem n) in höheren Dimensionen untersuchen (aber für Dimension = 3 und kleines n beispielsweise dauert es noch viele Stunden (mehrere Tage), um den Grundzustand oder das zu erhalten beobachtbar du wolltest ...). Bref, wenn n für Ihre numerischen Methoden (aber auch für die Kapazität Ihres Computers) "zu hoch" wird, müssen Sie neue Methoden ausführen (und wenn Sie können, verwenden Sie einen Supercomputer), und es ist das gleiche Problem mit der Dimension Ihres Computers System, aber natürlich schlimmer, da Sie schnell stecken bleiben (Dimension = 4 ist schwer zu bekommen, außer wenn Sie viel warten ...). Es dauert immer noch viele Stunden (mehrere Tage), um den Grundzustand oder das beobachtbare Objekt zu erhalten, das Sie wollten ...). Bref, wenn n für Ihre numerischen Methoden (aber auch für die Kapazität Ihres Computers) "zu hoch" wird, müssen Sie neue Methoden ausführen (und wenn Sie können, verwenden Sie einen Supercomputer), und es ist das gleiche Problem mit der Dimension Ihres Computers System, aber natürlich schlimmer, da Sie schnell stecken bleiben (Dimension = 4 ist schwer zu bekommen, außer wenn Sie viel warten ...). Es dauert immer noch viele Stunden (mehrere Tage), um den Grundzustand oder das beobachtbare Objekt zu erhalten, das Sie wollten ...). Bref, wenn n für Ihre numerischen Methoden (aber auch für die Kapazität Ihres Computers) "zu hoch" wird, müssen Sie neue Methoden ausführen (und wenn Sie können, verwenden Sie einen Supercomputer), und es ist das gleiche Problem mit der Dimension Ihres Computers System, aber natürlich schlimmer, da Sie schnell stecken bleiben (Dimension = 4 ist schwer zu bekommen, außer wenn Sie viel warten ...).
Natürlich sind es hier mehr zusätzliche Informationen zu Ihrer Frage, da in der Quantenvielkörperphysik n = 3 nicht hoch ist (aber wenn Sie ein Gitter nehmen, das ein Hyperwürfel ist, können Sie nicht n = 3 von Natürlich (wegen der Bedingungen)).

Echte Welt:

Automatisierung% - zB Es ist einfach, etwas in 30% oder 50% oder 80% zu automatisieren, während es schwierig ist, zB über 95% zu gehen und unglaublich schwierig oder sogar fast unmöglich, 100% zu erreichen.