VC-Dimension von Polynomen über tropische Halbierungen?

$\mathbf{BPP}$ $\mathbf{P}$ $\mathrm{poly}$ $(\max,+)$ $(\min,+)$

Sei ein Semiring. Ein Nullmuster einer Folge von Polynomen in ist eine Teilmenge für die existiert. und , so dass für alle , iff . Das heißt, die Graphen genau jener Polynome mit müssen den Punkt treffen . ("Nullmuster", weil die Bedingung durch .) $R$ $(f_1,\ldots,f_m)$ $m$ $R[x_1,\ldots,x_n]$ $S\subseteq \{1,\ldots,m\}$ $x\in R^n$ $y\in R$ $i=1,\ldots,m$ $f_i(x)= y$ $i\in S$ $f_i$ $i\in S$ $(x,y)\in R^{n+1}$ $f_i(x)=y$ $f_i(x)-y=0$ $Z(m)$ = die maximal mögliche Anzahl von Nullmustern einer Folge von Polynomen mit höchstens Grad . Daher ist . Die Vapnik-Chervonenkis-Dimension von Polynomen vom Grad ist . $m$ $d$ $0\leq Z(m)\leq 2^m$ $d$ $VC(n,d) := \max\{m\colon Z(m)=2^m\}$

Anmerkung: Normalerweise wird die VC-Dimension für eine Familie ${\cal F}$ von Mengen als die größte Kardinalität $|S|$ ein Satz $S$ , so dass $\{F\cap S\colon F\in{\cal F}\}=2^S$ . Um in diesen Rahmen zu passen, können wir mit jedem Paar $(x,y)\in R^{n+1}$ die Menge $F_{x,y}$ aller Polynome von $f$ Grad $\leq d$ für die $f(x)=y$ hält. Dann ist die VC-Dimension der Familie ${\cal F}$ aller solcher Mengen $F_{x,y}$ genau $VC(n,d)$ .

Eine triviale Obergrenze für $m=VC(n,d)$ ist $m\leq n\log |R|$ (wir brauchen mindestens $2^m$ verschiedene Vektoren $x\in R^n$ , um alle $2^m$ möglichen Muster zu haben), aber es ist in unendlichen Halbierungen nutzlos. Um gute Obergrenzen für die VC-Dimension zu haben, benötigen wir gute Obergrenzen für $Z(m)$ . Über Felder sind solche Grenzen bekannt.

Satz 1: Über jedem Feld $R$ haben wir $Z(m)\leq \binom{md+n}{n}$ .

Ähnliche Obergrenzen wurden früher von Milnor , Heintz und Warren bewiesen ; Ihre Beweise verwenden schwere Techniken aus der realen algebraischen Geometrie. Im Gegensatz dazu ist ein halbseitiger Beweis von Satz 1 von Ronyai, Babai und Ganapathy (den wir unten geben) eine einfache Anwendung der linearen Algebra.

Wenn wir nach kleinen suchen , die erfüllen , erhalten wir, dass über jedem beliebigen Feld gilt . Im Hinblick auf vs. / ist hier wichtig, dass die Dimension nur im Grad logarithmisch ist . Dies ist wichtig, da polynomgroße Schaltkreise Polynome exponentiellen Grades berechnen können, und weil ein Ergebnis von Haussler beim PAC-Lernen (Korollar 2 auf Seite 114 dieses Papiers ) Folgendes ergibt (wobei angenommen wird, dass deterministische Schaltkreise Mehrheitsstimmen verwenden dürfen) ihre Werte auszugeben). $m$ $\binom{md+n}{n} < 2^m$ $VC(n,d)=O(n\log d)$ $\mathbf{BPP}$ $\mathbf{P}$ $\mathrm{poly}$ $d$

Satz 2: gilt für Schaltungen über jedes semiring , wobei nur in und polynomisch ist . $\mathbf{BPP}\subseteq \mathbf{P}/\mathrm{poly}$ $R$ $VC(n,d)$ $n$ $\log d$

Sehen Sie hier, wie das Ergebnis von Haussler Satz 2 impliziert.

Insbesondere gilt nach Satz 1 für jedes Feld. (Interessant ist hier nur der Fall von unendlichen Feldern: Für endliche funktionieren viel einfachere Argumente: Chernoff gebunden erledigt dann die Arbeit.) Aber was ist mit (unendlichen) Halbbildern, die keine Felder oder gar keine Ringe sind? Motiviert durch dynamisches Programmieren interessieren mich hauptsächlich tropische und Semirings, aber auch andere (unendliche) Nicht-Feld-Semirings sind interessant. Beachten Sie, dass über das Semiring ein Polynom mit und $\mathbf{BPP}\subseteq \mathbf{P}/\mathrm{poly}$ $(\max,+)$ $(\min,+)$ $(\max,+)$ $f(x)=\sum_{a\in A} c_a\prod_{i=1}^n x_i^{a_i}$ $A\subseteq\mathbb{N}$ $c_a\in \mathbb{R}$ wird zum Maximierungsproblem ; der Grad der (wie üblich) die maximal Gesamt . $f(x)=\max_{a\in A}\ \{c_a+a_1x_1+a_2x_2+\cdots+a_nx_n\}$ $f$ $a_1+\cdots+a_n$ $a\in A$

Frage: Liegt die VC-Dimension von Grad Polynomen über tropischem Semirings-Polynom in ? $\leq d$ $n\log d$

Ich gebe zu, es kann eine ziemlich schwierige Frage sein, eine schnelle Antwort zu erwarten: Tropische Algebra ist eher "verrückt". Aber vielleicht hat jemand eine Vorstellung davon, warum (wenn überhaupt) tropische Polynome mehr Nullmuster erzeugen können als echte Polynome? Oder warum "sollten" sie nicht? Oder einige verwandte Referenzen.

Oder kann der Beweis von Babai, Ronyai und Ganapathy (unten) irgendwie "verdreht" werden, um über tropische Semirings zu arbeiten? Oder über irgendwelche anderen unendlichen Halbbilder (die keine Felder sind)?

Beweis von Satz 1: Es sei angenommen, dass eine Folge verschiedene hat und dass Zeugen dieser Nullmuster sind. Sei ein , das vom ten Vektor , und betrachte die Polynome . Wir behaupten, dass diese Polynome über unser Feld linear unabhängig sind. Dieser Anspruch ist der Beweis des Theorems da jeder Grad höchstens hat und die Dimension des Raums der Polynome vom Grad höchstens ist $(f_1,\ldots,f_m)$ $p$ $v_1,\ldots,v_p\in R^n$ $S_i=\{k\colon f_k(v_i)\neq 0\}$ $i$ $v_i$ $g_i:=\prod_{k\in S_i}f_k$ $g_i$ $D:=md$ $D$ $\binom{n+D}{D}$ . Um die Behauptung zu beweisen, genügt es zu beachten, dass genau dann ist, wenn . Nehmen wir umgekehrt an, dass eine nichttriviale lineare Beziehung existiert. Sei ein Index, so dassist unter den mit minimal . Ersatz in der Beziehung. Während , haben wir für alle , einen Widerspruch. $g_i(v_j)\neq 0$ $S_i\subseteq S_j$ $\lambda_1 g_i(x)+\cdots+\lambda_p g_p(x)=0$ $j$ $|S_j|$ $S_i$ $\lambda_i\neq 0$ $v_j$ $\lambda_jg_j(v_j)\neq 0$ $\lambda_ig_i(v_j)=0$ $i\neq j$ $\Box$

— Stasys
quelle

Ich habe erkannt, dass die Antwort auf meine Frage lautet: Ja, die VC-Dimension von Grad $\leq d$ Polynomen auf $n$ Variablen über jedes tropische Semiring beträgt höchstens konstante Zeiten $n^2\log(n+d)$ . Dies kann mit dem obigen Satz 1 gezeigt werden. Einzelheiten finden Sie hier . So BPP $\subseteq$ P / Poly gilt auch für tropische Schaltungen und damit auch für die „reine“ dynamische Programmieralgorithmen.

NB (hinzugefügt am 25.06.2019) In der Zwischenzeit habe ich das Problem in diesem Artikel vollständig gelöst . In einer solchen Allgemeinheit, von der ich am Anfang noch nicht einmal geträumt habe. Tropenfall ist hier nur ein ganz ganz besonderer Fall. Und noch seltsamer: durch nur eine entsprechende Kombination bereits bekannter (in jeder Hinsicht tiefer gehender) Ergebnisse anderer Autoren.

Was bleibt in dieser Richtung (BPP vs. P / Poly) noch zu tun? Neben der Verringerung der Größe der resultierenden deterministischen Schaltungen (eine interessante Frage an sich).

— Stasys
quelle