Referenzanforderung: Submodulare Minimierung und monotone Boolesche Funktionen

Hintergrund: Beim maschinellen Lernen arbeiten wir häufig mit grafischen Modellen , um Funktionen mit hoher dimensionaler Wahrscheinlichkeitsdichte darzustellen. Wenn wir die Einschränkung, dass eine Dichte zu 1 integriert (summiert), verwerfen, erhalten wir eine nicht normalisierte graphstrukturierte Energiefunktion .

Angenommen, wir haben eine solche Energiefunktion , die in einem Graphen . Es gibt eine Variable für jeden Scheitelpunkt des Graphen und es gibt reelle unäre und paarweise Funktionen: \ theta_i (x_i): i \ in \ mathcal {V} und \ theta_ {ij} (x_i, x_j): ij \ in \ mathcal {E} . Die volle Energie ist dannG = ( V , E ) x & thgr ; i ( x i ) : i ≤ V & thgr ; i j ( x i , x j ) : i j ≤ $E$$G = (\mathcal{V}, \mathcal{E})$$x$$\theta_i(x_i) : i \in \mathcal{V}$$\theta_{ij}(x_i, x_j) : ij \in \mathcal{E}$

$$E(\mathbf{x}) = \sum_{i \in \mathcal{V}} \theta_i(x_i) + \sum_{ij \in \mathcal{E}} \theta_{ij}(x_i, x_j)$$

Wenn alle binär sind, können wir uns ein als Hinweis auf eine Mengenmitgliedschaft vorstellen und mit nur einem kleinen Missbrauch der Terminologie über Submodularität sprechen. In diesem Fall ist eine Energiefunktion submodular, wenn f . Wir sind normalerweise daran interessiert, die Konfiguration zu finden, die die Energie minimiert: . x θ i j ( 0 , 0 ) + θ i j ( 1 , 1 ) ≤ θ i j ( 0 , 1 ) + θ i j ( 1 , 0 ) x * = arg min x E ( x$x \in \mathbf{x}$$x$$\theta_{ij}(0, 0) + \theta_{ij}(1, 1) \le \theta_{ij}(0, 1) + \theta_{ij}(1, 0)$$\mathbf{x}^* = \arg \min_{\mathbf{x}} E(\mathbf{x})$

Es scheint einen Zusammenhang zwischen der Minimierung einer submodularen Energiefunktion und monotonen Booleschen Funktionen zu geben: Wenn wir die Energie von einigen für ein beliebiges (dh seine Präferenz für "wahr" erhöhen), dann das Optimum Die Zuweisung einer Variablen kann sich nur von 0 nach 1 ändern ("false" nach "true"). Wenn alle auf 0 oder 1 beschränkt sind, haben wirmonotone Boolesche Funktionen:$\theta_i(x_i=1)$$x_i$$x_i^* \in \mathbf{x}^*$$\theta_i$$|\mathcal{V}|$

$$f_i(\mathbf{\theta}) = x_i^*$$

wobei wie oben .$\mathbf{x^*} = \arg \min_{\mathbf{x}} E(\mathbf{x})$

Frage: Können wir mit diesem Setup alle monotonen Booleschen Funktionen darstellen, indem wir die paarweisen Terme variieren ? Was ist, wenn wir zulassen, dass eine beliebige submodulare Energiefunktion ist? Umgekehrt können wir alle submodularen Minimierungsprobleme als eine Menge vonmonotone Boolesche Funktionen?$\theta_{ij}$$E$$|\mathcal{V}|$

Können Sie Referenzen vorschlagen, die mir helfen, diese Zusammenhänge besser zu verstehen? Ich bin kein theoretischer Informatiker, aber ich versuche zu verstehen, ob es Erkenntnisse über monotone boolesche Funktionen gibt, die nicht durch submodulare Minimierung erfasst werden.

Soweit ich weiß, erfasst der Fall der submodularen Minimierung alles, was über den monotonen Booleschen Fall gesagt werden muss, und binäre submodulare Boolesche Funktionen können alle submodularen Booleschen Funktionen ausdrücken. Wenn die Domäne jedoch nicht boolesch ist, reichen binäre submodulare Funktionen nicht aus, um alle submodularen Funktionen auszudrücken, selbst wenn versteckte Variablen eingeführt werden. (Entschuldigung, wenn ich eine Feinfühligkeit in Ihrer genauen Problemformulierung übersehen habe.)

Der Stand der Technik wird in diesem netten Artikel erörtert, der viele Links zu verwandten Arbeiten enthält, und der auch die Links zu Computer Vision ziemlich deutlich macht:

• Stanislav Živný, David A. Cohen, Peter G. Jeavons, Die Ausdruckskraft von binären submodularen Funktionen , DAM 157 3347–3358, 2009. doi: 10.1016 / j.dam.2009.07.001 ( Preprint )

Für den Fall, dass Ihre nächste Frage sich mit Annäherung befasst, befasst sich dieses aktuelle Papier mit der Annäherungsversion:

• Dorit S. Hochbaum, Submodulare Probleme - Approximationen und Algorithmen , arXiv: 1010.1945

Bearbeiten: fester Link.