Ich versuche, eine globale Perspektive auf einige der wesentlichen Ideen des maschinellen Lernens zu bekommen, und ich habe mich gefragt, ob es eine umfassende Behandlung der verschiedenen Verlustbegriffe (Quadrat, Protokoll, Scharnier, Proxy usw.) gibt. Ich dachte an eine umfassendere, formale Darstellung von John Langfords hervorragendem Beitrag zur Verlustfunktionssemantik .
Antworten:
Das Tutorial zum energiebasierten Lernen von LeCun et al. Vielleicht bringen Sie einen guten Teil des Weges dorthin. Sie beschreiben eine Reihe von Verlustfunktionen und diskutieren, was sie für energiebasierte Modelle "gut" oder "schlecht" macht.
Die Verlustfunktion ist durch das Problem gegeben. Es könnte alles sein. Sie können beispielsweise auch die verbrauchte CPU-Zeit und den verbrauchten CPU-Raum benachteiligen.
Beim Bestärkungslernen ist die Verlustfunktion eine unbekannte nicht deterministische Funktion. Sie können es nicht neu definieren, ohne das Problem zu ändern.
Ich weiß, dass diese Frage irgendwie veraltet ist, aber es ist etwas, das mich derzeit interessiert.
Eine sehr gute Arbeit zum Thema konvexe Verlustfunktionen und Klassifiziererkonsistenz ist " Statistisches Verhalten und Konsistenz von Klassifizierungsmethoden basierend auf konvexer Risikominimierung " von Tong Zhang.