Wie gehe ich mit Funktionen um, die nicht immer verfügbar sind?

Ich habe ein Feature in meinem Feature-Vektor, das nicht immer verfügbar ist. Manchmal (für einige Beispiele) macht es keinen Sinn, es zu verwenden. Ich füttere einen sklearn MLPClassifier mit diesem Merkmalsvektor. Lernt das neuronale Netzwerk von selbst, wenn das Merkmal für seine Entscheidung sinnvoll ist, oder muss ich dem Merkmalsvektor ein Flag hinzufügen, das beispielsweise "1" sagt, wenn es sinnvoll ist, oder "0", wenn es keinen Sinn ergibt .

Wenn die Funktion in einer Teilmenge der Beispiele keinen Sinn ergibt, bedeutet dies nicht, dass dies ein separater Datensatz ist (oder sein sollte), der ein zweites Modell benötigt? Das ist ein Ansatz, über den ich nachdenken würde.

Die zweite wäre, mit den Daten (Feature) selbst zu arbeiten. Es ist wahrscheinlich am besten, einen neutralen Wert zu verwenden.

• Bei numerischem Wert:
  • Versuchen Sie es mit einem Mittelwert oder Medianwert, der für alle Einträge berechnet wird
  • Versuchen Sie es mit einem Extremwert, z. B. -1, wenn Ihre Funktion nur positive Werte hat. Dies sollte darauf hinweisen, dass die Funktion fehlt und das Netzwerk damit umgehen kann.
• Bei Textwerten, z. B. Worteinbettungen, ersetzen Sie den Wert durch einen Platzhalter N/A, der keine Einbettung enthält

Wenn die Funktionen, mit denen Sie trainieren, nicht dieselben sind, mit denen Sie vorhersagen möchten, haben Sie mehrere Möglichkeiten:

1. Trainieren Sie das Modell so, dass das betreffende Feature nicht verwendet wird, da es nicht in Ihrem Vorhersagedatensatz enthalten ist.
2. Setzen Sie einen Wert für diese Funktion ein, wenn sie in Ihrem Datensatz fehlt. In Ihrem Beispiel können Sie davon ausgehen, dass es "0" ist, wenn es fehlt, aber Sie müssen dies basierend auf dem Datensatz und Ihrer Intuition entscheiden.

Wenn die Merkmalsvektorlängen Ihres Trainingssatzes und des Vorhersagesatzes unterschiedlich sind, treten Fehler im Vorhersagesatz auf.

Je nach Problem können Sie das Problem lösen, indem Sie diese Werte löschen und sie mit einer Schätzung versehen, wenn dies möglich ist. Eine andere Strategie besteht darin, Features auf einer -1,1-Skala zu skalieren und diese Werte beispielsweise mit -3 zu belegen. Verwenden Sie dann einige robuste Methoden, die die "Ausreißer" vollständig ignorieren. Hoffe das hilft.

In den Fällen können Sie die Dummy-Variablencodierung verwenden. Sie können diese Idee auch auf Ihr Problem ausweiten. Ich werde das Verfahren für eine einfache lineare Regression veranschaulichen.

Stellen Sie sich vor, wir möchten das Einkommen einer Person anhand der jahrelangen Ausbildung , der gelehrten Vorlesungen , der veröffentlichten und der aktuellen akademischen Position . Die Stichprobe enthält sowohl akademische als auch nichtakademische Personen.$y_i$$x_{1i}$$x_{2i}$$x_{3i}$$x_{4i}$

1. Alternative : Weisen Sie natürliche Hohlraumwerte zu. ZB Wenn wir ein Kind suchen, ist es nicht sinnvoll, das Einkommen einzubeziehen. Das Einkommen hat jedoch einen natürlichen Leerwert von . Sie können überprüfen, ob Ihre Variablen auch einen solchen ungültigen Wert zulassen.$0$

2. Alternative : Sie können den Datensatz in zwei Gruppen aufteilen (akademisch und nicht akademisch). Und führen Sie zwei separate Modelle aus.

3. Alternative : eine neue Dummy-Variable Diese Variable ist wenn die Person nicht akademisch ist, und der Wert ist wenn die Person akademisch ist. Dann würde Ihr Regressionsmodell so aussehenis_academic $x_{5i}$$0$$i$$1$$i$

$$y_i = w_0+\tilde{w}_0x_{5i}+w_1x_{1i}+\tilde{w}_1x_{5i}x_{1i}+\tilde{w}_2x_{5i}x_{2i}+\tilde{w}_3x_{5i}x_{3i}++\tilde{w}_4x_{5i}x_{4i}+\varepsilon_i$$

Unser Datensatz ist also nicht sondern Jetzt ist der Datensatz vollständig, aber das Modell verwendet keine lineare Basisfunktion mehr.$x_{1i}, x_{2i}, x_{3i}, x_{4i}, y_i$$x_{1i},x_{5i},x_{5i}x_{1i},x_{5i}x_{2i},x_{5i}x_{3i}, x_{5i}x_{4i}, y_i$

Ebenso können Sie über Ihr Dataset nachdenken und Dummy-Variablen einführen, wenn Sie feststellen, dass einige Funktionen nur für eine Teilstichprobe in Ihrem Dataset vorhanden / nützlich sind.