Variablenauswahl - schrittweise Regression

Author: Hans Lohninger

Die schrittweise Regression ist ein Spezialfall der Vorwärtsselektion: Zusätzlich zu den Schritten, die vom Vorwärtsselektion-Algorithmus ausgeführt werden, werden alle Variablen darauf getestet, ob ihr Beitrag signifikant ist, nachdem eine neue Variable hinzugefügt wurde. Das kann zu der Elimination einer schon gewählten Variablen führen, wenn diese Variable wegen ihrer Beziehung zu den anderen Variablen überflüssig geworden ist.

Algorithmus:

1. Berechnen Sie die Korrelationen aller unabhängigen Variablen X_i mit der Response-Variablen Y. Verwenden Sie die Variable mit der höchsten Korrelation als die Startvariable.
2. Fügen Sie die Variable mit dem höchsten partiellen F-Wert zum Modell hinzu.
3. Überprüfen Sie alle Variablen des aktuellen Modells auf ihre partiellen F-Werte und entfernen Sie jede Variable, die unter einen vordefinierten Schwellenwert fällt.
4. Wiederholen Sie die Prozedur ab Schritt 2, bis ein vordefiniertes Kriterium zur Beendigung des Verfahrens erreicht wird.

Beachten Sie, dass sich die Liste der Variablen, die Sie durch schrittweise Regression erhalten, von dem Variablensatz, den Sie durch Vorwärtsselektion erhalten, unterscheiden kann.