Forschungsstatistik I

Forschungsstatistik I Prof. Dr. G. Meinhardt WS 2004/2005 Fachbereich Sozialwissenschaften, Psychologisches Institut Johannes Gutenberg Universität Mainz Stunde 18.01.05

Themen der Woche • Partialkorrelation • Multiple Korrelation und Regression • Pfadanalyse

x1 x x2 x1 x x2 Deutungsmöglichkeiten der bivariaten Korrelation • Kausalität:X1® X2 • Latente Drittvariable: • Direkte und indirekte Kausalität:

z rzx rzy G G rxy x y Partialkorrelation Die Korrelation zweier Variablen, die vom Effekt anderer (spezifizierter) Variablen bereinigt wurden. Prüfung einer Kausalvermutung: rxy komme dadurch zustande, daß z ursächlich auf x und y einwirkt:

rexey x y rxy z z Partialkorrelation Prüfung • Sage x aus z voraus und berechne Residuen ex • Sage y aus z voraus und berechne Residuen ey • Berechne die Korrelation rexey Ist Partialkorrelation (Korrelation rexey) Null, so beruht die Korrelation rxy tatsächlich nur auf der Einwirkung von z.

Partialkorrelation Y aus Z X aus Z ex und ey korrelieren: [Tafelbeispiele]

Datenbeispiel X: Rechnen Y: Sprache Z: Förderdauer rxy=.56 rxz=.72 ryz=.73 Korreliert Rechen und Sprache nur, weil die Kinder Frühförderung erhalten haben?

rxy.z=.07 Datenbeispiel: Korr. der Residuen X: Rechnen Y: Sprache Z: Förderdauer Residuen: Korrelation der Residuen: Ja: Ohne die Frühförderung sind Rechen- und Sprachleistung unabhängig! [Tafelbetrachtung]

Multiple Regression Ziele • Schätzung eines Kriteriums aus einer Linearkombination von Prädiktoren • Mit konkreten Meßvariablen • Information über die Wichtigkeit einzelner Einflußgrößen im Kontext von Multikollinearität

Multiple Korrelation & Regression Variable X, Y, Z: Sage Z aus X und Y vorher ! Die ß- Koeffizienten müssen nach dem Kleinstquadratkriterium bestimmt werden!

Beobachtetes Kriterium Vorhergesagtes Kriterium Allgemeine Schätzgleichung

Schätzfehler: Optimierungskriterium für die Regressionsgewichte: wobei Modellformulierung Schätzung der Regressionsgewichte

Modellformulierung, standardisiert Kriterium: mit die additive Konstante fällt weg, nur Gewichte für Prädiktoren Schätzung der Regressionsgewichte

Lösung: Normalgleichungen Vektorschreibweise: Multipliziere nacheinander mit jedem Prädiktor, summiere über Fälle und teile durch N, führt auf: Schätzung der Regressionsgewichte

Normalgleichungen in Matrix Notation System: wobei: Lösung: Inverse Prädiktorkorrelationsmatrix vormultiplizieren Schätzung der Regressionsgewichte

3 Variablen Fall Kleinstquadratkriterium: Für den 3 Variablenfall (x,y,z) bequem nach Standardisierung über Normalgleichungen zu lösen! führt auf: [Tafelrechnung]

Multipler Korrelationskoeffizient Bedeutung aus Varianzzerlegung: Schätzung der Regressionsgewichte

1) Ist die Korrelation der vorhergesagten Werte mit den beobachteten Werten Z Multipler Korrelationskoeffizient Im 3 Variablenfall: • 2) Ist immer größer oder gleich der größten Einzelkorrelation • 3) Sein Quadrat gibt wieder den Anteil der Vorhersagevarianz an der Gesamtvarianz an:

Multiple Korrelation & Regression Interpretation • Sind die Prädiktoren unabhängig, so sind die ß-Gewichte • gleich den Kriteriumskorrelationen und die aufgeklärte • Varianz ist die Summe der Quadrate der ß-Gewichte 1) • Sind die Prädiktoren abhängig (interkorreliert), so • unterscheiden wir 3 Fälle: 2) • Der Pädiktor enthält Information, die schon der andere Prädiktor enthält: er ist redundant • Der Prädiktor unterdrückt irrelevante Varianzanteile in dem anderenPrädiktor: er ist ein Suppressor • Der Prädiktor besitzt Kriteriumsvarianz, die der andere Prädiktor nichtbesitzt und unterdrückt irrelevante Varianz des anderen Prädiktors:er ist valide und nützlich. Interpretation

Interpretation der Lösung 1.Unabhängige Prädiktoren Bei rein unabhängigen Prädiktoren sind die b- Gewichte identisch mit den Kriteriumskorrelationen Der multiple Determinationskoeffizient ist dann einfach die Summe der quadrierten Kriteriumskorrelationen (=erklärter Varianzanteil) Interpretation

Interpretation: abhängige Prädiktoren Untersuchung der Abhängigkeit im Kontext von Multikollinearität • Bedeutet die Abhängigkeit Redundanz, d.h. messen die vielen Variablen Aspekte gemeinsam, so daß man prinzipiell weniger (latente) Variablen benötigt? (unerwünschter Aspekt) • Erfassen die Abhängigkeiten Teile der Kontamination der Variablen und wirken so optimierend auf die gesamte Schätzgleichung (Suppressionseffekt, erwünscht)? Interpretation

Multiple Korrelation & Regression Redundanz Die Variable j ist redundant zur Vorhersage von Variable k, Wenn gilt: Nützlichkeit der Variable j zur Vorhersage von k: • U ist der Betrag, um den R2 wächst durch Aufnahme von Variable j in die Gleichung. [Tafelbeispiele] Interpretation

Identifikation von Suppressionseffekten Für mehr als 3 Variablen über die Nützlichkeit: Variable j ist Suppressor, wenn gilt Also die Zunahme der erklärten Varianz durch Aufnahme der Variable muss grösser sein als die quadrierte einzelne Validität. Für nur 3 Variablen (x,y,z) relativ einfach (z = Kriterium): Variable y ist Suppressor, wenn gilt Interpretation

Multiple Korrelation & Regression Suppression rxz ryz=0 rxy X Y Z Y „bindet“ irrelevante Kriteriumsinformation Partialkorrelation rxz.y ist erheblich größer als rxz [Berechnungsbeispiele, Venn-Diagramme]

Pfadanalyse Ziele • Prüfung eines a-priori erstellten Hypothesensystems über kausale Abhängigkeiten • Beziehungsgeflecht von beobachtbaren Variablen wird über ein System von linearen Gleichung analysierbar • Pfadkoeffizienten modellieren direkt und indirektkausale Effekte

Als lineare Gleichung: Beziehungen

x1 x x2 x1 x x2 Deutungsmöglichkeiten der bivariaten Korrelation • Kausalität: X1® X2 • Latente Drittvariable: • Direkte und indirekte Kausalität:

b21 x2 b32 x1 b31 x3 Gleichungen aus Pfaden Variablen, von denen Pfeile ausgehen, sind erklärend und stehen rechts vom Gleichheitszeichen Pfadanalyse

p2a ea p21 z2 p32 z1 p3b p31 z3 eb Pfade + Messfehler, standardisiert Additive Konstanten fallen weg Pfadanalyse

Lösung: Normalgleichungen Bilde das innere Produkt jede Zielvariable mit jeder ihrer Prädiktoren, teile durch Anzahl der Fälle N: Annahme: Variablen und Fehler sind unkorreliert: Pfadanalyse

Pfadkoeffizienten Lösung des Gleichungssystems nach den Pfadkoeffizienten gibt: Pfadkoeffizienten haben die Form der b - Gewichte der multiplen Regressionsanalyse. Sie können über dieselben Methoden ermittelt werden (Vormultiplizieren mit der Inversen der entsprechenden Korrelationsmatrix) Pfadanalyse

p21 z2 p32 z1 p31 z3 Fundamentalsatz der Pfadanalyse Pfadanalyse

0.5 z2 0.2 z1 z3 0.4 Direkte und indirekte Pfade Dekomposition der Korrelation: Direkter kausaler Effekt = Pfadkoeffizient Indirekter kausaler Effekt = Produkt der Pfadkoeffizienten Pfadanalyse

0.5 z2 0.2 z1 z3 0.4 Direkte und indirekte Pfade Pfadanalyse

Forschungsstatistik I