Konnektionismus 9. Sitzung (11.12.2008)

1. Konnektionismus9. Sitzung (11.12.2008) apl. Prof. Dr. Ulrich Schade

2. Inhalt • Methodologie • Techniken • Einleitung und historischer Rückblick • Spreading Activation • Error Backpropagation • Kohonen-Netze • Anwendungen • Sprachrezeption / Spreading Activation • Sprachproduktion / Spreading Activation • Spracherwerb – Rehabilitation / Error-Backpropagation Kohonen-Netze 4 „falsche Anwendungen“

3. 3.2 Sprachproduktion Das zentrale Problem ist auch bei der konnektionistischen Modellierung der Sprachproduktion die Sequentialisierung. Die Antwort in Dell (1986) war ein Rückgriff auf Regeln, wodurch das Modell zu einem hybriden Modell (konnektionistische Anteile und klassische, regelbasierte Anteile) wird. Frage: Ist Sequentialisierung auch konnektionistisch möglich ?

4. 3.2.1 Das Sprachproduktionsmodell nach Dell regelbasierte Modellanteile in Dells Modell von 1986

5. 3.2 Sprachproduktion – Sequentialisierung Die „triviale“ Lösung: unterschiedliche Leitungsstärken Dann wird der „erste“ Knoten am stärksten aktiviert, der zweite Knoten am zweitstärksten usw. A 0.1 0.2 0.15 a1 a2 a3

6. 3.2 Sprachproduktion – Sequentialisierung Vorhersage: Der häufigste Fehler ist „o(h)rte Wand“. Tatsächlich ist der häufigste Fehler aber „wo(h)te Rand“. 0.15 0.2 wand rote 0.2 0.15 0.2 ro te 0.2 0.15 0.15 0.2 0.2 /r/ /o:/ /t/ /v/

7. 3.2 Sprachproduktion – Sequentialisierung Die Triviallösung führt also zu falschen Vorhersagen in Bezug auf die Versprecher. Sie ignoriert insbesondere Nootebooms Beobachtung, dass Versprecher nahezu immer die Kategorie einhalten. (Zielelement und Fehlerelement gehören zur selben Kategorie, z.B. beide sind Onsetphoneme oder Präfixe oder Nomen.)

8. 3.2.2 Sprachproduktion nach Levelt, Roelofs und Meyer (1999) Kognition Grammatische Analyse Grammatische Enkodierung Lexikon Phonologische Enkodierung Phonologische Analyse Variation des Levelt-Modells Artikulation Hören

9. 3.2.2 Sprachproduktion nach Levelt, Roelofs und Meyer (1999) Konnektionistische Anteile – aber alle Verbindungen sind „top-down“. Variation des Levelt-Modells Levelt, W.J.M., Roelofs, A., Meyer, A.S. (1999). A theory of lexical access in speech production. Behavioral and Brain Sciences, 22, 1-75.

10. 3.2.2 Sprachproduktion nach Levelt, Roelofs und Meyer (1999) Die Simulation des Modells von Levelt, Roelofs und Meyer erfolgte durch Ardi Roelofs in WEAVER++ http://www.nici.ru.nl/~ardiroel/weaver++.htm

11. 3.2.2 Sprachproduktion nach Levelt, Roelofs und Meyer (1999) Im Modell werden die Verbindungen mit Labeln versehen. Die Label zu den Phonemknoten geben deren Position wieder, was zur Einordnung in Silbenrahmen (Frames) genutzt wird.

12. 3.2 Sprachproduktion – Versprecher Versprechertypen Antizipation: ... nach Gad Godesberg ... Perseveration: ... a phonological fool. (rule) Vertauschung: Röhren Sie bitte in dieses Bläschen! Überblendung: Das is ja echt zum Hotzen! (Heulen/Kotzen) Ersetzung: Damon Coulthard jetzt vor Eddie Irvine (David)

13. 3.2.2 Sprachproduktion nach Levelt, Roelofs und Meyer (1999) Auch nach diesem Ansatz werden phonemische Versprecher vorausgesagt, die die Silbenkategorien verletzen. Statt dessen wird die Position von Target-Phonem und Fehler-Phonem eingehalten. rote Wand  wote Rand + orange Wand  wrange Oand – Levelt et al. erklären, der Kategorieneffekt (Silbenpositionseffekt) sei ein Artefakt. Eigentlich gäbe es nur den Initialeffekt.

14. 3.2.2 Sprachproduktion nach Levelt, Roelofs und Meyer (1999) Vousden, Brown & Harley (2000) konnten allerdings die Gültigkeit des Silbenpositionseffekts – auch unter Berücksichtigung der Einwände von Levelt et al. – zeigen. Vousden, Janet I., Brown, Gordon D.A. & Harley, Trevor A. (2000). Serial Control of phonology in speech production. Cognitive Psychology, 41, 101-175. Ein weiteres Problem von WEAVER++ besteht darin, dass es keine Vertauschungsfehler generieren kann.

15. 3.2.2 Sprachproduktion nach Levelt, Roelofs und Meyer (1999) • Im Prinzip gilt, dass auch dieser Ansatz problematisch • bzw. nicht konnektionistsich ist, • weil • wichtige Effekte in Versprecherdaten • nicht adäquat modelliert werden können, • auch hier auf Regeln zurückgegriffen wird, • so dass ein hybrides Modell vorliegt.

16. 3.2.3 Sprachproduktion nach MacKay MacKay beschreibt mit seinen Arbeiten ein konnektionistisches Netz, auf dem sowohl Produktions- als auch Perzeptionsprozesse ablaufen. Wir interessieren uns im Wesentlichen für den von MacKay vorgeschlagenen Sequentialisierungsmechanismus. MacKay, Donald G. (1987). The Organization of Perception and Action: A Theory for Language and Other Cognitive Skills. New York: Springer.

17. 3.2.3 Sprachproduktion nach MacKay MacKay ist in sofern schwer zu lesen, weil er bestimmte Terme anders benutzt als andere Autoren. In etwa ist das, was bei Dell (oder McClelland) „activation“ heißt, bei MacKay „priming“. MacKays „activation“ ist in etwa vergleichbar mit Dells „signaling activation“.

18. 3.2.3 Sprachproduktion nach MacKay MacKay unterscheidet „content nodes“, „sequence nodes“ und „timing nodes“. frequent practice NP frequent ADJ NOUN practice yellow Timer

19. 3.2.3 Sprachproduktion nach MacKay Ablauf: 1. „frequent practice“ ist activated und primed „frequent“ und „pracitce“. frequent practice NP frequent ADJ NOUN practice yellow Timer

20. 3.2.3 Sprachproduktion nach MacKay 2. „frequent“ primed „ADJ“ und „pracitce“ primed „NOUN“. frequent practice NP frequent ADJ NOUN practice yellow Timer

21. 3.2.3 Sprachproduktion nach MacKay 3. „ADJ“ hemmt „NOUN“. ADJ ist stärker geprimed als NOUN. Als Folge ist „frequent“ stärker geprimed als „practice“. frequent practice NP frequent ADJ NOUN practice yellow Timer

22. 3.2.3 Sprachproduktion nach MacKay 4. „frequent“ gewinnt und ist „activated“. Es sorgt daraufhin für die Produktion seiner Phoneme. frequent practice NP frequent ADJ NOUN practice yellow Timer

23. 3.2.3 Sprachproduktion nach MacKay 5. Es gibt eine Selbstinhibition für „frequent“ und „ADJ“ samt Recoveryzyklen. ADJ liegt unter 0.0 und kann NOUN nicht mehr hemmen. frequent practice NP frequent ADJ NOUN practice yellow Timer

24. 3.2.3 Sprachproduktion nach MacKay 6. „practice“ kann als nächstes produziert werden. frequent practice NP frequent ADJ NOUN practice yellow Timer

25. 3.2.3 Sprachproduktion nach MacKay Probleme: Technischer Art • keine Inhibition zwischen Content Nodes • Es ist unklar, wann die Selbstinhibition einsetzt. Inhaltlicher Art • das Problem „ancient castel“ vs. „castel ancient“ („schön und alt“ vs. „zerfallen und alt“) Hast vs. Hatz

26. 3.2.4 Sprachproduktion nach Stemberger (1985) bzw. Dell (1988) Eine Alternative zum Ansatz von MacKay bietet Stemberger, J.P. (1985). An interactive activation model of language production. In Ellis, A. (Ed.), Progress in the Psychology of Language (Vol. 1, pp. 143-186). London: Erlbaum. Als Reaktion darauf erfolgte auch eine Anpassung durch Dell, G.S. (1988). The retrieval of phonolgical forms in production: Tests of predictions from a connectionist model. Journal of Memory and Language, 27,124-142.

27. 3.2.4 Sprachproduktion nach Stemberger (1985) bzw. Dell (1988) deal dean back /di/ /i:V/ /lf/ /bi/ /kf/ /nf/ Ci V Cf end CVC Ci V end CV wordshape header nodes

28. 3.2.4 Sprachproduktion nach Stemberger (1985) bzw. Dell (1988) „I should note that this component of the model is based on suggestions by Stemberger [...] and is a significant modification of the earlier model (Dell, 1986).“ (Dell, 1988, 128) Vorteile: • Additions- und Elisionsfehler resultieren aus der Wahl des falschen „header“-Knotens. • Der Ansatz ist verallgemeinerbar für alle Ebenen, nicht nur für die Erstellung von Morphemen.

29. 3.2.4 Sprachproduktion nach Stemberger (1985) bzw. Dell (1988) Ablaufbeispiel: Wir produzieren „deal back“. 1. Der Wortknoten „dean“ ist aktiv und „current“. Er aktiviert seine Phonemknoten und seinen „wordshape header“-Knoten. Der Wortknoten „back“ ist auch aktiv, aber (noch) nicht „current“. „back“ aktivert auch seine Phonemknoten (und denselben „word shape header“-Knoten wie „deal“), aber weniger stark.

30. 3.2.4 Sprachproduktion nach Stemberger (1985) bzw. Dell (1988) deal dean back /di/ /i:V/ /lf/ /bi/ /kf/ /nf/ Ci V Cf end CVC Ci V end CV

31. 3.2.4 Sprachproduktion nach Stemberger (1985) bzw. Dell (1988) Ablaufbeispiel: Wir produzieren „deal back“. 2. Der „wordshape header“-Knoten CVC gewinnt den Wettbewerb der „wordshape header“-Knoten. Bei der nächsten Selektion (nach r Zyklen) feuert CVC auf seine Kette von „Silbenbestandteilknoten“.

32. 3.2.4 Sprachproduktion nach Stemberger (1985) bzw. Dell (1988) deal dean back /di/ /i:V/ /lf/ /bi/ /kf/ /nf/ Ci V Cf end CVC Ci V end CV

33. 3.2.4 Sprachproduktion nach Stemberger (1985) bzw. Dell (1988) Ablaufbeispiel: Wir produzieren „deal back“. 3. Der Silbenbestandteilknoten Ci feuert auf alle Knoten, die Konsonanten repräsentieren, die im Onset stehen können.

34. 3.2.4 Sprachproduktion nach Stemberger (1985) bzw. Dell (1988) deal dean back /di/ /i:V/ /lf/ /bi/ /kf/ /nf/ Ci V Cf end CVC Ci V end CV

35. 3.2.4 Sprachproduktion nach Stemberger (1985) bzw. Dell (1988) Ablaufbeispiel: Wir produzieren „deal back“. 4. Der Knoten „di“ gewinnt unter den Phonemknoten, weil er die meiste Aktivierung erhält. Er erhält nämlich als Einziger Knoten Aktivierung von „current node“ der Wort- Schicht UND vom aktiven Knoten aus der aktiven „wordshap“-Knotenkette. „di“ wird produziert.

36. 3.2.4 Sprachproduktion nach Stemberger (1985) bzw. Dell (1988) deal dean back /di/ /i:V/ /lf/ /bi/ /kf/ /nf/ Ci V Cf end CVC Ci V end CV

37. 3.2.4 Sprachproduktion nach Stemberger (1985) bzw. Dell (1988) Ablaufbeispiel: Wir produzieren „deal back“. 5. Der Knoten „di“ wird produziert und danach per Selbstinhibition auf 0.0 gesetzt. Außerdem feuert der Knoten Ci und aktiviert dadurch V (und hemmt sich selbst).

38. 3.2.4 Sprachproduktion nach Stemberger (1985) bzw. Dell (1988) deal dean back /di/ /i:V/ /lf/ /bi/ /kf/ /nf/ Ci V Cf end CVC Ci V end CV

39. 3.2.4 Sprachproduktion nach Stemberger (1985) bzw. Dell (1988) Ablaufbeispiel: Wir produzieren „deal back“. 6. Wenn „deal“ produziert ist, wird „back“ current, und dieses Wort wird produziert.

40. 3.2.4 Sprachproduktion nach Stemberger (1985) bzw. Dell (1988) deal dean back /di/ /i:V/ /lf/ /bi/ /kf/ /nf/ Ci V Cf end CVC Ci V end CV

41. 3.2.4 Sprachproduktion nach Stemberger (1985) bzw. Dell (1988) Problem Die Darstellung der Selbstinhibition entspricht nicht dem Text (von Dell). Nach dem Text inhibiert sich ein Wort, sobald es current wird, was eine Art Widerspruch darstellt.  Der häufigste Fehler ist die Antizipation der Coda. Erfolgt aber die Selbstinhibition erst, wenn der Status „current“ weitergegeben wird, gilt, dass das Wort, solange es „current“ ist, seine schon produzierten Phoneme (re-)aktiviert.  Der häufigste Fehler ist die Perseveration des Onsets. Beide Vorhersagen sind falsch. Der häufigste Fehler ist die Antizipation bzw. die Vertauschung des Onsets.

42. 3.2.4 Sprachproduktion nach Stemberger (1985) bzw. Dell (1988) Das Selbstinhibitionsproblem tritt nur deshalb auf, weil bei Dell (und bei Stemberger und bei MacKay) der Aktivierungsabbau unter den Inhaltsknoten (Wortknoten, Phonemknoten, ...) per Zerfall (decay) und nicht per lateraler Inhibition bewirkt wird, obwohl es etwa zwischen den „Wordshape header“-Knoten laterale Inhibition gibt. Schade, U. & Berg, T. (1992). The role of inhibition in a spreading activation model of language production. Part II: The simulational perspective. Journal of Psycholinguistic Research, 21, 435-462.