Wstęp do kognitywistyki Rola eksplanacyjna reprezentacji. Koneksjonizm

1. Marcin Miłkowski Wstęp do kognitywistykiRola eksplanacyjna reprezentacji. Koneksjonizm

2. O czym będzie mowa • Jak reprezentują sieci neuropodobne? Cztery wesela… • I pogrzeb: argument Fodora i Pylyshyna • I osinowy kołek: argument Ramseya • Modele koneksjonistyczne: to żyje!

3. Cztery koncepcje reprezentacji koneksjonistycznych • Węzły sieci jako pojęcia • Reprezentacje rozproszone • Sieci jako modele rzeczywistości • Dynamiczna interpretacja sieci (I to nie wszystko...)

4. Węzły sieci jako pojęcia (McClelland 1981) • Dwa gangi: Jets i Sharks, opisane za pomocą sieci neuropodobnej • Sieć poprawnie rozpoznaje cechy członków gangu • Krytyka:zupełnie niewiarygodneneurologicznie

5. Węzły sieci jako pojęcia • Niewiarygodność neurologiczna: • To nawet nie jest teoria komórek babcinych, bo interpretację znaczenia węzłów – np. określonego wieku bandyty – po prostu przypisuje sieci obserwator. • Sieć sama nie jest w stanie odnieść swoich stanów (nawet jak będzie w robocie) np. do 20-letniego bandyty z bandy Sharks.

6. Reprezentacje rozproszone (sieci subsymboliczne) • Sieci rozpoznające pojęcia „subsymbolicznie” – węzły nie odpowiadają całym pojęciom ani ich cechom • Sieci jakodetektorywzorców

7. Teoria pojęć jako prototypów • Trzy podstawowe teorie pojęć w psychologii poznawczej • pojęcia jako teorie, czyli warunki konieczne i wystarczające; • pojęcia jako prototypy; • pojęcia jako egzemplarze.

8. Teoria pojęć jako prototypów • E. Rosch (1975): • Co jest dobrym przykładem kategorii „mebel”? • krzesło, • sofa, • stół... • zdecydowanie rzadziej: poduszka, telefon, lodówka...

9. Podobieństwo rodzinne wg Wittgensteina • W Dociekaniach filozoficznych twierdzi, że nie można podać koniecznych i wystarczających warunków podobieństwa rodzinnego.

10. Teoria pojęć jako prototypów • Sieci z rozproszonymi reprezentacjami mogą wykrywać wzorce w mniejszym lub większym stopniu – co odpowiada stopniowalnej kategoryzacji zgodnie z teorią prototypów. • Łagodna degradacja: elastyczność kategoryzacji.

11. Teoria pojęć jako egzemplarzy • Pamiętamy swoisty egzemplarz (przykład kategorii), traktując go jako swoisty. • To też daje efekty stopniowalności. • I też łatwo stworzyć odpowiednią sieć koneksjonistyczną.

12. Sieci jako modele rzeczywistości • G. O’Brien i J. Opie (2009): sieci jako całości są analogicznymi modelami. Między siecią a dziedziną poznawczą zachodzi podobieństwo strukturalne (drugiego rzędu: zachowane są relacje między obiektami). • Na tym polega ich skuteczność jako narzędzi obliczeniowych. Muszą odzwierciedlać strukturę zadania.

13. Sieci jako modele procesów • J. Elman (1990): sieć klasyfikująca angielskie wyrazy w zdaniu – przewidująca kategorię następnego wyrazu w świetle kategorii wyrazów poprzednich • Wykonalne, bo j. angielski ma stosunkowo sztywny szyk

14. Sieć Elmana (1991) • Ukryte jednostkizawierają wewnętrzne reprezentacje wejść • Dzięki nim siećma właściwe wyjścia

15. Analiza wyuczonej sieci • Widać grupowaniewęzłów o podobnychfunkcjach • Metoda analizyklastrowej (grupowania) służydo ujawnianiastruktury sieci

16. I pogrzeb... • Argument Fodora i Pylyshyna (1988): • Produktywność i systematyczność to cechy pojęć, które muszą być uwzględnione w modelach poznania. • Nie obecnie istnieje inne wyjaśnienie produktywności niż przez odwołanie do kompozycyjności. • Tylko modele symboliczne są kompozycyjne.

17. Produktywność • Wypowiedzi językowe, których jest potencjalnie nieskończenie wiele, składają się ze skończonej listy prostszych jednostek. Te jednostki składowe łączymy w wypowiedzi. • Znając zasady łączenia (kompozycjonalności) i jednostki składowe, możemy zrozumieć i wypowiedzieć potencjalnie nieskończoną liczbę zdań.

18. I pogrzeb... (c.d.) • Argument uogólniony: • Koneksjonizm • albo nie zapewnia kompozycyjności pojęć i jest nieadekwatny, • albo zapewnia kompozycyjność, ale tylko dlatego, że jest tylko implementacją (realizacją) modelu symbolicznego. • Bardzo trudny dylemat!

19. Skąd problemy z kompozycyjnością? • Relacje w sieci są zwykle skojarzeniowe (asocjacyjne). • Skojarzenie jest relacją symetryczną. • Za pomocą relacji symetrycznej nie da się opisać kolejności wyrazów w zdaniu, a kolejność jest kluczowa dla kompozycyjności. • Jeśli 1 jest skojarzone z 2, to 2 jest skojarzone z 1. Relacji > nie można opisać relacją skojarzenia.

20. Skąd problemy z kompozycyjnością? • Krowy są piękne na Mazowszu. • Nie wszystkie warianty są poprawne: • Są Mazowszu piękne na krowy. • Mazowszu krowy na są piękne. • Mazowszu piękne są na krowy. • Mazowszu na krowy są piękne. • Mazowszu są na krowy piękne. • Mazowszu są na piękne krowy. • …

21. Próby odpowiedzi • Argument z przybliżenia: • Sieci neuropodobne muszą zapewnić przybliżoną kompozycyjność, przez co nie są ściśle sprowadzalne do modeli symbolicznych. • Np. nowoczesne atraktorowe sieci impulsowe budowane przez Chrisa Eliasmitha zawierają tzw. „wskaźniki semantyczne”, które są skompresowanymi informacjami o innych stanach sieci.

22. Próby odpowiedzi • Reprezentacje wysokiego rzędu efektywnie kodują reprezentacje niskopoziomowe w modelu SPAUN (2,5 miliona sztucznych neuronów) • Rola szumu w mózgu biologicznym!

23. I osinowy kołek • Bill Ramsey (2007): większość tzw. reprezentacji w koneksjonizmie to tylko korelaty czynności percepcyjnych lub motorycznych. • Nie trzeba ich nazywać reprezentacjami, bo nie mają żadnej treści, o ile nie są modelami strukturalnymi (reprezentacjami analogicznymi).

24. Zarzut Ramseya • Fotokomórka w kranie reaguje na obecność dłoni, ale ich nie reprezentuje. • Podobnie jest ze stanami sieci neuropodobnych, o ile nie mają struktury podobnej do zadania. • Większość nie ma. • Eliminacjonizm (antyreprezentacjonizm)

25. Podsumowanie • W badaniach nad pojęciami nad modelami symbolicznymi dominują modele koneksjonistyczne (różne wersje prototypów i egzemplarze) • Ale istnieją współcześnie modele odnoszące się też do motoryki i percepcji, np. ucieleśnione symulacje Barsalou czy G. Pezzulo.

26. Podsumowanie • Dylemat Fodora i Pylyshyna okazał się bardzo istotny. • Koneksjoniści muszą pokazać, dlaczego ich sieci cechujące się kompozycyjnością nie są tylko realizacjami modeli symbolicznych.

27. Podsumowanie • Sieci koneksjonistyczne co do zasady mogą reprezentować na różne sposoby. • Prawdopodobnie reprezentacje rozproszone są bardziej wiarygodne neuronalnie. • Sama korelacja z bodźcem czy reakcją nie wystarczy, aby nazwać coś „reprezentacją”. • A co właściwie wystarczy?