Szemantika: jelentés-egyértelműsítés, nyelvi bizonytalanság, nem kompozicionális kifejezések

1. Szemantika: jelentés-egyértelműsítés, nyelvi bizonytalanság, nem kompozicionális kifejezések A számítógépes nyelvfeldolgozás alapjai A számítógépes nyelvfeldolgozás alapjai – 2013. március 21.

2. Bevezetés Szemantika: jelentéssel foglalkozó nyelvészeti részterület Mi a jelentés? Térben és időben változhat (leó,király) Egyéni különbségek (fogas) Szavak jelentése: lexikális szemantika Mondatjelentés: predikátumlogika Szövegek jelentése: kijelentéslogika

3. Formális szemantika a nyelvészetben Kijelentéslogika p v q ¬p Szavak jelentése Kutya ‘kutya’ Ugat ‘ugat’ (Elsőrendű) predikátumlogika ¬∃x(kutya(x) & ugat(x) & harap(x)) Mennyire adtuk meg a tényleges jelentést?

4. Számítógépes szemantika Tartalmi elemzés automatikusan? Szöveg jelentésének megragadása távoli cél… Információkinyerést és gépi fordítást nagyban segítené Szavak jelentésének azonosítása könnyebb  jelentés-egyértelműsítés (WSD)

5. Miért kell tartalmi / jelentéstani elemzés? A mondatszerkezet, morfológiai információk ismerete nem nyújt elég információt A forrás szempontjából egyértelmű üzenet  többértelműségek, melyeket a vevőnek kell feloldani Ezt az egyértelműsítést olyan gyorsan képes elvégezni az agy, hogy egyszerre akár 2 forrást is értelmezni tudunk, valós időben „Miért fejt több ember keresztrejtvényt, mint szenet?”

6. Jelentés-egyértelműsítés Word sense disambiguation:Egy szóalak jelentésének kiválasztása, egy előre megadott (lehetséges jelentés-) halmazból A lehetséges jelentések ált. egy szótárból Osztályozási modellek alkalmazhatók (előre egyértelműsített példák szükségesek) Word sense discrimination: Az adott szóalak különböző használati eseteit (~jelentés) elkülöníteni, anélkül, hogy a lehetséges jelentéseket kívülről megadnánk /és így címkézett példáink sem lehetnek/ Felügyelet nélküli statisztikai modellek

7. WSD Típusai All wordsA cél az összes szóalak egyértelműsítése, folyó szövegben Lexical sampleA cél bizonyos szóalakok egyértelműsítése, minden szóalakra önálló modell Finom jelentésmegkülönböztetés (min. 6-8 jelentés) Durva jelentésmegkülönböztetés (max. 3-4 jelentés)

8. JÁR (movement in space, in time, abstract motion) BELONGING TOGETHER REPETITIVE MOVEMENT OTHER occurring together 22 -- consequence 23, 24, 25  approaching 15, 16, 18, 19 | step by step 1, 33  regular 3, 4, 6, 31 ________  functioning 10, 11, 13, 17, 20  state 7, 14, 29 idioms 26, 28 verbs with prefixes* many-to-one 32 one-to-one 8, 27, 30 back and forth 2, 12 || || stage by stage 5, 9, 21 

9. Pro és Kontra All words Nagyon kevés erőforrás áll rendelkezésre Olyan mintákat kell tanulni, melyek függetlenek az adott szóalaktól Nincs kielégítő megoldás még Gyakorlatban ez lenne jól használható Lexical sample Több erőforrás van, és olcsóbban előállítható 1-1 új szóalakra Az adott szóra jellemző mintákat tanulhatunk, könnyebb feladat Tűrhető (nem jó!) megoldások vannak Gyakorlatban ritkán használható

10. WSD magyarra elkészült Szegeden az első (Lexical Sample) tanítókorpusz magyarra (finom jelentésmegkülönböztetés) melléknév: anyagi, élő, erős, képes, pontos, szociális főnév: civil, család, élet, ház, helyzet, intézmény, iskola, kép, képviselő, kormány, nap, oldal, ország, perc, pont, program, század, személy, szervezet, tanár, világ, víz ige: függ, hat, jár, kap, kerül, marad, rendelkezik, szerepel, tart, tartozik, tud, válik

11. Magyar WSD-statisztikák

12. Magyar WSD-statisztikák

13. Modalitás Az események lehetnek igazak hamisak (tagadás) bizonytalanok Nagyon fontos őket elkülöníteni és sajátos kezelésben részesíteni (alkalmazások: IE, IR, MT, OM…) Fókuszban: bizonytalanság azonosítása (angol nyelvre)

14. A feladat Bizonytalanságot jelző nyelvi elemek (kulcsszavak) azonosítása a szövegben és egyértelműsítése In May, there may be heavy storms. Hatókör azonosítása / a kulcsszavak és események összerendelése Alkalmazásnak megfelelően az adott szövegrészek kiszűrése, törlése, kigyűjtése stb.

15. Mi a bizonytalanság? Uncertainty Hedge Speculation Factuality Polarity Weasel Uncertain Speculative Probable Possible Doubtful

16. Korpuszok BioScope (Vincze et al. 2008) FactBank (Saurí and Pustejovsky 2009) WikiWeasel (Farkas et al. 2010) MPQA (Wiebe, Wilson, and Cardie 2005) Biológiai cikkek (Medlock & Briscoe 2007) PubMed-absztraktok (Settles, Craven, and Friedland 2008) Genia Event (Kim, Ohta, and Tsujii 2008) 10K biológiai mondat (Shatkay et al. 2008) E. Coli (Thompson et al. 2008). Genia Pathway (Nawaz, Thompson, and Ananiadou 2010) 112 újságcikk (Rubin, Liddy, and Kando 2005; Rubin 2010) Orvosi zárójelentések (Uzuner, Zhang, and Sibanda 2009)

17. Egységesítés Egységes definíció: Bizonytalanság = információ hiánya: a befogadó nem lehet biztos valamely információban vs. tény = a befogadó biztos afelől, hogy az információ helytálló (és a világban is helytálló) vs. tagadás = a befogadó biztos afelől, hogy az információ téves (és a világban is téves)

18. A bizonytalanság fajtái Szemantikai bizonytalanság: nem rendelhető igazságérték a propozícióhoz Although IL-1 has been reported to contributeto Th17 differentiation in mouseand man, it remains to be determined{whether therapeutic targeting of IL-1will substantially affect IL-17 in RA}. Diskurzusszintű bizonytalanság: a propozíciónak van igazságértéke, a bizonytalanság a forrás/viszonyítási pont hiányából fakad Some people claim that this results in abetter taste than that of other diet colas.

19. Szemantikai bizonytalanság EPISTEMIC: It may be raining. HYPOTHETICAL: DYNAMIC: I have to go. DOXASTIC: He believes that the Earth is flat. INVESTIGATION: We examined the role of NF-kappa B in protein activation. CONDITION: If it rains, we’ll stay in.

20. Diskurzusszintű bizonytalanság WEASEL: homályos, félrevezető kifejezések, forrás nélküli mondatok (kik?) Some peopleclaim that this results in abetter taste than that of other diet colas. HEDGE: mennyiséget/minőséget módosítják (elmossák a határokat) (pontosan mennyi?) Amsterdam Zuidoost has approximately 86,000 inhabitants and consists of some 38,000 houses. PEACOCK: alá nem támasztott vélemények, túlzások, szubjektív elemek The main source of their inspiration was native Georgia, with its rich and complex history and culture, its breathtaking landscapes and its courageous and hardworking people. Az információ megbízhatósága kérdéses

21. Bizonytalanság automatikus azonosítása Angolra jól működő gépi tanuló rendszerek a világban (Szegeden is) – szemantikai bizonytalanság Diskurzusszintű bizonytalanság: vannak próbálkozások (Szegeden is) Magyarra korpusz épül…

22. Kompozicionalitás Egy összetett kifejezés jelentése meghatározható tagjainak jelentéséből és azok kapcsolódási módjából piros autó kenyeret eszik De nem minden nyelvi kifejezés kompozicionális…

23. Többszavas kifejezések (MWE) Több szövegszóból álló lexikai egységek Szintaktikai, szemantikai, pragmatikai vagy statisztikai szempontból sajátos viselkedést mutatnak Kompozicionalitás (teljes) hiánya jellemzi őket

24. MWE típusai Összetett főnevek: középiskola, farkasétvágy Összetett melléknevek: római katolikus, nagyotmondó Igekötős igék: berúg Közmondások, szólások: alulról szagolja az ibolyát Félig kompozicionális főnév + ige szerkezetek (FX): előadást tart, csődbe megy Egyéb: status quo,ilyen az élet

25. MWE-k a számítógépes nyelvészetben Sajátos bánásmód alkalmazások szintjén: racing car – versenyautó (MT), előadást tart - *tartás – előadás (IE) Azonosítani kell őket szövegkörnyezetben (give a ring, tevékenységet folytat) Annotált korpuszok (Wiki50, magyar FX-korpuszok…)

27. Angol MWE-k gyakorisága

28. MWE-k kezelése Automatikus azonosításukra szabályalapú és gépi tanulási módszerek angol és magyar nyelvre Annotált korpuszok több doménre és nyelvre

29. Alkalmazások szintje Egy MWE egy egységként tárolódik (pl. fordítási egység) Speciális szabályok: IE: FX-eknél a főnév jelentése számít Nem kompozicionálisoknál nem használható egyik alkotóelem sem - lexikon Gépi fordításban nagyon nagy jelentősége van az MWE-knek (fűbe harap – to kick the bucket)