Taaltheorie en Taalverwerking Week 4: Parseer-algoritmes.

Presentatie over: "Taaltheorie en Taalverwerking Week 4: Parseer-algoritmes."— Transcript van de presentatie:

1 Taaltheorie en Taalverwerking Week 4: Parseer-algoritmes

2 Gegeven: Sequentie woorden en CFG. Gevraagd:Wat zijn de structuren van deze sequentie volgens de CFG? Parseer-algoritmes voor CFG's

3 Parsing as search. (1) Top-down: Toestandsruimte:Alle mogelijke bomen Doel: Boom past op string (2) Bottom-up: Toestandsruimte:Partiële analyses van de string Doel: Analyse is compleet Parseer-algoritmes

4 Top-down search space

5 Bottom-up search space Book that flight

6 "Naïef top-down-algoritme": Toestandsruimte:Alle mogelijke bomen Doel: Boom past op string Initialisering van de toestandenverzameling: {S} Uitbreiding van de toestanden-verzameling (“successor-functie”): Expandeer een non-terminale knoop m.b.v. een grammatica-regel Goal-test:Is de yield van een van de bomen de gewenste string?

7 S S  NP VP

8 S NPVP

9 articlenoun S NPVP S  NP VP NP  article noun

10 article the noun S NPVP S  NP VP NP  article noun

11 article the noun wumpus S NPVP S  NP VP NP  article noun

12 article the noun wumpus verb is S NPVP adjective dead VP

13 "Naief" top-down: generate and test. "Redelijk" top-down: Toestand: analyse van linkerdeel v.d. zin + current node + volgende woord Testen kan nu incrementeel.

14 Martin & Jurafsky (pp. 364-368): "A Basic Top-Down Parser." search state: partial tree + active node. input string + active word. agenda: Stack of search states. cs: current state generatie van nieuwe search-states door: apply-rules apply-lexical-rule

15 article the noun S NPVP wumpus is dead toestand (cs) (,) node to expand (nte) current input (cip)

16 apply-rules (cs) the S NPVP article the noun S NP VP wumpus is dead Voorbeeld:Actieve knoop: NP. Toepasbare regel: NP  article noun

17 apply-lexical-rule (cs) article the noun S NPVP Voorbeeld:Actieve knoop: article. Actief woord: the. Toepasbare lexicale regel: article  the article the noun S NPVP wumpus is dead

18 agenda := [ (S, word1 word2... wordn )] cs := pop (agenda) loop if success (cs) then return (cs) else if cat (nte(cs))  POS then if cat (nte(cs)) = pos (cip (cs)) then push (apply-lexical-rule(cs), agenda) else push (apply-rules (cs), agenda); if empty(agenda) then return (reject) else cs := pop (agenda) end Martin & Jurafsky (pp. 364-368): "A Basic Top-Down Parser."

19 Intialisatie: cs = ( S, Book that flight) agenda = [ ]

20 Intialisatie: cs = ( S, Book that flight ) agenda = [ ]

21 pop:

22 Na een aantal pop's: cs = (, Book that flight ) V NP Nu is “apply-lexical-rule” toepasbaar.

23 En zo verder.

24 Huiswerk: Implementeer top-down parser

25 Probleem bij top-down parseren: links-recursie.

26 B.v.: regels van de vorm: A  A B.

27 Links-recursie in het Nederlands. N  N PP ("kat", "kat op de mat") VP  VP PP ("slaapt", "slaapt tot 10 uur") S  S en S ("Kim slaapt", "Kim slaapt en Sandy werkt") NP  det NP det  NP 's ("Peter", "Peter's huis")

28 Links-recursie verwijderen De regels: N  N PP | man | vrouw | huis | tafel |... PP  Prep NP Worden vervangen door: N  N-lex PP* N-lex  man | vrouw | huis | tafel |... PP*  PP PP* PP*   PP  Prep NP

29 Nadeel: Veranderde grammatica leidt tot andere boom-structuren! (Post-processing noodzakelijk.) Veranderde grammatica heeft (veel) meer regels

30

31 Lijkt de menselijke grammatica op een CFG?

32 (1) Nee. Nederlands kan niet met een CFG beschreven worden: Cross-serial dependencies.

33 Lijkt de menselijke grammatica op een CFG? (2) Nee. CFG genereert zinnen die voor een mens moeilijk zijn: "center-embedding".

34 J&M § 13.4: Center-embedding. "The dog chased the cat that likes tuna fish" "The cat the dog chased likes tuna fish."

35 J&M § 13.4: Center-embedding. "The dog chased the cat that likes tuna fish" "The cat the dog chased likes tuna fish." "The cat [the dog chased] " NP  NP S' S'  NP V2 NP  NP NP V2 “center-embedding”

36 J&M § 13.4: Center-embedding. "The dog chased the cat that likes tuna fish" "The cat the dog chased likes tuna fish." "The elephant admired the rat that bit the dog that chased the cat that likes tuna fish."

37 J&M § 13.4: Center-embedding. "The dog chased the cat that likes tuna fish" "The cat the dog chased likes tuna fish." "The elephant admired the rat that bit the dog that chased the cat that likes tuna fish." "The cat the dog the rat the elephant admired bit chased likes tuna fish."

38 J&M § 13.4: Center-embedding. "The cat the dog the rat the elephant admired bit chased likes tuna fish." Regels van de vorm NP  NP NP V2 kunnen de facto niet recursief toegepast worden. Verklaring: beperkte stack-diepte. Victor Yngve: Engels is wel een reguliere taal!

39

40 Chomsky-hierarchy revisited. Cross-serial dependencies.

41 J&M § 13.3: Cross-serial dependencies. Nederlands & Züüritüütsch.

42 J&M § 13.3: Cross-serial dependencies. Engels: "... that we let the children help Hans paint the house." "... that [we let [the children help [Hans paint the house]]]."

43 J&M § 13.3: Cross-serial dependencies. Duits: "... dass wir die Kinder Hans das Haus anstreichen helfen liessen." "... dass [wir [die Kinder [Hans das Haus anstreichen] helfen] liessen ]."

44 J&M § 13.3: Cross-serial dependencies. Nederlands: "... dat we de kinderen Hans het huis lieten helpen verven."

45 J&M § 13.3: Cross-serial dependencies. Engels: "... that [we let [the children help [Hans paint the house]]]." Duits: "... dass [wir [die Kinder [Hans das Haus anstreichen] helfen] liessen]." Nederlands: "... dat we de kinderen Hans het huis lieten helpen verven."

46 J&M § 13.3: Cross-serial dependencies. Nederlands: "... dat we de kinderen Hans het huis lieten helpen verven." Kan niet contextvrij. (Bewijs m.b.v. Pompstelling voor conetxtvrije grammatica's.)

47