句法分析——线图分析法

线图分析法

线图分析法(chart parsing)是基于CFG规则的分析方法,首先需要了解一下什么是形式语言:形式语言

1 三种策略

线图分析法在具体的实现上有三种不同的策略,分别为:

  • 自底向上(Bottom-up)
  • 从上到下(Top-down)
  • 从上到下和从下到上结合

对于自然语言来说,采用的更多的是自底向上策略,即给定一个句子,从句子开始推算其可能的结构,最后得到一棵树。而从上到下则是根据一个结构推算句子。

2 自底向上的线图分析法

算法的内容如下:

  • 给定一组CFG规则:X P → α 1 ⋯ α n ( n ≥ 1 ) XP\rightarrow \alpha_1\cdots \alpha_n (n\ge1)XPα1αn(n1),这其中的α \alphaα既可以是非终结符又可以是终结符;
  • 给定一个句子的词性序列S = W 1 W 2 ⋯ W n S=W_1W_2\cdots W_nS=W1W2Wn,注意是词性序列,这意味着要做词性标注;
  • 构造一个线图:线图是一组节点和边的集合;
  • 建立一个二维表:记录每一条边的起始位置和终止位置。

然后执行操作:查看任意相邻几条边上的词性串是否与某条重写规则的右部相同,如果相同,则增加一条新的边跨越原来相应的边,新增加边上的标记为这条重写规则的头(左部)。重复这个过程,直到没有新的边产生。

3 数据结构

算法需要的数据结构如下:

  • 线图(Chart):保存分析过程中已经建立的成分(包括终结符和非终结符)、位置(包括起点和终点)。通常以n ∗ n n*nnn的数组表示(n nn为句子包含的词数)。
  • 待处理表(Agenda):记录刚刚得到的一些重写规则所代表的成分,这些重写规则的右端符号串与输入词性串(或短语标志串)中的一段完全匹配,通常以栈或线性队列表示。
  • 活动边集(ActiveArc):记录那些右端符号串与输入串的某一段相匹配,但还未完全匹配的重写规则,通常以数组或列表存储。

4 点规则

点规则用于表示规则右部被归约(reduce)的程度。可以理解为点的位置左边都是匹配到的规则的一部分,如果点的左边是规则右部的所有内容,那么就说明规则右边已经被完全匹配。根据点规则,可有以下两种边:

  • 活性边(活动弧):规则右部未被完全匹配
  • 非活性边(非活动弧,或完成弧):规则右部已被完全匹配

5 算法描述

从输入串的起始位置到最后位置,循环执行如下步骤:

  1. 如果待处理表(Agenda)为空,则找到下一个位置上的词,将该词对应的(所有)词类X XX附以( i , j ) (i,j)(i,j)作为元素放到待处理表中,即X ( i , j ) X(i,j)X(i,j)。其中,i , j i,ji,j分别是该词的起始位置和终止位置,j > i j\gt ij>ij − i j-iji为该词的长度。
  2. 从Agenda中取出一个元素X ( i , j ) X(i,j)X(i,j)
  3. 对于每条规则A → X γ A\rightarrow X\gammaAXγ,将A → X ∘ γ ( i , j ) A\rightarrow X\circ \gamma (i,j)AXγ(i,j)加入活动边集ActiveArc中,然后调用扩展弧子程序
    扩展弧子程序:
    (a)将X XX插入图表(Chart)的( i , j ) (i,j)(i,j)位置中。
    (b)对于活动边集(ActiveArc)中每个位置为( k , i ) ( 1 ≤ k < i ) (k,i)(1\le k\lt i)(k,i)(1k<i)的点规则,如果该规则具有如下形式:A → α ∘ X A\rightarrow \alpha \circ XAαX,如果A = S A=SA=S,则把S ( 1 , n + 1 ) S(1,n+1)S(1,n+1)加入到Chart中,并给出一个完整的分析结果;否则,则将A ( k , j ) A(k,j)A(k,j)加入到Agenda表中。
    (c)对于每个位置为( k , i ) (k,i)(k,i)的点规则:A → α ∘ X β A\rightarrow \alpha \circ X\betaAαXβ,则将A → α X ∘ β A\rightarrow \alpha X\circ \betaAαXβ加入到活动边集中。

6 示例

现有规则:
S → N P     V P V P → V     N P N P → D e t     N D e t → t h e N → b o y V → h i t N → d o g S\rightarrow NP\ \ \ VP\\ VP\rightarrow V\ \ \ NP\\ NP\rightarrow Det\ \ \ N\\ Det\rightarrow the \\ N\rightarrow boy \\ V\rightarrow hit \\ N\rightarrow dogSNP   VPVPV   NPNPDet   NDettheNboyVhitNdog
句子为t h e   b o y   h i t s   t h e   d o g the\ boy\ hits\ the\ dogthe boy hits the dog
首先进行词的形态分析,这里将h i t s hitshits还原为h i t hithit,然后根据规则进行词性标注得到1 D e t 2 N 3 V 4 D e t 5 N 6 _1Det_2N_3V_4Det_5N_61Det2N3V4Det5N6,根据算法之后每一次循环的步骤如下:

  1. A g e n d a AgendaAgenda初始内容为空加入第一个词D e t ( 1 , 2 ) Det(1,2)Det(1,2),然后取出D e t ( 1 , 2 ) Det(1,2)Det(1,2),将N P → D e t ∘ N ( 1 , 2 ) NP\rightarrow Det\circ N(1,2)NPDetN(1,2)加入A c t i v e A r c ActiveArcActiveArc中,将D e t ( 1 , 2 ) Det(1,2)Det(1,2)插入C h a r t ChartChart中。此时各个数据结构的内容如下:
    A g e n d a : { } A c t i v e A r c : { N P → D e t ∘ N ( 1 , 2 ) } C h a r t : { ( D e t , 1 , 2 ) } Agenda: \{\} \\ ActiveArc:\{NP\rightarrow Det\circ N(1,2)\} \\ Chart:\{(Det,1,2)\}Agenda:{}ActiveArc:{NPDetN(1,2)}Chart:{(Det,1,2)}
  2. A g e n d a AgendaAgenda为空,加入第二个词N ( 2 , 3 ) N(2,3)N(2,3);取出N ( 2 , 3 ) N(2,3)N(2,3);并没有满足A → N γ A\rightarrow N\gammaANγ的规则;将N ( 2 , 3 ) N(2,3)N(2,3)插入C h a r t ChartChart中,A c t i v e A r c ActiveArcActiveArcN P → D e t ∘ N ( 1 , 2 ) NP\rightarrow Det\circ N(1,2)NPDetN(1,2)满足条件(b),于是将N P ( 1 , 3 ) NP(1,3)NP(1,3)加入A g e n d a AgendaAgenda。此时各个数据结构的内容如下:
    A g e n d a : { N P ( 1 , 3 ) } A c t i v e A r c : { } C h a r t : { ( D e t , 1 , 2 ) , ( N , 2 , 3 ) } Agenda: \{NP(1,3)\} \\ ActiveArc:\{\} \\ Chart:\{(Det,1,2),(N,2,3)\}Agenda:{NP(1,3)}ActiveArc:{}Chart:{(Det,1,2),(N,2,3)}
  3. 取出N P ( 1 , 3 ) NP(1,3)NP(1,3);将S → N P ∘ V P ( 1 , 3 ) S\rightarrow NP\circ VP(1,3)SNPVP(1,3)加入A c t i v e A r c ActiveArcActiveArc;将N P ( 1 , 3 ) NP(1,3)NP(1,3)插入C h a r t ChartChart。此时各个数据结构的内容如下:
    A g e n d a : { } A c t i v e A r c : { S → N P ∘ V P ( 1 , 3 ) } C h a r t : { ( D e t , 1 , 2 ) , ( N , 2 , 3 ) , ( N P , 1 , 3 ) } Agenda: \{\} \\ ActiveArc:\{S\rightarrow NP\circ VP(1,3)\} \\ Chart:\{(Det,1,2),(N,2,3),(NP,1,3)\}Agenda:{}ActiveArc:{SNPVP(1,3)}Chart:{(Det,1,2),(N,2,3),(NP,1,3)}
  4. A g e n d a AgendaAgenda为空,加入第三个词V ( 3 , 4 ) V(3,4)V(3,4);将V P → V ∘ N P ( 3 , 4 ) VP\rightarrow V\circ NP(3,4)VPVNP(3,4)加入A c t i v e A r c ActiveArcActiveArc;将V ( 3 , 4 ) V(3,4)V(3,4)插入C h a r t ChartChart。此时各个数据结构的内容如下:
    A g e n d a : { } A c t i v e A r c : { S → N P ∘ V P ( 1 , 3 ) , V P → V ∘ N P ( 3 , 4 ) } C h a r t : { ( D e t , 1 , 2 ) , ( N , 2 , 3 ) , ( N P , 1 , 3 ) , ( V , 3 , 4 ) } Agenda: \{\} \\ ActiveArc:\{S\rightarrow NP\circ VP(1,3),VP\rightarrow V\circ NP(3,4)\} \\ Chart:\{(Det,1,2),(N,2,3),(NP,1,3),(V,3,4)\}Agenda:{}ActiveArc:{SNPVP(1,3),VPVNP(3,4)}Chart:{(Det,1,2),(N,2,3),(NP,1,3),(V,3,4)}
  5. A g e n d a AgendaAgenda为空,加入第四个词D e t ( 4 , 5 ) Det(4,5)Det(4,5);将N P → D e t ∘ N ( 4 , 5 ) NP\rightarrow Det\circ N(4,5)NPDetN(4,5)加入A c t i v e A r c ActiveArcActiveArc;将D e t ( 4 , 5 ) Det(4,5)Det(4,5)插入C h a r t ChartChart中。此时各个数据结构的内容如下:
    A g e n d a : { } A c t i v e A r c : { S → N P ∘ V P ( 1 , 3 ) , V P → V ∘ N P ( 3 , 4 ) , N P → D e t ∘ N ( 4 , 5 ) } C h a r t : { ( D e t , 1 , 2 ) , ( N , 2 , 3 ) , ( N P , 1 , 3 ) , ( V , 3 , 4 ) , ( D e t , 4 , 5 ) } Agenda: \{\} \\ ActiveArc:\{S\rightarrow NP\circ VP(1,3),VP\rightarrow V\circ NP(3,4),NP\rightarrow Det\circ N(4,5)\} \\ Chart:\{(Det,1,2),(N,2,3),(NP,1,3),(V,3,4),(Det,4,5)\}Agenda:{}ActiveArc:{SNPVP(1,3),VPVNP(3,4),NPDetN(4,5)}Chart:{(Det,1,2),(N,2,3),(NP,1,3),(V,3,4),(Det,4,5)}
  6. A g e n d a AgendaAgenda为空,加入第五个词N ( 5 , 6 ) N(5,6)N(5,6);将N ( 5 , 6 ) N(5,6)N(5,6)插入C h a r t ChartChart中;A c t i v e A r c ActiveArcActiveArcN P → D e t ∘ N ( 4 , 5 ) NP\rightarrow Det\circ N(4,5)NPDetN(4,5)满足条件(b),将N P ( 4 , 6 ) NP(4,6)NP(4,6)加入A g e n d a AgendaAgenda。此时各个数据结构的内容如下:
    A g e n d a : { N P ( 4 , 6 ) } A c t i v e A r c : { S → N P ∘ V P ( 1 , 3 ) , V P → V ∘ N P ( 3 , 4 ) } C h a r t : { ( D e t , 1 , 2 ) , ( N , 2 , 3 ) , ( N P , 1 , 3 ) , ( V , 3 , 4 ) , ( D e t , 4 , 5 ) , ( N , 5 , 6 ) } Agenda: \{NP(4,6)\} \\ ActiveArc:\{S\rightarrow NP\circ VP(1,3),VP\rightarrow V\circ NP(3,4)\} \\ Chart:\{(Det,1,2),(N,2,3),(NP,1,3),(V,3,4),(Det,4,5),(N,5,6)\}Agenda:{NP(4,6)}ActiveArc:{SNPVP(1,3),VPVNP(3,4)}Chart:{(Det,1,2),(N,2,3),(NP,1,3),(V,3,4),(Det,4,5),(N,5,6)}
  7. 取出N P ( 4 , 6 ) NP(4,6)NP(4,6);将N P ( 4 , 6 ) NP(4,6)NP(4,6)插入C h a r t ChartChartA c t i v e A r c ActiveArcActiveArcV P → V ∘ N P ( 3 , 4 ) VP\rightarrow V\circ NP(3,4)VPVNP(3,4)满足条件(b),将V P ( 3 , 6 ) VP(3,6)VP(3,6)加入A g e n d a AgendaAgenda。此时各个数据结构的内容如下:
    A g e n d a : { V P ( 3 , 6 ) } A c t i v e A r c : { S → N P ∘ V P ( 1 , 3 ) } C h a r t : { ( D e t , 1 , 2 ) , ( N , 2 , 3 ) , ( N P , 1 , 3 ) , ( V , 3 , 4 ) , ( D e t , 4 , 5 ) , ( N , 5 , 6 ) , ( N P , 4 , 6 ) } Agenda: \{VP(3,6)\} \\ ActiveArc:\{S\rightarrow NP\circ VP(1,3)\} \\ Chart:\{(Det,1,2),(N,2,3),(NP,1,3),(V,3,4),(Det,4,5),(N,5,6),(NP,4,6)\}Agenda:{VP(3,6)}ActiveArc:{SNPVP(1,3)}Chart:{(Det,1,2),(N,2,3),(NP,1,3),(V,3,4),(Det,4,5),(N,5,6),(NP,4,6)}
  8. 取出V P ( 3 , 6 ) VP(3,6)VP(3,6);将V P ( 3 , 6 ) VP(3,6)VP(3,6)插入C h a r t ChartChartA c t i v e A r c ActiveArcActiveArcS → N P ∘ V P ( 1 , 3 ) S\rightarrow NP\circ VP(1,3)SNPVP(1,3)满足条件(b),将S ( 1 , 6 ) S(1,6)S(1,6)加入C h a r t ChartChart。此时各个数据结构的内容如下:
    A g e n d a : { } A c t i v e A r c : { } C h a r t : { ( D e t , 1 , 2 ) , ( N , 2 , 3 ) , ( N P , 1 , 3 ) , ( V , 3 , 4 ) , ( D e t , 4 , 5 ) , ( N , 5 , 6 ) , ( N P , 4 , 6 ) , ( V P , 3 , 6 ) , ( S , 1 , 6 ) } Agenda: \{\} \\ ActiveArc:\{\} \\ Chart:\{(Det,1,2),(N,2,3),(NP,1,3),(V,3,4),(Det,4,5),(N,5,6),(NP,4,6),(VP,3,6),(S,1,6)\}Agenda:{}ActiveArc:{}Chart:{(Det,1,2),(N,2,3),(NP,1,3),(V,3,4),(Det,4,5),(N,5,6),(NP,4,6),(VP,3,6),(S,1,6)}
  9. 到此为止,算法便退出了,根据C h a r t ChartChart中的内容便可绘制出线图,然后将节点变成边,边变成节点就能够绘制成分析树。

7 算法评价

优点:算法简单,容易实现,开发周期短
弱点:算法效率低,时间复杂度为K n 3 Kn^3Kn3;需要高质量的规则,分析结果与规则质量密切相关;难以区分歧义结构。

参考资料:《统计自然语言处理》宗成庆


版权声明:本文为qq_39378221原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明。