两个人的电影免费视频_国产精品久久久久久久久成人_97视频在线观看播放_久久这里只有精品777_亚洲熟女少妇二三区_4438x8成人网亚洲av_内谢国产内射夫妻免费视频_人妻精品久久久久中国字幕

利用語句結(jié)構(gòu)信息的機(jī)器翻譯自動(dòng)評(píng)測(cè)系統(tǒng)及實(shí)現(xiàn)方法

文檔序號(hào):6597784閱讀:199來源:國知局
專利名稱:利用語句結(jié)構(gòu)信息的機(jī)器翻譯自動(dòng)評(píng)測(cè)系統(tǒng)及實(shí)現(xiàn)方法
技術(shù)領(lǐng)域
本發(fā)明涉及一種機(jī)器翻譯自動(dòng)評(píng)測(cè)系統(tǒng),特別涉及一種利用語句結(jié)構(gòu)信息的機(jī)器
翻譯自動(dòng)評(píng)測(cè)系統(tǒng)及方法。
背景技術(shù)
機(jī)器翻譯評(píng)測(cè)是指對(duì)機(jī)器翻譯結(jié)果正確與否做出評(píng)價(jià)。機(jī)器翻譯評(píng)測(cè)技術(shù)對(duì)于機(jī)器翻譯的發(fā)展起著至關(guān)重要的作用,它不但可以推動(dòng)機(jī)器翻譯系統(tǒng)的市場(chǎng)推廣,并且可以幫助研究者對(duì)翻譯系統(tǒng)的關(guān)鍵技術(shù)進(jìn)行研究并改進(jìn)。機(jī)器翻譯評(píng)測(cè)的實(shí)現(xiàn)方法有兩種人工評(píng)測(cè)和自動(dòng)評(píng)測(cè)。人工評(píng)測(cè)主要是通過專家評(píng)測(cè)打分來實(shí)現(xiàn),這種評(píng)測(cè)方法主觀性比較強(qiáng),并且非常耗時(shí)耗力,而使用自動(dòng)評(píng)測(cè)就能夠大大降低評(píng)測(cè)的成本。隨著近年來機(jī)器翻譯技術(shù)的發(fā)展,機(jī)器翻譯自動(dòng)評(píng)測(cè)技術(shù)得到了越來越多的重視,機(jī)器翻譯自動(dòng)評(píng)測(cè)系統(tǒng)最基本的目的是對(duì)機(jī)器翻譯結(jié)果和人工翻譯結(jié)果進(jìn)行比較,便于機(jī)器翻譯系統(tǒng)的開發(fā)者對(duì)翻譯系統(tǒng)性能進(jìn)行評(píng)估,通過自動(dòng)評(píng)測(cè)提供給用戶一個(gè)詳細(xì)的系統(tǒng)性能參數(shù)。機(jī)器翻譯自動(dòng)評(píng)測(cè)系統(tǒng)還便于研究人員了解翻譯系統(tǒng)的核心技術(shù),有助于找到提升機(jī)器翻譯性能的方法。
現(xiàn)有技術(shù)中的機(jī)器翻譯自動(dòng)評(píng)測(cè)系統(tǒng)大多數(shù)是基于字詞或短語的共現(xiàn)匹配原理實(shí)現(xiàn)的,如BLEU評(píng)測(cè)方法和美國國家標(biāo)準(zhǔn)與技術(shù)局NIST在BLEU評(píng)測(cè)標(biāo)準(zhǔn)的基礎(chǔ)上所提出的NIST方法等都是基于字詞或短語的共現(xiàn)匹配原理實(shí)現(xiàn)的。具體的說,這種類型的系統(tǒng)對(duì)機(jī)器翻譯系統(tǒng)的評(píng)價(jià)都是基于詞匯或者字等表層信息進(jìn)行的,在匹配過程中首先根據(jù)字、詞匯或短語做匹配,然后根據(jù)匹配的情況來評(píng)價(jià)譯文的質(zhì)量,在這一匹配過程中,并不考慮語言深層結(jié)構(gòu)信息。然而在語言的表達(dá)中,語句結(jié)構(gòu)也是語義表達(dá)的重要方式。忽略語句結(jié)構(gòu)的評(píng)測(cè)系統(tǒng)由于沒有有效地評(píng)價(jià)機(jī)器翻譯譯文語句結(jié)構(gòu)的合理性,因此常常會(huì)出現(xiàn)機(jī)器譯文的評(píng)測(cè)得分較高但是語句結(jié)構(gòu)卻很不合理,不符合人類專家語感的情況;或者,雖然機(jī)器譯文結(jié)構(gòu)合理,符合人的語感,但是因?yàn)椴捎昧肆硗獾谋硎龇绞?,字詞匹配度較低,從而獲得較低的評(píng)價(jià)得分的情況。上述情況都使得現(xiàn)有的評(píng)測(cè)系統(tǒng)對(duì)機(jī)器譯文質(zhì)量難以做全面完整的評(píng)測(cè),評(píng)測(cè)所得到的結(jié)果難以符合人的語感,也難以實(shí)際反映出譯文的實(shí)際質(zhì)量。例如源語言句l :All campaigning and media coverage have to stop at midnightFriday, allowing voters to reflect on their choice before the polls open onSundaymorning. 機(jī)器譯文1 :全部參加競(jìng)選和允許投票者考慮他們的選擇,在投票于星期日早上開始之前,媒介報(bào)導(dǎo)必須星期五在午夜停止。 源語言句2 :The motive of the gunman was still unknown.
機(jī)器譯文2 :持槍歹徒的動(dòng)機(jī)仍然是未知的。 從上面例子中可以看到,機(jī)器譯文1的質(zhì)量是比較差的,并且在句子結(jié)構(gòu)上存在問題,而機(jī)器譯文2的翻譯比較準(zhǔn)確。但是如果用現(xiàn)有的機(jī)器翻譯評(píng)測(cè)系統(tǒng)對(duì)上面兩個(gè)機(jī)器譯文進(jìn)行評(píng)測(cè)的話,我們可以發(fā)現(xiàn),機(jī)器譯文l的得分要高于機(jī)器譯文2。分析原因是由于機(jī)器譯文2采用了不同的表述方法,與四句參考譯文"槍手的動(dòng)機(jī)還不得而知/持槍者的犯罪動(dòng)機(jī)尚不得而知/槍手的動(dòng)機(jī)還不知曉/持槍者的動(dòng)機(jī)尚未查明"相比,從字詞匹配上來講是有區(qū)別的,導(dǎo)致了字詞匹配率很低,所以評(píng)價(jià)得分也會(huì)比較低。但是從人類專家人工評(píng)價(jià)的角度來看,機(jī)器譯文2的質(zhì)量要遠(yuǎn)好于機(jī)器譯文1。所以機(jī)器翻譯自動(dòng)評(píng)價(jià)不能單單通過字詞匹配來獲得結(jié)果,還應(yīng)該對(duì)語言的深層信息(如語句結(jié)構(gòu)信息)進(jìn)行理解,并通過這些信息對(duì)譯文進(jìn)行評(píng)價(jià)。 語句結(jié)構(gòu)本身具有表示語義的作用,結(jié)構(gòu)的錯(cuò)誤在表達(dá)上可能會(huì)扭曲原文的內(nèi)容;同樣,正確的結(jié)構(gòu)也能較好反映源語言句子的語義內(nèi)容。另外,語句結(jié)構(gòu)的好壞是影響譯文質(zhì)量的一個(gè)重要因素,直接反映了譯文的可讀性。目前利用語言理解深層信息對(duì)機(jī)器翻譯系統(tǒng)譯文的語句結(jié)構(gòu)進(jìn)行有效評(píng)價(jià)的評(píng)測(cè)技術(shù)還不存在,已有評(píng)測(cè)技術(shù)的結(jié)果并不能對(duì)語句結(jié)構(gòu)翻譯的合理性給出有效評(píng)價(jià),而機(jī)器翻譯的發(fā)展需要自動(dòng)評(píng)測(cè)技術(shù)對(duì)譯文語句結(jié)構(gòu)的合理性做出有效的評(píng)價(jià),以便全面完整地對(duì)譯文質(zhì)量進(jìn)行評(píng)價(jià)。

發(fā)明內(nèi)容
本發(fā)明的目的是為了克服現(xiàn)有機(jī)器翻譯自動(dòng)評(píng)測(cè)系統(tǒng)與方法沒有利用句子的語義信息,使得對(duì)機(jī)器譯文的評(píng)測(cè)不夠合理的缺陷,從而提供了一種更加全面、合理的機(jī)器翻譯自動(dòng)評(píng)測(cè)方法及系統(tǒng)。 為了實(shí)現(xiàn)上述目的,本發(fā)明提供了一種機(jī)器翻譯自動(dòng)評(píng)測(cè)方法,包括 步驟1)、讀取機(jī)器翻譯所得到的機(jī)器譯文、所述機(jī)器譯文的關(guān)于語句結(jié)構(gòu)的標(biāo)注
信息以及所述機(jī)器譯文在被翻譯前所對(duì)應(yīng)的源語言句; 步驟2)、根據(jù)所述機(jī)器譯文的源語言句,讀取該源語言句的關(guān)于語句結(jié)構(gòu)的標(biāo)注
信息、該源語言句的參考譯文、所述參考譯文的關(guān)于語句結(jié)構(gòu)的標(biāo)注信息; 步驟3)、根據(jù)所述機(jī)器譯文的關(guān)于語句結(jié)構(gòu)的標(biāo)注信息分析所述機(jī)器譯文的語句
結(jié)構(gòu),根據(jù)所述源語言句的關(guān)于語句結(jié)構(gòu)的標(biāo)注信息分析所述源語言句的語句結(jié)構(gòu),根據(jù)
所述參考譯文的關(guān)于語句結(jié)構(gòu)的標(biāo)注信息分析所述參考譯文的語句結(jié)構(gòu); 步驟4)、比較所述源語言句的語句結(jié)構(gòu)以及所述參考譯文的語句結(jié)構(gòu),計(jì)算所述
參考譯文的語句結(jié)構(gòu)的轉(zhuǎn)換情況; 步驟5)、比較所述源語言句的語句結(jié)構(gòu)以及所述機(jī)器譯文的語句結(jié)構(gòu),計(jì)算所述
機(jī)器譯文的語句結(jié)構(gòu)的轉(zhuǎn)換情況,然后將所述參考譯文的語句結(jié)構(gòu)的轉(zhuǎn)換情況與所述機(jī)器
譯文的語句結(jié)構(gòu)的轉(zhuǎn)換情況進(jìn)行比較,根據(jù)比較結(jié)果對(duì)機(jī)器譯文加以評(píng)價(jià)。 上述技術(shù)方案中,所述的語句結(jié)構(gòu)用句類信息和句式信息表示,所述的關(guān)于語句
結(jié)構(gòu)的標(biāo)注信息用HNC標(biāo)注信息表示;所述的步驟4)包括 步驟4-1)、比較所述源語言句的句類信息以及所述參考譯文的句類信息,計(jì)算所述參考譯文的句類轉(zhuǎn)換強(qiáng)度; 步驟4-2)、比較所述源語言句的句式信息以及所述參考譯文的句式信息,計(jì)算所述參考譯文的句式轉(zhuǎn)換強(qiáng)度。 上述技術(shù)方案中,所述的步驟4-l)包括 步驟4-1-1)、將所述參考譯文的句類與所述源語言句的句類進(jìn)行對(duì)比,在由所述參考譯文所形成的參考譯文組中,當(dāng)一些參考譯文的句類發(fā)生了改變,而另一些沒有發(fā)生改變,則認(rèn)為是句類選擇性轉(zhuǎn)換,標(biāo)記為S_sct ;
步驟4-1-2)、將所述參考譯文的句類與所述源語言句的句類進(jìn)行對(duì)比,當(dāng)所述參考譯文組中所有參考譯文的句類都沒有發(fā)生改變,則認(rèn)為是句類零轉(zhuǎn)換,標(biāo)記為N_sct ;
步驟4-1-3)、將所述參考譯文的句類與所述源語言句的句類進(jìn)行對(duì)比,當(dāng)所述參考譯文組中所有參考譯文的句類都發(fā)生了改變,則認(rèn)為是句類強(qiáng)制性轉(zhuǎn)換,標(biāo)記為F—sct。
上述技術(shù)方案中,所述的步驟4-2)包括 步驟4-2-1)、將所述參考譯文的句式與所述源語言句的句式進(jìn)行對(duì)比,在由所述參考譯文所形成的參考譯文組中,當(dāng)有一些參考譯文的句式發(fā)生了改變,而另一些沒有發(fā)生改變,則認(rèn)為是句式選擇性轉(zhuǎn)換,標(biāo)記為S_sft ; 步驟4-2-2)、將所述參考譯文的句式與所述源語言句的句式進(jìn)行對(duì)比,當(dāng)所述參考譯文組中所有參考譯文的句式都沒有發(fā)生改變,則認(rèn)為是句式零轉(zhuǎn)換,標(biāo)記為N_sft ;
步驟4-2-3)、將所述參考譯文的句式與源語言句的句式進(jìn)行對(duì)比,當(dāng)所述參考譯文組中所有參考譯文的句式都發(fā)生了改變,則認(rèn)為是句式強(qiáng)制性轉(zhuǎn)換,標(biāo)記為F—sft。
上述技術(shù)方案中,所述的步驟5)包括 步驟5-1)、獲取所述機(jī)器譯文的句類信息,然后根據(jù)所述參考譯文的句類轉(zhuǎn)換強(qiáng)
度計(jì)算所述機(jī)器譯文的句類轉(zhuǎn)換得分,進(jìn)而得到多個(gè)機(jī)器譯文的句類平均轉(zhuǎn)換得分; 步驟5-2)、獲取所述機(jī)器譯文的句式信息,然后根據(jù)所述參考譯文的句式轉(zhuǎn)換強(qiáng)
度計(jì)算所述機(jī)器譯文的句式轉(zhuǎn)換得分,進(jìn)而得到多個(gè)機(jī)器譯文的句式平均轉(zhuǎn)換得分; 步驟5-3)、由所述多個(gè)機(jī)器譯文的句類平均轉(zhuǎn)換得分以及句式平均轉(zhuǎn)換得分計(jì)算
相應(yīng)機(jī)器翻譯的句類句式聯(lián)合評(píng)價(jià)得分。 上述技術(shù)方案中,所述的步驟5-l)包括 步驟5-1-1)、獲得參考譯文組Ri中參考答案的個(gè)數(shù)lRil,參考答案組Ri中與翻譯系統(tǒng)譯文ti的句類相同的參考答案r的個(gè)數(shù)co爐(k" e ;
步驟5-1-2)、獲取機(jī)器譯文的句類信息; 步驟5-1-3)、讀取參考譯文的句類轉(zhuǎn)換強(qiáng)度,如果轉(zhuǎn)換強(qiáng)度表明是選擇性轉(zhuǎn)換S_sct,則轉(zhuǎn)步驟5-1-4);如果轉(zhuǎn)換強(qiáng)度表明是零轉(zhuǎn)換N—sct,則轉(zhuǎn)步驟5-1-5);如果轉(zhuǎn)換強(qiáng)度表明是強(qiáng)制性轉(zhuǎn)換F_sct,則轉(zhuǎn)步驟5-1-6); 步驟5-1-4)、對(duì)于選擇性轉(zhuǎn)換的轉(zhuǎn)換強(qiáng)度S—sct,根據(jù)下述公式計(jì)算出機(jī)器譯文的句類轉(zhuǎn)換評(píng)價(jià)得分 s" —/"/0化}= l + log(l + -
co爐
尺 轉(zhuǎn)步驟5-1-7); 步驟5-1-5)、對(duì)于零轉(zhuǎn)換的轉(zhuǎn)換強(qiáng)度N_sct,把機(jī)器譯文的句類句式和參考譯文組的句類進(jìn)行對(duì)比,然后根據(jù)下述公式計(jì)算出機(jī)器譯文的句類轉(zhuǎn)換評(píng)價(jià)得分 — /"X^ }=

1 + log 2 ' 5T」,=^C一i ,. 轉(zhuǎn)步驟5-1-7); 步驟5-1-6)、對(duì)于強(qiáng)制性轉(zhuǎn)換的轉(zhuǎn)換強(qiáng)度F—sct,把機(jī)器譯文的句類和參考譯文
8組的句類進(jìn)行對(duì)比,然后根據(jù)下述公式計(jì)算出機(jī)器譯文的句類轉(zhuǎn)換評(píng)價(jià)得分
1
1 + lOg(l +--'/ SC一^ # 7—& € } 轉(zhuǎn)步驟5-1-7); 步驟5-1-7)、對(duì)所有機(jī)器譯文的句類轉(zhuǎn)換評(píng)價(jià)得分求平均值,得到句類轉(zhuǎn)換平均評(píng)價(jià)得分sct」nfo。 上述技術(shù)方案中,所述的步驟5-2)包括 步驟5-2-1)、獲得參考譯文組&中參考答案的個(gè)數(shù)I & I ,參考答案組&中與機(jī)器譯文ti的句式相同的參考答案r的個(gè)數(shù)co"""b—,, ;
步驟5-2-2)、獲取機(jī)器譯文的句式信息; 步驟5-2-3)、讀取參考譯文的句式轉(zhuǎn)換強(qiáng)度,如果轉(zhuǎn)換強(qiáng)度表明是選擇性轉(zhuǎn)換S_sft,則執(zhí)行步驟5-2-4);如果轉(zhuǎn)換強(qiáng)度表明是零轉(zhuǎn)換N—sft,則執(zhí)行步驟5-2-5);如果轉(zhuǎn)換強(qiáng)度表明是強(qiáng)制性轉(zhuǎn)換F_sft,則執(zhí)行步驟5-2-6); 步驟5-2-4)、對(duì)于選擇性轉(zhuǎn)換的轉(zhuǎn)換強(qiáng)度S—sft,根據(jù)下述公式計(jì)算出機(jī)器譯文的句式轉(zhuǎn)換評(píng)價(jià)得分
coww/(k , G《})
祈—l + log(l十-^~~, ,/ S —祈 轉(zhuǎn)步驟5-2-7); 步驟5-2-5)、對(duì)于零轉(zhuǎn)換的轉(zhuǎn)換強(qiáng)度N_sft,如果機(jī)器譯文進(jìn)行了句式轉(zhuǎn)換,根據(jù)下述公式計(jì)算出機(jī)器譯文的句式轉(zhuǎn)換評(píng)價(jià)得分 > / 一/"/0化.}=
l + log(+) 轉(zhuǎn)步驟5-2-7); 步驟5-2-6)、對(duì)于強(qiáng)制性轉(zhuǎn)換的轉(zhuǎn)換強(qiáng)度F—sft,根據(jù)下述公式計(jì)算出機(jī)器譯文
的句式轉(zhuǎn)換評(píng)價(jià)得分
祈—f"/o化]:
肖^)
l + log(l十-~~L) ^ s/—( ^ s/—s, & s/—f, e 《}
l《l
z/ 祈 轉(zhuǎn)步驟5-2-7); 步驟5-2-7)對(duì)所有機(jī)器譯文的句式轉(zhuǎn)換評(píng)價(jià)得分求平均值,得到句式轉(zhuǎn)換平均
9評(píng)價(jià)得分sft」nfo。 上述技術(shù)方案中,在所述的步驟5-3)中,采用下列公式計(jì)算句類句式轉(zhuǎn)換聯(lián)合評(píng)價(jià)得分scft—info : <formula>formula see original document page 10</formula> 其中,!^。表示發(fā)生句類轉(zhuǎn)換的概率,Psf表示發(fā)生句式轉(zhuǎn)換的概率,sctjnfo表
示句類轉(zhuǎn)換平均評(píng)價(jià)得分,sft」nfo表示句式轉(zhuǎn)換平均評(píng)價(jià)得分。 上述技術(shù)方案中,所述13 s。取值為0. 593 ,所述13 sf取值為0. 339 。 本發(fā)明還提供了一種機(jī)器翻譯自動(dòng)評(píng)測(cè)系統(tǒng),包括待評(píng)測(cè)數(shù)據(jù)存儲(chǔ)模塊、參考譯
文數(shù)據(jù)庫、參考譯文標(biāo)注數(shù)據(jù)庫、譯文句類句式轉(zhuǎn)換情況獲取模塊、評(píng)價(jià)打分模塊;其中, 所述的待評(píng)測(cè)數(shù)據(jù)存儲(chǔ)模塊用于保存機(jī)器翻譯所得到的機(jī)器譯文、所述機(jī)器譯文
的關(guān)于語句結(jié)構(gòu)的標(biāo)注信息; 所述的參考譯文數(shù)據(jù)庫用于保存源語言句以及源語言句的參考譯文; 所述的參考譯文標(biāo)注數(shù)據(jù)庫用于保存所述源語言句的關(guān)于語句結(jié)構(gòu)的標(biāo)注信息
以及所述參考譯文的關(guān)于語句結(jié)構(gòu)的標(biāo)注信息; 所述的譯文句類句式轉(zhuǎn)換情況獲取模塊根據(jù)所述機(jī)器譯文的關(guān)于語句結(jié)構(gòu)的標(biāo)注信息分析所述機(jī)器譯文的語句結(jié)構(gòu),根據(jù)所述源語言句的關(guān)于語句結(jié)構(gòu)的標(biāo)注信息分析所述源語言句的語句結(jié)構(gòu),根據(jù)所述參考譯文的關(guān)于語句結(jié)構(gòu)的標(biāo)注信息分析所述參考譯文的語句結(jié)構(gòu),然后比較所述源語言句的語句結(jié)構(gòu)以及所述參考譯文的語句結(jié)構(gòu),計(jì)算所述參考譯文的語句結(jié)構(gòu)的轉(zhuǎn)換情況; 所述的評(píng)價(jià)打分模塊比較所述源語言句的語句結(jié)構(gòu)以及所述機(jī)器譯文的語句結(jié)構(gòu),計(jì)算所述機(jī)器譯文的語句結(jié)構(gòu)的轉(zhuǎn)換情況,然后將所述參考譯文的語句結(jié)構(gòu)的轉(zhuǎn)換情況與所述機(jī)器譯文的語句結(jié)構(gòu)的轉(zhuǎn)換情況進(jìn)行比較,根據(jù)比較結(jié)果對(duì)機(jī)器譯文加以評(píng)價(jià)。
上述技術(shù)方案中,所述參考譯文數(shù)據(jù)庫包括英中參考譯文數(shù)據(jù)庫和中英參考譯文數(shù)據(jù)庫,數(shù)據(jù)庫的格式為(源語言句ID,源語言句,參考譯文1,參考譯文2,……,參考譯文N)。 上述技術(shù)方案中,所述參考譯文標(biāo)注數(shù)據(jù)庫包括英中參考譯文標(biāo)注數(shù)據(jù)庫和中英參考譯文標(biāo)注數(shù)據(jù)庫;該數(shù)據(jù)庫的格式為(源語言句ID,源語言句,源語言句標(biāo)注信息,參考譯文1,參考譯文1標(biāo)注信息,……,參考譯文N,參考譯文N標(biāo)注信息)。
與現(xiàn)有技術(shù)相比,本發(fā)明的有益效果在于 1)本發(fā)明突破了傳統(tǒng)機(jī)器翻譯自動(dòng)評(píng)測(cè)系統(tǒng)和方法一直以來基于字詞匹配的評(píng)測(cè)原理,利用語義信息對(duì)機(jī)器譯文進(jìn)行評(píng)測(cè),從而切近專家評(píng)測(cè)的結(jié)果,更加細(xì)致地反映出機(jī)器譯文結(jié)果的質(zhì)量; 2)本發(fā)明在HNC(概念層次網(wǎng)絡(luò))自然語言理解框架之下,基于HNC機(jī)器翻譯策略,利用句類知識(shí),從句類轉(zhuǎn)換和句式轉(zhuǎn)換入手,針對(duì)機(jī)器譯文的語句結(jié)構(gòu)質(zhì)量進(jìn)行了有效的評(píng)價(jià);很多機(jī)器譯文字詞忠實(shí)度很高,但是語句結(jié)構(gòu)完全不符合語言習(xí)慣,可讀性很差,而傳統(tǒng)評(píng)價(jià)得分卻很高,本發(fā)明所涉及的評(píng)測(cè)方法對(duì)于譯文質(zhì)量的評(píng)價(jià)更加準(zhǔn)確,彌補(bǔ)了傳統(tǒng)評(píng)價(jià)結(jié)果與語言習(xí)慣相比時(shí)有偏差的缺點(diǎn),克服了傳統(tǒng)評(píng)測(cè)方法對(duì)于譯文語句結(jié)構(gòu)的評(píng)價(jià)并不有效的缺點(diǎn),從而使得評(píng)測(cè)系統(tǒng)對(duì)于譯文可讀性的評(píng)價(jià)更加有效。


圖1表示參考譯文數(shù)據(jù)庫以及參考譯文標(biāo)注數(shù)據(jù)庫的示意圖; 圖2表示本發(fā)明的利用語句結(jié)構(gòu)信息的機(jī)器翻譯自動(dòng)評(píng)測(cè)方法的流程圖; 圖3表示機(jī)器譯文句類轉(zhuǎn)換評(píng)價(jià)打分流程圖; 圖4表示機(jī)器譯文句式轉(zhuǎn)換評(píng)價(jià)打分流程圖。
具體實(shí)施例方式
下面結(jié)合附圖和具體實(shí)施方式
對(duì)本發(fā)明作進(jìn)一步的詳細(xì)描述。
在對(duì)本發(fā)明做詳細(xì)說明之前,首先對(duì)本發(fā)明中所涉及的一些概念做簡要說明。
HNC理論概念層次網(wǎng)絡(luò)理論,該理論建立了一種模擬大腦語言感知過程的自然語言表述模式和計(jì)算機(jī)理解處理模式。在參考文獻(xiàn)l "《HNC(概念層次網(wǎng)絡(luò))理論——計(jì)算機(jī)理解語言研究的新思路》,黃曾陽著,清華大學(xué)出版社,1998年11月第1版"以及參考文獻(xiàn)2 "《語言概念空間的基本定理和數(shù)學(xué)物理表示式》,黃曾陽著,海洋出版社,2004年7月第1版"中對(duì)HNC的詳細(xì)內(nèi)容有具體的說明。 句類HNC中所定義的一種語句結(jié)構(gòu)信息。具體的說,它是指根據(jù)語句中主要概念
團(tuán)塊間的聯(lián)想脈絡(luò)進(jìn)行分類而形成的語句類型體系,即語句的概念類型。 句式HNC中所定義的另一種語句結(jié)構(gòu)信息。具體的說,它是指語句格式,用來表
述語句中主語義塊在句中的出現(xiàn)順序。
源語言句機(jī)器翻譯系統(tǒng)翻譯時(shí)待翻譯的句子。
機(jī)器譯文機(jī)器翻譯系統(tǒng)根據(jù)語種要求,對(duì)源語言句進(jìn)行翻譯所得的句子。
目標(biāo)語言句、參考譯文表示供評(píng)測(cè)所用的正確的譯文,是與源語言句相對(duì)應(yīng)的概念。
在對(duì)上述概念做相關(guān)說明后,下面對(duì)本發(fā)明做詳細(xì)說明。 本發(fā)明的機(jī)器翻譯自動(dòng)評(píng)測(cè)系統(tǒng)包括待評(píng)測(cè)數(shù)據(jù)存儲(chǔ)模塊、參考譯文數(shù)據(jù)庫、參考譯文標(biāo)注數(shù)據(jù)庫、譯文句類句式轉(zhuǎn)換情況獲取模塊、評(píng)價(jià)打分模塊。其中,所述的待評(píng)測(cè)數(shù)據(jù)存儲(chǔ)模塊用于存儲(chǔ)機(jī)器翻譯系統(tǒng)所生成的機(jī)器翻譯結(jié)果;所述的參考譯文數(shù)據(jù)庫、參考譯文標(biāo)注數(shù)據(jù)庫分別用于存儲(chǔ)參考譯文以及參考譯文標(biāo)注信息;所述的譯文句類句式轉(zhuǎn)換情況獲取模塊用于對(duì)機(jī)器翻譯系統(tǒng)的翻譯結(jié)果的句類句式轉(zhuǎn)換情況進(jìn)行評(píng)價(jià),并獲取相應(yīng)的評(píng)價(jià)結(jié)果;所述的評(píng)價(jià)打分模塊根據(jù)句類句式轉(zhuǎn)換情況對(duì)機(jī)器翻譯結(jié)果做評(píng)價(jià)打分。在下文中將結(jié)合上述模塊,對(duì)本發(fā)明的機(jī)器翻譯自動(dòng)評(píng)測(cè)系統(tǒng)的相關(guān)方法進(jìn)行說明。
待評(píng)測(cè)的機(jī)器翻譯系統(tǒng)對(duì)待翻譯的源語言句進(jìn)行翻譯后,會(huì)生成源語言句的機(jī)器翻譯結(jié)果。根據(jù)HNC理論的相關(guān)知識(shí),本領(lǐng)域技術(shù)人員為機(jī)器翻譯系統(tǒng)所生成的機(jī)器翻譯結(jié)果標(biāo)注HNC標(biāo)注信息。在得到前述的機(jī)器翻譯結(jié)果以及機(jī)器翻譯結(jié)果的HNC標(biāo)注信息后,將這些信息存儲(chǔ)在待評(píng)測(cè)數(shù)據(jù)存儲(chǔ)模塊中。 一般來說,待翻譯的源語言句與后面所提到的參考譯文之間存在對(duì)應(yīng)關(guān)系,即出于評(píng)測(cè)的需要,機(jī)器翻譯系統(tǒng)所翻譯的源語言句在機(jī)器翻譯自動(dòng)評(píng)測(cè)系統(tǒng)中應(yīng)當(dāng)存在相應(yīng)的參考譯文,以使得所述源語言句的翻譯結(jié)果可以與參考譯文進(jìn)行比較。 機(jī)器翻譯自動(dòng)評(píng)測(cè)系統(tǒng)的目的在于對(duì)機(jī)器翻譯系統(tǒng)的翻譯結(jié)果進(jìn)行評(píng)測(cè)。為了使得機(jī)器翻譯系統(tǒng)的翻譯結(jié)果有一個(gè)被比較的對(duì)象,由參考譯文數(shù)據(jù)庫以及參考譯文標(biāo)注數(shù)據(jù)庫來存儲(chǔ)參考譯文數(shù)據(jù)以及參考譯文標(biāo)注數(shù)據(jù)。具體的說,所述的參考譯文數(shù)據(jù)庫用于存儲(chǔ)源語言句、對(duì)源語言句的參考譯文。所述的參考譯文標(biāo)注數(shù)據(jù)庫則用于存放參考譯文的HNC標(biāo)注信息。例如,假設(shè)機(jī)器翻譯自動(dòng)評(píng)測(cè)系統(tǒng)用于對(duì)中英文互譯的機(jī)器翻譯系統(tǒng)進(jìn)行評(píng)測(cè),則其參考譯文數(shù)據(jù)庫包括英中參考譯文數(shù)據(jù)庫以及中英參考譯文數(shù)據(jù),而參考譯文標(biāo)注數(shù)據(jù)庫也包括英中參考譯文標(biāo)注數(shù)據(jù)庫以及中英參考譯文標(biāo)注數(shù)據(jù)庫。在圖1中給出了上述參考譯文數(shù)據(jù)庫以及參考譯文標(biāo)注數(shù)據(jù)庫的示意圖。對(duì)于參考譯文數(shù)據(jù)庫B1而言,該數(shù)據(jù)庫的格式為(源語言句ID,源語言句,參考譯文1,參考譯文2,……,參考譯文N),若為英中參考譯文數(shù)據(jù)庫B11,則源語言句用英文表示,參考譯文用中文表示,相反,若為中英參考譯文數(shù)據(jù)庫B12,則源語言句用中文表示,參考譯文用英文表示。從上述說明也可以看出,對(duì)于同一個(gè)源語言句,其參考譯文可以有多個(gè),以利于更好地對(duì)翻譯結(jié)果進(jìn)行評(píng)測(cè)。對(duì)于參考譯文標(biāo)注數(shù)據(jù)庫B2而言,該數(shù)據(jù)庫的格式為(源語言句ID,源語言句,源語言句標(biāo)注信息,參考譯文1 ,參考譯文1標(biāo)注信息,……,參考譯文N,參考譯文N標(biāo)注信息),類似的,若為英中參考譯文標(biāo)注數(shù)據(jù)庫B21 ,則源語言句用英文表示,參考譯文用中文表示,若為中英參考譯文標(biāo)注數(shù)據(jù)庫B22,則源語言句用中文表示,參考譯文用英文表示。在前文中已經(jīng)提到,參考譯文標(biāo)注信息的具體內(nèi)容可由本領(lǐng)域技術(shù)人員根據(jù)HNC的相關(guān)知識(shí)生成,在本發(fā)明中不關(guān)心如何生成參考譯文標(biāo)注信息,而是直接利用已有的參考譯文標(biāo)注信息。
由于源語言句在經(jīng)過機(jī)器翻譯系統(tǒng)翻譯后,其包括句類句式在內(nèi)的語句結(jié)構(gòu)信息可能會(huì)發(fā)生變化,而翻譯結(jié)果的句類句式信息與參考譯文的句類句式也可能會(huì)有所不同,因此需要對(duì)翻譯結(jié)果的句類句式轉(zhuǎn)換情況進(jìn)行評(píng)價(jià)。在評(píng)價(jià)時(shí),首先根據(jù)翻譯結(jié)果所對(duì)應(yīng)的HNC句類標(biāo)注信息分析出機(jī)器譯文的句類句式,然后從前面所提到的參考譯文數(shù)據(jù)庫以及參考譯文標(biāo)注數(shù)據(jù)庫中提取出源語言句、參考譯文以及它們所對(duì)應(yīng)的HNC標(biāo)注信息,由這些信息可得到源語言句和參考譯文的句類句式,最后就可以將翻譯結(jié)果的句類句式和源語言、參考譯文的句類句式分別加以比較,從而知道翻譯結(jié)果的句類句式與源語言句相比是否有了不同,與參考譯文的句類句式轉(zhuǎn)換情況是否一致。 在本發(fā)明中,對(duì)參考譯文的句類句式轉(zhuǎn)換情況用句類轉(zhuǎn)換強(qiáng)度和句式轉(zhuǎn)換強(qiáng)度分別予以說明。其中,對(duì)參考譯文的句類轉(zhuǎn)換強(qiáng)度做如下定義 (1)與源語言句的句類進(jìn)行對(duì)比,參考譯文組中,有一些參考譯文的句類發(fā)生了改變,而有一些沒有發(fā)生改變,則認(rèn)為是句類選擇性轉(zhuǎn)換,標(biāo)記為S_sct ; (2)與源語言句的句類進(jìn)行對(duì)比,參考譯文組中所有參考譯文的句類都沒有發(fā)生改變,則認(rèn)為是句類零轉(zhuǎn)換,標(biāo)記為N_sct ; (3)與源語言句的句類進(jìn)行對(duì)比,參考譯文組中所有參考譯文的句類都發(fā)生了改變,則認(rèn)為是句類強(qiáng)制性轉(zhuǎn)換,標(biāo)記為F_sct。
對(duì)參考譯文的句式轉(zhuǎn)換強(qiáng)度做如下定義 (1)與源語言句的句式進(jìn)行對(duì)比,參考譯文組中,有一些參考譯文的句式發(fā)生了改變,而有一些沒有發(fā)生改變,認(rèn)為是句式選擇性轉(zhuǎn)換,標(biāo)記為S_sft ; (2)與源語言句的句式進(jìn)行對(duì)比,參考譯文組中所有參考譯文的句式都沒有發(fā)生改變,認(rèn)為是句式零轉(zhuǎn)換,標(biāo)記為N_sft ; (3)與源語言句的句式進(jìn)行對(duì)比,參考譯文組中所有參考譯文的句式都發(fā)生了改
12變,認(rèn)為是句式強(qiáng)制性轉(zhuǎn)換,標(biāo)記為F_sft。 根據(jù)上述定義,可以知道某一參考譯文的句類句式轉(zhuǎn)換情況。例如,一個(gè)源語言 句"The People' s Bank of China, the central bank, raised interest rateson March
8.",存在如下標(biāo)注信息
0100] 〈root>
0101] 0102]
=〃 〃
0103] 0104]
0105]
=〃 〃
0106] 0107] 0108]
=〃 〃
0109] 0110]
sc
0
XY40*21J' 〃 role
format ,,,A
red
〈S connect = 〃 〃 〃 〈Ch皿k cat '"""plug="""" >
The People' s Bank of China, the central bank
role format
EK'
red
〈Ch皿k cat = """"plug ,raised
role
XY40
role format
red
〈Ch皿k cat = 〃 """plug="" interest rates
role
YC
role format
red
0112] 0113] 0114] 0115]
〈Ch皿k cat = 〃 〃 〃 plug=' on March 18.
role
Cn
role format
《>
/root〉
0116] 根據(jù)上述標(biāo)注信息知道該源語言句的句類sc是XY4(^21J,句式format是! 0(即 決省);
0117] 通過查找數(shù)據(jù)庫可以知道該源語言句存在以下多個(gè)參考譯文。
0118] 參考譯文1 "中國人民銀行這個(gè)核心銀行在3月18日提高了利率。"同樣根據(jù)標(biāo)
注信息,句類是XY40*21J,句式是! 0 ; 0119] 參考譯文2"三月18號(hào),中國人民銀行,即央行,提升了銀行利率。"根據(jù)標(biāo)注信息,
句類是XY4(^21J,句式是! 0;
0120] 參考譯文3 "中國的中央銀行-一 中國人民銀行-一三月十八日提高了利率。"根 據(jù)標(biāo)注信息,句類是XY40*21J,句式是! 0 ;
0121] 參考譯文4 "中央銀行,中國人民銀行3月18日提高利率。"根據(jù)標(biāo)注信息,句類 是XY4(^21J,句式是! 0;
0122] 在這個(gè)例子中,所有參考譯文的句類都跟源語言句的句類相同(XY4(^21J),所有 參考譯文的句式都跟源語言句的句式相同(! O),所以根據(jù)轉(zhuǎn)換強(qiáng)度定義是句類零轉(zhuǎn)換 N—sct),句式零轉(zhuǎn)換(N_sft)。
0123] 在由譯文句類句式轉(zhuǎn)換情況獲取模塊得到機(jī)器翻譯結(jié)果的句類句式轉(zhuǎn)換情況后,進(jìn)一步地由評(píng)價(jià)打分模塊進(jìn)行評(píng)測(cè)。評(píng)價(jià)打分模塊包括對(duì)機(jī)器翻譯結(jié)果句類轉(zhuǎn)換情況的評(píng) 價(jià)打分、對(duì)機(jī)器翻譯結(jié)果句式轉(zhuǎn)換情況的評(píng)價(jià)打分,并根據(jù)句類轉(zhuǎn)換的分值以及句式轉(zhuǎn)換 的分值計(jì)算句類句式轉(zhuǎn)換的綜合分值。如圖3所示,對(duì)句類轉(zhuǎn)換情況的評(píng)價(jià)打分過程包括
步驟11)、獲得參考譯文組&中參考答案的個(gè)數(shù)& I ,參考答案組&中與機(jī)器譯
文ti的句類相同的參考答案r的個(gè)數(shù)c做""b^ e《j); 步驟12)、獲取機(jī)器譯文的句類; 步驟13)、讀取參考譯文的句類轉(zhuǎn)換強(qiáng)度,如果轉(zhuǎn)換強(qiáng)度表明是選擇性轉(zhuǎn)換(S_ sct),則轉(zhuǎn)步驟14);如果轉(zhuǎn)換強(qiáng)度表明是零轉(zhuǎn)換(N—sct),則轉(zhuǎn)步驟15);如果轉(zhuǎn)換強(qiáng)度表 明是強(qiáng)制性轉(zhuǎn)換(Fjct),則轉(zhuǎn)步驟16); 步驟14)、對(duì)于選擇性轉(zhuǎn)換的轉(zhuǎn)換強(qiáng)度(S_sct),那么對(duì)于機(jī)器譯文來講句類轉(zhuǎn)換 的評(píng)價(jià)對(duì)最后的得分并沒有太大的影響,權(quán)值可以大于等于1。根據(jù)下述公式計(jì)算出機(jī)器譯 文的句類轉(zhuǎn)換評(píng)價(jià)得分 5^一/">仏}= l + log(l +-Y"f-^")' z/ ^一W
一 — (1) 然后轉(zhuǎn)步驟17); 步驟15)、對(duì)于零轉(zhuǎn)換的轉(zhuǎn)換強(qiáng)度(N—sct),如果機(jī)器譯文進(jìn)行了句類轉(zhuǎn)換,則給 予較低的權(quán)值,即機(jī)器譯文所進(jìn)行的轉(zhuǎn)換可能是不合適的,反之如果機(jī)器譯文沒有進(jìn)行句 類的轉(zhuǎn)換,則權(quán)值應(yīng)該大于等于1。根據(jù)下述公式計(jì)算出機(jī)器譯文的句類轉(zhuǎn)換評(píng)價(jià)得分 W
(2)
l + log2 , 然后轉(zhuǎn)步驟17); 步驟16)、對(duì)于強(qiáng)制性轉(zhuǎn)換的轉(zhuǎn)換強(qiáng)度(F_sct),機(jī)器譯文的情況可以分為三種, 一是機(jī)器譯文沒有進(jìn)行句類轉(zhuǎn)換,那么譯文的句類基本上可以認(rèn)為是錯(cuò)誤的,給予小于1 的權(quán)值;二是機(jī)器譯文進(jìn)行了句類轉(zhuǎn)換,但是轉(zhuǎn)換后的句類類型不在參考譯文的句類類型 之內(nèi),那么譯文的句類有可能是錯(cuò)誤的,給予小于等于1的權(quán)值;三是機(jī)器譯文不僅進(jìn)行了 句類轉(zhuǎn)換,且其句類類型在參考譯文的句類類型之內(nèi),那么譯文句類認(rèn)為是合理的,權(quán)值可
以大于等于1。根據(jù)下述公式計(jì)算出機(jī)器譯文的句類轉(zhuǎn)換評(píng)價(jià)得分
5C, jw/0"}=
1 + log(l +--!/* sc一t # (§; sK e {sc—代}
(3) 然后轉(zhuǎn)步驟17); 步驟17)、對(duì)所有機(jī)器譯文的句類轉(zhuǎn)換評(píng)價(jià)得分求平均值,得到整個(gè)機(jī)器翻譯系統(tǒng) 的句類轉(zhuǎn)換平均評(píng)價(jià)得分sctjnfo。 沿用上面的例子,對(duì)于源語言句"The People' s Bank of China, the
14centralbank, raised interest rates on March 18.,,某一機(jī)器翻譯系統(tǒng)英譯漢的結(jié)果 (即機(jī)器譯文)為"中國人民銀行中國,中央銀行調(diào)高利率,在3月18日。" 根據(jù)此機(jī)器譯文的HNC句類標(biāo)注信息,得到其句類是Y40,句式是! 0。 由于此例在上面轉(zhuǎn)換強(qiáng)度判斷時(shí)得到的結(jié)論是,參考譯文的句類轉(zhuǎn)換強(qiáng)度表明是
零轉(zhuǎn)換,根據(jù)句類轉(zhuǎn)換評(píng)價(jià)的打分方法,因此需要采用步驟15)中的公式(2)。由于機(jī)器譯
文的句類(Y40)與參考譯文的句類(XY40*21J)是不同的,所以根據(jù)公式計(jì)算,得到的句類
轉(zhuǎn)換評(píng)價(jià)得分是0. 3979,表示此機(jī)器譯文的句類是不合理的,得分較低。 如圖4所示,對(duì)句式轉(zhuǎn)換情況的評(píng)價(jià)打分過程包括 步驟21)、獲得參考譯文組Ri中參考答案的個(gè)數(shù)lRil,參考答案組Ri中與機(jī)器譯 文tj勺語句格式(即句式)相同的參考答案r的個(gè)數(shù)cow""bj,ei ,j);
步驟22)、獲取機(jī)器譯文的句式; 步驟23)、讀取參考譯文的句類句式轉(zhuǎn)換強(qiáng)度,如果轉(zhuǎn)換強(qiáng)度表明是選擇性轉(zhuǎn)換 (S—sft),則轉(zhuǎn)步驟24);如果轉(zhuǎn)換強(qiáng)度表明是零轉(zhuǎn)換(N—sft),則轉(zhuǎn)步驟25);如果轉(zhuǎn)換強(qiáng)度 表明是強(qiáng)制性轉(zhuǎn)換(F—sft),則轉(zhuǎn)步驟26); 步驟24)、對(duì)于選擇性轉(zhuǎn)換的轉(zhuǎn)換強(qiáng)度(S_sft),那么對(duì)于機(jī)器譯文來講句式轉(zhuǎn)換 的評(píng)價(jià)對(duì)最后的得分并沒有太大的影響,權(quán)值可以大于等于1。根據(jù)下述公式計(jì)算出機(jī)器譯 文的句式轉(zhuǎn)換評(píng)價(jià)得分 <formula>formula see original document page 15</formula>
轉(zhuǎn)步驟27); 步驟25)、對(duì)于零轉(zhuǎn)換的轉(zhuǎn)換強(qiáng)度(N_sft),如果機(jī)器譯文進(jìn)行了句式轉(zhuǎn)換,則給 予較低的權(quán)值,即機(jī)器譯文所進(jìn)行的轉(zhuǎn)換可能是不合適的,反之如果機(jī)器譯文沒有進(jìn)行句 式的轉(zhuǎn)換,則權(quán)值應(yīng)該大于等于1。根據(jù)下述公式計(jì)算出機(jī)器譯文的句式轉(zhuǎn)換評(píng)價(jià)得分<formula>formula see original document page 15</formula> 轉(zhuǎn)步驟27); 步驟26)、對(duì)于強(qiáng)制性轉(zhuǎn)換的轉(zhuǎn)換強(qiáng)度(F_sft),機(jī)器譯文的情況可以分為三種, 一是機(jī)器譯文沒有進(jìn)行句式轉(zhuǎn)換,那么譯文的句式基本上可以認(rèn)為是錯(cuò)誤的,給予小于1 的權(quán)值;二是機(jī)器譯文進(jìn)行了句式轉(zhuǎn)換,但是轉(zhuǎn)換后的句式類型不在參考譯文的句式類型 之內(nèi),那么譯文的句式有可能是錯(cuò)誤的,給予小于等于1的權(quán)值;三是機(jī)器譯文不僅進(jìn)行了 句式轉(zhuǎn)換,且其句式類型在參考譯文的句式類型之內(nèi),那么譯文句式被認(rèn)為是合理的,權(quán)值
可以大于等于1。根據(jù)下述公式計(jì)算出機(jī)器譯文的句式轉(zhuǎn)換評(píng)價(jià)得分
轉(zhuǎn)步驟27); 步驟27)對(duì)所有機(jī)器譯文的句式轉(zhuǎn)換評(píng)價(jià)得分求平均值,得到整個(gè)系統(tǒng)的句式轉(zhuǎn) 換平均評(píng)價(jià)得分sftjnfo。 沿用前面所提到的例子,已經(jīng)得到的機(jī)器譯文"中國人民銀行中國,中央銀行調(diào)高 利率,在3月18日。"的句式是! 0。 由于此例在上面轉(zhuǎn)換強(qiáng)度判斷時(shí)得到的結(jié)論是參考譯文的句式轉(zhuǎn)換強(qiáng)度表明是
零轉(zhuǎn)換,因此根據(jù)句式轉(zhuǎn)換評(píng)價(jià)的打分方法,采用步驟25)中的公式(5)。由于機(jī)器譯文的
句式(! O)與參考譯文的句式(! 0)是相同的,所以根據(jù)公式計(jì)算,得到的句式轉(zhuǎn)換評(píng)價(jià)
得分是1. 3010,表示此機(jī)器譯文的句式較為合理,句式轉(zhuǎn)換評(píng)價(jià)得分較高。 在獲得系統(tǒng)的句類轉(zhuǎn)換平均評(píng)價(jià)得分和句式轉(zhuǎn)換平均評(píng)價(jià)得分后,評(píng)價(jià)打分模塊
還要進(jìn)一步計(jì)算句類句式轉(zhuǎn)換聯(lián)合評(píng)價(jià)得分。對(duì)句類句式轉(zhuǎn)換聯(lián)合評(píng)價(jià)得分scft」nfo的
計(jì)算可以采用以下公式
. S"」"/OxAc+祈一爭(zhēng)xA/ 4 一 =-^-^-^ 其中,13 s。是發(fā)生句類轉(zhuǎn)換的概率,取值0. 593 ; 13 sf是發(fā)生句式轉(zhuǎn)換的概率,取值 0. 339。這兩個(gè)概率值是對(duì)參考譯文數(shù)據(jù)庫進(jìn)行統(tǒng)計(jì)后所得到的。 在前面所提到的例子中,sctjnfo值為0. 3979, sftjnfo值為1. 3010,根據(jù)上述 聯(lián)合評(píng)價(jià)得分公式進(jìn)行計(jì)算,最后的得分scft」nfo為0. 7125。 評(píng)價(jià)打分模塊在計(jì)算出句類轉(zhuǎn)換評(píng)價(jià)得分sctjnfo、句式轉(zhuǎn)換評(píng)價(jià)得分sft_
info和聯(lián)合評(píng)價(jià)得分scft」nfo后,會(huì)將這些得分作為評(píng)價(jià)結(jié)果返回。 本發(fā)明所涉及的機(jī)器翻譯自動(dòng)評(píng)測(cè)方法與傳統(tǒng)的機(jī)器翻譯自動(dòng)評(píng)測(cè)方法有很大
的不同。傳統(tǒng)評(píng)測(cè)方法并不需要理解譯文句子的語義,即并不關(guān)心譯文的語句結(jié)構(gòu)是怎么
樣的以及應(yīng)該是什么樣的。傳統(tǒng)方法完全只是在字詞層面上,將翻譯結(jié)果與參考答案進(jìn)行
字詞的直接對(duì)比和匹配,然后對(duì)統(tǒng)計(jì)結(jié)果進(jìn)行一些計(jì)算,得到評(píng)價(jià)得分。這些方法完全是依
賴字詞、短語的匹配,嚴(yán)重影響了評(píng)測(cè)結(jié)果的準(zhǔn)確性。而本發(fā)明方法的實(shí)現(xiàn)建立在在理解句
子的基礎(chǔ)上。本發(fā)明的方法首先從機(jī)器譯文和參考譯文中抽取出句類句式信息,也就是是
直接獲得它們的語句結(jié)構(gòu)信息,然后再對(duì)機(jī)器譯文和參考譯文的語句結(jié)構(gòu)進(jìn)行對(duì)比、統(tǒng)計(jì)
和計(jì)算,從而得到評(píng)價(jià)結(jié)果。這樣的評(píng)價(jià)方式非常直觀和有針對(duì)性,可以非常有效地評(píng)價(jià)出
譯文句子結(jié)構(gòu)的好壞,同時(shí)語句結(jié)構(gòu)的好壞也可以直接地反映出語句的通順性和可讀性。
1權(quán)利要求
一種機(jī)器翻譯自動(dòng)評(píng)測(cè)方法,包括步驟1)、讀取機(jī)器翻譯所得到的機(jī)器譯文、所述機(jī)器譯文的關(guān)于語句結(jié)構(gòu)的標(biāo)注信息以及所述機(jī)器譯文在被翻譯前所對(duì)應(yīng)的源語言句;步驟2)、根據(jù)所述機(jī)器譯文的源語言句,讀取該源語言句的關(guān)于語句結(jié)構(gòu)的標(biāo)注信息、該源語言句的參考譯文、所述參考譯文的關(guān)于語句結(jié)構(gòu)的標(biāo)注信息;步驟3)、根據(jù)所述機(jī)器譯文的關(guān)于語句結(jié)構(gòu)的標(biāo)注信息分析所述機(jī)器譯文的語句結(jié)構(gòu),根據(jù)所述源語言句的關(guān)于語句結(jié)構(gòu)的標(biāo)注信息分析所述源語言句的語句結(jié)構(gòu),根據(jù)所述參考譯文的關(guān)于語句結(jié)構(gòu)的標(biāo)注信息分析所述參考譯文的語句結(jié)構(gòu);步驟4)、比較所述源語言句的語句結(jié)構(gòu)以及所述參考譯文的語句結(jié)構(gòu),計(jì)算所述參考譯文的語句結(jié)構(gòu)的轉(zhuǎn)換情況;步驟5)、比較所述源語言句的語句結(jié)構(gòu)以及所述機(jī)器譯文的語句結(jié)構(gòu),計(jì)算所述機(jī)器譯文的語句結(jié)構(gòu)的轉(zhuǎn)換情況,然后將所述參考譯文的語句結(jié)構(gòu)的轉(zhuǎn)換情況與所述機(jī)器譯文的語句結(jié)構(gòu)的轉(zhuǎn)換情況進(jìn)行比較,根據(jù)比較結(jié)果對(duì)機(jī)器譯文加以評(píng)價(jià)。
2. 根據(jù)權(quán)利要求1所述的機(jī)器翻譯自動(dòng)評(píng)測(cè)方法,其特征在于,所述的語句結(jié)構(gòu)用句類信息和句式信息表示,所述的關(guān)于語句結(jié)構(gòu)的標(biāo)注信息用HNC標(biāo)注信息表示;所述的步驟4)包括步驟4-1)、比較所述源語言句的句類信息以及所述參考譯文的句類信息,計(jì)算所述參考譯文的句類轉(zhuǎn)換強(qiáng)度;步驟4-2)、比較所述源語言句的句式信息以及所述參考譯文的句式信息,計(jì)算所述參考譯文的句式轉(zhuǎn)換強(qiáng)度。
3. 根據(jù)權(quán)利要求2所述的機(jī)器翻譯自動(dòng)評(píng)測(cè)方法,其特征在于,所述的步驟4-l)包括步驟4-1-1)、將所述參考譯文的句類與所述源語言句的句類進(jìn)行對(duì)比,在由所述參考譯文所形成的參考譯文組中,當(dāng)一些參考譯文的句類發(fā)生了改變,而另一些沒有發(fā)生改變,則認(rèn)為是句類選擇性轉(zhuǎn)換,標(biāo)記為S_sct ;步驟4-1-2)、將所述參考譯文的句類與所述源語言句的句類進(jìn)行對(duì)比,當(dāng)所述參考譯文組中所有參考譯文的句類都沒有發(fā)生改變,則認(rèn)為是句類零轉(zhuǎn)換,標(biāo)記為N_sct ;步驟4-1-3)、將所述參考譯文的句類與所述源語言句的句類進(jìn)行對(duì)比,當(dāng)所述參考譯文組中所有參考譯文的句類都發(fā)生了改變,則認(rèn)為是句類強(qiáng)制性轉(zhuǎn)換,標(biāo)記為F—sct。
4. 根據(jù)權(quán)利要求2所述的機(jī)器翻譯自動(dòng)評(píng)測(cè)方法,其特征在于,所述的步驟4-2)包括步驟4-2-1)、將所述參考譯文的句式與所述源語言句的句式進(jìn)行對(duì)比,在由所述參考譯文所形成的參考譯文組中,當(dāng)有一些參考譯文的句式發(fā)生了改變,而另一些沒有發(fā)生改變,則認(rèn)為是句式選擇性轉(zhuǎn)換,標(biāo)記為S_sft ;步驟4-2-2)、將所述參考譯文的句式與所述源語言句的句式進(jìn)行對(duì)比,當(dāng)所述參考譯文組中所有參考譯文的句式都沒有發(fā)生改變,則認(rèn)為是句式零轉(zhuǎn)換,標(biāo)記為N_sft ;步驟4-2-3)、將所述參考譯文的句式與源語言句的句式進(jìn)行對(duì)比,當(dāng)所述參考譯文組中所有參考譯文的句式都發(fā)生了改變,則認(rèn)為是句式強(qiáng)制性轉(zhuǎn)換,標(biāo)記為F—sft。
5. 根據(jù)權(quán)利要求2所述的機(jī)器翻譯自動(dòng)評(píng)測(cè)方法,其特征在于,所述的步驟5)包括步驟5-1)、獲取所述機(jī)器譯文的句類信息,然后根據(jù)所述參考譯文的句類轉(zhuǎn)換強(qiáng)度計(jì)算所述機(jī)器譯文的句類轉(zhuǎn)換得分,進(jìn)而得到多個(gè)機(jī)器譯文的句類平均轉(zhuǎn)換得分;步驟5-2)、獲取所述機(jī)器譯文的句式信息,然后根據(jù)所述參考譯文的句式轉(zhuǎn)換強(qiáng)度計(jì)算所述機(jī)器譯文的句式轉(zhuǎn)換得分,進(jìn)而得到多個(gè)機(jī)器譯文的句式平均轉(zhuǎn)換得分;步驟5-3)、由所述多個(gè)機(jī)器譯文的句類平均轉(zhuǎn)換得分以及句式平均轉(zhuǎn)換得分計(jì)算相應(yīng)機(jī)器翻譯的句類句式聯(lián)合評(píng)價(jià)得分。
6.根據(jù)權(quán)利要求5所述的機(jī)器翻譯自動(dòng)評(píng)測(cè)方法,其特征在于,所述的步驟5-l)包括步驟5-1-1)、獲得參考譯文組Ri中參考答案的個(gè)數(shù)lRil,參考答案組Ri中與翻譯系統(tǒng)譯文ti的句類相同的參考答案r的個(gè)數(shù)co贈(zèng)(j、,, e ;步驟5-1-2)、獲取機(jī)器譯文的句類信息;步驟5-1-3)、讀取參考譯文的句類轉(zhuǎn)換強(qiáng)度,如果轉(zhuǎn)換強(qiáng)度表明是選擇性轉(zhuǎn)換S_sct,則轉(zhuǎn)步驟5-1-4);如果轉(zhuǎn)換強(qiáng)度表明是零轉(zhuǎn)換N—sct,則轉(zhuǎn)步驟5-1-5);如果轉(zhuǎn)換強(qiáng)度表明是強(qiáng)制性轉(zhuǎn)換F—sct,則轉(zhuǎn)步驟5-1-6);步驟5-1-4)、對(duì)于選擇性轉(zhuǎn)換的轉(zhuǎn)換強(qiáng)度S—sct,根據(jù)下述公式計(jì)算出機(jī)器譯文的句類轉(zhuǎn)換評(píng)價(jià)得分<formula>formula see original document page 3</formula>轉(zhuǎn)步驟5-1-7);步驟5-1-5)、對(duì)于零轉(zhuǎn)換的轉(zhuǎn)換強(qiáng)度N_sct,把機(jī)器譯文的句類句式和參考譯文組的句類進(jìn)行對(duì)比,然后根據(jù)下述公式計(jì)算出機(jī)器譯文的句類轉(zhuǎn)換評(píng)價(jià)得分<formula>formula see original document page 3</formula>轉(zhuǎn)步驟5-1-7);步驟5-1-6)、對(duì)于強(qiáng)制性轉(zhuǎn)換的轉(zhuǎn)換強(qiáng)度F—sct,把機(jī)器譯文的句類和參考譯文組的句類進(jìn)行對(duì)比,然后根據(jù)下述公式計(jì)算出機(jī)器譯文的句類轉(zhuǎn)換評(píng)價(jià)得分<formula>formula see original document page 3</formula>轉(zhuǎn)步驟5-1-7);步驟5-1-7)、對(duì)所有機(jī)器譯文的句類轉(zhuǎn)換評(píng)價(jià)得分求平均值,得到句類轉(zhuǎn)換平均評(píng)價(jià)得分sct—info。
7.根據(jù)權(quán)利要求5所述的機(jī)器翻譯自動(dòng)評(píng)測(cè)方法,其特征在于,所述的步驟5-2)包括步驟5-2-1)、獲得參考譯文組Ri中參考答案的個(gè)數(shù)lRil,參考答案組Ri中與機(jī)器譯文ti的句式相同的參考答案r的個(gè)數(shù)co""/"r(,, e ;步驟5-2-2)、獲取機(jī)器譯文的句式信息;步驟5-2-3)、讀取參考譯文的句式轉(zhuǎn)換強(qiáng)度,如果轉(zhuǎn)換強(qiáng)度表明是選擇性轉(zhuǎn)換S_sft, 則執(zhí)行步驟5-2-4);如果轉(zhuǎn)換強(qiáng)度表明是零轉(zhuǎn)換N—sft,則執(zhí)行步驟5-2-5);如果轉(zhuǎn)換強(qiáng)度 表明是強(qiáng)制性轉(zhuǎn)換F_sft,則執(zhí)行步驟5-2-6);步驟5-2-4)、對(duì)于選擇性轉(zhuǎn)換的轉(zhuǎn)換強(qiáng)度S—sft,根據(jù)下述公式計(jì)算出機(jī)器譯文的句 式轉(zhuǎn)換評(píng)價(jià)得分<formula>formula see original document page 4</formula>轉(zhuǎn)步驟5-2-7);步驟5-2-5)、對(duì)于零轉(zhuǎn)換的轉(zhuǎn)換強(qiáng)度N—sft,如果機(jī)器譯文進(jìn)行了句式轉(zhuǎn)換,根據(jù)下述 公式計(jì)算出機(jī)器譯文的句式轉(zhuǎn)換評(píng)價(jià)得分祈」"/。{,,}=<formula>formula see original document page 4</formula>轉(zhuǎn)步驟5-2-7);步驟5-2-6)、對(duì)于強(qiáng)制性轉(zhuǎn)換的轉(zhuǎn)換強(qiáng)度F—sft,根據(jù)下述公式計(jì)算出機(jī)器譯文的句 式轉(zhuǎn)換評(píng)價(jià)得分1 <formula>formula see original document page 4</formula>轉(zhuǎn)步驟5-2-7);步驟5-2-7)對(duì)所有機(jī)器譯文的句式轉(zhuǎn)換評(píng)價(jià)得分求平均值,得到句式轉(zhuǎn)換平均評(píng)價(jià) 得分sft」nfo。
8. 根據(jù)權(quán)利要求5所述的機(jī)器翻譯自動(dòng)評(píng)測(cè)方法,其特征在于,在所述的步驟5-3)中, 采用下列公式計(jì)算句類句式轉(zhuǎn)換聯(lián)合評(píng)價(jià)得分scft」nfo :<formula>formula see original document page 4</formula>其中,!^。表示發(fā)生句類轉(zhuǎn)換的概率,!^f表示發(fā)生句式轉(zhuǎn)換的概率,sct」nfo表示句 類轉(zhuǎn)換平均評(píng)價(jià)得分,sft」nfo表示句式轉(zhuǎn)換平均評(píng)價(jià)得分。
9. 根據(jù)權(quán)利要求5所述的機(jī)器翻譯自動(dòng)評(píng)測(cè)方法,其特征在于,所述!^。取值為 0. 593,所述Psf取值為0. 339。
10. —種機(jī)器翻譯自動(dòng)評(píng)測(cè)系統(tǒng),其特征在于,包括待評(píng)測(cè)數(shù)據(jù)存儲(chǔ)模塊、參考譯文數(shù) 據(jù)庫、參考譯文標(biāo)注數(shù)據(jù)庫、譯文句類句式轉(zhuǎn)換情況獲取模塊、評(píng)價(jià)打分模塊;其中,所述的待評(píng)測(cè)數(shù)據(jù)存儲(chǔ)模塊用于保存機(jī)器翻譯所得到的機(jī)器譯文、所述機(jī)器譯文的關(guān)于語句結(jié)構(gòu)的標(biāo)注信息;所述的參考譯文數(shù)據(jù)庫用于保存源語言句以及源語言句的參考譯文;所述的參考譯文標(biāo)注數(shù)據(jù)庫用于保存所述源語言句的關(guān)于語句結(jié)構(gòu)的標(biāo)注信息以及 所述參考譯文的關(guān)于語句結(jié)構(gòu)的標(biāo)注信息;所述的譯文句類句式轉(zhuǎn)換情況獲取模塊根據(jù)所述機(jī)器譯文的關(guān)于語句結(jié)構(gòu)的標(biāo)注信 息分析所述機(jī)器譯文的語句結(jié)構(gòu),根據(jù)所述源語言句的關(guān)于語句結(jié)構(gòu)的標(biāo)注信息分析所述 源語言句的語句結(jié)構(gòu),根據(jù)所述參考譯文的關(guān)于語句結(jié)構(gòu)的標(biāo)注信息分析所述參考譯文的 語句結(jié)構(gòu),然后比較所述源語言句的語句結(jié)構(gòu)以及所述參考譯文的語句結(jié)構(gòu),計(jì)算所述參 考譯文的語句結(jié)構(gòu)的轉(zhuǎn)換情況;所述的評(píng)價(jià)打分模塊比較所述源語言句的語句結(jié)構(gòu)以及所述機(jī)器譯文的語句結(jié)構(gòu),計(jì) 算所述機(jī)器譯文的語句結(jié)構(gòu)的轉(zhuǎn)換情況,然后將所述參考譯文的語句結(jié)構(gòu)的轉(zhuǎn)換情況與所 述機(jī)器譯文的語句結(jié)構(gòu)的轉(zhuǎn)換情況進(jìn)行比較,根據(jù)比較結(jié)果對(duì)機(jī)器譯文加以評(píng)價(jià)。
11. 根據(jù)權(quán)利要求io所述的機(jī)器翻譯自動(dòng)評(píng)測(cè)系統(tǒng),其特征在于,所述參考譯文數(shù)據(jù)庫包括英中參考譯文數(shù)據(jù)庫和中英參考譯文數(shù)據(jù)庫,數(shù)據(jù)庫的格式為(源語言句ID,源語 言句,參考譯文1,參考譯文2,……,參考譯文N)。
12. 根據(jù)權(quán)利要求IO所述的機(jī)器翻譯自動(dòng)評(píng)測(cè)系統(tǒng),其特征在于,所述參考譯文標(biāo)注 數(shù)據(jù)庫包括英中參考譯文標(biāo)注數(shù)據(jù)庫和中英參考譯文標(biāo)注數(shù)據(jù)庫;該數(shù)據(jù)庫的格式為(源 語言句ID,源語言句,源語言句標(biāo)注信息,參考譯文l,參考譯文1標(biāo)注信息,……,參考譯 文N,參考譯文N標(biāo)注信息)。
全文摘要
本發(fā)明公開了一種機(jī)器翻譯自動(dòng)評(píng)測(cè)方法,包括讀取機(jī)器翻譯所得到的機(jī)器譯文、機(jī)器譯文的關(guān)于語句結(jié)構(gòu)的標(biāo)注信息以及源語言句;根據(jù)源語言句,讀取該源語言句的關(guān)于語句結(jié)構(gòu)的標(biāo)注信息、源語言句的參考譯文、參考譯文的關(guān)于語句結(jié)構(gòu)的標(biāo)注信息;分析所述機(jī)器譯文的語句結(jié)構(gòu),分析所述源語言句的語句結(jié)構(gòu),分析所述參考譯文的語句結(jié)構(gòu);比較源語言句的語句結(jié)構(gòu)以及參考譯文的語句結(jié)構(gòu),計(jì)算參考譯文的語句結(jié)構(gòu)的轉(zhuǎn)換情況;比較源語言句的語句結(jié)構(gòu)以及機(jī)器譯文的語句結(jié)構(gòu),計(jì)算所述機(jī)器譯文的語句結(jié)構(gòu)的轉(zhuǎn)換情況,然后將所述參考譯文的語句結(jié)構(gòu)的轉(zhuǎn)換情況與所述機(jī)器譯文的語句結(jié)構(gòu)的轉(zhuǎn)換情況進(jìn)行比較,根據(jù)比較結(jié)果對(duì)機(jī)器譯文加以評(píng)價(jià)。
文檔編號(hào)G06F17/28GK101777044SQ201010103639
公開日2010年7月14日 申請(qǐng)日期2010年1月29日 優(yōu)先權(quán)日2010年1月29日
發(fā)明者丁澤亞, 張全, 繆建明, 袁毅, 韋向峰, 黃曾旸 申請(qǐng)人:中國科學(xué)院聲學(xué)研究所
網(wǎng)友詢問留言 已有0條留言
  • 還沒有人留言評(píng)論。精彩留言會(huì)獲得點(diǎn)贊!
1
国产精品久久久久久亚洲av鲁大| 国产成人freesex在线| 一进一出抽搐动态| 最近手机中文字幕大全| 男插女下体视频免费在线播放| av卡一久久| 亚州av有码| 亚洲美女搞黄在线观看| 亚洲精品456在线播放app| 久久精品久久久久久久性| 人妻系列 视频| 男女那种视频在线观看| 人人妻人人看人人澡| 天堂影院成人在线观看| av在线老鸭窝| 午夜久久久久精精品| 一级av片app| 国产v大片淫在线免费观看| 乱系列少妇在线播放| 日韩一区二区三区影片| 久久精品国产99精品国产亚洲性色| 人妻久久中文字幕网| 校园春色视频在线观看| 国产在线精品亚洲第一网站| 久久这里有精品视频免费| 内射极品少妇av片p| av在线蜜桃| av免费在线看不卡| 老司机影院成人| 国产 一区 欧美 日韩| 亚洲最大成人中文| 午夜a级毛片| 欧美zozozo另类| 亚洲精品456在线播放app| 麻豆成人av视频| 亚洲精品久久久久久婷婷小说 | 男女啪啪激烈高潮av片| 国产一区二区亚洲精品在线观看| 成人性生交大片免费视频hd| 国产精品人妻久久久久久| 成人毛片a级毛片在线播放| 国产高清视频在线观看网站| 久99久视频精品免费| 观看免费一级毛片| 色哟哟哟哟哟哟| 又粗又硬又长又爽又黄的视频 | 波野结衣二区三区在线| 国产精品国产三级国产av玫瑰| 国产精品久久视频播放| 成人美女网站在线观看视频| 国产乱人视频| 偷拍熟女少妇极品色| 99热6这里只有精品| 国产在线男女| 欧美+亚洲+日韩+国产| 国产一区二区在线av高清观看| 麻豆国产av国片精品| 午夜精品一区二区三区免费看| 国产午夜福利久久久久久| 91麻豆精品激情在线观看国产| 美女内射精品一级片tv| 亚洲国产精品久久男人天堂| 高清午夜精品一区二区三区 | 欧美变态另类bdsm刘玥| 欧美+亚洲+日韩+国产| or卡值多少钱| 欧美另类亚洲清纯唯美| 欧美区成人在线视频| 亚洲综合色惰| 免费观看的影片在线观看| 老女人水多毛片| 高清午夜精品一区二区三区 | 色5月婷婷丁香| 国产精品福利在线免费观看| av视频在线观看入口| 国产91av在线免费观看| 不卡一级毛片| 久久久精品欧美日韩精品| 人妻系列 视频| 成人永久免费在线观看视频| 国产一区二区在线观看日韩| 午夜免费激情av| 国产亚洲av片在线观看秒播厂 | 久久久精品大字幕| 亚洲第一区二区三区不卡| 精品午夜福利在线看| 老司机影院成人| 国产激情偷乱视频一区二区| 久久国产乱子免费精品| 国产精品久久久久久久电影| 身体一侧抽搐| 亚洲自拍偷在线| 国产精品三级大全| 男女视频在线观看网站免费| 国产在线精品亚洲第一网站| 日日啪夜夜撸| 欧美激情在线99| 欧美高清性xxxxhd video| 久久久久久久久久久免费av| 亚洲国产欧美在线一区| 少妇熟女欧美另类| 两性午夜刺激爽爽歪歪视频在线观看| 欧美bdsm另类| 精品一区二区三区视频在线| 在线播放无遮挡| 日韩欧美精品v在线| 69人妻影院| 国产精品久久电影中文字幕| 日韩欧美 国产精品| 亚洲精品粉嫩美女一区| 晚上一个人看的免费电影| 婷婷精品国产亚洲av| 日日撸夜夜添| 国产精品美女特级片免费视频播放器| 国产伦在线观看视频一区| 哪个播放器可以免费观看大片| 欧美激情在线99| 一本精品99久久精品77| 中文字幕av成人在线电影| 成年女人永久免费观看视频| 亚洲人成网站在线播| 夫妻性生交免费视频一级片| 久久久精品94久久精品| 中文字幕免费在线视频6| 大香蕉久久网| 国产男人的电影天堂91| 免费在线观看成人毛片| 婷婷精品国产亚洲av| 亚洲自偷自拍三级| 欧美丝袜亚洲另类| 老熟妇乱子伦视频在线观看| 日韩人妻高清精品专区| 极品教师在线视频| 中文在线观看免费www的网站| 国产精品电影一区二区三区| 三级男女做爰猛烈吃奶摸视频| 看非洲黑人一级黄片| 国产一区二区激情短视频| av视频在线观看入口| 国产亚洲av片在线观看秒播厂 | 亚洲精品乱码久久久v下载方式| 国产亚洲精品久久久久久毛片| 国产成人精品婷婷| 一本久久中文字幕| 精品久久久久久成人av| 欧美日本视频| 亚洲电影在线观看av| 久久亚洲精品不卡| 一个人免费在线观看电影| 亚洲七黄色美女视频| 成人无遮挡网站| 在线免费观看不下载黄p国产| 内地一区二区视频在线| 久久久久久久久中文| 精品人妻偷拍中文字幕| 天美传媒精品一区二区| 大又大粗又爽又黄少妇毛片口| 悠悠久久av| 久久婷婷人人爽人人干人人爱| 99在线人妻在线中文字幕| 色综合站精品国产| 最后的刺客免费高清国语| 极品教师在线视频| 免费一级毛片在线播放高清视频| 人人妻人人澡人人爽人人夜夜 | 偷拍熟女少妇极品色| 精品一区二区三区视频在线| 欧美另类亚洲清纯唯美| 久久精品国产亚洲av涩爱 | 久久韩国三级中文字幕| 久久人人爽人人片av| 久久精品国产鲁丝片午夜精品| 中国美白少妇内射xxxbb| 国语自产精品视频在线第100页| 99国产极品粉嫩在线观看| 波多野结衣高清作品| 国产黄片视频在线免费观看| 韩国av在线不卡| 大又大粗又爽又黄少妇毛片口| 在线观看66精品国产| 欧美日韩精品成人综合77777| 丰满乱子伦码专区| 男人的好看免费观看在线视频| 成年免费大片在线观看| 亚洲丝袜综合中文字幕| 午夜福利在线观看免费完整高清在 | 男的添女的下面高潮视频| 色吧在线观看| 中国美女看黄片| 国产精品永久免费网站| 免费无遮挡裸体视频| 五月玫瑰六月丁香| 欧美另类亚洲清纯唯美| av天堂在线播放| 成人无遮挡网站| 国产精品人妻久久久久久| 国产伦精品一区二区三区视频9| 麻豆成人午夜福利视频| 人妻制服诱惑在线中文字幕| 成年女人永久免费观看视频| 观看免费一级毛片| 久久精品夜夜夜夜夜久久蜜豆| 久久久色成人| av天堂中文字幕网| 久久综合国产亚洲精品| 免费一级毛片在线播放高清视频| 国产私拍福利视频在线观看| 女的被弄到高潮叫床怎么办| 欧美+亚洲+日韩+国产| 欧美成人a在线观看| 波多野结衣巨乳人妻| 亚洲欧洲国产日韩| 国产视频内射| 你懂的网址亚洲精品在线观看 | 麻豆av噜噜一区二区三区| 欧美日韩综合久久久久久| 国产成人91sexporn| 国产老妇伦熟女老妇高清| 欧美高清成人免费视频www| 蜜臀久久99精品久久宅男| 综合色丁香网| 校园春色视频在线观看| 小说图片视频综合网站| 深夜精品福利| 非洲黑人性xxxx精品又粗又长| 国产伦一二天堂av在线观看| 26uuu在线亚洲综合色| 能在线免费看毛片的网站| 亚洲欧美精品自产自拍| 成人午夜精彩视频在线观看| 欧美日韩综合久久久久久| 国产私拍福利视频在线观看| 性插视频无遮挡在线免费观看| 如何舔出高潮| 岛国毛片在线播放| 男女下面进入的视频免费午夜| 一夜夜www| 国产真实乱freesex| 99热这里只有是精品50| 久久精品91蜜桃| 国产男人的电影天堂91| av女优亚洲男人天堂| 赤兔流量卡办理| 1000部很黄的大片| 亚洲18禁久久av| 亚洲婷婷狠狠爱综合网| 久久久久久久久久久丰满| 免费无遮挡裸体视频| 亚洲一级一片aⅴ在线观看| 毛片女人毛片| 精品国内亚洲2022精品成人| 99国产极品粉嫩在线观看| 欧美日韩乱码在线| 国产精品久久电影中文字幕| 99视频精品全部免费 在线| 日韩制服骚丝袜av| 国模一区二区三区四区视频| av黄色大香蕉| 免费观看在线日韩| 黑人高潮一二区| 国产亚洲精品久久久com| 别揉我奶头 嗯啊视频| av福利片在线观看| 久久久成人免费电影| 一区二区三区免费毛片| 国产大屁股一区二区在线视频| 全区人妻精品视频| 丰满人妻一区二区三区视频av| 99久国产av精品国产电影| 中文字幕久久专区| 大型黄色视频在线免费观看| 成年女人永久免费观看视频| 色视频www国产| 国产毛片a区久久久久| 久久精品国产清高在天天线| 亚洲四区av| 成人午夜精彩视频在线观看| 亚洲精品色激情综合| 女人被狂操c到高潮| 国产精品1区2区在线观看.| 91麻豆精品激情在线观看国产| 午夜福利视频1000在线观看| 欧美潮喷喷水| 亚洲精品亚洲一区二区| 色播亚洲综合网| 日韩在线高清观看一区二区三区| 欧美一区二区国产精品久久精品| 美女被艹到高潮喷水动态| 久久久久久伊人网av| 女的被弄到高潮叫床怎么办| 久久国产乱子免费精品| 成人鲁丝片一二三区免费| 中文字幕av成人在线电影| 久久九九热精品免费| 国产精品1区2区在线观看.| 国产黄色小视频在线观看| 亚洲av中文字字幕乱码综合| 色哟哟·www| 国产 一区 欧美 日韩| 日韩精品有码人妻一区| 国产精品伦人一区二区| 国产三级在线视频| 桃色一区二区三区在线观看| 自拍偷自拍亚洲精品老妇| 亚洲国产色片| 免费观看在线日韩| 国产亚洲av嫩草精品影院| 成年版毛片免费区| 毛片一级片免费看久久久久| 岛国毛片在线播放| 欧美在线一区亚洲| 成年版毛片免费区| 国产成人a∨麻豆精品| 欧美激情国产日韩精品一区| 综合色丁香网| 不卡视频在线观看欧美| 一级二级三级毛片免费看| 亚洲人成网站在线观看播放| 国产一区二区亚洲精品在线观看| 免费一级毛片在线播放高清视频| 男女边吃奶边做爰视频| 精品久久久久久久人妻蜜臀av| 国产男人的电影天堂91| 国产探花在线观看一区二区| 99在线人妻在线中文字幕| 国产成人a区在线观看| 亚洲av.av天堂| 中文字幕免费在线视频6| 美女大奶头视频| 国产精品一二三区在线看| 精品人妻偷拍中文字幕| 51国产日韩欧美| 欧美一区二区精品小视频在线| 一本一本综合久久| 亚洲中文字幕一区二区三区有码在线看| 一个人观看的视频www高清免费观看| 国产成人freesex在线| 青青草视频在线视频观看| 少妇的逼水好多| 久久精品夜夜夜夜夜久久蜜豆| 晚上一个人看的免费电影| 国产午夜精品久久久久久一区二区三区| 一级黄片播放器| 国产三级中文精品| 亚洲成a人片在线一区二区| 中文字幕av成人在线电影| 亚洲国产精品成人久久小说 | 亚洲七黄色美女视频| av在线亚洲专区| 国产视频首页在线观看| 亚洲国产日韩欧美精品在线观看| 嫩草影院精品99| 久久久久久久久中文| 久久精品综合一区二区三区| 亚洲av中文字字幕乱码综合| 国产一区二区三区在线臀色熟女| 欧美日韩国产亚洲二区| 欧美一区二区亚洲| 亚洲在久久综合| 校园人妻丝袜中文字幕| 国产精品一区二区三区四区免费观看| 欧美成人a在线观看| h日本视频在线播放| 岛国在线免费视频观看| 婷婷亚洲欧美| 成人无遮挡网站| 精品不卡国产一区二区三区| 一本久久精品| 麻豆久久精品国产亚洲av| 久久午夜亚洲精品久久| 亚洲欧美精品自产自拍| 3wmmmm亚洲av在线观看| 如何舔出高潮| 国产伦精品一区二区三区视频9| 亚洲不卡免费看| 国产伦精品一区二区三区视频9| 国产久久久一区二区三区| 草草在线视频免费看| 99久久人妻综合| 婷婷六月久久综合丁香| 国产在视频线在精品| 99久久精品热视频| 国产又黄又爽又无遮挡在线| 国产高清视频在线观看网站| 成人午夜精彩视频在线观看| 一级二级三级毛片免费看| 麻豆成人av视频| 搡老妇女老女人老熟妇| 国产毛片a区久久久久| 免费搜索国产男女视频| 在线天堂最新版资源| 最近手机中文字幕大全| 91久久精品电影网| 青春草国产在线视频 | 国产美女午夜福利| 2021天堂中文幕一二区在线观| 欧美3d第一页| 少妇被粗大猛烈的视频| 亚洲图色成人| 美女黄网站色视频| av专区在线播放| 国产精品爽爽va在线观看网站| 日韩欧美在线乱码| 亚洲七黄色美女视频| 伦理电影大哥的女人| 男女视频在线观看网站免费| 亚洲电影在线观看av| 好男人在线观看高清免费视频| 一进一出抽搐gif免费好疼| 最近的中文字幕免费完整| 国产亚洲5aaaaa淫片| 亚洲精品456在线播放app| 最新中文字幕久久久久| 丝袜喷水一区| 日韩精品有码人妻一区| 日韩一区二区三区影片| 欧美日韩一区二区视频在线观看视频在线 | www.色视频.com| 最近最新中文字幕大全电影3| av又黄又爽大尺度在线免费看 | 欧美激情久久久久久爽电影| 欧美xxxx黑人xx丫x性爽| 免费观看在线日韩| 少妇人妻精品综合一区二区 | 麻豆成人午夜福利视频| 只有这里有精品99| 成熟少妇高潮喷水视频| 亚洲一级一片aⅴ在线观看| 大又大粗又爽又黄少妇毛片口| 久久久精品94久久精品| 日本熟妇午夜| 久久午夜福利片| 欧美日韩一区二区视频在线观看视频在线 | 免费观看精品视频网站| 听说在线观看完整版免费高清| 免费看光身美女| 18禁在线无遮挡免费观看视频| 欧美三级亚洲精品| 99热6这里只有精品| 美女大奶头视频| 色尼玛亚洲综合影院| 五月玫瑰六月丁香| 欧美日本视频| 亚洲五月天丁香| 亚洲一区二区三区色噜噜| 美女 人体艺术 gogo| 国产亚洲5aaaaa淫片| 成熟少妇高潮喷水视频| 亚州av有码| 少妇的逼水好多| 69人妻影院| 欧美区成人在线视频| 在线免费十八禁| 国产三级在线视频| 亚洲第一电影网av| 99在线人妻在线中文字幕| 中文资源天堂在线| 26uuu在线亚洲综合色| 内地一区二区视频在线| 国产成人精品婷婷| 欧美人与善性xxx| 精品久久久久久久末码| 久久久久久九九精品二区国产| 国产日本99.免费观看| 少妇丰满av| 99热这里只有是精品50| 中国国产av一级| 成年版毛片免费区| 99在线视频只有这里精品首页| 99国产极品粉嫩在线观看| 一卡2卡三卡四卡精品乱码亚洲| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 高清日韩中文字幕在线| 久久这里有精品视频免费| 一个人免费在线观看电影| 欧美日韩综合久久久久久| 午夜爱爱视频在线播放| 精品久久久久久久久亚洲| 老女人水多毛片| a级毛片免费高清观看在线播放| 人妻制服诱惑在线中文字幕| 99久国产av精品国产电影| 国产精品综合久久久久久久免费| 性欧美人与动物交配| 99久久精品热视频| 成人午夜精彩视频在线观看| 狠狠狠狠99中文字幕| 亚洲国产高清在线一区二区三| 国产中年淑女户外野战色| 午夜a级毛片| 中文字幕久久专区| 亚洲av第一区精品v没综合| 中文亚洲av片在线观看爽| 午夜激情福利司机影院| 午夜a级毛片| 青春草视频在线免费观看| 少妇裸体淫交视频免费看高清| 在线观看免费视频日本深夜| 精品无人区乱码1区二区| 亚洲欧洲国产日韩| a级一级毛片免费在线观看| 久久6这里有精品| 免费观看在线日韩| 干丝袜人妻中文字幕| 国产精品久久久久久精品电影| 成人午夜精彩视频在线观看| 免费搜索国产男女视频| 国产精品综合久久久久久久免费| 午夜福利成人在线免费观看| 亚洲国产欧美在线一区| 亚洲无线观看免费| 能在线免费看毛片的网站| 此物有八面人人有两片| 免费黄网站久久成人精品| 国产成人福利小说| 久久久欧美国产精品| 六月丁香七月| 此物有八面人人有两片| 高清在线视频一区二区三区 | 精华霜和精华液先用哪个| 欧美丝袜亚洲另类| 欧美+亚洲+日韩+国产| 国产麻豆成人av免费视频| 日韩av不卡免费在线播放| 国产精品久久久久久精品电影小说 | 能在线免费观看的黄片| 在线观看av片永久免费下载| 韩国av在线不卡| 最好的美女福利视频网| 女人被狂操c到高潮| www日本黄色视频网| 国产精品蜜桃在线观看 | 在线观看美女被高潮喷水网站| 国产探花极品一区二区| 舔av片在线| 免费av观看视频| 国产精品精品国产色婷婷| 91狼人影院| 少妇裸体淫交视频免费看高清| 麻豆成人av视频| 久久6这里有精品| 欧美最新免费一区二区三区| 97热精品久久久久久| 欧美日韩一区二区视频在线观看视频在线 | 成人三级黄色视频| 亚洲欧美精品综合久久99| 精华霜和精华液先用哪个| 久久精品国产亚洲av天美| 国产精品一及| 黄色欧美视频在线观看| 国产一区二区亚洲精品在线观看| 亚洲成av人片在线播放无| 一个人免费在线观看电影| 成年版毛片免费区| 插阴视频在线观看视频| 亚洲成人久久性| 久久人人爽人人片av| 美女大奶头视频| 亚洲国产精品国产精品| 中国国产av一级| 精品熟女少妇av免费看| 特大巨黑吊av在线直播| 97在线视频观看| 日本成人三级电影网站| 人妻系列 视频| 亚洲av免费在线观看| 熟妇人妻久久中文字幕3abv| 久久午夜亚洲精品久久| 男女下面进入的视频免费午夜| 国产在线男女| 插阴视频在线观看视频| 91av网一区二区| 日韩一区二区视频免费看| 一个人观看的视频www高清免费观看| 又粗又爽又猛毛片免费看| 乱码一卡2卡4卡精品| 校园人妻丝袜中文字幕| ponron亚洲| 又爽又黄a免费视频| 少妇裸体淫交视频免费看高清| 亚洲成人久久性| 国产精品永久免费网站| 大型黄色视频在线免费观看| 天堂影院成人在线观看| 一夜夜www| 中文字幕av成人在线电影| 日韩欧美国产在线观看| 一夜夜www| 日韩一本色道免费dvd| 国产又黄又爽又无遮挡在线| а√天堂www在线а√下载| 国产精品综合久久久久久久免费| 高清在线视频一区二区三区 | 久久精品国产清高在天天线| 亚洲精品国产成人久久av| 免费av观看视频| 91久久精品国产一区二区成人| 九九在线视频观看精品| 国产片特级美女逼逼视频| 国产午夜精品久久久久久一区二区三区| 日本在线视频免费播放| 亚洲av成人av| 亚洲在久久综合| 好男人视频免费观看在线| 1000部很黄的大片| 国产日本99.免费观看| 国产高清激情床上av| 国产日韩欧美在线精品| 成年女人永久免费观看视频| 日本熟妇午夜| 国产亚洲av嫩草精品影院| 久久精品人妻少妇| 欧美色欧美亚洲另类二区| 精品久久久久久久久亚洲| 乱码一卡2卡4卡精品|