Abstrakt: Cˇ lánek popisuje prototyp japonsko-cˇeského strojového prˇekladacˇe založeného na hloubkovém veˇtném rozboru. Tento typ strojového prˇekladu není v soucˇasné dobeˇ ve srovnání s jinými metodami tolik rozšírˇen, veˇrˇíme však, že neˇkteré jeho aspekty jsou schopny prˇispeˇt k celkoveˇ lepší kvaliteˇ výstupu. Nutnou soucˇástí našeho úkolu je i získání a zpracování potrˇebných paralelních dat. Jelikož japonsko-cˇeská paralelní data nejsou prakticky v˚ubec dostupná, snažili jsme se vyzkoušet r˚uzné postupy, které by nám pomohly tento nedostatek nahradit. Náš systém je založen na stejném principu jako anglicko-cˇeský prˇekladacˇ TectoMT. V naší práci jsme se snažili zachytit alesponˇ základní jazykové jevy charakteristické pro japonštinu. Náš hloubkový systém též porovnáváme se zavedeným frázovým modelem prˇekladu. Navzdory pocˇátecˇním ocˇekáváním pracuje frázový prˇeklad lépe i prˇi relativním nedostatku paralelních dat. Tato práce se zabývá strojovým prˇekladem (machine translation, MT) z japonštiny do cˇeštiny. Hlavním zameˇˇrením je prˇitom prˇeklad s využitím hloubkového veˇtného rozboru a jeho porovnání s frázovým prˇekladem. Cílem práce je jednak pro danou dvojici jazyk˚u vytvorˇit základní prˇekladový systém, který by bylo možno v budoucnu dále rozvíjet, a jednak shromáždit dostatecˇné množství paralelních dat, která budou sloužit k jeho natrénování.
1.1
Strojový prˇeklad do cˇeštiny a dalších morfologicky
podobneˇ bohatých jazyk˚u je obecneˇ obtížný úkol. V
prˇípadeˇ anglicko-cˇeského prˇekladu bylo dosaženo dobrých
výsledk˚u za pomoci systému, který využívá reprezentace
veˇt na tzv. tektogramatické rovineˇ, tj. hloubkového
veˇtného rozboru [8]. V soucˇasné dobeˇ sice tento systém, je-li
použit samostatneˇ, nedosahuje tak dobrých výsledk˚u jako
systémy využívající n-gramové prˇekladové modely, je zde
ale stále mnoho prostoru pro zlepšení. V kombinaci s
ngramovým (frázovým) systémem je navíc jeho prˇíspeˇvek
velmi hodnotný [
S rozvojem této metody prˇekladu souvisí i snaha vyzkoušet ji i na dalších jazykových párech, proto jsme se ji rozhodli aplikovat pro dvojici japonština-cˇeština. Ta sice nepatrˇí k nejvýznamneˇjším z hlediska praktického využití, vezmeme-li ale v potaz dostupnost teorie, dat a nástroj˚u pro zpracování cˇeštiny, a pak hlavneˇ kontrast s jazykovými rysy japonštiny, m˚uže být pro výzkum strojového prˇekladu japonsko-cˇeský pár prˇínosný.
Tento jazykový pár je zajímavý i z pohledu shromažd’ování vhodných paralelních dat, nebot’ v soucˇasné dobeˇ neexistují témeˇrˇ žádné dostatecˇneˇ velké japonsko-cˇeské korpusy ani žádné strojoveˇ cˇitelné slovníky.
Náš systém využívá beˇhem prˇekladu stejných princip˚u
jako transfer-based systém TectoMT, který pracuje ve
trˇech krocích: nejprve provede analýzu vstupního textu
na požadovanou úrovenˇ abstrakce, poté je analyzovaný
text prˇeveden na analogickou reprezentaci v cílovém
jazyce a nakonec jsou na cílové straneˇ sestaveny prˇeložené
veˇty. Jako vhodnou úrovenˇ abstrakce jsme prˇitom po vzoru
TectoMT zvolili tektogramatickou rovinu, známou naprˇ.
z Pražského závislostního korpusu 2.0 [
Pro naše experimenty používáme systém pro zpracování prˇirozených jazyk˚u Treex [8]1, drˇíve známý pod názvem TectoMT [12]. Jeho modularita nám umožnˇuje nejen integrovat r˚uznorodé externí nástroje pro zpracování prˇirozených jazyk˚u, ale i kombinovat statistické a pravidlové metody. Scénárˇ našeho japonsko-cˇeského prˇekladu vychází ze vzoru anglicko-cˇeského prˇekladového scénárˇe používaného v TectoMT a jak již bylo rˇecˇeno, syntéza cˇeštiny je identická.
Tokenizaci a znacˇkování slovními druhy (POS tagging) japonských veˇt provádíme pomocí morfologického analyzéru a taggeru MeCab [7]. MeCab využívá sadu tag˚u IPADIC, obsahující témeˇrˇ 70 morfosyntaktických kategorií v hierarchické strukturˇe (až cˇtyrˇi úrovneˇ, jedna hlavní a trˇi podkategorie). Pro rˇešení této úlohy v soucˇasné dobeˇ samozrˇejmeˇ existují i jiné nástroje (naprˇ. Chasen2), MeCab jsme zvolili díky jeho obecné populariteˇ, snadné dostupnosti a prˇedevším kompatibiliteˇ s navazujícím parserem.
Vstup MeCab Bunsetsu Význam 彼
は 彼は on 彼は本を読まない人だ 本 を 読ま ない 本を 読まない kniha necˇíst 人
だ 人だ cˇloveˇk Obrázek 1: Prˇíklad tokenizace veˇty „On je cˇloveˇk, který necˇte knihy“ MeCabem a tokenizace na bunsetsu pro JDEPP.
Závislostní parsing provádí JDEPP [14],3 jehož prˇesnost (accuracy) zaveˇšování jednotlivých uzl ˚u dosahuje zhruba 92 %. Nejmenšími jednotkami, se kterými JDEPP pracuje, nejsou tokeny jako je tomu v prˇípadeˇ tokenizace MeCabem, ale tzv. bunsetsu.4 Samotný parser nám tedy vygeneruje pouze hrubý závislostní strom a závislosti token ˚u uvnitrˇ jednotlivých bunsetsu dotvárˇíme až v následujících blocích Treexu. Prˇíklad tokenizace na bunsetsu a tokenizace MeCabem je zobrazen na obrázku 1. 3
Prˇi tektogramatickém prˇekladu dochází k prˇevodu vybraných atribut ˚u mezi uzly zdrojového a cílového tektogramatického stromu (t-stromu), konkrétneˇ tektogramatických lemmat neboli t-lemmat a formém ˚u, viz sekci 5 níže. Volbu vhodných proteˇjšk ˚u t-lemmat a formém ˚u v cílovém jazyce zajišt’ují pravdeˇpodobnostní unigramové prˇekladové modely. K jejich tréninku používáme japonskocˇeské slovníky obsahující frekvenci výskytu jednotlivých dvojic unigram ˚u t-lemmat a formém ˚u. Tato sekce popisuje extrakci teˇchto slovník ˚u z dostupných paralelních dat.
V soucˇasné dobeˇ jako zdrojová data používáme paralelní korpusy s veˇtným zarovnáním, viz tabulka 1. Japonsko-anglická data jsou zpracována nezávisle na anglicko-cˇeských datech. V obou prˇípadech je provádeˇna hloubková analýza vstupních veˇt. U anglicko-cˇeských dat byl tento krok proveden již ve zdrojovém korpusu CzEng a my jen prˇebíráme hotové anotace. Postup analýzy na trovinu je pro jednotlivé jazyky popsán v následující podsekci. 3.1
Analýza anglických a cˇeských veˇt byla proveda kaskádou
nástroj ˚u Treex, stejnou jako používá i prˇekladacˇ TectoMT.
Tagging anglických veˇt provedl tagger Morcˇe [13], u
cˇeských veˇt byl pro tyto úcˇely použit tagger Featurama,5.
Povrchový parsing pak v obou prˇípadech zajistil MST
parser [9]. Zbylé kroky zahrnovaly konstrukci t-roviny v
závislosti na povrchovém parsingu a konstrukci t-lemmat,
3http://www.tkl.iis.u-tokyo.ac.jp/~ynaga/jdepp/
4Problém japonské tokenizace je pomeˇrneˇ složitý a stejneˇ jako
naprˇíklad v prˇípadeˇ cˇínštiny do jisté míry nejednoznacˇný, což vysveˇtluje
mimo jiné i existenci více odlišných tagset˚u [
5http://sourceforge.net/projects/featurama/ Zdroj Kyoto’s Wiki articles6 Tanaka Corpus7 Reuters Corpora8 CzEng 1.09
Pocˇet veˇt
Pocˇet token˚u japonština anglicˇtina 11,0M 9,9M 1,7M 1,1M 1,9M 1,3M cˇeština anglicˇtina 206,4M 232,7M Tabulka 1: Prˇehled použitých dat. Pocˇty token ˚u byly spocˇteny na námi tokenizovaných veˇtách. která byla pozdeˇji použita prˇi slovním zarovnání a samotné stavbeˇ slovníku.
Zpracování japonských veˇt jsme také provádeˇli v rámci platformy Treex, stejným zp ˚usobem jako v prˇípadeˇ analýzy prˇi samotném japonsko-cˇeském prˇekladu. Kroky jsou blíže popsány v sekci 4.1. 3.2
Pro získání slovního zarovnání jsme použili program GIZA++ [10].10 Spustili jsme jej na linearizované tstromy, ve kterých každý uzel odpovídá jednomu plnovýznamovému slovu. Tím jsme se snažili vyhnout možnému problému rˇídkosti dat, který bývá cˇasto zp ˚usoben bohatou morfologií cˇeského jazyka. Prˇíklad slovního zarovnání je uveden na obrázku 2. 3.3
Pro konstrukci slovníku jsme vyzkoušeli dva r ˚uzné
postupy. V prvním prˇípadeˇ jsme vytvorˇili dílcˇí slovníky
(japonsko-anglický a anglicko-cˇeský) z prˇíslušných
paralelních dat a ty jsme pak spojili skrze shodující se anglická
hesla. Ve druhém prˇípadeˇ jsme strojoveˇ prˇeložili anglické
veˇty z japonsko-anglických dat, cˇímž jsme získali umeˇlá
japonsko-cˇeská data. Z teˇch bylo možné japonsko-cˇeský
slovník extrahovat prˇímo. Pro strojový prˇeklad z anglicˇtiny
posloužila frázová komponenta souteˇžního systému [
V obou prˇípadech jsme po získání slovního zarovnání provedli extrakci unigramových pár ˚u z linearizovaných t-strom ˚u. Takto vzniklé slovníky obsahovaly i pocˇty výskyt ˚u jednotlivých prˇekladových dvojic.
Spojení dílcˇích slovník ˚u bylo provádeˇno na základeˇ shodných anglických hesel (viz obrázek 3). Poté byly podle vzorce 1 prˇepocˇítány „po cˇty výskyt ˚u“ noveˇ vzniklých slovních pár ˚u.
7http://www.edrdg.org/wiki/index.php/Tanaka_Corpus 8http://www2.nict.go.jp/univ-com/multi_trans/ member/mutiyama/jea/reuters/index.html 9http://ufal.mff.cuni.cz/czeng/ 10http://code.google.com/p/giza-pp/ ja 水 外国 外国 着る 着る 通信 通信
en water abroad foreigner dress wear communication agency pocˇet „po cˇet“ 363,713 Obrázek 3: Prˇíklad japonsko-anglického (tabulka vlevo) a anglicko-cˇeského (uprostrˇed) dílcˇího slovníku. Tucˇneˇ jsou vyznacˇeny dvojice, které budou prˇes spolecˇné anglické heslo spojeny a umísteˇny do konecˇného japonsko-cˇeského slovníku (vpravo). Spodní cˇást tabulky znázornˇuje vznik špatného prˇekladového páru. Nesprávný prˇeklad „agentura“ získal kv˚uli vysoké frekvenci výskytu v en-cs datech vyšší skóre než správný prˇeklad „komunikace“.
彼 本 読む 人 です #PersPron být lov k ne íst
knihy Obrázek 2: Prˇíklad slovního zarovnání t-lemmat veˇty „On je cˇloveˇk, který necˇte knihy“.
c(cs| ja) = ∑(c(en| ja) + w ∗ c(cs|en)) en c(cs| ja) P(cs| ja) = c( ja) (1) (2) w udává váhu pocˇtu výskyt˚u dvojic v anglicko-cˇeských datech. Její hodnotu jsme volili dle vlastního odhadu.
Vzhledem k tomu, že hodnota c(cs| ja) je vždy nezáporná, m˚užeme pak pravdeˇpodobnost prˇekladu japonských unigram˚u pocˇítat klasicky podle vzorce 2.11
Jednou z nevýhod takto vzniklých slovník˚u je malé pokrytí víceslovných výraz˚u. Jak totiž bylo zmíneˇno výše, provádeˇna je pouze extrakce t-lemmat zarovnaných 1:1.
V neˇkterých prˇípadech našteˇstí t-lemmata zachycují alesponˇ nejcˇasteˇji se vyskytující složeniny. V prˇípadeˇ cˇeštiny se jedná zejména o zvratné zájmeno “ se”, které je nutnou soucˇástí neˇkterých sloves (“ smát_se”), u angli cˇtiny je pro zmeˇnu provádeˇna analýza frázových sloves (naprˇ. “ take_off ”, “ settle_down”). Slova spojená podtržítkem jsou také reprezentována pouze jedním tokenem.
V prˇípadeˇ japonštiny jsou víceslovné výrazy témeˇrˇ bez výjimky ignorovány. 3.4
At’ už jde o prˇímou extrakci, nebo spojování dílcˇích slovník˚u, v obou prˇípadech dochází kv˚uli prosrˇtednímu jazyku ke vzniku dodatecˇných chyb.
Vážným problémem prˇi konstrukci je skutecˇnost, že anglicˇtina obsahuje mnoho slov majících vícero význam˚u 11Ve skutecˇnosti je potrˇeba hodnotu c(cs| ja) ješteˇ normalizovat, aby byl soucˇet P(cs| ja) prˇes všechna cˇeská hesla roven jedné. (stejný problém by ale prˇinášel jakýkoli prostrˇední jazyk). Velmi cˇasto se jedná naprˇíklad o slovesa, která tvorˇí základ frázových sloves (“ go” →“ go_on”).
Tato mnohoznacˇnost zp˚usobuje, že se ve výsledném japonsko-cˇeském slovníku objevují nekorektní páry, které ovšem díky cˇastému souvýskytu v japonsko-anglických cˇi anglicko-cˇeských datech obdržely velký výsledný pocˇet výskyt˚u a jsou tedy prˇi prˇekladu preferovány. Problém jsme cˇástecˇneˇ omezili prˇideˇlením menší váhy frekvencˇní tabulce anglicko-cˇeského slovníku.
Problému by se také dalo vyhnout naprˇíklad prˇidáním jednoho cˇi více prˇíznak˚u k anglickým hesl˚um v obou dílcˇích slovnících. Prvotní vhodní kandidáti pro tuto roli jsou bezesporu znacˇky slovních druh˚u. Za zvážení by stálo i použití vhodných nástroj˚u pro zjednoznacˇneˇní významu (Word-Sense Disambiguation, WSD), kterými by se také daly potrˇebné prˇíznaky v prostrˇedním jazyce získat.
Dalším problémem je ztráta prˇeklad˚u neˇkterých japonských hesel. V japonsko-anglických datech se naprˇíklad mohou vyskytovat prˇeklady pouze pomocí takových anglických hesel, která se v našich anglicko-cˇeských datech v˚ubec nevyskytují. V teˇchto prˇípadech se potom ve výsledném japonsko-cˇeském slovníku daná japonská hesla neobjeví. Tento problém nastává prˇedevším u japonských místních jmen a u méneˇ používaných japonských slov.
Prˇi prˇímé extrakci se mnohoznacˇnost anglicˇtiny projevovala o neˇco méneˇ. Bylo to pravdeˇpodobneˇ díky tomu, že prˇi frázovém prˇekladu anglických veˇt byl brán v potaz alesponˇ lokální kontext jednotlivých slov. Prˇeklad místních jmen se tentokrát ve výsledném slovníku objevil, ale ne vždy byl správný. Výsledný slovník byl celkoveˇ podstatneˇ menší, nebot’ obsahoval méneˇ špatných slovních pár˚u. 4
V následujících odstavcích jsou popsány kroky aplikované v jednotlivých fázích prˇekladu. Podrobneˇji je rozebrána fáze analýzy a transferu, nebot’ bloky používané v teˇchto cˇástech jsme noveˇ implementovali do rozhraní Treex. Pro úplnost jsou ovšem strucˇneˇ popsány i kroky syntézy, které jsou stejné jako v anglicko-cˇeském prˇekladu. 4.1
Každá vstupní veˇta je nejprve rozdeˇlena na tokeny, a poté je provedeno znacˇkování slovních druh ˚u. Beˇhem taggingu je provedena i lematizace jednotlivých token ˚u. K lematizaci dochází pouze u ohebných slovních druh ˚u, zejména u sloves.12
Následneˇ je postaven závislostní strom (a-strom). Vzhledem k tomu, že použitý parser pracuje pouze s bunsetsu, jsou zbylé závislosti mezi tokeny dotvorˇeny následujícím zp ˚usobem: na „hlavu“ bunsetsu jsou zaveˇšeny všechny zbývající tokeny v daném bunsetsu. Za „hlavu“ bunsetsu v tomto prˇípadeˇ považujeme plnovýznamové slovo v bunsetsu, které je témeˇrˇ vždy prvním tokenem zleva (v lineární reprezentaci veˇty). Další úpravy topologie takto vzniklého stromu jsou podle potrˇeby provedeny v následujících blocích. Na konci tohoto kroku je provedena romanizace použitých tag ˚u1.3
Podle podobných zvyklostí a-roviny pro cˇeštinu a anglicˇtinu je upravena topologie a-stromu. Vycházíme prˇitom též z konvencí korpusu Verbmobil použitých pro japonský jazyk [5]. Dále jsou nastaveny analytické funkce neˇkterých uzl ˚u, nyní pouze za úcˇelem správného prˇevodu na tektogramatickou rovinu. I prˇesto, že analytické funkce nemají na samotný prˇeklad velký vliv, bylo by vhodné pro úplnost provádeˇt jejich nastavení pro všechny druhy uzl ˚u.
Prˇed samotnou konstrukcí t-stromu jsou oznacˇeny uzly pomocných slov, zkráceneˇ pomocné uzly. Jedná se o všechny tokeny, které nereprezentují plnovýznamová slova, tedy cˇástice (vyjma prˇíslovecˇných a koordinacˇních cˇástic) a „koncovky“ sloves (ty jsou také reprezentovány jako samostatné tokeny a oznacˇeny jako pomocná slovesa).
Po teˇchto úpravách je postaven tektogramatický strom (t-strom). Jeho uzly tvorˇí pouze plnovýznamová slova. Jak je zvykem, ponecháváme u t-uzl ˚u reference na všechny a-uzly, které daný t-uzel reprezentuje, vztah mezi povrchovou a hloubkovou realizací je tedy možné i dodatecˇneˇ studovat. Hrany t-stromu jsou odvozeny z hran a-stromu spojujících tyto shluky uzl ˚u. V prˇípadeˇ anglicˇtiny nebo cˇeštiny jsou navíc v neˇkterých prˇípadech upravována t-lemmata, aby lépe zachycovala naprˇíklad frázová slovesa (naprˇ. anglické „take_off“). Tento krok ale v p rˇípadeˇ japonštiny považujeme v tuto chvíli za zbytecˇný. Prˇíklad reprezentace veˇty na a- a t- rovineˇ lze videˇt na obrázku 4.
Prˇed samotnou fází transferu jsou ješteˇ všem uzl ˚um t-stromu vyplneˇny formémy a cˇástecˇneˇ gramatémy. Funkce a podoba formém ˚u je popsána v sekci 5. U gramatém ˚u zatím vyplnˇ ujeme pouze negaci, ostatní kategorie by ovšem 12Je to zp˚usobeno námi zvolenou tokenizací. Kdybychom naprˇíklad použili tokenizaci, kde cˇástice nejsou samostatnými tokeny, daly by se za ohebné slovní druhy považovat naprˇíklad i podstatná jména (jejich morfologie by byla dána práveˇ cˇásticemi). Podle tagsetu IPADIC jsou cˇástice brány jako samostatné tokeny, které se, dle našeho názoru, svojí funkcí více blíží cˇeským prˇedložkám cˇi spojkám.
13Romanizace je provádeˇna za úcˇelem snadneˇjší práce s tagy v dalších krocích, v budoucnu by ale bylo vhodné zvážit místo romanizace použití vlastních POS znacˇek. v rámci dalšího vývoje bylo také dobré vyplnˇ ovat. 4.2
Hlavní úlohou transferové cˇásti prˇekladu je tvorba t-stromu cílového jazyka na základeˇ jeho proteˇjšku v jazyce zdrojovém. Topologie zdrojového stromu je zkopírována a následneˇ jsou v cílovém t-stromu vybrány vhodné prˇeklady japonských t-lemmat a formém ˚u.
Výbeˇr je provádeˇn ve dvou krocích: Nejprve je u každého uzlu vyplneˇn seznam n nejlepších kandidát ˚u pro prˇeklad. To je provedeno na základeˇ našich statistických prˇekladových model ˚u. V následujícím kroku jsou pak za pomoci HMTM (Hidden Markov Tree Model, [16]) porovnávány jednotlivé kombinace t-lemmat a formém ˚u. U každého uzlu jsou pak vybrány prˇeklady, které byly nejlepší v rámci celé veˇty (v kombinaci s prˇeklady ostatních uzl ˚u).
V soucˇasné verzi transfer provádíme pouze za pomoci výše zmíneˇných krok ˚u, ovšem v budoucnu m ˚užeme pocˇítat s prˇidáním neˇkolika pravidlových blok ˚u ošerˇtujících výjimky cˇi speciální prˇípady. Na mysli máme zejména prˇeklad japonských spon (naprˇ. です) na cˇeské „být“ (nyní jsou prˇekládány skrze prˇekladový model). Kromeˇ úpravy t-lemmat m ˚užeme uvažovat i modifikaci topologie cílového t-stromu, nebot’ v neˇkterých prˇípadech nejsou stromy zdrojového a cílového jazyka zcela izomorfní. V našem prˇípadeˇ by se mohlo jednat zejména o generování uzl ˚u, které ve zdrojové veˇteˇ nejsou vyjádrˇeny (vyplývají z kontextu). Je ale možné, že tyto úpravy bude potrˇeba provádeˇt už beˇhem analýzy. 4.3
V záveˇru celého prˇekladu je vygenerována cˇeská veˇta na
základeˇ cˇeského t-stromu. Je vytvorˇen a-strom a následneˇ
je vyplneˇna povrchová morfologie (rod, cˇíslo, pád, atd.)
s pomocí vyplneˇných formém ˚u a gramatém ˚u. Dále jsou
vytvorˇeny a-uzly odpovídající pomocným sloves ˚um,
spojkám, prˇedložkám atd. Kromeˇ jiného dochází k vytvorˇení
výsledných tvar ˚u slov za pomoci generátoru slovních tvar ˚u
[
Po vzoru TectoMT používá náš systém formémy. Formémy popisují morfosyntaktické vlastnosti slov, tj. nesou naprˇ. informaci o tom, v jakém pádeˇ bylo dané podstatné jméno vyjádrˇeno. Tektogramatická rovina sama o sobeˇ zámeˇrneˇ od teˇchto vlastností abstrahuje (a je tak vhodná naprˇ. pro generování veˇtných parafrází), pro veˇrný prˇeklad je však vhodné p ˚uvodní formu výrazu ve vstupní veˇteˇ zohlednit. Na cˇeské straneˇ používáme zavedenou sadu formém ˚u [17], japonské formémy v pracovní verzi navrhujeme sami. Protože v soucˇasné dobeˇ japonské formémy používáme pouze beˇhem analýzy a prˇekladu, nebyl kladen Doshi_Jiritsu_*_* .
AuxK
Kigo_Kuten_*_* ます
Joshi_RentaiKa_*_* Joshi_Kakujoshi_Ippan_* Jodoshi_*_*_* 木の葉
色 Meishi_Ippan_*_* Meishi_Ippan_*_* 木の葉
色 木の葉 の 色 が Obrázek 4: Ukázka reprezentace japonské veˇty na a-rovineˇ a t-rovineˇ. Uzly oznacˇené tagem Joshi, Jodoshi a Kigo jsou jakožto pomocné uzly prˇed vytvorˇením t-stromu oznacˇeny k „skrytí“ a na t-rovin eˇ nejsou reprezentovány. velký d˚uraz na zachování vlastností, které by pomohly prˇi syntéze japonských veˇt.
Prˇirˇazování hodnot japonských formém˚u je v podstateˇ urcˇeno POS tagy prˇíslušných plnovýznamových slov a hodnotami k nim náležících pomocných a-uzl˚u. Zp˚usob prˇideˇlování prˇitom m˚užeme rozdeˇlit na dveˇ skupiny podle toho, zdali se jedná o podstatná jména (名詞 - Meishi) a nominální adjektiva (tzv. な-adjektiva, neboli 形容動詞 - Keiyo¯do¯shi), nebo o slovesa (動詞 - Do¯shi) a slovesná adjektiva (tzv. い-adjektiva, neboli 形容詞 - Keiyo¯shi).
V tuto chvíli nerozlišujeme podstatná jména od nominálních adjektiv, pro naše potrˇeby obojí klasifikujeme jako sémantická substantiva. Hodnota formém˚u podstatných jmen je urcˇena cˇásticemi, které k daným t-uzl˚um náleží. V prˇípadeˇ, že k t-uzlu náleží více cˇástic, jsou uvedeny hodnoty všech. S nominálními adjektivy nakládáme jako s neshodnými prˇívlastky, hodnota jejich formém˚u je n:attr. Podstatná jména a nominální adjektiva mohou být samozrˇejmeˇ i soucˇástí sponových sloves, v takovém prˇípadeˇ nám ale napomáhá fakt, že sponové slovo です je na t-rovineˇ také reprezentováno. Díky tomu m˚užeme funkci predikátu nechat sponeˇ, která je pro úcˇely prˇideˇlování formém˚u považována za sloveso, a jmenné cˇásti prˇirˇadíme formém normálním zp˚usobem.
V prˇípadeˇ sloves a い-adjektiv prˇirˇazujeme hodnoty formém˚u jiným zp˚usobem. Jelikož se jedná o slovní druhy s vlastním sklonˇováním, dochází ke zmeˇneˇ tvaru korˇenového slova (v prˇípadeˇ pravidelných sloves pouze ke zmeˇneˇ poslední slabiky) a prˇidání vhodného suffixu. Jako hodnotu formému tedy bereme podrˇeteˇzec, ve kterém se slovní forma liší od svého lemmatu. Stacˇilo by sice znacˇit pouze hodnotu poslední slabiky, chceme ale rovneˇž pokrýt nepravidelná slovesa くる – „kuru“ (jít, prˇicházet) a する – „suru“ (deˇlat),14 kde v neˇkterých prˇípadech dochází
14Tato slovesa mají v japonštineˇ mnoho dalších význam˚u v závislosti na slovech, která se k nim váží (naprˇ. 勉強する – „studovat“ , 心配す る – „znepokojovat_se)“ . k zmeˇneˇ celého tvaru slovesa.
Slovesná adjektiva jsou v této skupineˇ zahrnuta proto, že mají stejneˇ jako slovesa vlastní sklonˇování. To sice není tak bohaté jako v prˇípadeˇ sloves, ale pro úcˇely prˇirˇazování formém˚u s nimi m˚užeme nakládat podobným zp˚usobem.
Formémy prˇirˇazujeme i prˇíslovcím a prˇíslovecˇným cˇásticím, jež z hlediska sémantických slovních druh˚u nerozlišujeme.
V tabulce 2 je uveden fragment extrahovaného slovníku formém˚u. Jde videˇt, že prˇeklad formém˚u podstatných jmen a adjektiv alesponˇ v neˇkterých prˇípadech probíhá podle našich prˇedstav (viz cˇeské ekvivalenty formém˚u pro podmeˇt a prˇedmeˇt, kde podle ocˇekávání jako první možnost vychází n:1, tj. podstatné jméno v nominativu, resp. n:4, tj. akuzativu), v prˇípadeˇ sloves jsou výsledky výrazneˇ horší. 6
V této sekci empiricky vyhodnocujeme kvalitu výstupu našeho prˇekladového systému. Nejprve popíšeme sadu testovacích veˇt, jež jsme beˇhem našeho meˇrˇení použili, a zp˚usob, jakým byla zkonstruována. Dále prˇedstavíme základní frázový systém, který jsme použili pro srovnání s naším prˇekladacˇem. Následují výsledky našich meˇrˇení a jejich interpretace v záveˇrecˇné diskusi.
Pro úcˇely meˇrˇení kvality prˇekladu jsme náhodneˇ vybrali 1000 dvojic veˇt, které se neprˇekrývaly s našimi trénovacími daty, z našich japonsko-anglických paralelních dat, prˇesneˇji z korpus˚u Tanaka a Reuters. Anglické veˇty jsme strojoveˇ prˇeložili do cˇeštiny (stejným zp˚usobem jako prˇi tvorbeˇ japonsko-cˇeských paralelních dat) a výsledek jsme posléze ješteˇ rucˇneˇ opravili. Jednalo se zejména o opravu gramatických chyb, které prˇi prˇekladu vznikly, pouze
Fja adj: adj. - základní hodnota
n:は subst. - téma nebo podmeˇt
n:を subst. - prˇedmeˇt v:り+なさる sloveso - zdvorˇilostní forma (stupenˇ „sonkeigo“)
n:に_と_の subst. se trˇemi cˇásticemi
に, と a の v:て_いる_ます sloveso - pr˚ubeˇhový cˇas s pomocným slovesem v tzv. ます-tvaru Fcs adj:1 adv n:1 n:X n:4 n:1 n:X n:1 n:X adj:attr n:4 v:inf v:fin adv v:že+fin v:fin n:s+7 v:fin adj:1 adv Tabulka 2: Ukázka japonsko-cˇeského pravdeˇpodobnostního prˇekladového slovníku formém˚u. Pro vybrané japonské formémy je zobrazeno neˇkolik nejvíce pravdeˇpodobných cˇeských proteˇjšk˚u spolu s podmíneˇnou pravdeˇpodobností cˇeského formému za prˇedpokladu japonského. v prˇípadeˇ velkých odchylek od japonských proteˇjšk˚u jsme veˇty celé rucˇneˇ prˇepsali. Do testovacích dat jsme nezahrnuli veˇty z korpusu Kyoto’s Wikipedia articles, nebot’ obsahoval mnoho souveˇtí se složitou strukturou, d˚ukladná korektura prˇekladu anglických veˇt by proto byla prˇíliš cˇasoveˇ nárocˇná.
Japonské veˇty byly kv˚uli frázovému systému tokenizovány MeCabem. Náš hloubkový prˇekladacˇ pak prˇi samotném prˇekladu tento krok jednoduše prˇeskocˇil.
Pro porovnání s naším prˇekladovým systémem jsme si vybrali frázový systém Moses [6].15 Nejenže jakožto zástupce prˇímého prˇekladu reprezentuje zcela odlišné paradigma prˇístupu k MT, konstrukce jednoduchého n-gramového prˇekladacˇe je také velmi snadná.
Použitá data Vzhledem k tomu, že naše japonskoanglická a anglicko-cˇeská data mají témeˇrˇ prázdný pr˚unik prˇes anglické veˇty, byla konstrukce trénovacích dat pro frázový prˇeklad spojováním prˇes prostrˇední jazyk vyloucˇena. Místo toho jsme se rozhodli použít náš umeˇle vytvoˇrený japonsko-cˇeský korpus, viz sekce 3.3.
Jedná se o stejná data, která jsme použili pro extrakci slovník˚u našeho hloubkového systému. Z teˇchto trénovacích dat jsme dále náhodneˇ vyjmuli kolem 2500 veˇtných 15http://www.statmt.org/moses/ dvojic, které nám posloužily k vyladeˇní frázového prˇekladového modelu. Tokenizace teˇchto dat byla provedena stejným zp˚usobem jako u testovací sady veˇt.
Prˇíprava Nejprve jsme provedli slovní zarovnání na našich umeˇlých japonsko-cˇeských datech. Na rozdíl od extrakce slovník˚u ale bylo toto zarovnání provedeno pouze na tokenizovaných povrchových reprezentacích veˇt. Na základeˇ teˇchto zarovnání jsme vytvorˇili statistický prˇekladový model.
Pro prˇípravu jazykového modelu jsme použili cílovou stranu našeho paralelního korpusu, tj. syntetickou cˇeštinu. Ocˇekáváme, že lepších výsledk˚u by bylo možné dosáhnout prˇi použití cˇistých cˇeských dat. V prvním takovém experimentu však jazykový model založený na opravdické cˇeštineˇ dostal v automatickém ladeˇní velmi nízkou váhu, a proto jsme jej nakonec nepoužili. D˚uvodem je pravdeˇpodobneˇ to, že i korpus pro ladeˇní (2500 veˇt, viz výše) má cílovou stranu syntetickou, bez rucˇní korektury. Jakmile bude k dispozici více kvalitních japonsko-cˇeských dat, pokus zopakujeme.
Frázový prˇekladový systém jsme tímto zp˚usobem natrénovali dvakrát, jednou na slovních formách, podruhé na lemmatech (tj. prˇeklad do hrubší podoby cˇeštiny).16 6.3
Výše uvedené systémy jsme spustili na stejném vzorku testovacích dat. Oba systémy meˇly témeˇrˇ stejnou míru OOV (out-of-vocabulary, tj. podíl neprˇeložených slov), kolem 3%. Za neprˇeložená slova jsme prˇitom považovali všechny rˇeteˇzce ve výstupu obsahující japonské znaky.
Automatické vyhodnocení jsme provádeˇli klasicky pomocí metriky BLEU [11]. V tabulce 3 uvádíme nejen celé BLEU, ale i prˇesnosti jednolivých n-gram˚u (kolikn-gram˚u z výstupu systému bylo nalezeno i v referencˇní veˇteˇ). BLEU skóre hloubkového prˇekladu vyšlo bohužel nulové. To je zp˚usobeno tím, že se v prˇeloženém textu nepodarˇilo najít ani jeden 4-gram, který by referencˇní prˇeklad potvrdil. Frázový systém si v tomto ohledu vedl podstatneˇ lépe.
Všimneˇme si, že pouze v prˇípadeˇ unigram˚u si hloubkový prˇeklad vedl relativneˇ dobrˇe, stále ale h˚urˇe než frázový prˇekladacˇ. Jednou z prˇícˇin je nedostatek informací v japonské t-rovineˇ, což po prˇekladu ve fázi syntézy zp˚usobuje, že nedochází k vygenerování všech potrˇebných pomocných slov. Vyšší n-gramy pak trpí tím, že v soucˇasné dobeˇ neupravujeme slovosled, japonsko-cˇeský jazykový pár se ovšem slovosledem výrazneˇ liší.
Co se týcˇe kvality prˇipravených slovník˚u, lepších výsledk˚u jsme dosáhli se slovníky vytvorˇenými z našich umeˇlých japonsko-cˇeských dat. Metoda spojování dílcˇích slovník˚u dopadla výrazneˇ h˚urˇ.
16Lematický výstup je nepoužitelný pro koncového uživatele ale je vhodný pro posouzení, zda prˇekladacˇ zachovává slova bez ohledu na morfologii, tj. lépe odráží prˇenos základního významu veˇt.
Druh prˇekladu Slovní formy Treex (ja-en-cs) Treex (ja-cs) Moses Lemmata Treex (ja-en-cs) Treex (ja-cs) Moses 1-gram 2-gram 3-gram 4-gram BLEU Tabulka 3: Prˇesnosti jednotlivých n-gram˚u a celkové BLEU. Porovnáváme hloubkový prˇeklad se spojovanými slovníky (ja-en-cs), s prˇímými slovníky (ja-cs) a frázový prˇeklad (Moses). Tabulka 4: Rucˇní vyhodnocení na vzorku 100 veˇt. Tabulka uvádí, kolikrát byl prˇeklad dané veˇty od jednoho systému lepší než od druhého, kolikrát byly oba prˇeklady zhruba stejneˇ dobré a kolikrát zhruba stejneˇ špatné. 6.4
Rucˇní vyhodnocení se opírá o vzorek 100 veˇt z našich testovacích dat. Hodnotili jsme, který systém prˇeložil veˇtu lépe, v prˇípadeˇ podobné kvality jsme rozlišovali, zdali byly oba prˇeklady stejneˇ dobré nebo stejneˇ špatneˇ. Anotátor prˇitom neveˇdeˇl, která veˇta byla vygenerována kterým systémem. Hodnocení prˇekladu vycházelo zejména z porovnání s naším referencˇním prˇekladem, nikoli vstupní veˇtou.
Vzhledem ke znacˇným nedostatk˚um obou systém˚u jsme byli beˇhem hodnocení velmi shovívaví a pomíjeli naprˇ. špatné sklonˇování nebo slovosled. Výsledky rucˇní evaluace jsou uvedeny v tabulce 4.
Frázový prˇeklad si opeˇt vedl o neˇco lépe než prˇeklad s hloubkovým rozborem. Rozdíl byl ale tentokrát relativneˇ malý. Dále je videˇt, že oba systémy jsou v soucˇasné dobeˇ stále velmi špatné (1/3 prˇeklad˚u byla špatná v obou prˇípadech). 6.5
Z výše uvedených výsledk˚u našich meˇrˇení je jednoznacˇneˇ videˇt, že si náš hloubkový prˇekladový systém v prˇípadeˇ jazykového páru japonština-cˇeština vedl h˚urˇ než referencˇní frázový prˇeklad. Prˇitom je potrˇeba podotknout, že ani náš frázový prˇeklad zdaleka nedosahoval úrovneˇ soucˇasných prˇekladacˇ ˚u. Z rucˇní evaluace potom vyplývá, že kvalitativní propast mezi našimi dveˇma prezentovanými systémy nebyla tak velká, jak ukazovala automatická evaluace. Uved’me neˇkolik prˇíklad˚u kratších veˇt a zkusme na nich ilustrovat slabiny našeho systému.
(1a) SRC すぐ に 戻り ます . (1b) REF Brzy se vrátím . (1c) Treex Drˇíve vrátí se .
Prˇi porovnání s referencˇním prˇekladem by se mohlo zdát, že náš systém v prˇípadeˇ této veˇty úplneˇ selhal prˇi generování slovních tvar˚u. Je ale potrˇeba podotknout, že ve zdrojové veˇteˇ není explicitneˇ uvedena osoba u slovesa „vrátit se“. Pomocí blok˚u s rucˇními pravidly by se dalo v teˇchto prˇípadech prˇirˇadovat implicitneˇ první osobu cˇísla jednotného, která se prˇi nedostatku vhodného kontextu prˇi prˇekladu používá. Až na slovosled a drobnou chybu prˇi prˇekladu výrazu „ すぐに“ ( sugu ni - „brzy“), p rˇeklad dopadl obstojneˇ.
(2a) SRC 夕方 の 五 時 です . (2b) REF Je peˇt hodin vecˇer . (2c) Treex Vecˇer páté dobeˇ je .
Ve veˇteˇ 2 došlo k nejvýrazneˇjší chybeˇ prˇi prˇekladu slova „ 時“ ( toki - „ cˇas, doba“), které ovšem ve spojení se slovem „ 五“ ( go - „p eˇt“) nabývá významu jednotky cˇasu (五 時 - „p eˇt hodin“). Chybu tedy hledejme v našem p rˇekladovém modelu, dále pak do urcˇité míry v HMTM, který meˇl v závislosti na kontextu ( „p eˇt hodin“) nalézt vhodnou alternativu z kandidát˚u na prˇeklad. Mimo jiné byl opeˇt zachován slovosled zdrojové veˇty.
(3a) SRC 由美 は , 私 の 友達 の ひとり です . (3b) REF Yumi je jednou z mých prˇátel . (3c) Treex Jumi má prˇátel sám je . (3d) Moses Jumi je jeden z mých prˇátel je
Prˇíklad 3 ukazuje, že alesponˇ v neˇkterých prˇípadech byl náš systém schopný konkurovat frázovému prˇekladu (Moses). U frázového prˇekladu došlo v tomto prˇípadeˇ k vygenerování veˇtšího množství token˚u než bylo potrˇeba. Hloubkový systém v prˇekladu japonského výrazu „ 私の“ ( watashi no - „m˚uj“)17, zvolil naprosto špatné cílové t-lemma ( „mít“). Tato chyba je z rˇejmeˇ d˚usledkem filtrování našich prˇekladových slovník˚u, nebot’ prˇedpokládaný správný prˇeklad na obecné zájmenné t-lemma ( „#PersPron“) byl ze slovníku odstran eˇn. Je tedy potrˇeba v budoucnu zvážit, zdali jsou automatické filtrace spojených slovník˚u žádoucí. Prˇeklad slova „ ひとり“ ( hitori „jeden“) byl také v daném kontextu špatný ( „sám“). (4a) SRC 良い 言葉 は 教育 の 結果 で ある . (4b) REF Dobrá rˇecˇ je výsledkem vzdeˇlávání . (4c) Treex Dobré slovo vzdeˇlávání výsledky je . (4d) Moses Dobrá slova , a výsledek je , že je vzdeˇlání .
Jako poslední prˇíklad 4 uvádíme mírneˇ lepší výsledek našeho prˇekladu. V tomto prˇípadeˇ hloubkový prˇeklad dokonce prˇedcˇil naši verzi frázového prˇekladu. Tak jako ve všech ostatních prˇípadech má po hloubkovém prˇekladu výsledná veˇta špatný slovosled, který v tomto prˇípadeˇ citelneˇ zhoršuje srozumitelnost.
V prˇípadeˇ složiteˇjších veˇt a souveˇtí dopadl prˇeklad vždy výrazneˇ h˚urˇ. U hloubkového prˇekladu se totiž se zvyšující komplexitou analyzovaných závislostních struktur zvyšovala i šance na vnesení nových chyb.
17Pˇresneˇji se jedná o zájmeno „ 私“ ( watashi - „já“) uvedené cˇásticí „ の“ ( no) do pozice atributu.
Z výsledk ˚u vyhodnocení kvality našeho prˇekladu usuzujeme, že by v soucˇasné dobeˇ nejveˇtší zlepšení prˇineslo prˇedevším pecˇlivé automatické vyplnˇ ování všech potrˇebných atribut ˚u t-roviny beˇhem fáze analýzy. Také je nutné do budoucna provést d ˚ukladneˇjší revizi japonské sady formém ˚u, které jsou nyní naprˇíklad u sémanických sloves nevyhovující. K lepší cˇitelnosti a srozumitelnosti cílových veˇt by urcˇiteˇ prˇispeˇla i úprava jejich slovosledu.
Z hlediska využití pivotního jazyka kv ˚uli nedostatku prˇímých dat stojí za úvahu prˇeklad prˇes anglickou t-rovinu. Systém by provedl analýzu japonské veˇty, transfer na anglický t-strom a místo generování rovnou další transfer na cˇeský t-strom. Teprve zde by následovalo standardní generování výstupní veˇty. Tímto zp ˚usobem bychom se vyhnuli zejména problém ˚um, které souvisí se spojováním dílcˇích slovník ˚ucˇi extrakcí slovník ˚u z umeˇlých japonsko-cˇeských dat. 8
Záveˇr Tato práce popsala naši prvotní verzi japonsko-cˇeského prˇekladacˇe založeného na principu hloubkového prˇekladu. Prˇekladacˇ byl implementován do prostrˇedí Treex. V porovnání s frázovým prˇekladem náš systém bohužel stále zaostává, jsme si ale veˇdomi jeho nedostatk ˚u a možných budoucích vylepšení.
D ˚uležitou soucˇástí projektu bylo také získání dostatecˇného množství japonsko-cˇeských paralelních dat. I prˇes nedostatek prˇímých dat jsme byli schopni vytvorˇit vyhovující prˇekladové modely pro hloubkový i frázový prˇeklad.
Práce na tomto projektu byla podporˇena grantem FP7-ICT2011-7-288487 (MosesCore) Evropské unie.