English. In this work, we will investigate whether and to what extent algorithms typically used to assess the reliability of the output of syntactic parsers can be used to study the correlation between processing complexity and the linguistic notion of markedness. Although still preliminary, achieved results show the key role of features such as dependency direction and length in defining the markedness degrees of a given syntactic construction.
Fin dagli anni ’80, e` andata affermandosi la convinzione che metodi e tecniche sviluppate nell’ambito della linguistica computazionale potessero contribuire a far avanzare la ricerca fornendo nuova evidenza per lo studio di nozioni chiave della linguistica teorica. “Computational linguistics provides important potential tools for the testing of theoretical linguistic constructs and of their power to predict actual language use”: cos`ı si apre il contributo di Kucˇera (1982), che fondandosi sulla correlazione tra marcatezza e frequenza propone i risultati di uno studio computazionale della nozione di marcatezza a livello lessicale e grammaticale condotto sul Brown corpus. Se da un lato l’evidenza raccolta conferma la correlazione attesa tra frequenza e marcatezza, dall’altro vengono registrati casi interessanti in cui “the statistical evidence from the Brown Corpus offers both greater problems and greater insight. [...] The frequency data is [...] the reverse of what one might have assumed under the markedness analysis”.
Oggi, a piu` di 40 anni dallo studio pioniestico di Kucˇera (1982) che si fondava su un corpus annotato morfo–sintatticamente di circa un milione di parole, e` possibile estrarre da corpora di ben maggiori dimensioni informazione linguistica accurata e variegata. L’affidabilita` crescente degli strumenti di Trattamento Automatico del Linguaggio sta rendendo infatti possibile l’acquisizione di evidenza quantitativa e computazionale che spazia attraverso diversi livelli di descrizione linguistica, incluso quello sintattico, che puo` contribuire in modo significativo allo studio di questioni aperte della letteratura linguistica: Merlo (2016) rappresenta un importante esempio di questo rinnovato filone di studi.
All’interno del quadro delineato sopra,
l’obiettivo del presente contributo e` verificare se e in che
misura algoritmi per l’identificazione
dell’affidabilita` e plausibilita` dell’annotazione sintattica
possano contribuire allo studio di un fenomeno
linguistico quale la marcatezza. Con l’uso sempre
piu` diffuso dell’annotazione sintattica a
dipendenze come punto di partenza per una vasta gamma
di applicazioni finalizzate all’estrazione di
informazione da vaste collezioni documentali, tali
algoritmi nascono dalla necessita` di identificare
all’interno delle annotazioni prodotte in modo
automatico quelle corrette o, piu` semplicemente,
caratterizzate da un maggior grado di affidabilita` e
plausibilita`. Questo tipo di valutazione puo`
avvenire in relazione sia all’intero albero sintattico
assegnato alla singola frase (cfr. ad esempio
Nel presente studio, ci focalizzeremo sul
secondo tipo di algoritmi, ovvero quelli che operano a
livello della singola relazione di dipendenza, per
verificarne le potenzialita` nello studio della
nozione di marcatezza linguistica. Per quanto questi
algoritmi operino tipicamente su corpora annotati in
modo automatico
Combinando la prospettiva linguistica e quella linguistico–computazionale, l’ipotesi che intendiamo esplorare e` se il punteggio assegnato da algoritmi per la misura della plausibilita` dell’annotazione possa essere utilizzato per ricostruire il passaggio graduale da costruzioni non marcate a costruzioni caratterizzate da gradi crescenti di marcatezza. L’assunto di base sottostante a tale ipotesi si fonda sulla correlazione, ampiamente adottata nella letteratura linguistica, tra marcatezza e complessita`: se da un lato costruzioni non marcate saranno caratterizzate da un maggior livello di plausibilita` di annotazione (dunque da un minore livello di complessita`), dall’altro costruzioni caratterizzate da gradi crescenti di marcatezza saranno associate a punteggi di minore di plausibilita` (equivalente a una maggiore complessita`).
All’interno della letteratura linguistica, la
“marcatezza” rappresenta una nozione ampiamente
dibattuta e altamente polisemica. Secondo
quanto affermato da
In quanto segue, analizzeremo i risultati di un algoritmo per la valutazione della plausibilita` di singole relazioni alla luce delle accezioni di marcatezza selezionate. 3
L’algoritmo che abbiamo utilizzato per la misura
della plausibilita` dell’annotazione sulla base
della quale produrre l’ordinamento delle relazioni di
dipendenza e` costituito da LISCA
La Figura 1 descrive graficamente le caratteristiche prese in esame da LISCA per la misura della plausibilita` dell’arco sintattico (d; h; t). Ai fini del presente studio, LISCA e` stato utilizzato nella sua variante delessicalizzata per poter fare astrazione da variazioni di natura lessicale. In particolare, sono stati presi in considerazione due diversi tipi di caratteristiche, entrambe associate nella letteratura linguistica alla nozione di complessita` sintattica: tratti locali, corrispondenti alle peculiarita` dell’arco sintattico considerato, come ad esempio la distanza in termini di tokens all’interno della frase tra d e h, oppure la forza associativa che unisce le categorie grammaticali coinvolte (POSd e POSh), o la POS della testa di h e il tipo di relazione sintattica che li lega; tratti globali, volti a localizzare l’arco considerato all’interno della struttura sintattica della frase, ad esempio la distanza di d rispetto alla radice dell’albero, oppure rispetto alla foglia pi u` vicina o a quella piu` lontana, oppure il numero di nodi “fratelli” e “figli” di d ricorrenti rispettivamente alla sua destra–sinistra nell’ordine lineare della frase.
In questo studio, per estrarre le statistiche
rispetto alle caratteristiche linguistiche prese in
esame, LISCA e` stato applicato a un corpus di
1.104.237 frasi (22.830.739 tokens) estratte da
articoli del quotidiano La Repubblica, parte del
CLIC-ILC Corpus (Marinelli et al., 2003). Il
corpus e` stato annotato a livello morfosintattico con
l’ILC–POS–Tagger
I punteggi assegnati da LISCA alle relazioni di dipendenza della IUDT sono stati utilizzati per ordinare le relazioni in ordine descrescente di plausibilita`. La lista ordinata cos`ı ottenuta e` stata suddivisa in 10 fasce di 24,644 relazioni ciascuna (corrispondente al 10% del totale). Partendo dall’analisi della variazione della distribuzione dei tipi di relazioni di dipendenza attraverso le fasce, ci siamo poi focalizzati su singole relazioni, con l’intento di ricostruire il passaggio da non marcato (o prototipico) a marcato, e di identificare i fattori che contribuiscono a determinare il grado di marcatezza di una costruzione, definita in questo studio come una relazione di dipendenza all’interno del contesto sintattico di occorrenza. Nella consapevolezza che le relazioni sono distribuite all’interno delle fasce in virtu` della combinazione di tutte le caratteristiche locali e globali prese in considerazione, ci siamo focalizzati su due parametri ampiamente indagati nella letteratura linguistica con l’intento di verificare se e in che misura l’ordinamento di
dipendenze.
LISCA rifletta note gerarchie di marcatezza. In particolare, e` stato analizzato il ruolo i) dell’orientamento della dipendenza, definito dalla direzione verso destra o sinistra dell’arco sintattico che lega d a h rispetto all’ordine lineare delle parole nella frase, e ii) della lunghezza della relazione di dipendenza, calcolata come la distanza in parole tra d e h. 4.1
Partiamo dall’analisi della distribuzione delle dipendenze nelle 10 fasce. Nelle prime fasce si osserva un insieme ristretto di tipi di dipendenze, la cui frequenza diminuisce proporzionalmente al decrescere dei punteggi assegnati da LISCA. Man mano che si prosegue verso le fasce intermedie, i tipi di dipendenza all’interno di ciascuna fascia si fanno piu` numerosi e variabili. Gli archi con i punteggi piu` alti, che si collocano nelle prime fasce, mettono in relazione parole grammaticali e parole lessicali, come det(erminer), case e mark(er), che collegano, rispettivamente, articoli, preposizioni, congiunzioni subordinanti o avverbi alla relativa testa. Proseguendo oltre le prime due fasce, troviamo relazioni come advmod (adverbial modifier), nummod (numerical modifier), cop(ula) e aux(iliary) che collegano, rispettivamente, avverbi, numerali, copule e ausiliari (verbi modali compresi) alla loro testa. A partire dalla quinta fascia si osserva un’incidenza sempre maggiore di relazioni che collegano parole lessicali come sostantivi e verbi alla loro testa, ad esempio nsubj (nominal subject), dobj (direct object), ccomp (clausal complement), xcomp (clausal complement with controlled subject) e root. Un caso a parte e` rappresentato dalle relazioni amod e nmod che collegano modificatori aggettivali o nominali con la relativa testa: esse si distribuiscono in modo simile in tutte le fasce.
Figura 3: Orientamento generale delle dipendenze.
La Figura 2 riporta l’andamento della distribuzione di sei relazioni di dipendenza selezionate come segue: due relazioni concentrate principalmente nelle prime fasce (det, case), due relazioni caratterizzate da una distribuzione piu` diffusa (amod, nmod) e due relazioni maggiormente ricorrenti nelle ultime fasce (nsubj, dobj). La distribuzione delle relazioni che vedono una parola grammaticale come dipendente all’interno delle prime fasce puo` essere ricondotta alle strutture generalmente fisse o poco variabili, che le rendono facilmente trattabili computazionalmente. D’altro lato, le parole lessicali tendono ad inserirsi in costruzioni piu` complesse, caratterizzate da una maggiore flessibilita` a livello dell’ordine lineare all’interno della frase, e potenzialmente soggette a condizionamenti di tipo pragmatico che portano alla formazione di strutture sintattiche piu` complesse. La presenza diffusa della relazione amod attraverso le fasce rappresenta un caso diverso, non riconducibile alla liberta` di movimento ma piuttosto alla direzione degli archi sintattici che li collegano alla loro testa: mentre la distanza media tra d e h in amod rimane tendenzialmente costante attraverso le fasce, la direzione della relazione varia significativamente. In quanto segue, ci concentreremo su due dei parametri che sembrano svolgere un ruolo chiave nella distribuzione delle relazioni attraverso le fasce. 4.2
La Figura 3 riporta la distribuzione attraverso le fasce di tutte le relazioni di dipendenza, facendo distinzione tra dipendenze con testa a destra (d > h) e dipendenze con testa a sinistra (h < d). Si osserva che i due tipi di orientamento, nonostante ricorrano con frequenza molto simile (112.886 d > h vs 104.301 h < d), sono descritti da andamenti opposti: nelle prime fasce si concentrano le Figura 5: Andamento generale della lunghezza media delle dipendenze per fascia. relazioni di tipo d > h, nelle ultime quelle h < d.
Nella Figura 4 e` riportato l’andamento attraverso le fasce dell’orientamento di due relazioni, amod e nsubj. Nel caso di amod le teste dei modificatori aggettivali si trovano in netta maggioranza a sinistra, soprattutto nella seconda fascia: gli aggettivi postnominali, dunque in posizione non marcata, sono stati valutati come piu` plausibili e computazionalmente trattabili. Invece, nsubj, che collega il soggetto nominale alla testa verbale, nella maggior parte dei casi presenta la testa a destra: il soggetto preverbale corrisponde all’ordine non marcato in italiano. La sequenza verbo–soggetto e` attestata, con andamento crescente, a partire dalla fascia 6. Le relazioni che sono state valutate con i punteggi pi u` alti, ovvero det e case, mostrano la testa sempre a destra. 4.3
Nella Figura 5, per ciascuna fascia e` riportata la media delle lunghezze delle relazioni di dipendenza: si osserva che il punteggio di LISCA decresce in maniera inversamente proporzionale al valore della lunghezza media. Nella Figura 6 sono riportate le medie all’interno di ogni fascia delle lunghezze di un gruppo selezionato di dipendenze: alcune delle relazioni che abbiamo visto conFigura 6: Andamento della lunghezza media di una selezione di dipendenze per fascia. centrarsi nelle prime fasce, come det e case, ma anche relazioni dalla distribuzione piu` bilanciata come amod e dobj risultano essere quelle piu` brevi (la loro lunghezza in media non supera una distanza di 2 parole tra testa e dipendente); dipendenze come nsubj e nmod, che collegano unita` dall’ordinamento piu` flessibile, cioe` caratterizzate da una maggiore liberta` di movimento rispetto alla loro testa, raggiungono in media, soprattutto verso le ultime fasce, le lunghezze maggiori. Considerando il ruolo ampiamente ascritto in letteratura, non solo linguistico–computazionale ma anche linguistica e psicolinguistica, alla lunghezza delle dipendenze come fattore di complessita` linguistica, questi dati costituiscono una prova ulteriore che l’ordinamento prodotto da LISCA riflette la marcatezza della costruzione. 5
In questo studio abbiamo esplorato l’ipotesi che algoritmi sviluppati per valutare l’affidabilita` e la plausibilita` di annotazioni sintattiche a dipendenze possano fornire evidenza utile a una riflessione attorno al tema della complessita` sintattica, e in particolare a ricostruire “sfumature” di marcatezza crescente in relazione alla stessa relazione di dipendenza. I primi risultati raggiunti sono incoraggianti: quanto osservato in relazione alla distribuzione delle dipendenze attraverso le fasce ci porta a ipotizzare una forte correlazione tra la complessita` computazionale dell’analisi individuata da LISCA e la nozione di marcatezza sintattica. E` stato indagato in particolare il ruolo di fattori quali l’orientamento della relazione e la lunghezza della dipendenza, con risultati che mostrano chiaramente che un algoritmo come LISCA puo` essere un valido strumento anche per analisi di tipo linguistico. Attraverso l’analisi della distribuzione delle relazioni di dipendenza nelle fasce definite sulla base dell’ordinamento di LISCA e` stato possibile non solo discriminare tra costruzioni marcate e non marcate (dato tipicamente recuperabile sulla base della frequenza), ma anche identificare – relazione per relazione – i fattori che hanno contribuito a renderla marcata. Se l’orientamento della relazione gioca un ruolo cruciale nel caso di amod, nel caso di nsubj e` piuttosto la distanza tra la testa e il dipendente a determinare la marcatezza della costruzione. Ovviamente, questa metodologia di analisi dovrebbe essere estesa alla vasta tipologia di caratteristiche linguistiche considerate.
Gli sviluppi correnti di questo lavoro includono: l’estensione, al di la` della lunghezza e l’orientamento della relazione, della tipologia di fattori linguistici esplorati, per arrivare anche allo studio dell’impatto di fattori lessicali; l’estensione della tipologia di costruzioni analizzate, che potrebbero anche includere combinazioni di dipendenze corrispondenti a sotto–alberi sintattici. Riteniamo che la metodologia dovrebbe anche essere applicata a treebank di lingue diverse, cos`ı come diversi generi testuali all’interno della stessa lingua. Reichart Roi and Ari Rappoport. 2009b. Sample Selection for Statistical Parsers: Cognitively Driven Algorithms and Evaluation Measures. In Proceedings of CoNLL 2009, pp. 3–11.