<!DOCTYPE article PUBLIC "-//NLM//DTD JATS (Z39.96) Journal Archiving and Interchange DTD v1.0 20120330//EN" "JATS-archivearticle1.dtd">
<article xmlns:xlink="http://www.w3.org/1999/xlink">
  <front>
    <journal-meta />
    <article-meta>
      <title-group>
        <article-title>Risorse linguistiche di varietà storiche di italiano: il progetto TrAVaSI1</article-title>
      </title-group>
      <contrib-group>
        <aff id="aff0">
          <label>0</label>
          <institution>Marco Biffi Università di Firenze Accademia della Crusca</institution>
        </aff>
        <aff id="aff1">
          <label>1</label>
          <institution>Simonetta Montemagni Istituto di Linguistica Computazionale “A. Zampolli” - CNR</institution>
        </aff>
      </contrib-group>
      <abstract>
        <p>Italiano Questo contributo si propone di presentare il progetto TrAVaSI (Trattamento Automatico di Varietà Storiche di Italiano), il cui obiettivo è la creazione di risorse per il trattamento automatico di varietà storiche della lingua italiana, in particolare lessici diacronici e corpora arricchiti con annotazione linguistica da utilizzare per lo sviluppo e/o la specializzazione di strumenti di annotazione. Il contributo illustra gli obiettivi, i primi risultati conseguiti e le prospettive di sviluppo.</p>
      </abstract>
    </article-meta>
  </front>
  <body>
    <sec id="sec-1">
      <title>-</title>
      <p>Sono ormai numerosi gli archivi testuali
digitali che testimoniano varietà storiche
dell’italiano. Tuttavia, l’accesso e l’interrogazione
dei testi sono spesso elementari, per lo più
limitati alle stringhe di caratteri che
costituiscono il testo; ciò complica il lavoro degli
studiosi e rende pressoché impossibile l’utilizzo
delle risorse da parte degli utenti non addetti
ai lavori. Questa situazione mostra che,
nonostante i recenti progressi nel settore delle
Digital Humanities, l’accesso e
l’interrogazione di testi che testimoniano varietà storiche
di italiano, più o meno lontane nel tempo,
rappresentano ancora oggi una sfida.</p>
      <p>Il progetto TrAVaSI (Trattamento
Automatico delle Varietà Storiche di Italiano),
nato dalla collaborazione tra l’Istituto di
Linguistica Computazionale “Antonio Zampolli”
e l’Accademia della Crusca e finanziato dalla
Regione Toscana, si propone di affrontare
questa sfida, creando i presupposti per la
navigazione e l’interrogazione sistematica di
fonti che documentano le varietà storiche
della lingua.</p>
      <p>Il punto di partenza del progetto è
pragmatico: potenziare due strumenti realizzati
dall’Accademia della Crusca all’interno di
altri progetti. Gli strumenti in questione sono la
versione elettronica del Grande Dizionario
della lingua italiana (GDLI)2 e la banca dati
del Vocabolario Dinamico dell’Italiano
Moderno, che è più precisamente l’oggetto
specifico di indagine del contributo che qui
presentiamo. TrAVaSI ha come obiettivo
principale quello di massimizzare le
implementazioni pratiche, ma proiettandole nel quadro
dello sviluppo di strumenti di riferimento per
banche dati diacronicamente connotate e i
dizionari storici in versione elettronica. In
particolar modo si tratta di mettere a frutto
l’occasione di lavorare in contemporanea (e
quindi di intersecare ricerche, risultati e
prodotti parziali) da un lato sulla strutturazione e
marcatura di un dizionario storico come il</p>
      <p>
        GDLI nella sua versione informatizzata
        <xref ref-type="bibr" rid="ref18 ref5 ref6 ref7">(mettendo a punto procedure di collazione
semiautomatica del testo ottenuto con l’OCR e di
marcatura dei campi strutturali identificati;
vedi Sassolini et alii 2019, Biffi e Sassolini
2020)</xref>
        , e dall’altro sulla creazione di lessici
computazionali differenziati in diacronia per
sopperire finalmente all’indebolimento –
anche fino al grado zero – dell’efficacia di
strumenti di annotazione linguistica quando ci si
allontani dalle condizioni ideali dell’italiano
contemporaneo scritto di quelle varietà
sostanzialmente riconducibili al campione del
Lessico di frequenza dell'italiano
contemporaneo (LIF). E così determinare un
allargamento dell’efficacia degli strumenti di
annotazione linguistica in diacronia, in diamesia e
in diafasia.
      </p>
      <p>Sul versante degli studi umanistici, gli
sviluppi di questi strumenti hanno ricadute
notevoli, sia nell’ottica di consegnare agli studiosi
metodi di indagine sempre più potenti per le
loro ricerche linguistiche, sia in quella, cara a
un’istituzione come l’Accademia della
Crusca, di raggiungere un’utenza più vasta. La
digitalizzazione dei testi e la loro disponibilità
in rete – infatti –non sono sufficienti per
avvicinare un’utenza non circoscritta agli addetti
ai lavori al patrimonio culturale tramandato.
Per rendere fruibili da una vasta e variegata
utenza i contenuti di istituzioni culturali, è
necessario offrire modalità di accesso e
navigazione dotate di “intelligenza linguistica”.</p>
      <p>
        Ad oggi, è ampiamente riconosciuto che
l’applicazione di metodi e delle tecniche per
il Trattamento Automatico della Lingua
(TAL) a varietà storiche di una lingua
presenta innumerevoli ostacoli, poiché gli
strumenti sviluppati per le lingue moderne
necessitano di specializzazioni a vario livello
(lessicale, morfologico e sintattico) per essere
utilizzati con successo nel trattamento di fonti
primarie che rappresentano la base degli studi
umanistici. Per la lingua italiana,
        <xref ref-type="bibr" rid="ref16">Pennacchiotti e Zanzotto (2008</xref>
        ) riportano i risultati
di uno studio esplorativo sulle difficoltà
derivanti dal trattamento automatico di varietà
storiche della lingua italiana basato su un
corpus diacronico che raccoglie testi italiani
letterari (sia in prosa che in poesia) dal 1200 a
fine Ottocento: le analisi, focalizzate sulla
composizione del vocabolario e
sull’annotazione morfologica e morfo-sintattica,
confermano che il trattamento automatico di varietà
storiche della lingua italiana è una sfida
aperta. Una delle sfide che il progetto
TrAVaSI intende affrontare. In questa area,
l’azione del progetto ruota attorno a due
direttrici principali, riguardanti la costruzione di
corpora arricchiti con informazione
linguistica da usarsi per la valutazione e/o
addestramento di strumenti di annotazione, e di lessici
computazionali diacronici in grado di
supportare il processo di lemmatizzazione del testo.
Al momento, l’annotazione linguistica dei
testi riguarda il livello morfo-sintattico. Le
risorse sviluppate su entrambi i fronti verranno
integrate all’interno di infrastrutture di ricerca
preesistenti (per esempio CLARIN-IT), al
fine di incrementarne la visibilità,
l’accessibilità e l’interoperabilità con risorse simili.
      </p>
      <p>Sul versante linguistico-computazionale,
la progettazione e costruzione di risorse e
strumenti per varietà d’uso della lingua che si
discostano in diversa misura dall’italiano
contemporaneo scritto su cui gli strumenti di
TAL sono tipicamente addestrati costituisce
un fertile terreno di sperimentazione per lo
sviluppo e il raffinamento di tecnologie
innovative di TAL.</p>
      <p>L’articolo illustra la metodologia definita
per la costruzione delle risorse e i primi
risultati raggiunti. La sezione 2 descrive il corpus
diacronico selezionato per l’annotazione, e la
sezione 3 illustra il metodo seguito per
l’annotazione del corpus. La sezione 4 riporta e
discute i risultati dei primi esperimenti di
annotazione semi-automatica e della strategia di
revisione messa a punto. La sezione 5 illustra
i risultati di annotazione automatica
conseguiti con sistemi esistenti di annotazione per
la lingua italiana contemporanea; infine, la
sezione 6 delinea gli sviluppi in corso e futuri.
2</p>
    </sec>
    <sec id="sec-2">
      <title>Corpus</title>
      <p>
        La costruzione delle risorse si avvarrà in
primo luogo dei testi presenti nel corpus per
la realizzazione del Vocabolario Dinamico
dell’Italiano Moderno
        <xref ref-type="bibr" rid="ref14">(VoDIM, Marazzini e
Maconi, 2018)</xref>
        . Il corpus è frutto di due
progetti nazionali: il PRIN 2012 (Corpus di
riferimento per un Nuovo Vocabolario
dell’Italiano moderno e contemporaneo.
Fonti documentarie, retrodatazioni,
innovazioni, diretto da Claudio Marazzini) e il PRIN
2015 (Vocabolario dinamico dell’italiano
post-unitario, sempre sotto la direzione di
Claudio Marazzini); i due progetti, l’uno la
prosecuzione dell’altro, hanno coinvolto
diverse università (Catania, Firenze, Genova,
Milano, Napoli, Piemonte Orientale e Torino)
e l’Istituto di Teorie e Tecniche
dell’Informazione Giuridica (ITTIG) del CNR di Firenze.
      </p>
      <p>
        Il VoDIM riunisce testi, scritti e orali,
attinenti all’italiano post-unitario che riguardano
diversi domini dello spazio linguistico
dell’italiano: arte, canzone, diritto, economia,
gastronomia, poesia, politica, prosa
giornalistica, letteraria, paraletteraria e scientifica. Il
corpus, diacronicamente bilanciato, ha una
estensione di circa 20 milioni di parole; nel
prossimo futuro il progetto prevede che il
corpus iniziale sia affiancato da un corpus
sincronico molto più ampio (circa 2 miliardi di
parole), composto da testi ricavati dalla rete
        <xref ref-type="bibr" rid="ref3 ref4 ref5 ref6 ref7">(Biffi, 2016, Biffi, 2018, Biffi, 2020, Biffi e
Ferrari, 2020)</xref>
        . Inoltre, il VoDIM è stato di
recente inserito all’interno della Stazione
Lessicografica, consultabile tramite gli Scaffali
digitali del sito dell’Accademia della Crusca
        <xref ref-type="bibr" rid="ref5 ref6 ref7">(Biffi 2020: 360-362)</xref>
        .3
3
      </p>
    </sec>
    <sec id="sec-3">
      <title>Metodo</title>
      <p>La specializzazione di strumenti di
annotazione linguistica rispetto a varietà d’uso della
lingua diverse da quelle testimoniate nel
corpus di addestramento richiede – innanzitutto
– la disponibilità di risorse (lessici e corpora
annotati) rappresentative della varietà di
lingua da trattare. In primo luogo per verificare
il livello di accuratezza degli strumenti di
annotazione disponibili, e – successivamente –
per la loro specializzazione. Il corpus alla
base del VoDIM si pone come ottima
“palestra” da questo punto di vista, in quanto i testi
al suo interno si distribuiscono in un vasto
arco cronologico (dall’Unità a oggi),
presentano una notevole differenziazione diamesica
3 http://www.stazionelessicografica.it
(scritto, parlato, parlato-scritto e
scritto-parlato) e appartengono a un’ampia varietà di
generi e di tipologie testuali.</p>
      <p>
        Per l’arricchimento dei testi con
annotazioni linguistiche di varia natura ci si avvarrà,
dal punto di vista metodologico,
dell’esperienza maturata nel corso del progetto Voci
della Grande Guerra
        <xref ref-type="bibr" rid="ref12 ref9">(VGG, De Felice et al.,
2018, Lenci et al. 2020)</xref>
        . In particolare, i
metodi adottati per risolvere i problemi di
segmentazione delle forme e di lemmatizzazione
emersi durante la fase di trattamento
automatico
        <xref ref-type="bibr" rid="ref9">(De Felice et al., 2018: 161-162)</xref>
        sono un
fondamentale punto di partenza per ottenere
risultati efficienti, come nel caso del corpus
VGG.
      </p>
      <p>Il lavoro è stato articolato nelle seguenti
fasi operative:
1. selezione delle fonti a partire dal corpus</p>
      <p>
        VoDIM;
2. definizione di un sottocorpus
rappresentativo delle varietà del VoDIM; i testi scelti
appartengono a sette dei domini del
corpus (arte, cucina, diritto, giornali,
letteratura, paraletteratura, scienze) e sono stati
bilanciati in diacronia per avere la
massima copertura possibile; i campioni di
ogni dominio sono tra i 2.600 e i 3.000
token, per un’estensione totale del
sottocorpus – ad oggi - di circa 19.000 token;
3. annotazione morfo-sintattica e
lemmatizzato del sottocorpus di cui al punto 2. Lo
schema di annotazione adottato è quello
sviluppato all’interno dell’iniziativa
internazionale Universal Dependencies
        <xref ref-type="bibr" rid="ref15">(Nivre, 2015)</xref>
        , che rappresenta ad oggi uno
standard de facto per l’annotazione
morfo-sintattica e sintattica a dipendenze
di testi, incluse varietà storiche di alcune
delle lingue trattate. Il sottocorpus
selezionato è stato annotato automaticamente
con UDPipe
        <xref ref-type="bibr" rid="ref20">(Straka e Straková, 2017)</xref>
        ,
addestrato sulla Italian Universal
Dependency Treebank
        <xref ref-type="bibr" rid="ref8">(IUDT, Bosco et al.,
2013)</xref>
        . A ciò, ha fatto seguito una fase di
revisione manuale degli errori riscontrati
nei testi annotati automaticamente.
solo testo (un saggio di medicina di G. Brotzu,
Ricerche su di un nuovo antibiotico del 1948);
tale valore è dunque poco attendibile – se si
considera, tra l’altro, che è il testo del dominio
“scienze” con una percentuale di errore tra le
più alte (cfr. infra).
      </p>
      <p>Più interessanti i dati riportati nella Tabella
2, in cui sono presenti le percentuali medie di
errore per ogni dominio:
intervalli
temporali
n.
testi</p>
      <p>n.
token
domini
arte
cucina
diritto
giornali
letteratura
paraletteratura
scienze
Il campione testuale, frutto delle prime fasi di
lavoro, è di fatto il primo nucleo di corpus
annotato per la validazione e, in prospettiva,
l’addestramento e/o specializzazione degli
strumenti di trattamento automatico di varietà
storiche dell’italiano.</p>
    </sec>
    <sec id="sec-4">
      <title>Primi risultati 4</title>
      <p>4.1</p>
    </sec>
    <sec id="sec-5">
      <title>Analisi quantitativa degli errori</title>
      <p>L’analisi degli errori di annotazione
morfosintattica e di lemmatizzazione riscontrati nei
testi annotati automaticamente con UDPipe
ha fornito dati importanti sulla mole di errori
presenti in ogni testo; nella Tabella 1 sono
riportate le percentuali medie di errore nei testi,
distribuiti su sei intervalli cronologici che
ricalcano grossomodo la suddivisione in
periodi proposta per il DiaCORIS (Onelli et al.,
2006) e successivamente per il LIS Lessico
Italiano Scritto4, a cui viene aggiunto un sesto
periodo comprendente i testi attinenti
all’italiano contemporaneo:
n. testi</p>
      <p>n. token</p>
      <p>Come ci si aspetterebbe, la percentuale di
errore tende a scendere, con il passare degli
anni, dall’8 al 3%; l’unica eccezione riguarda
il periodo 1946-1967, testimoniato però dal
campione di circa 600 token estratto da un
4 Il LIS corrisponde alla sezione DIACORIS del CILTA di
Bologna (&lt;http://corpora.dslo.unibo.it/coris_ita.html&gt;),
sviluppata all’interno del portale Vivit Vivi Italiano. Il
portale dell’italiano nel mondo
(&lt;http://www.vivit.org/schede/archivi-digitali&gt;), e costituisce una
rielaborazione informatica per omogeneizzare la banca dati LIT
Lessico Italiano Televisivo e LIR Lessico Italiano
Radiofonico (anch’essi presenti nel portale) in modo che
possano essere interrogate contemporaneamente da un
metamotore (come avviene appunto, affiancando la singola
consultazione delle tre banche dati, nella sezione
“Archivio Digitale del Vivit:
&lt;http://www.viv-it.org/schede/archivi-digitali&gt;). Il LIS comprende complessivamente 25
%
media
errori
6,3%
9,9%
3,7%
5,5%
8,5%
5,9%
5,6%
2-6
1-3
5-6
1-5
1-5
1-3
1-6</p>
      <p>
        Osservando i dati si nota che le percentuali
più alte riguardano i testi gastronomici e
letterari, quelle più basse i testi giuridici; gli altri
domini si attestano su una media del 5-6%.
Una prima spiegazione di questa diffrazione
risiede certamente nelle date di pubblicazione
dei testi interessati: i libri di gastronomia da
cui sono stati estratti i campioni per la cucina
sono stati pubblicati tra il 1871 (l’anonimo
ricettario Il cuoco sapiente) e il 1927 (il
famosissimo Talismano della felicità di Ada Boni),
mentre i testi del dominio “diritto” sono usciti
milioni di occorrenze, distribuite equamente su cinque
sezioni cronologiche bilanciate
        <xref ref-type="bibr" rid="ref3">(per approfondimenti cfr.
Biffi, 2016, pp. 276-77 e nota 24)</xref>
        .
5 Il numero è così elevato perché comprende per la
maggior parte i testi del dominio “diritto”, al cui
interno si trovano abstract di saggi e di opere
specialistiche; i testi sono perciò molto brevi e, a differenza degli
altri domini, è stato necessario attingere a molti più
campioni testuali per raggiungere la quota prestabilita
di token (cfr. Tabella 2).
6 Le date presenti nella colonna si riferiscono alla
pubblicazione rispettivamente del primo e dell’ultimo testo
del dominio.
tra il 2000 e il 2016. Tuttavia, va considerato
che i testi paraletterari, con percentuali di
errore nella media, sono stati anch’essi
pubblicati tra la fine dell’Ottocento e l’inizio del
Novecento; e che, d’altro canto, le opere di
letteratura hanno valori elevati, nonostante la
presenza di romanzi abbastanza recenti come Se
non ora, quando? di Primo Levi (1982).
Probabilmente lo scarto elevato dalla media è da
ricondursi, per la cucina, alle particolari
tipologie testuali (come ad esempio le ricette)
“nuove” nel panorama dei campioni su cui
sono stati testati finora gli strumenti di
annotazione. Analoghe considerazioni valgono per la
letteratura. Sebbene i corpora letterari siano
stati oggetto di analisi automatiche (es.
lemmatizzazione) finalizzate all’interrogazione,
secondo la prospettiva adottata in questo studio
essi appaiono caratterizzati da tratti
morfologici quantitativamente significativi su cui gli
analizzatori finora utilizzati non sono
adeguatamente addestrati (es. forme verbali di prima
e seconda persona).
4.2
      </p>
    </sec>
    <sec id="sec-6">
      <title>Analisi qualitativa degli errori</title>
      <p>Sembrerebbe essere molto forte, dunque, il
legame tra errore, dominio e, soprattutto,
genere testuale 7. Per esempio, i ricettari, così
come la manualistica in generale, sono
costellati da verbi all’imperativo di seconda plurale
(per esempio mescolate) che UDPipe tende ad
assimilare con le forme del participio passato;
i testi letterari, dal canto loro, sono colmi di
parti dialogiche che presentano al loro interno
una serie di tratti, in primo luogo
interpunzioni enfatiche (punti “misti” come
l’accumulo di punto esclamativo e puntini di
sospensione) e interiezioni, che mettono in
difficoltà l’analizzatore, sia nell’annotazione
morfo-sintattica, sia nella tokenizzazione;
analogamente, i testi giuridici e scientifici
presentano diversi errori legati alla corposa
presenza di abbreviazioni, sigle e simboli.</p>
      <p>
        È stata inoltre eseguita una valutazione
sulle tipologie di errore, che per circa un terzo
7 A tal proposito, si veda il progetto EvaLatin 2020
        <xref ref-type="bibr" rid="ref19">(Sprugnoli et al, 2020)</xref>
        , che mira a implementare lo
studio della portabilità degli strumenti NLP per il latino
attraverso la costituzione di tre baseline a cui
appartengono diversi generi e diversi periodi cronologici;
dei casi – oltre il 27% – coinvolgono soltanto
il lemma, e sono senz’altro dovuti al fatto che
UDPipe, nella versione di base, utilizza un
dizionario costruito a partire dal corpus di
addestramento integrato da euristiche di analisi
morfologica utilizzate per trattare forme
sconosciute (anch’esse automaticamente derivate
dal corpus di addestramento). Seguono due
esempi di lemmatizzazione basata su tali
euristiche:
27 lavano lare VERB V
Mood=Ind|Number=Plur|Person=3|Tense=Imp|VerbForm=Fin _
43 illustri illustro ADJ A Gender=Masc|Number=Plur _
In altri casi – circa il 20% – gli errori
riguardano l’assegnazione della categoria
grammaticale (sia coarse-grained sia fine-grained);
tipici esempi sono il che pronome a cui viene
attribuito il valore di congiunzione (a), e lo
scambio tra aggettivo e sostantivo nella
coppia nominale (b):
a.
24 Pagliarini Pagliarini PROPN SP _
25 che che SCONJ CS _
26 per per ADP E _
27-28 farsi _
27 far fare VERB V VerbForm=Inf _
28 si si PRON PC Clitic=Yes|Person=3|PronType=Prs _
29 ascoltare ascoltare VERB V VerbForm=Inf _
30 ha avere AUX VA
Mood=Ind|Number=Sing|Person=3|Tense=Pres|VerbForm=Fin _
31 parlato parlare VERB V
Gender=Masc|Number=Sing|Tense=Past|VerbForm=Part _
32 in in ADP E _
33 piedi piede NOUN S Gender=Masc|Number=Plur _
SpaceAfter=No
34 . . PUNCT FS _
b.
47 massimi massimo NOUN S Gender=Masc|Number=Plur
_
48 esponenti esponente ADJ A Number=Plur _
Circa il 6% degli errori concerne invece solo
le caratteristiche morfologiche associate alla
forma (Universal Dependencies features);
appartengono a questa tipologia gli scambi
sopra menzionati tra imperativo e participio:
analogamente a quanto si osserva nel presente
elaborato, i primi risultati di EvaLatin 2020 hanno mostrato
l’impatto sia delle caratteristiche diacroniche sia di
genere testuale sull’accuratezza dell’annotazione.
3 digrassate digrassare VERB V
Gender=Fem|Number=Plur|Tense=Past|VerbForm=Part _
Vi sono poi diversi casi – circa il 7% – di
errata segmentazione dei token molto simili a
quelli riscontrati nel Corpus VGG
        <xref ref-type="bibr" rid="ref9">(De Felice
et al., 2018: 161)</xref>
        , ossia il mancato
riconoscimento di forme verbali enclitiche rare o
desuete nell’italiano contemporaneo:
13 intendesi intendese ADJ A Number=Plur _
19 siasi siasi ADJ A Number=Sing _
Altri errori di iposegmentazione si osservano
in massima parte nelle sequenze
preposizionali diacronicamente marcate del tipo pella,
collo ecc.:
7 co’ coco DET RD
Definite=Def|Number=Sing|PronType=Art _
4 colla collare VERB V
Mood=Ind|Number=Sing|Person=3|Tense=Pres|VerbForm=Fin _
7 pei peo ADJ A Gender=Masc|Number=Plur _
Analogamente, UDPipe tende a non
riconoscere altre combinazioni di clitici:
27 spogliatela spogliatelare NOUN S
Gender=Fem|Number=Sing _
8 toglietene toglietena SCONJ CS _
I restanti errori riguardano tutte le altre
possibili combinazioni presenti nella catena di
annotazione:
1. lemma + categoria grammaticale + tratti
morfo-sintattici (21% circa):
l’annotazione automatica risulta essere totalmente
sbagliata; errori di questo tipo si
osservano comunemente quando, in presenza
di una iniziale maiuscola, la forma viene
assimilata a un nome proprio:
3 Pigliate pigliate PROPN SP _
2. categoria grammaticale + tratti
morfo-sintattici (20% circa): la forma viene
correttamente lemmatizzata, ma la categoria
grammaticale e i tratti associati sono
errati; un caso tipico, al contrario di quanto
osservato sopra, è il che congiunzione a
cui viene attribuito il valore di pronome:
1 Avuta avere ADJ A Gender=Fem|Number=Sing _
2 notizia notizia NOUN S Gender=Fem|Number=Sing _
3 che che PRON PR PronType=Rel _
4 era essere AUX VA
Mood=Ind|Number=Sing|Person=3|Tense=Imp|VerbForm=Fin _
5 già già ADV B _
6 cominciato cominciare VERB V
Gender=Masc|Number=Sing|Tense=Past|VerbForm=Part _
3. lemma + tratti morfo-sintattici (3% circa):
soltanto la categoria grammaticale è
corretta:
20 investe investa VERB V
Gender=Fem|Number=Plur|Tense=Past|VerbForm=Part _
La revisione ha comportato non soltanto la
correzione meccanica degli errori, ma anche
l’adattamento di talune annotazioni ai criteri
definiti per la IUDT treebank, al fine di
garantire la compatibilità delle annotazioni dei
diversi UD corpora presenti per la lingua
italiana. La selezione di tali criteri è stata una
delle imprese più ardue: si è optato per una
strategia conservativa e un continuo
confronto con i corpora di UD per ottenere il
minor rumore possibile e una massima
sistematizzazione del tagset, soprattutto per quanto
concerne avverbi e congiunzioni: per esempio
come, nei corpora UD consultati, viene
sempre classificato funzionalmente con il valore
di preposizione di fronte ai sintagmi normali,
di congiunzione in presenza di un’altra
congiunzione (come se), di avverbio in tutti gli
altri contesti; i casi in cui sono state introdotte
delle innovazioni hanno per la maggior parte
riguardato incoerenze nell’annotazione: po’,
generalmente avverbio, è stato taggato come
nome in contesti quali un po’ di pane, poiché
la forma piena poco veniva già riconosciuta
con lo stesso valore nei medesimi contesti;
analogamente, gli infiniti sostantivati, a volte
riconosciuti a volte no, sono stati etichettati
sempre come nome.
5
      </p>
    </sec>
    <sec id="sec-7">
      <title>Baseline di confronto</title>
      <p>La scelta di UDPipe come strumento per la
preannotazione del corpus (cfr. sezione 3) ha
molteplici motivazioni, che vanno dallo
schema di annotazione adottato (UD) alla
possibilità di riaddestramento, che ne fanno
uno strumento adeguato per la costruzione dei
corpora annotati sviluppati nel progetto
TrAVaSI.</p>
      <p>
        In vista del riaddestramento della catena di
analisi per il trattamento di varietà storiche di
italiano, i risultati ottenuti con UDPipe sono
stati confrontati con l’output di strumenti di
annotazione morfo-sintattica e
lemmatizzazione sviluppati in ambito DH
        <xref ref-type="bibr" rid="ref17">(per esempio
l’annotatore morfologico del PiSystem,
Picchi, 2003)</xref>
        o già testati all’interno di
applicazioni di DH come LinguA
        <xref ref-type="bibr" rid="ref1 ref10 ref2">(Attardi e
Dell’Orletta, 2009, Attardi et al., 2009, Dell’Orletta,
2009)</xref>
        . I dati emersi mostrano che la baseline
costituita dall’annotatore PiMorfo, sviluppato
primariamente in funzione
dell’interrogazione di vasti archivi testuali, presenta una
percentuale media di errore assai più elevata
di UDPipe – oltre il 9% –, ma è stato
riscontrato che una parte sostanziale – all’incirca il
13% – riguarda alcuni errori sistematici, ad
esempio il mancato riconoscimento della
preposizione con vocale elisa d’ o del valore di
forme ambigue quali ancora, che in tutte le
occorrenze in funzione di
avverbio/congiunzione è stato confuso con la terza persona del
presente indicativo di ancorare.
      </p>
      <p>Per quanto riguarda LinguA, si è rilevato
invece un indice di errore indubbiamente più
basso rispetto a UDPipe – con una media
intorno al 4% – e oltre il 40% degli errori
riguarda soltanto sei tipologie, tra cui spicca
l’assegnazione scorretta del tag SP (nome
proprio, cfr. sezione 4.2), che viene associato
a quasi tutte le occorrenze delle forme con
l’iniziale maiuscola.
6</p>
    </sec>
    <sec id="sec-8">
      <title>Conclusioni e sviluppi in corso</title>
      <p>Abbiamo illustrato brevemente i passaggi che
il progetto TrAVaSI sta seguendo per
costruire risorse per il trattamento automatico di
varietà storiche di italiano, differenziate
anche in diamesia, diafasia e a livello di genere
testuale. In questa fase preliminare abbiamo
cercato di dare risposte a quesiti irrisolti
sull’annotazione e la lemmatizzazione
dell’italiano in diacronia, per esempio sul
modo di trattare alcune forme (voci diverbate,
infiniti sostantivati, varianti regionali, per
citare alcuni esempi) e sui criteri di
lemmatizzazione delle varianti fono-morfologiche
dello stesso lemma. Le risorse sviluppate
saranno sfruttate per testare strumenti esistenti
di annotazione morfo-sintattica e di
lemmatizzazione e per lo sviluppo e/o
specializzazione di componenti software per il
trattamento di varietà storiche della lingua italiana.</p>
      <p>I primi risultati raccolti a partire
dall’analisi del sottocorpus del VoDIM selezionato
mostrano chiaramente che le dimensioni di
variazione da tenere in considerazione sono
molteplici e fortemente interrelate, derivanti
da diversi tipi di processi, come la variazione
nel tempo (variazione diacronica), la
variazione correlata a variabili sociolinguistiche
oppure legata al genere testuale o allo stile di
chi scrive. I luoghi di variazione spaziano
dall'ortografia, alla morfologia e alla sintassi
(specialmente in diacronia e in testi di domini
specialistici). Questo tipo di analisi è
fondamentale per arrivare a definire una
metodologia per la creazione di ulteriori risorse, con il
fine di allargare progressivamente l’arco
cronologico ma anche la tipologia di varietà
d’uso della lingua per poter costruire
strumenti TAL che siano applicabili a testi italiani
dei secoli precedenti, riconducibili a diverse
varietà d’uso della lingua. Da questa
prospettiva, il corpus selezionato come punto di
partenza del progetto TrAVaSI diventa quindi
particolarmente significativo in quanto crea i
presupposti per la definizione di un metodo
per la specializzazione di strumenti di
annotazione in relazione a molteplici varietà
linguistiche, diacroniche ma anche diafasiche,
diastratiche o corrispondenti a tipologie testuali.</p>
      <p>Gli sviluppi in corso includono:
1. l’addestramento e la specializzazione dei
modelli di UDPipe mediante test set
costituiti dai domini del test corpus, su cui di
volta in volta verrà valutato l’incremento
di accuratezza dell’annotazione;
2. la costruzione di lessici diacronici a
partire da corpora annotati – iniziando dal
VoDIM e successivamente attingendo a
risorse cronologicamente antecedenti –
come base per il processo di
lemmatizzazione;
3. sulla base della distanza tra il corpus
utilizzato per l’addestramento e i testi da
analizzare, l’identificazione del modello
linguistico più adeguato da utilizzarsi per
l’annotazione linguistica.</p>
    </sec>
    <sec id="sec-9">
      <title>Ringraziamenti</title>
      <p>Le attività di ricerca illustrate in questo
articolo sono condotte nell’ambito del progetto
TRaVaSI del programma di intervento
denominato “CNR4C” di cui al progetto congiunto
di alta formazione, cofinanziato dalla Regione
Toscana con le risorse del POR FSE
20142020 – Asse A Occupazione, all’interno di
“GiovaniSì”, il progetto regionale Toscano
per l’autonomia dei giovani.</p>
    </sec>
  </body>
  <back>
    <ref-list>
      <ref id="ref1">
        <mixed-citation>
          <string-name>
            <given-names>Attardi G.</given-names>
            ,
            <surname>Dell'Orletta F.</surname>
          </string-name>
          (
          <year>2009</year>
          ),
          <article-title>Reverse Revision and Linear Tree Combination for Dependency Parsing, in NAACL-HLT 2009 - North American Chapter of the Association for Computational Linguistics - Human Language Technologies (Boulder, Colorado</article-title>
          ,
          <year>June 2009</year>
          ). Proceedings, Association for Computational Linguistics, pp.
          <fpage>261</fpage>
          -
          <lpage>264</lpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref2">
        <mixed-citation>
          <string-name>
            <given-names>Attardi G.</given-names>
            ,
            <surname>Dell'Orletta F</surname>
          </string-name>
          .,
          <string-name>
            <surname>Simi</surname>
            <given-names>M.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Turian</surname>
            <given-names>J</given-names>
          </string-name>
          . (
          <year>2009</year>
          ),
          <article-title>Accurate Dependency Parsing with a Stacked Multilayer Perceptron</article-title>
          ,
          <source>Proceedings of EVALITA</source>
          <year>2009</year>
          <article-title>- Evaluation of NLP and Speech Tools for Italian 2009 (Reggio Emilia</article-title>
          , Italia, dicembre
          <year>2009</year>
          ).
        </mixed-citation>
      </ref>
      <ref id="ref3">
        <mixed-citation>
          <string-name>
            <surname>Biffi</surname>
            <given-names>M.</given-names>
          </string-name>
          (
          <year>2016</year>
          ),
          <article-title>Progettare il corpus per il vocabolario postunitario, in L'italiano elettronico. Vocabolari, corpora, archivi testuali e sonori, Atti della “Piazza delle Lingue” dell'Accademia della Crusca, edizione 2014 (Firenze, 6-8 novembre 2014), a cura di Claudio Marazzini e Ludovica Maconi</article-title>
          , Firenze, Accademia della Crusca, pp.
          <fpage>259</fpage>
          -
          <lpage>80</lpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref4">
        <mixed-citation>
          <string-name>
            <surname>Biffi</surname>
            <given-names>M.</given-names>
          </string-name>
          (
          <year>2018</year>
          ),
          <article-title>Strumenti informatico-linguistici per la realizzazione di un dizionario dell'italiano post-unitario</article-title>
          ,
          <source>JADT'18. Proceedings of the 14th International Conference on Statistical Analysis of Textual Data</source>
          ,
          <article-title>a cura di Domenica Fioredistella Iezzi</article-title>
          , Livia Celardo e Michelangelo Misuraca, Roma, Universitalia,
          <year>2018</year>
          , vol.
          <volume>1</volume>
          , pp.
          <fpage>99</fpage>
          -
          <lpage>107</lpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref5">
        <mixed-citation>
          <string-name>
            <surname>Biffi</surname>
            <given-names>M.</given-names>
          </string-name>
          (
          <year>2020</year>
          ),
          <article-title>La galassia lessicografica della Crusca in rete, in Italiano antico, italiano plurale. Testi e lessico del Medioevo nel mondo digitale</article-title>
          .
          <source>Atti del convegno internazionale in occasione delle 40</source>
          .000 voci
          <string-name>
            <surname>del</surname>
            <given-names>TLIO</given-names>
          </string-name>
          , Firenze,
          <fpage>13</fpage>
          -
          <lpage>14</lpage>
          settembre
          <year>2018</year>
          ,
          <article-title>a cura di Lino Leonardi e Paolo Squillacioti</article-title>
          , Alessandria,
          <source>Edizioni dell'Orso</source>
          , pp.
          <fpage>219</fpage>
          -
          <lpage>232</lpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref6">
        <mixed-citation>
          <string-name>
            <surname>Biffi</surname>
            <given-names>M.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Ferrari</surname>
            <given-names>A.</given-names>
          </string-name>
          (
          <year>2020</year>
          ),
          <article-title>Progettare e ideare un corpus dell'italiano nella rete: il caso del CoLIWeb, «Studi di Lessicografia Italiana»</article-title>
          , vol. XXXVII,
          <year>2020</year>
          , pp.
          <fpage>357</fpage>
          -
          <lpage>374</lpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref7">
        <mixed-citation>
          <string-name>
            <surname>Biffi</surname>
            <given-names>M.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Sassolini</surname>
            <given-names>E.</given-names>
          </string-name>
          ,
          <article-title>Strategie e metodi per il recupero di dizionari storici, in La svolta inevitabile: sfide e prospettive per l'informatica umanistica, Atti del IX Convegno Annuale dell'Associazione per l'Informatica Umanistica e la Cultura Digitale (AIUCD), Milano</article-title>
          ,
          <source>Università Cattolica del Sacro Cuore</source>
          ,
          <fpage>15</fpage>
          -
          <lpage>17</lpage>
          gennaio
          <year>2020</year>
          ,
          <article-title>a cura di Cristina Marras</article-title>
          , Marco Passarotti, Greta Franzini ed Eleonora Litta,
          <source>dell'Associazione per l'Informatica Umanistica e la Cultura Digitale</source>
          ,
          <year>2020</year>
          , pp.
          <fpage>235</fpage>
          -
          <lpage>239</lpage>
          (
          <article-title>pubblicazione elet-tronica in «Quaderni di Umanistica Digitale»</article-title>
          : &lt;http://doi.org/10.6092/unibo/amsacta/6316&gt;).
        </mixed-citation>
      </ref>
      <ref id="ref8">
        <mixed-citation>
          <string-name>
            <given-names>Bosco C.</given-names>
            ,
            <surname>Montemagni</surname>
          </string-name>
          <string-name>
            <given-names>S.</given-names>
            ,
            <surname>Simi</surname>
          </string-name>
          <string-name>
            <surname>M.</surname>
          </string-name>
          (
          <year>2013</year>
          ).
          <article-title>Converting Italian Treebanks: Towards an Italian Stanford Dependency Treebank</article-title>
          ,
          <source>Proceedings of the “7th Linguistic Annotation Workshop &amp; Interoperability with Discourse”</source>
          , Sofia, Bulgaria,
          <source>August 8-9</source>
          ,
          <year>2013</year>
          , ACL, pp.
          <fpage>61</fpage>
          -
          <lpage>69</lpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref9">
        <mixed-citation>
          <string-name>
            <surname>De Felice</surname>
            <given-names>I.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Dell'Orletta F</surname>
          </string-name>
          .,
          <string-name>
            <surname>Venturi</surname>
            <given-names>F.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Lenci</surname>
            <given-names>A. Montemagni S.</given-names>
          </string-name>
          (
          <year>2018</year>
          ),
          <article-title>Italian in the Trenches: Linguistic Annotation and Analysis of Text of the Great War</article-title>
          ,
          <source>Proceedings of 5th Italian Conference on Computational Linguistics (CLiC-it)</source>
          ,
          <fpage>10</fpage>
          -
          <lpage>12</lpage>
          dicembre
          <year>2018</year>
          , Torino.
        </mixed-citation>
      </ref>
      <ref id="ref10">
        <mixed-citation>
          <string-name>
            <surname>Dell'Orletta F.</surname>
          </string-name>
          (
          <year>2009</year>
          ),
          <article-title>Ensemble system for Part-ofSpeech tagging</article-title>
          ,
          <source>Proceedings of EVALITA</source>
          <year>2009</year>
          <article-title>- Evaluation of NLP and Speech Tools for Italian 2009 (Reggio Emilia, Italy</article-title>
          ,
          <year>December 2009</year>
          ).
        </mixed-citation>
      </ref>
      <ref id="ref11">
        <mixed-citation>
          <article-title>GDLI = Grande dizionario della lingua italiana, di Salvatore Battaglia (poi diretto da Giorgio Bàrberi Squarotti), Torino</article-title>
          ,
          <string-name>
            <surname>UTET</surname>
          </string-name>
          ,
          <fpage>1961</fpage>
          -
          <lpage>2002</lpage>
          ,
          <volume>21</volume>
          voll.;
          <source>con Supplemento 2004 e Supplemento</source>
          <year>2009</year>
          ,
          <article-title>diretti da Edoardo Sanguineti, Torino</article-title>
          ,
          <string-name>
            <surname>UTET</surname>
          </string-name>
          ,
          <year>2004</year>
          e 2008,
          <article-title>e Indice degli autori citati nei volumi I-XXI e nel Supplemento 2004, a cura di Giovanni Ronco, Torino</article-title>
          ,
          <string-name>
            <surname>UTET</surname>
          </string-name>
          ,
          <year>2004</year>
          .
        </mixed-citation>
      </ref>
      <ref id="ref12">
        <mixed-citation>
          <string-name>
            <given-names>Lenci A.</given-names>
            ,
            <surname>Montemagni</surname>
          </string-name>
          <string-name>
            <given-names>S</given-names>
            :, Boschetti F.,
            <surname>De Felice</surname>
          </string-name>
          <string-name>
            <given-names>I.</given-names>
            , dei Rossi F.,
            <surname>Dell'Orletta F</surname>
          </string-name>
          .,
          <string-name>
            <surname>Di Giorgio</surname>
            <given-names>M.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Miliani</surname>
            <given-names>M.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Passaro</surname>
            <given-names>L. C.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Puddu</surname>
            <given-names>A.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Venturi</surname>
            <given-names>G.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Labanca</surname>
            <given-names>N.</given-names>
          </string-name>
          (
          <year>2020</year>
          ),
          <source>Voices of the Great War: A Richly Annotated Corpus of Italian Texts on the First World War, Proceedings of the 12th Conference on Language Resources and Evaluation (LREC</source>
          <year>2020</year>
          ), Marsiglia,
          <fpage>11</fpage>
          -
          <lpage>16</lpage>
          maggio
          <year>2020</year>
          , pp.
          <fpage>911</fpage>
          -
          <lpage>918</lpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref13">
        <mixed-citation>
          <string-name>
            <surname>LIF = Bortolini</surname>
            <given-names>U.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Tagliavini</surname>
            <given-names>C.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Zampolli</surname>
            <given-names>A.</given-names>
          </string-name>
          ,
          <article-title>Lessico di frequenza della lingua italiana contemporanea</article-title>
          ,
          <source>IBM Italia</source>
          <year>1971</year>
          (poi: Milano, Garzanti,
          <year>1972</year>
          ).
        </mixed-citation>
      </ref>
      <ref id="ref14">
        <mixed-citation>
          <string-name>
            <given-names>Marazzini C.</given-names>
            ,
            <surname>Maconi</surname>
          </string-name>
          <string-name>
            <surname>L.</surname>
          </string-name>
          (
          <year>2018</year>
          ),
          <article-title>Il Vocabolario dinamico dell'italiano moderno rispetto ai linguaggi settoriali. Proposta di voce lessicografica per il redigendo VoDIM, «Italiano digitale»</article-title>
          ,
          <source>VII/4</source>
          , pp.
          <fpage>101</fpage>
          -
          <lpage>20</lpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref15">
        <mixed-citation>
          <string-name>
            <surname>Nivre J.</surname>
          </string-name>
          (
          <year>2015</year>
          ),
          <article-title>Towards a Universal Grammar for Natural Language Processing</article-title>
          ,
          <source>Computational Linguistics and Intelligent Text Processing -Proceedings of the 16th International Conference, CICLing</source>
          <year>2015</year>
          ,
          <string-name>
            <surname>Part</surname>
            <given-names>I.</given-names>
          </string-name>
          , Cairo, Egitto, pp.
          <fpage>3</fpage>
          -
          <lpage>16</lpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref16">
        <mixed-citation>
          <string-name>
            <surname>Pennacchiotti</surname>
            <given-names>M.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Zanzotto</surname>
            <given-names>F.M.</given-names>
          </string-name>
          (
          <year>2008</year>
          ).
          <source>Natural Language Processing Across Time: An Empirical Investigation on Italian, Proceedings of GoTAL - 6th International Conference on Natural Language Processing</source>
          , LNAI, volume
          <volume>5221</volume>
          , pp.
          <fpage>371</fpage>
          -
          <lpage>382</lpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref17">
        <mixed-citation>
          <string-name>
            <surname>Picchi E.</surname>
          </string-name>
          (
          <year>2003</year>
          ),
          <article-title>PiSystem: sistemi integrati per l'analisi testuale, in Computational Linguistics in Pisa. Linguistica Computazionale, a cura di Zampolli A</article-title>
          .,
          <string-name>
            <surname>Calzorali</surname>
            <given-names>N.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Cignoni</surname>
            <given-names>L.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Special</surname>
            <given-names>Issue</given-names>
          </string-name>
          , XVIII-XlX, Pisa-Roma, IEPI,
          <year>2003</year>
          , pp.
          <fpage>597</fpage>
          -
          <lpage>627</lpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref18">
        <mixed-citation>
          <string-name>
            <given-names>Sassolini E.</given-names>
            ,
            <surname>Fahad</surname>
          </string-name>
          <string-name>
            <given-names>Khan A.</given-names>
            ,
            <surname>Biffi</surname>
          </string-name>
          <string-name>
            <given-names>M.</given-names>
            ,
            <surname>Monachini</surname>
          </string-name>
          <string-name>
            <given-names>M.</given-names>
            ,
            <surname>Montemagni</surname>
          </string-name>
          <string-name>
            <surname>S.</surname>
          </string-name>
          ,
          <article-title>Converting and Structuring a Digital Historical Dictionary of Italian: A Case Study</article-title>
          , in Kosem, I., Zingano Kuhn,
          <string-name>
            <given-names>T.</given-names>
            ,
            <surname>Correia</surname>
          </string-name>
          ,
          <string-name>
            <given-names>M.</given-names>
            ,
            <surname>Ferreria</surname>
          </string-name>
          ,
          <string-name>
            <given-names>J. P.</given-names>
            ,
            <surname>Jansen</surname>
          </string-name>
          ,
          <string-name>
            <given-names>M.</given-names>
            , Pe-reira, I.,
            <surname>Kallas</surname>
          </string-name>
          ,
          <string-name>
            <given-names>J.</given-names>
            ,
            <surname>Jakubíček</surname>
          </string-name>
          ,
          <string-name>
            <given-names>M.</given-names>
            ,
            <surname>Krek</surname>
          </string-name>
          ,
          <string-name>
            <given-names>S.</given-names>
            &amp;
            <surname>Tiberius</surname>
          </string-name>
          ,
          <string-name>
            <surname>C</surname>
          </string-name>
          . (eds.),
          <article-title>Electronic lexicography in the 21st century: Smart lexicography</article-title>
          .
          <source>Proceedings of the eLex 2019 conference (1-3 October</source>
          <year>2019</year>
          , Sintra, Portugal),
          <source>Brno, Lexical Computing CZ, s.r.o.</source>
          ,
          <year>2019</year>
          , pp.
          <fpage>603</fpage>
          -
          <lpage>621</lpage>
          (pubblicazione elettronica: https://elex.link/elex2019/proceedings-download/).
        </mixed-citation>
      </ref>
      <ref id="ref19">
        <mixed-citation>
          <string-name>
            <given-names>Sprugnoli R.</given-names>
            ,
            <surname>Passarotti</surname>
          </string-name>
          <string-name>
            <given-names>M.</given-names>
            ,
            <surname>Cecchini</surname>
          </string-name>
          <string-name>
            <given-names>F. M.</given-names>
            ,
            <surname>Pellegrini</surname>
          </string-name>
          <string-name>
            <surname>M.</surname>
          </string-name>
          (
          <year>2020</year>
          ),
          <article-title>Overview of the EvaLatin 2020 Evaluation Campaign</article-title>
          ,
          <source>Proceedings of 1st Workshop on Language Technologies for Historical and Ancient Languages, LREC</source>
          <year>2020</year>
          , Marsiglia, Francia, pp.
          <fpage>105</fpage>
          -
          <lpage>110</lpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref20">
        <mixed-citation>
          <string-name>
            <surname>Straka</surname>
            <given-names>M.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Straková</surname>
            <given-names>J</given-names>
          </string-name>
          . (
          <year>2017</year>
          ), Tokenizing, POS Tagging,
          <source>Lemmatizing and Parsing UD2</source>
          .
          <article-title>0 with UDPipe</article-title>
          ,
          <source>Proceedings of the CoNLL</source>
          <year>2017</year>
          :
          <article-title>Shared Task: Multilingual Parsing from Raw Text to Universal Dependencies</article-title>
          , Vancouver, Canada, pp.
          <fpage>88</fpage>
          -
          <lpage>99</lpage>
          .
        </mixed-citation>
      </ref>
    </ref-list>
  </back>
</article>