Resumen Analizar periódicos de los siglos XVIII, XIX y principios del XX exige cierta calidad de las fuentes digitalizadas y la utilización de recursos específicos de dominio o de la lengua. Cualquier aproximación utilizando las tecnologías actuales, se encuentra con que la mayoría de los modelos PLN disponibles para la transcripción o el reconocimiento de entidades están entrenados con textos en “lenguajes actuales”. Si además el reto consiste en extraer información de periódicos históricos en español, la complejidad aumenta, ya que la normalización del español es relativamente “moderna” y hay que intentar refinar los modelos de PLN o generar nuevos recursos. En esta presentación del corpus construido desde los textos disponibles en la Hemeroteca Digital de la BNE, Diario de Madrid (1788-1825), se mostrarán los pasos seguidos para su transcripción automática generando un modelo (99% de rendimiento) en el marco del proyecto CLARA-HD. Finalmente se incluyen unas conclusiones iniciales. English translation. The analysis of historical newspapers from the 18th, 19th, and early 20th centuries requires a certain quality of digitized sources and the use of specific domain or language resources. Any approach using current technologies finds that most of the NLP models available for transcription or entity recognition are trained with texts in "current languages". If, in addition, the challenge consists of extracting information from historical newspapers in Spanish, the complexity increases since the normalization of Spanish is relatively “modern” and it is necessary to try to refine the NLP models or generate new resources. In this demonstration for the corpus built from the BNE Digital Hemeroteca, Diario de Madrid (17881825) the steps followed will be shown for its automatic transcription using a defined model (99% performance), within the framework of the CLARA-HD project. Finally, some initial conclusions are included.
La utilización de técnicas de Procesamiento de
Lenguaje Natural (PLN) en el tratamiento de
documentos textuales, en concreto en el ámbito de
las Humanidades Digitales (HD), se ha convertido
en una práctica referente en muchos de los
proyectos actuales [
La elaboración de corpus históricos está sujeta
a múltiples factores, entre ellos su finalidad [
La comunidad científica concienciada de la
dificultad de tratar documentos históricos, en los
últimos años está realizando un esfuerzo en
mejorar las herramientas disponibles para su
gestión, acceso y consulta [
En esta presentación del corpus construido desde los textos disponibles en la Hemeroteca Digital de la BNE, Diario de Madrid (17881825)¡Error! Marcador no definido., se justifica, en el apartado segundo, la necesidad de construir corpus de suficiente calidad para el análisis PLN previo al estudio de historiadores o público en general, se muestran los pasos seguidos para su transcripción en el apartado tercero y finalmente se incluyen algunos comentarios sobre este trabajo.
Las facilidades que ofrece la informática propician la confección de corpus que presentan el mismo texto en diversas modalidades de edición: facsímil (reproducción fotográfica del original), paleográfica (transcripción sin correcciones ni interpretaciones), normalizada (transcripción siguiendo la normativa ortográfica, léxica y sintáctica vigente), crítica (transcripción que pretende reconstruir el texto original) o interpretativa (transcripción que sigue los postulados de la edición paleográfica pero permite corregir ciertos errores para poder explicar el sentido del texto). Ejemplos son el corpus burckhardtsource.org y el proyecto CHARTA2.
En el estudio del impacto de la tarea de
reconocimiento de entidades nombradas (NER,
por sus siglas en inglés) en el ámbito de las HD,
en [
Dentro de las HD, el estudio de las ediciones de periódicos históricos entre el siglo XVIII y principios del siglo XX es un campo idóneo para aplicar estas técnicas debido a la presencia de todo tipo de entidades en ellos y a su evolución temporal a lo largo de los años para recuperar, almacenar y consultar la herencia cultural transmitida. Aun así, su uso directo presenta varios inconvenientes al utilizarlos en textos históricos. La mayoría de los modelos actuales son modelos estadísticos que necesitan un conjunto de datos etiquetados para ser entrenados en el contexto que se quieren utilizar, y estos conjuntos escasean o no son públicos en las HD. Esto repercute en otra dificultad añadida, que es la representación que deben tener los textos para ser utilizados por las técnicas del PLN.
Desde hace años se ha impuesto la utilización
de modelos vectoriales de baja dimensión para
representar los textos, conocidos como word
embeddings. Para obtener estos modelos, en la
mayoría de las ocasiones es necesario realizar un
entrenamiento en una gran cantidad de textos del
contexto en el que se quieren utilizar para
aprender las relaciones entre las palabras y
conceptos. Para obtener una mejor representación
final se suele realizar un pre-procesamiento de los
textos para eliminar información irrelevante
(como código HTML y algunos metadatos). Una
vez limpio el texto, se utiliza como entrada para
generar los word embeddings, ya sean estáticos o
contextuales como los modelos basados en
Transformers [
Últimamente, las redes neuronales basadas en
modelos de lenguaje mejoran la detección de
entidades, especialmente desde la publicación del
modelo BERT [
En definitiva, los intentos de análisis de documentos históricos mediante tecnologías de PLN actuales se encuentran con el problema de que la mayoría de los modelos disponibles están entrenados con textos en “lenguas modernas”, y aumenta la complejidad al intentar extraer información de documentos históricos en español, ya que la normalización del español es relativamente “moderna” y hay que refinar los modelos de PLN o generar nuevos recursos.
transcripción del modelo de
La dificultad para aplicar la tecnología actual de PLN en las HD es el origen de los datos, porque la mayoría de las fuentes están almacenadas en imágenes de mala calidad con tipografías antiguas que necesitan de un OCR específico.
Transkribus3 es una plataforma para la digitalización, el reconocimiento de texto, la transcripción y la búsqueda en documentos históricos. Es resultado de un proyecto europeo y de pago a partir de un cierto límite de uso. Con el 3 https://readcoop.eu/transkribus/ 4 https://readcoop.eu/transkribus/howto/ use-transkribus-in-10-steps/ registro se obtienen 500 créditos (unas 500 páginas). La herramienta está bien documentada4 y cuenta con funcionalidades de acceso libre desde el navegador5 o la aplicación.
Para la transcripción dispone de modelos basados en redes neuronales públicos y entrenados en distintos idiomas y grafías6, lo que facilita encontrar uno que se aproxime al de los documentos a transcribir. De no ser así, la herramienta permite entrenar uno propio y automatizar la transcripción de nuestros documentos. De hecho, ya disponemos de un modelo entrenado a partir de transcripciones manuales en el proyecto CLARA-HD.
Para ello, se comienza creando una colección y cargando los ficheros que contienen los textos en ella (Figura 1).
Para poder transcribir los documentos hay que realizar manualmente el reconocimiento de su estructura (o layout), diferenciando las regiones en las que se encuentra el texto (Figura 2). El reconocimiento en general no es perfecto, por lo que en ocasiones habrá que corregir errores o modificar manualmente. 5 https://transkribus.eu/lite/ 6 https://readcoop.eu/transkribus/public-models/
Una reconocidas las regiones se transcribe el texto, línea a línea manualmente o con la ayuda de un modelo público seleccionado. Es posible que haya que editar la transcripción para corregir errores (Figura 3).
Para automatizar este proceso se ha creado un modelo propio de transcripción a partir de un conjunto de entrenamiento junto con una guía de estilo, realizando los pasos mostrados anteriormente: (1) subida de documentos a la herramienta, (2) reconocimiento manual de la estructura de todas las páginas de los documentos, (3) transcripción de un cierto número de páginas manualmente o con la ayuda de un modelo público y (4) revisión manual final de las mismas, para entrenar nuestro modelo de transcripción. 7 www.clara-nlp.uned.es
Se ha presentado cómo construir un corpus con la herramienta Transkribus, entrenando un nuevo modelo de transcripción capaz de reconocer caracteres no vistos por el modelo base, alcanzando una precisión en el reconocimiento de caracteres nuevos del 99%.
En este momento estamos trabajando con historiadores de la UNED interesados en el contenido del Diario de Madrid, para identificar tanto la terminología como los temas de interés para su investigación y evaluar cuánto es soportada por la tecnología PLN utilizada. Una vez identificados los tipos de entidades útiles para los historiadores, se seguirá con la extracción de las menciones de cada tipo, como las localizaciones, las profesiones o palabras complejas de entender.
Este trabajo parcialmente financiado por el
proyecto coordinado CLARA-NLP7 consta de
tres subproyectos para dominios especializados en
historia8, biomedicina [
Finalmente, un agradecimiento especial para la participación en este subproyecto de los estudiantes en prácticas V. Sánchez-Sánchez, R. Garcia-Sánchez y A. Rodriguez-Francés. 8 (PID2020-116001RB-C31), (PID2020-116001RA-C33) (PID2020-116001RB-C32),