<!DOCTYPE article PUBLIC "-//NLM//DTD JATS (Z39.96) Journal Archiving and Interchange DTD v1.0 20120330//EN" "JATS-archivearticle1.dtd">
<article xmlns:xlink="http://www.w3.org/1999/xlink">
  <front>
    <journal-meta>
      <issn pub-type="ppub">1613-0073</issn>
    </journal-meta>
    <article-meta>
      <title-group>
        <article-title>SINAI en TASS 2018: Insercion de Conocimiento Emocional Externo a un Clasi cador Lineal de Emociones</article-title>
      </title-group>
      <contrib-group>
        <contrib contrib-type="author">
          <string-name>SINAI at TASS</string-name>
        </contrib>
      </contrib-group>
      <pub-date>
        <year>2018</year>
      </pub-date>
      <fpage>125</fpage>
      <lpage>130</lpage>
      <abstract>
        <p>In this paper, we present the emotion classi cation system developed by the SINAI team for the Task 4 at TASS 2018 workshop. Our approach is based on a supervised learning algorithm, SVM, using emotional features, which are grounded in several emotional lexicons. The obtained results encourage us to continue working on this line.</p>
      </abstract>
    </article-meta>
  </front>
  <body>
    <sec id="sec-1">
      <title>-</title>
      <p>
        En este trabajo se describen las
aportaciones realizadas a la Tarea 4 del taller TASS
(Good Or Bad News? Emotional
categorization of news articles)
        <xref ref-type="bibr" rid="ref7">(Mart nez-Camara et
al., 2018)</xref>
        . La tarea propone el desarrollo de
sistemas que identi quen si una noticia es
segura o adecuada para un anunciante en
funcion de la emocion que suscite el titular de
la misma. Debe destacarse que los titulares
proceden de noticias publicadas en periodicos
de Espan~a y de diversos pa ses de America,
de manera que el corpus que se proporciona,
SANSE, es una representacion global de la
lengua espan~ola escrita1.
      </p>
      <p>Con la aparicion de la Web 2.0, la cantidad
de informacion subjetiva en Internet ha
crecido exponencialmente. Existen diferentes
plataformas como son las redes sociales, portales</p>
      <p>
        1Los detalles de la tarea y el corpus pueden leerse
en
        <xref ref-type="bibr" rid="ref7">(Mart nez-Camara et al., 2018)</xref>
        .
de noticias, blogs o microblogs en los que los
usuarios publican abiertamente. Si nos
centramos en el dominio de las noticias,
encontramos diversos periodicos digitales como El
Pa s, El Mundo o ABC que poseen art culos
de este tipo. En ellos, los usuarios pueden
comentar de forma anonima o publica, dando
su opinion acerca de una determinada
noticia. Debido al interes de analizar este tipo de
informacion, surge la tarea de detectar
automaticamente las emociones publicas
evocadas por los documentos en l nea. Sin
embargo, anotar los titulares de noticias con
emociones es una tarea dif cil incluso para los
seres humanos
        <xref ref-type="bibr" rid="ref4">(Katz, Singleton, y
Wicentowski, 2007)</xref>
        .
      </p>
      <p>El reconocimiento de emociones en textos
tiene multiples bene cios en diferentes
sectores. Algunos ejemplos se listan a
continuacion:
1. Ayuda a las empresas a con gurar sus</p>
      <p>
        Copyright © 2018 by the paper's authors. Copying permitted for private and academic purposes.
estrategias de marketing en funcion de
las emociones de los consumidores
        <xref ref-type="bibr" rid="ref1">(Bougie, Pieters, y Zeelenberg, 2003)</xref>
        .
2. Permite mejorar los sistemas de
recomendacion basados en ltros
colaborativos (Badaro et al., 2013).
3. Los pol ticos pueden adaptar su
discurso en base a la reaccion de la poblacion
        <xref ref-type="bibr" rid="ref11">(Pang, Lee, y others, 2008)</xref>
        .
4. Puede ayudar a predecir el mercado de
      </p>
      <p>valores.
5. Puede identi car si el titular de una
noticia es seguro o inseguro para un
anunciante en funcion de las emociones
expresadas en el mismo.</p>
      <p>En este trabajo, proponemos un sistema
de clasi cacion de emociones en espan~ol para
el reconocimiento de emociones en titulares
de noticias. Para ello, usamos diferentes
lexicones afectivos para extraer una serie de
caracter sticas y, ademas, integramos dicho
conocimiento en un clasi cador supervisado.</p>
      <p>Los resultados obtenidos nos animan a seguir
trabajando en esta tarea.
2</p>
    </sec>
    <sec id="sec-2">
      <title>Miner a de emociones</title>
      <p>
        La miner a de la opinion y la miner a de la
emocion forman parte del area de Analisis de
Sentimientos (AS), pero tienen diferentes
objetivos. La miner a de la opinion trata el
estudio de las opiniones expresadas en los textos
y su tarea basica es la deteccion de la
polaridad
        <xref ref-type="bibr" rid="ref5">(Liu, 2015)</xref>
        , mientras que la miner a
de la emocion se relaciona con el estudio de
las emociones y su tarea basica es el
reconocimiento de emociones
        <xref ref-type="bibr" rid="ref2">(Cambria, 2016)</xref>
        . La
deteccion de la polaridad suele ser una tarea
de clasi cacion binaria en la que se obtiene
como resultado si una opinion es positiva o
negativa, mientras que el reconocimiento de
emociones trata de identi car diferentes
categor as emocionales en un texto como el
miedo, la alegr a, la tristeza o la repulsion.
      </p>
      <p>
        En la ultima decada, la mayor parte del
trabajo se ha centrado en la tarea de clasi
cacion de la polaridad. Sin embargo, una de las
areas mas complejas que aun no se ha
estudiado en profundidad es la miner a de la
emocion. Algunos trabajos estan comenzando a
explorar el potencial de los sistemas de
deteccion y clasi cacion de emociones
        <xref ref-type="bibr" rid="ref8">(Mohammad, 2017)</xref>
        . No obstante, la mayor parte de
los trabajos estan orientados a tratar
documentos en ingles, encontrando muy pocos
trabajos en espan~ol.
      </p>
      <p>
        La mayor parte de los trabajos de
reconocimiento de emociones, se centran en el uso
e integracion de diferentes recursos como
lexicones y corpus. En concreto, los lexicones
afectivos son muy valiosos ya que
proporcionan informacion acerca del tipo de emocion e
intensidad que expresa cada palabra del
texto. Ademas, pueden ser utilizados en varios
enfoques del AS, como caracter sticas para la
clasi cacion en metodos de aprendizaje
automatico
        <xref ref-type="bibr" rid="ref6">(Liu y Zhang, 2012)</xref>
        , o para
generar una puntuacion de afecto para cada
documento, basada en el valor de intensidad de
cada palabra
        <xref ref-type="bibr" rid="ref13">(Socher et al., 2013)</xref>
        .
      </p>
      <p>
        Sin embargo, la disponibilidad de recursos
emocionales es escasa y la mayor a de ellos los
encontramos en ingles. Por ejemplo,
Strapparava y Valitutti (2004) desarrollaron el
recurso WordNet-A ect formado por un conjunto
de terminos afectivos en ingles y basado en los
synsets de WordNet. Linguistic Inquiry and
Word Count (LIWC) es otro lexicon
emocional que divide las palabras en diferentes
categor as, incluidos los estados
emocionales.
        <xref ref-type="bibr" rid="ref9">Mohammad y Turney (2010</xref>
        ) desarrollan
un recurso denominado NRC A ect Intensity
Lexicon el cual proporciona valores de
intensidad de afecto para cuatro emociones basicas
(enfado, miedo, tristeza, alegr a). Por ultimo
        <xref ref-type="bibr" rid="ref9">Mohammad y Turney (2010</xref>
        ) crean otro
recurso denominado NRC Word-Emotion
Association Lexicon (Emolex).
      </p>
      <p>
        Con respecto a la disponibilidad de
recursos emocionales en espan~ol, encontramos que
el numero es muy limitado. Hasta donde
sabemos, el unico lexicon emocional que
podemos encontrar es Spanish Emotion Lexicon
(SEL)
        <xref ref-type="bibr" rid="ref12">(Sidorov et al., 2012)</xref>
        aunque los
resultados obtenidos en diferentes
experimentos no son muy prometedores.
      </p>
      <p>En este trabajo, usamos los lexicones
emocionales como caracter sticas para la clasi
cacion de noticias haciendo uso de un algoritmo
de aprendizaje automatico.
3</p>
    </sec>
    <sec id="sec-3">
      <title>Descripcion del sistema</title>
      <p>El equipo SINAI ha participado con un
sistema, que se describira a continuacion, en la
Subtarea 1 de la Tarea 4 de la edicion de 2018
del taller TASS.</p>
      <p>En esta seccion, se presentan los
elementos que forman parte del sistema desarrollado
para la competicion. En primer lugar, se
describen los lexicones utilizados para la
obtencion de las caracter sticas emocionales dadas
en una noticia. En segundo lugar, se explica el
proceso seguido para la extraccion de las
caracter sticas haciendo uso de los lexicones y,
por ultimo, se explica la etapa de clasi cacion
llevada a cabo con un algoritmo supervisado.
3.1</p>
      <sec id="sec-3-1">
        <title>Lexicones de emocion y de polaridad</title>
        <p>Para el reconocimiento de la emocion a nivel
de oracion, es esencial el analisis de las
palabras del titular de la noticia para determinar
su emocion. Por esta razon, en este sistema
utilizamos dos lexicones de emocion y uno de
polaridad con el n de determinar la carga
emocional que expresan las palabras del
titular de una noticia. Los lexicones empleados
son:</p>
        <sec id="sec-3-1-1">
          <title>NRC Word-Emotion Association</title>
        </sec>
        <sec id="sec-3-1-2">
          <title>Lexicon (Emolex) (Mohammad y Tur</title>
          <p>ney, 2010). Esta constituido por 14.182
terminos en ingles asociados a una o
mas emociones: ira, miedo, anticipacion,
con anza, sorpresa, tristeza, alegr a.
Ademas, este recurso esta disponible en
mas de cien idiomas, incluido el espan~ol.
Todas estas versiones se han generado
mediante la traduccion de los terminos
en ingles haciendo uso del traductor de
Google.</p>
        </sec>
        <sec id="sec-3-1-3">
          <title>Spanish Emotion Lexicon (SEL)</title>
          <p>
            <xref ref-type="bibr" rid="ref12">(Sidorov et al., 2012)</xref>
            . Incluye 2.036
palabras en espan~ol que se asocian con la
medida del Factor de Probabilidad de Uso
Afectivo con respecto a al menos una
emocion basica: alegr a, ira, miedo,
tristeza, sorpresa y repulsion. Fue anotado
manualmente por 19 anotadores (escala:
nula, baja, media, alta) y se
implementaron ciertos umbrales de acuerdo.
          </p>
        </sec>
        <sec id="sec-3-1-4">
          <title>Lexicon Mejorado de Opiniones en</title>
          <p>
            Espan~ol (iSOL2)
            <xref ref-type="bibr" rid="ref10">(Molina-Gonzalez et
al., 2013)</xref>
            . Es una lista de palabras de
opinion en espan~ol independiente del
dominio. Los autores tradujeron
automaticamente con el traductor Reverso3 el
lexicon de Bing Liu
            <xref ref-type="bibr" rid="ref14 ref3">(Hu y Liu, 2004)</xref>
            , y
posteriormente corrigieron manualmente
2http://sinai.ujaen.es/isol/
3http://www.reverso.net/
la traduccion. iSOL contiene 2.509
palabras positivas y 5.626 negativas.
3.2
          </p>
          <p>Extraccion de caracter sticas
Para la extraccion de caracter sticas
emocionales de una noticia se ha tenido en cuenta la
siguiente hipotesis: si una noticia genera una
emocion positiva o neutra, es segura para
incorporar anuncios, pero si genera una
emocion negativa, la noticia no es segura para
an~adir anuncios. En base a esta hipotesis, se
han utilizado los lexicones mencionados
anteriormente mapeando cada emocion de las
distintas palabras en polaridad positiva o
negativa. Este mapeo se ha realizado en el caso
de los lexicones que contienen palabras
clasi cadas en emociones: Emolex y SEL. Sin
embargo, para el caso del lexicon iSOL no ha
sido necesario ya que se trata de un lexicon
de polaridad. Las Tablas 1 y 2 muestran la
correspondencia realizada entre las
emociones de los distintos lexicones y la polaridad
(positiva o negativa).</p>
          <p>Tabla 1: Correspondencia entre las emociones
de SEL y la polaridad positiva/negativa
Emocion
anger
fear
sadness
joy
disgust
surprise
Emocion
enfado
miedo
tristeza
alegr a
asco
sorpresa
anticipacion
con anza</p>
          <p>Tabla 2: Correspondencia entre las emociones
de Emolex y la polaridad positiva/negativa</p>
          <p>El metodo seguido para la extraccion de
caracter sticas emocionales es el siguiente:
1. Se comprueba la presencia de cada uno
Polaridad
negativa
negativa
negativa
positiva
negativa
positiva
Polaridad
negativa
negativa
negativa
positiva
negativa
positiva
negativa
positiva
Figura 1: Cobertura del numero de palabras
de la noticia detectadas en los lexicones
de los terminos que componen el titular
de la noticia en los distintos lexicones.
2. Si el termino esta presente en algun
lexicon, se mapea la emocion de dicho
termino y se obtiene la polaridad
positiva o negativa.
3. Para cada titular de noticia, obtenemos
un valor de polaridad positiva y otro de
polaridad negativa. Este valor se obtiene
realizando el sumatorio de la polaridad
de cada una de las palabras del titular
presente en los distintos lexicones
(Emolex, SEL e iSOL).
4. Como resultado, obtenemos un vector de
dos valores (positivo, negativo) para
cada lexicon, es decir, extraemos un total
de seis caracter sticas para cada noticia.</p>
          <p>En la Tabla 3 podemos ver un ejemplo de
algunas de las noticias junto a las emociones
reconocidas por el sistema.
3.3</p>
        </sec>
      </sec>
      <sec id="sec-3-2">
        <title>Aprendizaje supervisado</title>
        <p>En primer lugar, preprocesamos el corpus de
noticias proporcionado. El preprocesamiento
que llevamos a cabo se explica a continuacion:
Tokenizacion con TweetTokenizer4 de
NLTK.</p>
        <p>Eliminacion de palabras vac as
(stopwords) con NLTK.5</p>
        <p>Conversion de las palabras a minuscula.</p>
        <p>Seguidamente, se realiza la union de los
vectores obtenidos con los distintos lexicones
de emociones y de polaridad, y la
representacion TF-IDF de la noticia. Para llevar a
cabo la clasi cacion, optamos por el algoritmo
4http://www.nltk.org/api/nltk.tokenize.
html
5https://pythonspot.com/nltk-stop-words/
de aprendizaje supervisado SVM, y
concretamente su implementacion C-SVC. Se uso un
nucleo lineal y el valor de C fue 1.0.</p>
        <p>Por ultimo, para ejecutar nuestros
experimentos, se utilizaron los conjuntos de
datos proporcionados por los organizadores de
la tarea de la siguiente manera. Durante
el per odo de pre-evaluacion, entrenamos el
sistema con el conjunto de entrenamiento
(train) y evaluamos con el conjunto de
desarrollo (dev.). Sin embargo, durante el per odo
de evaluacion, entrenamos el sistema con el
conjunto train y dev., y evaluamos con el
conjunto de evaluacion (test).
4</p>
      </sec>
    </sec>
    <sec id="sec-4">
      <title>Resultados obtenidos</title>
      <p>Los resultados proporcionados por nuestro
sistema sobre el corpus SANSE para la
Tarea 4 se muestran en la Tabla 3 y 4. Las
medidas o ciales de la competicion son
MacroPrecision, Macro-Recall, Macro-F1 y
Accuracy.</p>
      <p>En la Tabla 5 podemos observar los
resultados obtenidos por clase (SAFE, UNSAFE).
Como podemos apreciar, el modelo
muestra mejores resultados para la clase
UNSAFE. Sin embargo, para la clase SAFE
obtenemos un recall bajo de 62,2 %. Esto se
debe a que en el mapeado realizado
(emocionpolaridad), el numero de emociones negativas
es mayor que el numero de emociones
positivas como se puede observar en la Tabla 1 y
2 y, por consiguiente, hay mas palabras
negativas que positivas en los lexicones
emocionales. En la Figura 1 vemos claramente que
el numero de palabras negativas encontradas
en la noticia (65,1 %) es mayor que el numero
de palabras positivas (34,9 %). Por tanto, se
recuperan pocas palabras con polaridad
positiva. Por otra parte, como podemos ver en
la Tabla 4 los resultados obtenidos a nivel
general por nuestro sistema son de 73,33 %
en el caso de la Macro-Precision, 72,22 % de
Macro-Recall, 72,8 % de Macro-F1 y 74,2 %
de Accuracy.
5</p>
    </sec>
    <sec id="sec-5">
      <title>Conclusiones</title>
      <p>En este trabajo presentamos un metodo de
clasi cacion de emociones desarrollado con
aprendizaje supervisado que hace uso de
caracter sticas emocionales extra das a partir
de diferentes lexicones y que se utilizan como
entrada para un clasi cador supervisado. Los
resultados obtenidos demuestran la utilidad
de utilizar caracter sticas emocionales para
Tabla 3: Emociones detectadas en una noticia</p>
      <sec id="sec-5-1">
        <title>Titular noticia</title>
        <p>Obesidad[tristeza, asco], un
problema[tristeza, miedo] de gravedad[tristeza, miedo]
mayor[tristeza, con anza] en Mexico
Secretario de estado
comprometicon la
do[alegr a, con anza, anticipacion]
paz[alegr a, con anza, anticipacion] en Bolivia
Detenido un yihadista que quer a
matarenfado, miedo, tristeza, anticipacion a Espan~oles</p>
      </sec>
      <sec id="sec-5-2">
        <title>Macro-P</title>
      </sec>
      <sec id="sec-5-3">
        <title>Macro-R</title>
      </sec>
      <sec id="sec-5-4">
        <title>Macro-F1</title>
        <p>
          0.733
realizar la clasi cacion ya que son aceptables.
Ademas, vemos que es necesario el desarrollo
de lexicones emocionales en espan~ol ya que el
unico que encontramos actualmente es SEL.
Nuestro proximo estudio se enfocara en
explorar mas lexicones afectivos en otros
idiomas con el objetivo de adaptarlos al espan~ol
ya que como se demostro en la tarea
compartida del WASSA-2017
          <xref ref-type="bibr" rid="ref7 ref8">(Mohammad y
BravoMarquez, 2017)</xref>
          , el uso de lexicones es
benecioso para la clasi cacion de emociones.
        </p>
      </sec>
    </sec>
    <sec id="sec-6">
      <title>Agradecimientos</title>
      <p>Este trabajo ha sido parcialmente
subvencionado por el Fondo Europeo de
Desarrollo Regional (FEDER), el proyecto
REDES (TIN2015-65136-C2-1-R) y el proyecto
SMART-DASCI (TIN2017-89517-P) del
Gobierno de Espan~a. Eugenio Mart nez
Camara fue nanciado por el programa Juan de
la Cierva Formacion (FJCI-2016-28353) del
Gobierno de Espan~a.</p>
    </sec>
    <sec id="sec-7">
      <title>Bibliograf a</title>
      <p>Badaro, G., H. Hajj, W. El-Hajj, y L.
Nachman. 2013. A hybrid approach with
collaborative ltering for recommender
systems. En Wireless Communications and
Emociones positivas Emociones negativas
1 3
2
0
1
4</p>
      <p>Mobile Computing Conference (IWCMC),
2013 9th International, paginas 349{354.</p>
      <p>IEEE.
S. Estevez-Velarde M. A. Garc
aCumbreras M. Garc a-Vega Y. Gutierrez
A. Montejo Raez A. Montoyo R. Mun~oz
A. Piad-Mor s, y J. Villena-Roman,
editores, Proceedings of TASS 2018:
Workshop on Semantic Analysis at
SEPLN (TASS 2018), volumen 2172 de
CEUR Workshop Proceedings, Sevilla,
Spain, September. CEUR-WS.</p>
    </sec>
  </body>
  <back>
    <ref-list>
      <ref id="ref1">
        <mixed-citation>
          <string-name>
            <surname>Bougie</surname>
            ,
            <given-names>R.</given-names>
          </string-name>
          , R. Pieters, y
          <string-name>
            <given-names>M.</given-names>
            <surname>Zeelenberg</surname>
          </string-name>
          .
          <year>2003</year>
          .
          <article-title>Angry customers don't come back, they get back: The experience and behavioral implications of anger and dissatisfaction in services</article-title>
          .
          <source>Journal of the Academy of Marketing Science</source>
          ,
          <volume>31</volume>
          (
          <issue>4</issue>
          ):
          <volume>377</volume>
          {
          <fpage>393</fpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref2">
        <mixed-citation>
          <string-name>
            <surname>Cambria</surname>
            ,
            <given-names>E.</given-names>
          </string-name>
          <year>2016</year>
          .
          <article-title>A ective computing and sentiment analysis</article-title>
          .
          <source>IEEE Intelligent Systems</source>
          ,
          <volume>31</volume>
          (
          <issue>2</issue>
          ):
          <volume>102</volume>
          {
          <fpage>107</fpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref3">
        <mixed-citation>
          <string-name>
            <surname>Hu</surname>
            , M. y
            <given-names>B.</given-names>
          </string-name>
          <string-name>
            <surname>Liu</surname>
          </string-name>
          .
          <year>2004</year>
          .
          <article-title>Mining and summarizing customer reviews</article-title>
          .
          <source>En Proceedings of the tenth ACM SIGKDD international conference on Knowledge discovery and data mining, paginas</source>
          <volume>168</volume>
          {
          <fpage>177</fpage>
          . ACM.
        </mixed-citation>
      </ref>
      <ref id="ref4">
        <mixed-citation>
          <string-name>
            <surname>Katz</surname>
            ,
            <given-names>P.</given-names>
          </string-name>
          , M. Singleton, y
          <string-name>
            <given-names>R.</given-names>
            <surname>Wicentowski</surname>
          </string-name>
          .
          <year>2007</year>
          .
          <article-title>Swat-mp: the semeval-2007 systems for task 5 and task 14</article-title>
          .
          <source>En Proceedings of the 4th international workshop on semantic evaluations, paginas</source>
          <volume>308</volume>
          {
          <fpage>313</fpage>
          .
          <article-title>Association for Computational Linguistics</article-title>
          .
        </mixed-citation>
      </ref>
      <ref id="ref5">
        <mixed-citation>
          <string-name>
            <surname>Liu</surname>
            ,
            <given-names>B.</given-names>
          </string-name>
          <year>2015</year>
          .
          <article-title>Sentiment analysis: Mining opinions, sentiments, and emotions</article-title>
          . Cambridge University Press.
        </mixed-citation>
      </ref>
      <ref id="ref6">
        <mixed-citation>
          <string-name>
            <surname>Liu</surname>
            ,
            <given-names>B. y L.</given-names>
          </string-name>
          <string-name>
            <surname>Zhang</surname>
          </string-name>
          .
          <year>2012</year>
          .
          <article-title>A survey of opinion mining and sentiment analysis</article-title>
          .
          <source>En Mining text data</source>
          . Springer, paginas
          <volume>415</volume>
          {
          <fpage>463</fpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref7">
        <mixed-citation>
          <string-name>
            <surname>Mart</surname>
            nez-Camara, E.,
            <given-names>Y.</given-names>
          </string-name>
          <string-name>
            <surname>Almeida-Cruz</surname>
            ,
            <given-names>M. C.</given-names>
          </string-name>
          <article-title>D az-</article-title>
          <string-name>
            <surname>Galiano</surname>
            ,
            <given-names>S.</given-names>
          </string-name>
          <string-name>
            <surname>Estevez-Velarde</surname>
            ,
            <given-names>M. A.</given-names>
          </string-name>
          <string-name>
            <surname>Garc</surname>
            a-Cumbreras, M. Garc aVega,
            <given-names>Y.</given-names>
          </string-name>
          <string-name>
            <surname>Gutierrez</surname>
            ,
            <given-names>A. Montejo</given-names>
          </string-name>
          <string-name>
            <surname>Raez</surname>
            ,
            <given-names>A.</given-names>
          </string-name>
          <string-name>
            <surname>Montoyo</surname>
            ,
            <given-names>R.</given-names>
          </string-name>
          <string-name>
            <surname>Mun</surname>
          </string-name>
          <article-title>~oz, A. Piad-Mor s</article-title>
          , y J.
          <string-name>
            <surname>Villena-Roman</surname>
          </string-name>
          .
          <year>2018</year>
          .
          <article-title>Overview of TASS 2018: Opinions, health and emotions</article-title>
          . En E. Mart
          <string-name>
            <surname>nez-Camara</surname>
            <given-names>Y.</given-names>
          </string-name>
          <string-name>
            <surname>Almeida-Cruz M. C. D az-Galiano Mohammad</surname>
            ,
            <given-names>S. M.</given-names>
          </string-name>
          <year>2017</year>
          .
          <article-title>Word a ect intensities</article-title>
          .
          <source>arXiv preprint arXiv:1704</source>
          .
          <fpage>08798</fpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref8">
        <mixed-citation>
          <string-name>
            <surname>Mohammad</surname>
            , S. M. y
            <given-names>F.</given-names>
          </string-name>
          <string-name>
            <surname>Bravo-Marquez</surname>
          </string-name>
          .
          <year>2017</year>
          .
          <article-title>Wassa-2017 shared task on emotion intensity</article-title>
          .
          <source>arXiv preprint arXiv:1708</source>
          .
          <fpage>03700</fpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref9">
        <mixed-citation>
          <string-name>
            <surname>Mohammad</surname>
            , S. M. y
            <given-names>P. D.</given-names>
          </string-name>
          <string-name>
            <surname>Turney</surname>
          </string-name>
          .
          <year>2010</year>
          .
          <article-title>Emotions evoked by common words and phrases: Using mechanical turk to create an emotion lexicon</article-title>
          .
          <source>En Proceedings of the NAACL HLT</source>
          <year>2010</year>
          <article-title>workshop on computational approaches to analysis and generation of emotion in text</article-title>
          , paginas
          <volume>26</volume>
          {
          <fpage>34</fpage>
          .
          <article-title>Association for Computational Linguistics</article-title>
          .
        </mixed-citation>
      </ref>
      <ref id="ref10">
        <mixed-citation>
          <string-name>
            <surname>Molina-Gonzalez</surname>
            ,
            <given-names>M. D.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>E.</surname>
          </string-name>
          <article-title>Mart nez-</article-title>
          <string-name>
            <surname>Camara</surname>
          </string-name>
          , M.-
          <string-name>
            <surname>T. Mart</surname>
            n-Valdivia,
            <given-names>y J. M.</given-names>
          </string-name>
          <year>PereaOrtega</year>
          .
          <year>2013</year>
          .
          <article-title>Semantic orientation for polarity classi cation in spanish reviews</article-title>
          .
          <source>Expert Systems with Applications</source>
          ,
          <volume>40</volume>
          (
          <issue>18</issue>
          ):
          <volume>7250</volume>
          {
          <fpage>7257</fpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref11">
        <mixed-citation>
          <string-name>
            <surname>Pang</surname>
            ,
            <given-names>B.</given-names>
          </string-name>
          , L. Lee, y others.
          <year>2008</year>
          .
          <article-title>Opinion mining and sentiment analysis</article-title>
          .
          <source>Foundations and Trends R in Information Retrieval</source>
          ,
          <volume>2</volume>
          (
          <issue>1</issue>
          {2):1{
          <fpage>135</fpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref12">
        <mixed-citation>
          <string-name>
            <surname>Sidorov</surname>
            , G.,
            <given-names>S.</given-names>
          </string-name>
          <string-name>
            <surname>Miranda-Jimenez</surname>
            ,
            <given-names>F.</given-names>
          </string-name>
          <string-name>
            <surname>ViverosJimenez</surname>
            ,
            <given-names>A.</given-names>
          </string-name>
          <string-name>
            <surname>Gelbukh</surname>
            ,
            <given-names>N.</given-names>
          </string-name>
          <string-name>
            <surname>Castro-Sanchez</surname>
            ,
            <given-names>F.</given-names>
          </string-name>
          <string-name>
            <surname>Velasquez</surname>
            ,
            <given-names>I.</given-names>
          </string-name>
          <article-title>D az-</article-title>
          <string-name>
            <surname>Rangel</surname>
            ,
            <given-names>S. SuarezGuerra</given-names>
          </string-name>
          , A. Trevino,
          <string-name>
            <given-names>y J.</given-names>
            <surname>Gordon</surname>
          </string-name>
          .
          <year>2012</year>
          .
          <article-title>Empirical study of machine learning based approach for opinion mining in tweets</article-title>
          .
          <source>En Mexican international conference on Articial intelligence, paginas</source>
          <volume>1</volume>
          {
          <fpage>14</fpage>
          . Springer.
        </mixed-citation>
      </ref>
      <ref id="ref13">
        <mixed-citation>
          <string-name>
            <surname>Socher</surname>
            ,
            <given-names>R.</given-names>
          </string-name>
          ,
          <string-name>
            <given-names>A.</given-names>
            <surname>Perelygin</surname>
          </string-name>
          ,
          <string-name>
            <given-names>J.</given-names>
            <surname>Wu</surname>
          </string-name>
          ,
          <string-name>
            <given-names>J.</given-names>
            <surname>Chuang</surname>
          </string-name>
          ,
          <string-name>
            <given-names>C. D.</given-names>
            <surname>Manning</surname>
          </string-name>
          ,
          <string-name>
            <surname>A</surname>
          </string-name>
          . Ng, y
          <string-name>
            <given-names>C.</given-names>
            <surname>Potts</surname>
          </string-name>
          .
          <year>2013</year>
          .
          <article-title>Recursive deep models for semantic compositionality over a sentiment treebank</article-title>
          .
          <source>En Proceedings of the 2013 conference on empirical methods in natural language processing</source>
          , paginas
          <volume>1631</volume>
          {
          <fpage>1642</fpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref14">
        <mixed-citation>
          <string-name>
            <surname>Strapparava</surname>
            , C. y
            <given-names>A.</given-names>
          </string-name>
          <string-name>
            <surname>Valitutti</surname>
          </string-name>
          .
          <year>2004</year>
          .
          <article-title>Wordnet a ect: an a ective extension of wordnet</article-title>
          .
          <source>En Lrec, volumen 4, paginas</source>
          <volume>1083</volume>
          {
          <fpage>1086</fpage>
          .
          <string-name>
            <surname>Citeseer</surname>
          </string-name>
          .
        </mixed-citation>
      </ref>
    </ref-list>
  </back>
</article>