RiuNet. Repositorio Institucional de la Universitat Politécnica de Valéncia
Publicación
Artículo científico (JournalArticle)
Identification of Racial and Sexist Stereotypes in Spanish: A Learning with Disagreements Approach, Identificación de Estereotipos Raciales y Sexistas en Español: Un Enfoque Basado en Aprendizaje con Desacuerdos
[ES] El discurso del odio ha proliferado significativamente en los ¿ultimos
a¿nos, en gran medida impulsado por la adopci¿on generalizada de plataformas de redes sociales. El discurso de odio a menudo opera de manera impl¿¿cita, aprovechando
estereotipos sutiles para propagar pensamientos discriminatorios. Estos mecanismos encubiertos han permitido que el contenido odioso se oculte a si mismo, haciendo que su detecci¿on resulte cada vez m¿as compleja. Como resultado, la lucha
contra los discursos de odio se ha convertido en una prioridad urgente, impulsando la adopci¿on generalizada de modelos de aprendizaje profundo para detectar
y combatir contenidos nocivos. Dada la naturaleza inherentemente subjetiva de
los discursos del odio, es necesario desarrollar modelos que sean lo m¿as generalizables posible. Esto ha llevado a la aparici¿on del paradigma de aprendizaje con
desacuerdos, que tiene como objetivo introducir desacuerdos dentro de la propia
tarea para mejorar la generalizabilidad del modelo. Este trabajo investiga este
¿ultimo paradigma a trav¿es de dos shared tasks. La primera tarea, DETEST-Dis,
explora los estereotipos contra los inmigrantes en comentarios en l¿¿nea y fue organizada en IberLEF 2024. Nuestros resultados se encuentran entre los mejores de
todos los equipos participantes, superando los enfoques tradicionales. La segunda
tarea, EXIST, se centra en el sexismo en los memes y fue organizada en CLEF
2024. En este caso, nuestro rendimiento presenta una mejor¿¿a a¿nadiendo caracter¿¿sticas de un modelo externo as¿¿ como tambi¿en data augmentation. Nuestro c¿odigo
fuente se puede encontrar en https://github.com/Buzzeitor30/DETESTS-DIS y
https://github.com/Buzzeitor30/EXIST-TFM, [EN] Hate speech has proliferated significantly in recent years, largely driven by the widespread adoption of social media platforms. Hate speech often operates implicitly, leveraging subtle stereotypes to propagate discriminatory views. These covert mechanisms allow harmful content to disguise itself, making detection increasingly complex. As a result, tackling hate speech has become an urgent priority, driving the widespread adoption of deep learning models to detect and combat harmful content. Given the inherently subjective nature of hate speech and its nuanced manifestations, there is a need to develop models that are as generalizable as possible. This has led to the emergence of the learning with disagreements paradigm, which aims to introduce disagreements within the task itself to enhance model generalizability. This paper investigates the latter paradigm through two shared tasks. The first task, DETEST-Dis, explores stereotypes against immigrants in online comments and was organized at IberLEF 2024. Our results are among the best of all participating teams, surpassing traditional approaches. The second task, EXIST, focuses on sexism in memes and was organized at CLEF 2024. Here, our performance is enhanced by adding features from an external model as well as data augmentation. Our source code can be found on https://github.com/Buzzeitor30/DETESTS-DIS and https://github.com/Buzzeitor30/EXIST-TFM., This work has been developed under the project FAKEnHATE-PdC (PDC2022-133118-I00) with founding from European NextGenerationEU/PRTR. EUR and PR carried out part of thier work also in the framework of the following projects respectively: MARTINI (Grant PCI2022-135008-2) and FairTransNLP-Stereotypes (Grant PID2021-124361OB-C31) both funded by MCIN/AEI/10.13039/501100011033 and by European Union NextGenerationEU/PRTR.
Proyecto:
Agencia Estatal de Investigación / Plan Estatal de Investigación Científica y Técnica y de Innovación 2021-2023 PCI2022-135008-2
,
Agencia Estatal de Investigación / Plan Estatal de Investigación Científica y Técnica y de Innovación 2021-2023 PDC2022-133118-I00
,
Agencia Estatal de Investigación / Plan Estatal de Investigación Científica y Técnica y de Innovación 2021-2023 PID2021-124361OB-C31