La investigadora Flor Plaza del Arco, con especialidad en informática, destaca la relevancia de la calidad de los datos en la detección de sesgos en la inteligencia artificial (IA). Su trabajo se enfoca en analizar emociones en textos de redes sociales para detectar delitos de odio, combatiendo la discriminación en línea. Por sus logros, ha sido reconocida con el Premio por la Sociedad Científica Informática de España (SCIE) y la Fundación BBVA, que busca incentivar a jóvenes investigadores en informática.
Plaza del Arco compara su labor con la educación que recibe un niño, ajustando continuamente los modelos de IA para detectar y prevenir discursos de odio. Destaca la necesidad de evitar sesgos y estereotipos presentes en los modelos de lenguaje, como el caso del algoritmo de Google que etiquetaba incorrectamente a personas de color, demostrando la importancia de la revisión humana y la calidad de los datos en el entrenamiento de los sistemas.
Los delitos de odio más frecuentes en redes sociales suelen estar relacionados con el sexismo, la migración y la misoginia. Plaza del Arco resalta la importancia de desarrollar modelos que aprendan a identificar estos delitos, evitando la propagación de estereotipos.
En cuanto a la detección de delitos de odio en español, la investigadora destaca la necesidad de recursos específicos en este idioma y de modelos de IA capaces de comprender el lenguaje humano. Actualmente, muchos modelos están más capacitados para el inglés, lo que resalta la importancia de desarrollar tecnología multilingüe para una mayor inclusión.
Para mitigar los sesgos en los modelos de IA, Plaza del Arco enfatiza la importancia de evaluar la calidad de los datos durante el entrenamiento y de contar con un enfoque interdisciplinario que incluya a filósofos, sociólogos y psicólogos. Esto garantizará que los modelos sean éticos, justos y responsables.
En la lucha contra el discurso de odio y la desinformación en redes sociales, la IA desempeña un papel crucial al detectar contenidos ofensivos y alertar a los moderadores. Además, puede identificar perfiles sospechosos, bots y spam, contribuyendo así a promover un entorno más seguro en línea.
Finalmente, Plaza del Arco destaca la importancia de la educación tecnológica desde temprana edad para concienciar sobre los riesgos en redes sociales, incluyendo el ciberacoso. La tecnología debe utilizarse de manera responsable, y la sociedad en general debe comprender cómo actuar frente a situaciones de odio en línea, con el apoyo de la IA para detectar y contrarrestar estos comportamientos nocivos.
Santander (España), 1985. Después de obtener su licenciatura en Periodismo en la Universidad Complutense de Madrid, decidió enfocarse en el cine y se matriculó en un programa de posgrado en crítica cinematográfica.
Sin, embargo, su pasión por las criptomonedas le llevó a dedicarse al mundo de las finanzas. Le encanta ver películas en su tiempo libre y es un gran admirador del cine clásico. En cuanto a sus gustos personales, es un gran fanático del fútbol y es seguidor del Real Madrid. Además, ha sido voluntario en varias organizaciones benéficas que trabajan con niños.
