Paula Gordaliza, matemática: “Los algoritmos no funcionan solos. Quien los utiliza debe saber qué están haciendo y por qué se toman estas decisiones” | Tecnología

Paula Gordaliza (Valladolid, veintinueve años) usa la matemática para procurar que la sociedad sea un tanto más justa. La joven estudiosa, premiada con el premio Vicent Caselles concedidos anualmente por la Real Sociedad Matemática Española (RSME) y la Fundación Banco Bilbao Vizcaya Argentaria, ha desarrollado un sistema para corregir el corte de los algoritmos de la inteligencia artificial (IA), capaces de elaborar predicciones más precisas que una persona especialista. “El problema es que no siempre estas decisiones son socialmente responsables”, explica Gordaliza en una video llamada. Investigadora en el Basque Center for Applied Mathematics en Bilbao y maestra asociada en la Universidad Pública de Navarra, comenzó a estudiar una forma para suprimir los cortes algoritmos a lo largo de su doctorado en la Universidad de Toulouse, cuando la IA aún no se hallaba bajo la lupa de reguladores y de la opinión pública. “Las cosas han evolucionado muy rápido durante estos últimos cinco años. Ahora más que nunca es importante trabajar en los efectos que la inteligencia artificial tiene en la vida de la gente”, asegura la estudiosa.

Pregunta. ¿Usa mucho la inteligencia artificial en su trabajo?

Respuesta. Me agrada rememorar que , ya antes de todo, soy matemática, y lo que hago es investigación en matemáticas. Mi trabajo consiste en la fundamentación de las bases teóricas que se precisan para desarrollar cualquier tecnología, en particular la inteligencia artificial. Entonces me ocupo más bien de estudiar problemas y de qué forma, una vez resueltas estas cuestiones desde el punto de vista teorético, se pueden aplicar a inconvenientes reales. En mi caso, se habla del aprendizaje automático y la equidad algorítmica, que están abarcados en el campo de la inteligencia artificial.

P. ¿De qué manera se relacionan las matemáticas y la inteligencia artificial?

R. Las matemáticas están tras todos y cada uno de los avances científicos y tecnológicos, y en estos últimos años la IA es la manera de avance más de tendencia. Lo que hace la matemática es establecer las bases teóricas para llegar a solucionar los inconvenientes a los que nos encaramos, que en el caso de mi investigación serían los cortes algorítmicos de la inteligencia artificial.

P. ¿Qué es un corte algorítmico?

R. Es algo complejo de explicar, por el hecho de que son palabras que se han usado tanto, se le han dado muchos significados en dependencia del contexto. En estadística, algo sesgado es una cosa que no se comporta como lo aguardado. Mientras que, si nos marchamos al campo de la inteligencia artificial, donde se emplea mucho esta palabra, se refiere más a las inclinaciones o a los prejuicios en favor o contra un colectivo o de un individuo sobre la base de ciertas peculiaridades, como el género o el tono de piel. Quizás es esto que contribuye a que los algoritmos provocan temor y falta de confianza en la gente.

P. ¿A qué se debe?

R. Estamos asistiendo a un uso extendido de los sistemas de inteligencia artificial, en particular de los algoritmos, y esto se ve en aspectos que afectan de forma directa a la vida de las personas. La concesión de créditos, en la selección del personal para un trabajo o en el campo clínico, para decidir a quién aplicar un tratamiento o hacer un diagnóstico. Hay considerablemente más ejemplos, mas estos tal vez son los más habituales. Y claro, el hecho de que los algoritmos puedan decidir sobre estas cuestiones produce miedos y desasosiego en la población. Esto va a suceder mientras que no reciban garantías de que estos algoritmos son justos, son fiables y son interpretables.

P. ¿Qué se puede hacer a fin de que desaparezca este temor?

R. Aquí es donde se ve la relevancia de la matemática, que nos sirve para comprender de qué forma están marchando los algoritmos y que es la herramienta para abrir la caja negra de la inteligencia artificial. Es esencial que llegue el mensaje de que los algoritmos no marchan solos, que quien los emplea sabe qué hacen y por qué se están tomando estas resoluciones. Esto asistiría mucho a reducir la falta de confianza que la gente le tiene.

R. Ha hablado de prejuicios y discriminaciones. ¿Los algoritmos son racistas?

P. De esto va su investigación.

R. La idea era intentar crear dos subgrupos de población, por servirnos de un ejemplo, de hombres y mujeres, que fuesen lo más similares posible en el resto de peculiaridades. De esta forma, procuré borrar la información del género a fin de que los algoritmos no sean capaces de aprender sobre el género de las personas y se queden con la información que les da el resto de la base de datos.

P. La sociedad ha mejorado cuando se habla de discriminación. ¿Por qué prosiguen existiendo tantos cortes?

R. No es un inconveniente de la sociedad. Al final se está usando una herramienta que aprende de datos históricos y esos están sesgados, es así como el algoritmo lo aprende. Lo que habría que hacer para avanzar es promover la investigación, por el hecho de que se trata de un tema del conocimiento y la frontera del conocimiento cada vez es más compleja. Si deseamos progresar, se precisan equipos multidisciplinares formados por matemáticos, estadísticos, informáticos y más profesionales que aporten su parte a la causa. Se precisan todos y cada uno de los puntos de vista, no únicamente la mirada matemática, que asimismo precisaría progresar mucho.

P. ¿De qué forma?

R. Seguramente habría que promover la carrera académica e estudiosa, para tener una investigación de calidad centrada solamente en inteligencia artificial, mas con bases matemáticas muy sólidas que aseguren que lo que se hace con los algoritmos sea fiable, seguro y justo. Para conseguir esto, es preciso que haya una motivación a fin de que los jóvenes se sientan atraídos por esta carrera, lo que en estos tiempos es difícil. Es esencial progresar las condiciones de esta profesión, sobre todo en las primeras etapas. Antes con treinta años ya eras titular, al tiempo que ahora, con veintinueve, aún voy a iniciar en la plaza de asistente.

P. ¿Cuándo habla de motivación se refiere a recursos económicos?

R. En parte, mas hay asimismo otros factores a tomar en consideración. Por ejemplo, sentir que vas avanzando en tu carrera y que vas logrando plazas poco a poco más relevantes. Sentirse valorados es esencial para quedarse en España y proseguir intentándolo.

P. Usted ha hecho el doctorado en Francia. ¿Cree que en el extranjero hay más posibilidades?

R. Hay muchas posibilidades, mas asimismo en España. Las matemáticas que se hacen acá y la investigación que hay es de enorme calidad. Yo ya he pasado por esta experiencia de vivir en el extranjero y estoy segura de que durante mi carrera asimismo se me presentarán otras ocasiones para hacer estudios internacionales, lo que es sin duda algo que da gran valor a tu carrera y que da mucha proyección. Pero mi objetivo final es quedarme en España, donde la investigación, cuando menos en mi campo, está avanzando mucho, y la relevancia que gana la inteligencia artificial nos va a dar mucho en lo que trabajar.