IA: “Al regular la inteligencia artificial, debemos colocar raza y género en el centro del debate” | Lideresas de Latinoamérica

Una de las investigaciones más recientes impulsadas por la brasileña Fernanda K. Martins (32 años, Taperoá, Paraíba) llegó a la conclusión de que plataformas como Spotify recomiendan al usuarios más artistas hombres que mujeres, independientemente de género musical que el usuario busque. Es lo que los académicos llaman discriminación algorítmica. Parece lógico que esta antropóloga llevara sus investigaciones sobre género y raza a Internet, probablemente el universo más desafiante de nuestro tiempo, en vista de que Brasil es uno de los países más hiperconectados del mundo. Martins es directora de Internet Lab, un respetado centro de investigación interdisciplinar sobre ese espacio donde confluyen Internet y el derecho y participante activo en los debates que de ahí derivan.

Martins, que es hija de una mujer negra e indígena y de un hombre blanco, tenía nueve años cuando la sequía y la desigualdad llevaron a toda la familia a emigrar a São Paulo. Vivió en la favela de Brasilandia hasta que se mudó al exclusivo barrio de Jardins, donde su padre es portero. Y recuerda nítidamente el instante cuando se descubrió negra. “Fue el día que pronuncie la frase ‘vosotros los negros…’ y un profesor me respondió: ‘¿Cómo vosotros? ¿Y tú?”.

Pregunta. Cada brasileño navega en Internet 9 horas y 32 minutos al día, es decir, solo por detrás de Sudáfrica y tres horas por encima de la media mundial. ¿A qué obedece esa hiperconexión?

Respuesta. La vanidad, la imagen, están muy presentes en la cultura popular. Por nuestra ascendencia indígena, el cuerpo es muy importante, y estamos muy acostumbrados al cariño e Internet cumple un rol de conexión. Por ejemplo, entre las poblaciones históricamente marginadas. Quisimos entender cómo ven Internet los indígenas y las personas negras que entraron a las universidades a través de cuotas y nos contaron que fue importante en aquella época en la que a menudo eran el único [no blanco] entre una mayoría blanca. Accedemos mucho a Internet, pero de manera muy desigual y muy concentrada. Las operadoras ofrecen gratis en Brasil algunas aplicaciones como WhatsApp. Y entre las poblaciones más vulnerables existe el convencimiento de que Internet son esas aplicaciones. No hay un espacio para que la gente entienda qué Internet quieren construir. Por eso, cuanto más fortalecemos estas grandes plataformas, menos espacio encontramos para la innovación y la creatividad.

P. ¿Cómo es su relación personal con la red? ¿Constructiva? ¿Mejorable? ¿Se pone límites?

R. Intensa. Viniendo de una escuela pública, no me enseñaron en clase, fui autodidacta. Empecé a navegar a los 10-11 años en un ordenador que compró mi hermano mayor. Entonces tenía colegas que no sabían enchufarlo ni qué se podía hacer con una computadora. ¿Me pongo límites? Me he educado. Cuando saco al perro, voy sin móvil. Internet produce esa sensación de estar siempre acompañado pero agrava la soledad porque estás pero no estás.

P. Cuente más de esa investigación sobre los algoritmos que refuerzan la desigualdad.

R. La investigación nació en un equipo interdisciplinar cuando el debate sobre la discriminación algorítmica era muy intensa. Hay quien dice que Internet es un reflejo de una sociedad desigual. Yo creo que va más allá. Creo que Internet y la tecnología producen otras desigualdades. Nuestra investigación demostró que, cuando pides recomendaciones a plataformas de streaming de música, las mujeres son menos recomendadas que los hombres, independientemente del género musical. Y ahí se abre el interrogante sobre cuál es el rol social de la plataforma para intentar equilibrar eso. Necesitamos que las plataformas demuestren que están poniendo todo el empeño en no generar y perpetuar las desigualdades. Pudimos analizar el género, pero no el perfil etnicorracial porque no hay datos ni de los artistas ni de los usuarios. Y eso quizá en lugares del norte global eso no es importante, pero en Brasil es urgente.

P. Brasil es considerado un buen laboratorio para analizar los problemas de Internet, en general y de las redes sociales en particular, pero también para alumbrar posibles soluciones.

R. Brasil es interesante por varias razones. Aunque somos un país del sur global, estamos tan hiperconectados que la mayoría de las grandes tecnológicas tiene oficina aquí. Eso nos permite construir un diálogo con múltiples actores implicados en los debates, las investigaciones, en el intento de resolver problemas. Además, atravesamos una ola de crecimiento del conservadurismo. En los últimos cuatro años con [el presidente Jair] Bolsonaro hemos visto el potencial de la desinformación, que no nace ni se limita a Internet. Y tenemos ahora un Gobierno progresista que de plantea intensamente cómo regular las plataformas. Claro, eso no resuelve todos los problemas, pero parte de ellos quizá sí.

P. Existen distintos modelos de regular Internet y las tecoológicas, un asunto super amplio y técnico. Pero ¿qué diría usted que sin duda debe ser incluido en esa ley y qué debe quedar fuera?

R. El principal desafío, cuando pensamos en la regulación de plataformas, no solo en Brasil, sino en nuestros vecinos latinoamericanos, es no importar el modelo europeo. Necesitamos descubrir cuál es nuestra manera. La transparencia, la posibilidad de auditar los datos que entregan las plataformas, son imprescindibles para abordar la desinformación, la violencia política o el discurso de odio. No debemos perder de vista que Brasil, como otros países latinoamericanos, son democracias muy frágiles. En Brasil necesitamos un organismo autónomo, con independiencia financiera, para realizar esas auditorías sin el riesgo de que se lo apropien los Gobiernos, el sector público o el privado. La sociedad civil y la academia deben participar en ese debate. El objetivo final es ofrecer un ecosistema saludable a los brasileños en el que se pueda hacer política, hacer conexiones sin que implique un silenciamiento, ni una explosión de la polarización extrema, trampas de las que debemos huir.

P. Menciona la polarización, la desinformación. Actualmente, tenemos acceso a más información que nunca, pero buena parte de ella es de muy mala calidad. ¿Cómo propone afrontarlo? ¿cuál sería la prioridad?

R. Cuando hablamos de desinformación, no podemos pensar solo en las plataformas. Necesitamos abordar el modelo mediático de Brasil, esa concentración en manos de unas pocas familias, por ejemplo, de la televisión.

P. ¿Considera posible luchar contra la desinformacón mientras el odio sea más lucrativo que la información sobria y de calidad?

R. La desinformación seguirá siendo un fenómeno que requiere la búsqueda de soluciones entre diferentes sectores y actores sociales. Debemos pensar en medios alternativos, independientes, locales y regionales, en políticas públicas que apoyen a medios indígenas, producidos en las periferias, por los negros, por las comunidades tradicionales. Y luego, la educación. Lla gente la gente sabe cómo comprobar si una noticia es falsa o no, pero difieren en lo que consideran una fuente fiable. Para unos es un canal de YouTube, para otros una persona de confianza. Necesitamos una alfabetización de la sociedad en general y un compromiso del periodismo. Tenemos que pensar en pactos amplios porque el problema no se concentra en un solo actor. En el Gobierno Bolsonaro se fragilizaron muchos consensos que estábamos construyendo en torno a los derechos humanos, las mujeres, las personas negras, y se normalizó la violencia discursiva y los ataques. Necesitamos volver a creer en un futuro construido a partir de nuevos consensos. Debemos escuchar activamente a las poblaciones históricamente marginadas, pero el resto también debe mirar hacia dentro y preguntarse ¿quiénes eran mis antepasados?

P. ¿Que los históricamente favorecidos reflexionen sobre el privilegio blanco y el privilegio masculino, las ventajas por el mero hecho de serlo?

R. No usaría el término privilegio porque hace que muchos reaccionen negativamente, intentando de protegerse. Es hora de que la ira, que ha sido importante para que los tradicionalmente marginados se movilizaran, se comparta un poco y que la gente que se benefició del sistema pase a estar enojados con su pasado. Debemos construir personas antirracistas. Hace falta que la gente se dé cuenta de que la blanquitud también se construye como ese espacio en el que te atribuyen algunas características por ser una persona blanca. Ni las mujeres, ni los negros ni los indígenas van a poder conquistar solos sus derechos, necesitamos una gran coalición para que la gente entienda que es importante que la sociedad lidie con esa ira. Cuando pensamos en la regulación de la inteligencia artificial, las plataformas o la remuneración del periodismo, debemos colocar la raza y el género en el centro del debate.

P. Vamos al género. Las parlamentarias son solo un 18% en el Congreso, pero ellas, sean de izquierdas o de derechas, son el objetivo preferente del odio digital. ¿A qué se debe?

R. Cuando entran en política, son electas y ocupan espacios en los que antes no estaban, vemos que la ira se traduce en ataques a las mujeres, pero no por lo que hacen políticamente, sino por lo que representan. Cuando comparamos los ataques en las redes sociales, vimos que los hombres blancos heterosexuales son cuestionados por sus cargos políticos, y las mujeres, por su cabello, su ropa, su moral.

P. El Tribunal Supremo de Brasil ha tomado en los últimos meses decisiones, algunas consideradas polémicas, contra la desinformación que derivó en un intento de golpe el pasado 8 de enero. ¿Considera su actuación proporcional al riesgo?

R. Tuvimos mucho miedo por lo que podía ocurrirle a la democracia brasileña. El Supremo tuvo una fuerte presencia en las elecciones y el 8 de enero en el esfuerzo para proteger las instituciones democráticas, lideró el proceso. El problema es la deriva personalista.

P. ¿Se refiere al protagonismo del juez Alexandre de Moraes?

R. Sí. Pero, ¿cómo protegemos las instituciones democráticas brasileñas sin que esto se considere un problema? Necesitamos que todos los poderes y cada brasileño asuman su responsabilidad.