María y Alejandra usan exactamente la misma red social, no obstante, el contenido al que acceden es muy, muy diferente. Todo depende de la información que introducen en sus buscas, con esos datos los buscadores pueden llegar a ofrecer un contenido tan hiperpersonalizado que pueda llegar a fabricar realidades tan diferentes para cada una de ellas, con los peligros añadidos tanto para ellas para el resto de la sociedad. Este es un caso práctico con los que ya trabaja el equipo multidisciplinar de trabajadores del Centro Europeo para la Transparencia Algorítmica (ECAT por sus iniciales en inglés) que este martes se inaugura de forma oficial en Sevilla y que está llamado a transformarse en la primordial herramienta de la Comisión Europea para asegurar que las grandes plataformas digitales cumplen con los principios para asegurar el buen funcionamiento y el control de contenidos ilegales y perjudiciales en Internet que recoge la Directiva de Servicios Digitales, que entró en vigor el mes pasado de noviembre.
Los mecanismos de trasparencia establecidos en la DSA y que las grandes plataformas digitales (las que tienen más de cuarenta y cinco millones de usuarios y suponen el diez% del mercado potencial europeo), que fuerzan a sus dueñas a identificar y supervisar los peligros de sus sistemas algorítmicos hubiesen podido alertar a María y Alejandra. Controlar que los gigantes de Internet efectúan apropiadamente esa autoevaluación y adelantarse ante cualquier posibilidad de evadirlos va a ser una de las primordiales funciones del ECAT. El centro tiene la gran responsabilidad de abrir las cajas negras de los sistemas algorítmicos, descifrarlos y asegurar que cumplen con los criterios de la normativa europea.
“Este es un gran paso porque hay una enorme expectación, ya que estamos mostrando al mundo que aplicar normas acaba marcando la diferencia sobre el terreno y que eso puede cambiar la actitud de las grandes plataformas, que deben asumir su responsabilidad social y no solo mirar por el crecimiento de su negocio”, apunta un alto funcionario de la Comisión implicado en la implementación de la DSA. Los algoritmos y su uso son objeto de discute en muchos campos, la diferencia que marca el ECAT es que su investigación se efectúa con el propósito de respaldar a los servicios legales de la Comisión para asegurar que la normativa se cumple.
El ECAT tiene su base en la sede en el Centro Común de Investigación (JRC) que la Comisión tiene en Sevilla. De instante cuenta con diez especialistas en diferentes materias no solo relacionadas con la informática, la inteligencia artificial o el Big Data, mas asimismo con disciplinas de carácter social, pues uno de los objetivos es advertir que las grandes compañías y buscadores web cumplen con las obligaciones relacionadas con la protección de la niñez, que no se alienta a la violencia sexista o que los contenidos no son un peligro para la salud mental. El objetivo es que en los próximos meses el equipo se amplíe hasta los treinta especialistas y que en una segunda fase medre hasta los cuarenta.
Además de la labor de supervisión de la documentación que los gigantes de Internet les ofrezcan sobre su autoevaluación, que es anteriormente auditada por una tercera empresa, el ECAT puede asimismo comenzar investigaciones por medio de demandas de terceros o cuando advierta que no se está cumpliendo con la DSA. Toda esa información servirá para poder armas causas legales contra estas empresas caso de que haya patentizas de malas prácticas. Con todo, desde la Comisión se quiere dejar en claro que el ECAT no pretende ser un “Ministerio de la Verdad”. “Si detectamos que se está alojando o se está derivando a contenido ilegal o se está distribuyendo información falsa y no se elimina y se corrige, podemos actuar. La carga de probar que no están actuando correctamente recae en las empresas”, apunta el funcionario. En este sentido, Bruselas trabaja en establecer los factores a fin de que las grandes compañías puedan efectuar sus autoevaluaciones de peligro en materias como la privacidad, la protección de la salud mental…
En esa labor de abrir las cajas negras hay 3 pasos de trasparencia que las grandes plataformas y los buscadores web deben lograr. El primero llega al usuario medio. “Las compañías deben advertir en un lenguaje que sean capaz de entender los menores edad que acceden a sus redes, de manera que se les puedan ofrecer mejores opciones de navegación”, apunta otro responsable del ECAT. “Esto otorga mayor capacidad y poder al usuario”. El segundo nivel es el que atañe a la sociedad civil, especialistas, ONG… —”esto nos ofrecería un género de información e informes de divulgación para los expertos”, apunta el técnico―. El segundo nivel muestra el factor prospectivo que asimismo superpone al ECAT. El nuevo centro desea servir de puente entre la academia -universidades y conjuntos de investigación- y la compañía privada -unos pactos que aún están por delimitar-.
El tercer nivel es el más esencial para los estudiosos. Ese implica llegar a las tripas del algoritmo y para poder estudiarlas y acceder hasta ellas, la Comisión puede designar especialistas o auditores.
Las conclusiones de las investigaciones sobre el funcionamiento de los sistemas algorítmicos y su impacto asimismo va a ser compartidas con el público, siguiendo con el impulso divulgador que asimismo corresponde al ECAT, mas asimismo con el anhelo de poder retratar el comportamiento de las grandes compañías. La Comisión elude entrar en las posibles fricciones o desencuentros que puedan encontrarse con los gigantes de Internet, habituados a competir en un ambiente más desregulado como el de EE UU y prefiere abordarlo como una ocasión para prosperar su imagen y producir confianza ofertando ocasiones en el planeta digital.
El ECAT, de la mano de los especialistas, está llamado a transformarse en el brazo de la Comisión no solo para entender y desentrañar como marchan los sistemas algorítmicos para prevenir y eludir efectos indeseados, sino más bien para asegurar por medio de la trasparencia, que lo que es ilegal en la vida real asimismo lo es en las redes sociales.
Puedes continuar a EL PAÍS Tecnología en Facebook y Twitter o apuntarte acá para percibir nuestra newsletter semanal.
Santander (España), 1985. Después de obtener su licenciatura en Periodismo en la Universidad Complutense de Madrid, decidió enfocarse en el cine y se matriculó en un programa de posgrado en crítica cinematográfica.
Sin, embargo, su pasión por las criptomonedas le llevó a dedicarse al mundo de las finanzas. Le encanta ver películas en su tiempo libre y es un gran admirador del cine clásico. En cuanto a sus gustos personales, es un gran fanático del fútbol y es seguidor del Real Madrid. Además, ha sido voluntario en varias organizaciones benéficas que trabajan con niños.
