Un conjunto de especialistas en inteligencia artificial rompe con el Gobierno por discrepancias morales

Las relaciones entre el Gobierno de España y los máximos especialistas del país en inteligencia artificial (IA) se están enturbiando. La semana pasada dimitieron 3 miembros del Consejo Asesor de Inteligencia Artificial, un órgano consultivo constituido en dos mil veinte para “garantizar un uso seguro y ético de la IA”, “compuesto por expertos españoles de reconocido prestigio internacional”, tal como lo describe la web de La Moncloa. Según ha podido saber EL PAÍS, otros miembros del conjunto se han planteado asimismo la salida, si bien no la han concretado.

El detonante ha sido la firma de un acuerdo de cooperación entre el Gobierno de España y un instituto de investigación de Emiratos Árabes Unidos, ADIA Lab. La Secretaría de Estado de Digitalización e Inteligencia Artificial (Sedia), dependiente del Ministerio de Asuntos Económicos y Transformación Digital, anunció la semana pasada que el convocado laboratorio de Emiratos había escogido Granada como localización para su sede europea. El centro va a recibir una inversión inicial de 5 millones de euros, aunque los asociados emiratíes se comprometen a acrecentar esa cuantía poniendo en marcha múltiples proyectos de investigación.

El pacto “causa gran preocupación, pues contradice los principios de ética y seguridad con los que el Gobierno español se comprometió a desarrollar nuevas tecnologías”, lee una carta abierta que publica este martes este periódico, firmada por 4 señalados estudiosos en la disciplina, dos de ellos miembros hasta la semana pasada del consejo consultor. ADIA Lab es un centro científico “financiado por un Gobierno que no reconoce la independencia de la ciencia, que pisotea los derechos humanos, en especial de mujeres, de las comunidades LGTBQI+ e inmigrantes”, recuerda el texto.

La resolución del ministerio de aliarse con Emiratos Árabes Unidos ocasionó malestar entre un conjunto extenso de miembros del consejo consultor, molestos ya por su papel testimonial en las resoluciones estratégicas relacionadas con la IA. Las reacciones no tardaron en generarse. Algunos plantearon una renuncia en masa, si bien esa alternativa se enfrió con el paso de las horas. El primero en abandonar al puesto fue Carles Serra, directivo del Instituto de la IA del CSIC. Comunicó su resolución el miércoles, veinticuatro horas tras conocerse el pacto con ADIA Lab.

Consciente de que la situación lo requería, el ministerio convocó una “reunión urgente” del consejo al día después. La dirigió la secretaria de Estado, Carme Artigas. “Algunos de los miembros nos pidieron conocer el detalle del acuerdo y se organizó una videoconferencia informal”, explican desde el ministerio. “Dos de sus miembros manifestaron su disconformidad y se les explicó con todo detalle el acuerdo y el impacto que supondría para el conocimiento científico”.

Lo que ahí se afirmó no evitó que se fuesen dos especialistas más de ese órgano. Esa misma noche presentó su renuncia Lorena Jaume-Palasí, especialista en moral y filosofía del derecho aplicadas a la tecnología y creadora de centros como Algorithm Watch o The Ethical Society. Al día después lo hizo Ricardo Baeza-Yates, directivo de Investigación en el Instituto de IA Experimental de Northwestern University, en Silicon Valley (San Francisco), catedrático de la Universidad Pompeu Fabra (Barcelona) y Premio Nacional de Informática. Ninguno de los 3 especialistas ha recibido comunicación alguna por la parte de la Secretaría de Estado tras presentar su renuncia.

“Debido a la heterogeneidad de sus miembros, es complejo encontrar posturas consensuadas, lo que enriquece el debate y aporta nuevos puntos de vista. Por lo que la disparidad de criterios entre los miembros es habitual, siempre desde el respeto a todas las opiniones”, arguyen fuentes de la Secretaría de Estado. “Consideramos muy positivo que una institución de prestigio científico que cuenta en su consejo con premios Nobel elija instalarse en España antes que en otros países europeos como Francia o Alemania. Respetamos la decisión de los miembros del consejo asesor que consideren que ya no quieren seguir aportando su visión a este órgano y agradecemos su aportación hasta la fecha”, agregan desde Sedia.

“Un acuerdo gubernamental para instalar un laboratorio de IA en España financiado por un país autocrático que viola los derechos humanos, en particular los de la mujer, no es éticamente aceptable”, explica Baeza-Yates. “De hecho, es incompatible con el espíritu mismo del consejo asesor, que tiene como una de sus misiones velar por la ética de la IA en España. Por estas razones no puedo legitimar con mi silencio iniciativas que vulneran principios básicos de la ética científica y por ende renuncié al consejo”.

“La decisión de firmar un convenio con ADIA Lab no solo ha sido una gota muy grave que colmó el vaso: es un indicador de la dinámica defectiva del consejo asesor y de un posicionamiento por parte de la Secretaría de Estado que se halla en profunda contradicción con los objetivos de ética y seguridad por los que se creó el consejo asesor”, apunta por su lado Jaume-Palasí.

Según ha podido saber este periódico, un conjunto de ONG enfocadas en derechos humanos, derechos digitales e inmigración prepara asimismo una carta abierta en la que dejar patente su rechazo al acuerdo firmado entre el Gobierno y el centro de investigación de Emiratos Árabes Unidos.

Otra protesta recurrente entre ciertos miembros del conjunto de especialistas es que el Gobierno no asistía a ellos a fin de que lo aconsejase ya antes de tomar resoluciones estratégicas. “El consejo ha tenido principalmente un rol decorativo. No hemos sido consultados para evaluar el impacto de sistemas de IA o emitir recomendaciones en los temas realmente relevantes”, se protesta la filósofa. “Desde hace dos años, los pocos encuentros que hemos mantenido han tenido más bien un carácter declarativo en el que se nos informaba con presentaciones muy condensadas sobre los proyectos de la Secretaría de Estado”.

Los firmantes de la carta, entre aquéllos que se hallan Ramon López de Mántaras, uno de los vanguardistas de la IA en Europa, y Carmela Troncoso, especialista en seguridad algorítmica y desarrolladora del protocolo técnico que se usó en las apps de rastreo de la covid, reconocen la bravura que tuvo el Gobierno al identificar los retos que supone la IA para la sociedad y en estimar tomar cartas en el tema. El consejo consultor se creó en dos mil veinte para “proporcionar recomendaciones independientes sobre las medidas a adoptar para garantizar un uso seguro y ético de la IA”. Pero lamentan que, al aliarse con Emiratos Árabes Unidos, se ignoren “los principios éticos en la economía, en la ciencia en general y en la IA en concreto”.

Aguas turbulentas en la Secretaría de Estado

La salida de tres de los dieciocho especialistas que conforman el consejo consultor no es el primer enfrentamiento que se produce en la Secretaría de Estado. El departamento ha vivido múltiples conmociones desde el instante en que vio la luz en el primer mes del año de dos mil veinte. La titular del departamento, Carme Artigas, ha tenido 3 jefes de gabinete en menos de 3 años. Varios aconsejes han descuidado el equipo en este tiempo, incluyendo fichajes efectuados a solicitud expresa de Artigas, como es el caso de la científica de datos Mara Balestrini, quien abandonó el puesto a los 3 meses de llegar.

También hubo bajas entre funcionarios de alto nivel, que procuraron acomodo en otros ministerios, tal como publicó El Confidencial. Entre Fernando de Pablo, secretario general hasta el doce de mayo de 2020; María José Gómez, subdirectora general de Talento y Emprendimiento Digital; David Pérez, organizador del área de Tecnología y Emprendimiento Digital, o Amparo Peris, subdirectora general anexa para la Sociedad Digital.

A los un par de meses de formarse el departamento dirigido por Artigas, España fue recluída. La Secretaría de Estado lideró el proyecto de desarrollar una aplicación de rastreo de los casos de covid, que implicó la coordinación de múltiples ministerios y conjuntos de trabajo. La mayoría de las salidas del equipo de Artigas se generaron a lo largo de ese proceso. La aplicación solo fue capaz de avisar ciento cincuenta contagios en prácticamente un par de años.

Puedes continuar a EL PAÍS Tecnología en Facebook y Twitter o apuntarte acá para percibir nuestra newsletter semanal.