La Eurocámara aprueba negociar la primera ley sobre inteligencia artificial del planeta | Tecnología

El Parlamento Europeo ha dado aprobado este miércoles por extensa mayoría su situación final sobre la Ley de Inteligencia Artificial (IA), con lo que se abre la puerta a que empiecen inmediatamente las discusiones con los Estados de la UE y la Comisión, los llamados trílogos. El objetivo es acabar las negociaciones a lo largo de la presidencia de España de la UE, que ya ha declarado este reglamento una de sus prioridades. Todo ello a fin de que, como tarde en dos mil veintiseis, mas quizá aún ya antes, Europa se transforme en la primera zona del planeta que cuenta con reglas en vigor que regulen una tecnología en veloz evolución y que promete tanto como atemoriza por sus posibilidades infinitas de mudar la sociedad.

El Comisario de Mercado Interior, Thierry Breton, ha festejado inmediatamente una votación cómoda -cuatrocientos noventa y nueve votos a favor, veintiocho en contra y noventa y tres abstenciones- que transforma a la Eurocámara, ha recordado, en “el primer parlamento del mundo que vota una regulación integral de IA”.

La situación final de los eurodiputados es más rigurosa que la que ya aprobaron los Estados en el mes de diciembre (y que ahora deberán ser negociadas para conseguir un solo texto final): aparte de los llamados sistemas de crédito social, ya vetados en la propuesta original de la Comisión, la Eurocámara desea prohibir asimismo los “usos intrusivos y discriminatorios de la IA”, en especial los sistemas de identificación biométrica recóndita, la clasificación basada en peculiaridades sensibles como el género, raza, etnia, religión u orientación política). También prevé vedar la vigilancia policial predictiva para valorar el peligro de una persona o conjunto de personas de cometer un delito u falta de respeto (basados en el perfil, la ubicación de dichas personas o en su pasado delincuente), como los sistemas de reconocimiento de emociones por poner un ejemplo por la parte de la policía, agentes de fronteras o en lugares de trabajo y escuelas.

El Partido Popular Europeo (PPE) había presentado en el último instante —y rompiendo así, conforme los negociadores de la ley, un pacto para no incorporar nada no discutido— una enmienda para recobrar las salvedades previstas originalmente y dejarle a las fuerzas del orden emplear sistemas de biométricos de reconocimiento, como el facial, en lugares públicos en tiempo real para casos muy específicos, como la busca de un pequeño desaparecido o un ataque terrorista. Es una situación afín a la que aprobó el Consejo en el mes de diciembre. Finalmente ha sido rechazada en el pleno, a pesar de que a lo largo del discute de la ley, el martes, el eurodiputado popular Jeroen Lenaers la había protegido como una muestra de que, tratándose de IA, “no solo hay que hablar de cómo se protege a la ciudadanía de la IA, sino también de cómo la IA puede proteger a la ciudadanía”. La propuesta final sí prosigue dejando el uso “ex post” de esta clase de tecnologías para esos casos contados, siempre que se cuente con una orden judicial para esto.

Los sistemas de IA generativa —capaz de crear nuevos contenidos originales de audio, texto o imágenes desde la observación de otros datos— como el ChatGPT, eran poco conocidos cuando se daban los primeros pasos legislativos, mas ahora están en la psique de todos, incluidos sus autores, muchos de los que son firmes demandantes de una demarcación clara de su uso. Los eurodiputados han añadido capas extra de seguridad y trasparencia a los desarrolladores de estos modelos fundacionales en esta normativa que se fundamenta no en regular tecnologías específicas, sino más bien de qué manera se utiliza: la ley crea categorías que van desde el peligro “inaceptable” (prohibidas por la legislación) a otras menores que son admitidas, si bien sometidas a estrictos controles a fin de que no afecten a las libertades y derechos ciudadanos, sobre todo la segunda categoría más alta, la de “alto riesgo”, que es donde entraría la IA generativa.

Los distribuidores de estos modelos fundacionales van a deber, conforme la propuesta de los eurodiputados, asegurar una “protección robusta” de los derechos esenciales ciudadanos, para lo que van a deber “evaluar y mitigar riesgos, cumplir con los requisitos de diseño, información y medioambientales” europeos y estar “registrados” en la base de datos de la UE. Además, modelos generativos como ChatGPT van a deber cumplir requisitos auxiliares de “transparencia”: así, deberán dejar en claro que el contenido fue generado por un sistema de IA, para lo que se les demandará una marca de agua que los distinga. Además, van a deber diseñar sus modelos de forma tal que impidan que estos creen contenido ilegal y, en interés de la protección de los derechos de autor, van a deber publicar los datos utilizados para el adiestramiento de estos sistemas, de forma tal que si un autor estima que se han violado sus derechos a través de el uso de su material por los algoritmos, pueda asistir a las vías legales existentes en la UE para demandar o demandar una indemnización.

Durante el discute del martes, la vicepresidenta de la Comisión Europea para el Área Digital y de Competencia, Margrethe Vestager, había señalado la relevancia de contar con un marco normativo para la IA pues, afirmó en el pleno de la Eurocámara, deja “crear confianza y seguridad jurídica”. Y así, agregó, “se pueden hacer grandes cosas con la IA si se puede confiar en ella”.

La danesa, que a fines de mayo lanzó así como Estados Unidos una propuesta para crear un “código de conducta” voluntario para la industria de IA generativa en el marco del G7 que sirva de “puente” hasta el momento en que la ley europea y otras en otras zonas del planeta estén en marcha, asevera que ahora es “el momento oportuno” para legislar esta tecnología de la manera que la enfoca la UE. “El mundo ha madurado para que este enfoque basado en el uso y los riesgos sea el que más sentido tiene de cara al futuro”, aseveró. Por su parte, el comisario Breton estimó que Europa es el continente “más capaz de realizar esta reglamentación de manera equilibrada, transparente y proporcionada”.

“Tenemos la posibilidad de establecer de forma progresiva una norma mundial”, añadió el francés, que este miércoles ha adelantado su pretensión de festejar el primer trílogo esta noche en Estrasburgo pues “no hay tiempo que perder. Cuento con la próxima presidencia española de la UE para trabajar en este gran tema para lograr un texto final al término del año”, ha adelantado. Benifei se declara aun “seguro” de que este plazo va a ser posible aun si llega a generarse un cambio de Gobierno en España el veintitres de julio, ya que, mantiene el socialdemócrata italiano, la presidencia de España se ha mostrado “muy comprometida” con este dossier.

Fuentes comunitarias reconocen sin embargo que no va a ser simple conciliar la visión más centrada en la seguridad nacional de los Estados con la de protección de los derechos esenciales ciudadanos en las áreas de alto peligro. Pero asimismo se declaran optimistas viendo que el contexto en que se generarán las negociaciones: una creciente preocupación por los peligros que puede implicar la IA generativa manifestado aun por sus desarrolladores, muchos de los que han pedido explícitamente una regulación, y los mensajes de otras zonas y países del planeta preparados ya asimismo a establecer salvaguardias para una tecnología cuyas posibilidades son aun bastante difíciles de imaginar. La idea básica, apuntan, es que ni Europa, ni absolutamente nadie, se puede permitir no regular una cuestión tan esencial. Benifei, en verdad, estima que hay “apetito suficiente” para adelantar aun los tiempos y que la Ley de Inteligencia Artificial entre en vigor, total o parcialmente, ya antes de lo previsto por la Comisión, que espera su implementación total en 2026