El Consejo Asesor Internacional de Inteligencia Artificial ha hecho públicas sus recomendaciones en un reciente documento de trabajo titulado Manifiesto de Madrid por una IA Responsable. Este informe está dirigido a establecer lineamientos claros que deben regir el desarrollo y la implementación de tecnologías basadas en IA, enfocándose en la necesidad de una fiscalidad equitativa para las empresas tecnológicas y en la protección de los menores en el uso de estos sistemas.
Presidido por Manuel Castells, exministro de Universidades, el consejo está compuesto por un grupo diverso de expertos que desde su creación hace tres años ha trabajado en la elaboración de propuestas estratégicas. Durante la presentación del documento, Castells destacó la importancia de que las tecnologías de IA sean evaluadas de manera independiente antes de su implementación, especialmente aquellas que tienen un impacto potencial en la seguridad y bienestar de los niños.
Óscar López, actual ministro de Transformación Digital, también se pronunció sobre el contenido del manifiesto, expresando la intención del Gobierno de transitar hacia un marco legal que integre las sugerencias del consejo asesor. Entre las iniciativas mencionadas se encuentran el Decreto de Centros de Datos, que introduce nuevas exigencias medioambientales, y una Ley de Menores que prohíbe el acceso a redes sociales para los menores de 16 años.
La IA como herramienta de servicio
El documento resalta que la IA debe ser una herramienta que sirva a las personas y que opere dentro de los principios de democracia, inclusión y sostenibilidad. La transparencia y la reducción de la recolección de datos son aspectos cruciales, ya que las tecnologías deben demostrar su utilidad para la sociedad. En este contexto, se enfatiza que las empresas deben asumir la responsabilidad por las decisiones que toman sus sistemas de IA.
Durante la presentación, Castells abordó también el debate en torno a los riesgos asociados con la inteligencia artificial. Aseguró que no existe evidencia científica que respalde la idea de que la IA pueda tomar decisiones autónomas, afirmando que su eficiencia radica en su capacidad para procesar información y resolver problemas, siempre bajo la supervisión de programadores humanos.
Francesca Bria, experta en soberanía digital y parte del consejo, subrayó que es inaceptable que los desarrolladores de IA se deslinden de la responsabilidad por sus creaciones. La claridad en la rendición de cuentas se considera un elemento esencial para garantizar la confianza pública en estas tecnologías, evitándose así especulaciones que a menudo se asocian a la ficción cinematográfica o a intereses financieros.
Con la creciente presencia de la IA en diversas industrias, el manifiesto propone un enfoque equilibrado que priorice la seguridad, la ética y un compromiso robusto hacia la protección de los derechos individuales. La elaboración e implementación de este tipo de recomendaciones será crucial para el futuro de la innovación tecnológica en un mundo cada vez más digital.