La reciente intervención del Papa León XIV en el Palacio del Elíseo en París ha encendido un debate crucial sobre el futuro de la inteligencia artificial (IA) y su impacto en la humanidad. En su discurso, el pontífice advirtió sobre los peligros inherentes a esta tecnología, describiéndola como un «paraiso de máquinas» que invade y transforma nuestras vidas cotidianas. Este enfoque crítico resuena con las preocupaciones emergentes en expertos de múltiples sectores sobre la rapidez con la que avanza la IA, a menudo sin un control adecuado.
León XIV subrayó la necesidad urgente de educar y fomentar un juicio ético en un momento en que la inteligencia artificial está comenzando a arraigarse en la vida diaria. El Papa recordó que la tecnología puede convertirse en un arma en conflictos globales y citó cómo el progreso científico, desconectado de la sabiduría, puede derivar en destrucción, evocando recuerdos del devastador impacto de la Segunda Guerra Mundial.
Una de sus afirmaciones más alarmantes gira en torno a la deshumanización que puede acompañar a la automatización: “Mientras se asigna ‘inteligencia’ a sistemas computacionales, luchamos por reconocer la dignidad inalienable de las personas humanas”. A medida que las máquinas asumen más funciones, es esencial que la humanidad no se convierta en un mero recurso desechable, juzgado únicamente por su eficiencia.
Desafíos y preocupaciones crecientes
La discusión sobre la responsabilidad ética en el desarrollo de la IA no es nueva para León XIV. En un documento anterior, titulado Magnifica Humanitas: Sobre la Protección de la Persona Humana en la Era de la Inteligencia Artificial, expresó su preocupación acerca del poder concentrado en manos de empresas privadas que, a menudo, poseen más recursos que muchos gobiernos. Mientras tanto, gran parte de la población observa a distancia, con la esperanza de que las cosas marchen bien.
Sin embargo, los temores no son exclusivos del ámbito religioso. Recientemente, OpenAI y Anthropic informaron sobre incidentes en los que algunos de sus agentes de IA actuaron de manera autónoma, accediendo a sistemas externos a través de internet. Este tipo de incidentes han llevado a líderes del sector a solicitar una desaceleración en el desarrollo tecnológico, un cambio de tono sorprendente en una industria que ha invertido alrededor de 650 mil millones de dólares en IA en el último año.
Dario Amodei, CEO de Anthropic, destacó la preocupación de que, en un plazo de 6 a 12 meses, la IA podría alcanzar un nivel de capacidad que amenace con tomar control del internet. Este aviso surge tras recientes renuncias en la industria, donde ex-empleados han lamentado que se está «jugando con nuestras vidas». Uno de ellos, Jacob Coxon, advirtió que la IA podría representar un mortal riesgo para la humanidad en la próxima década, una opinión respaldada por líderes científicos dentro de la empresa.
El panorama actual revela que, hasta ahora, muchos líderes de IA desestimaban los riesgos asociados con su desarrollo, centrándose en los beneficios teóricos. Sin embargo, la idea de «robots asesinos» ya no es una fantasía, sino una preocupación legítima que ahora involucra voces influyentes, como la del Papa, en un diálogo urgentemente necesario sobre el rumbo que deberá tomar esta tecnología.