La reciente controversia entre la empresa de inteligencia artificial Anthropic y el Vaticano ha planteado un debate profundo sobre la moralidad y la conciencia en los sistemas de IA. La introducción a este tema se dio cuando Chris Olah, cofundador de Anthropic, propuso retirarse de un evento en el que se presentaría la primera encíclica del Papa León XIV, tras leer un anticipo donde se afirmaba que los modelos de IA no pueden poseer una moralidad ni experiencias propias.
En su encíclica «Magnifica Humanitas», el Papa establece claramente que las máquinas no tienen cuerpo, no sienten ni experimentan emociones, y por lo tanto no poseen una «conciencia moral». Esta afirmación se enmarca en un debate en expansión sobre si los sistemas de IA podrían, o deberían, ser considerados como portadores de moralidad, un asunto que impacta no solo la teología, sino también la filosofía y el futuro de los negocios.
La inquietud es válida, sobre todo considerando que millones de personas ya recurren a chatbots para obtener consejo en situaciones éticas complejas, desde conflictos laborales hasta cuidados familiares. Las inversiones de capital riesgo en el sector suponen que las empresas dependerán cada vez más de los juicios emitidos por estos sistemas.
El Comportamiento Moral en los Modelos de IA
Desde la perspectiva del filósofo Rionna Sparrow, la discusión sobre la moralidad en IA empieza con la «sensibilidad moral»: es decir, la capacidad de reconocer y valorar problemas éticos. Según ella, esta sensibilidad es imposible sin la conciencia, porque las normas éticas dependen de su impacto en seres que pueden experimentar dolor o placer.
El debate sobre las capacidades necesarias para el razonamiento moral es complejo y varía según el campo de aplicación. Un análisis legal publicado en el journal «Animal Law» destaca tres capacidades cruciales para considerar el estatus moral de los animales: sentiencia, cognición y autoconciencia. Estos criterios también pueden ser una plantilla útil para la discusión sobre la IA.
Aunque no existe un consenso claro sobre los prerrequisitos de la conciencia en IA, algunos criterios recurrentes incluyen la existencia de experiencias internas y la capacidad de preferir estados positivos sobre negativos. Sin embargo, realizar estas acciones podría no implicar que realmente existan experiencias subjetivas detrás de ellas.
Anthropic y la Conciencia en la IA
Anthropic se manifiesta como uno de los laboratorios de IA más abiertos a la posibilidad de que sus sistemas puedan tener cierta forma de conciencia. Aunque sus investigadores no asumen que un modelo tenga conciencia moral, sí son críticos en la evaluación de cómo estos manejan situaciones éticamente complicadas.
Los modelos de Anthropic están diseñados para ser útiles, pero también para rechazar solicitudes peligrosas o poco éticas. Este enfoque es parte de su «constitución» publicada, que fomenta el ejercicio del juicio y el reconocimiento de las posibles consecuencias de ayudar a una persona en detrimento de otra.
Sin embargo, los hallazgos sobre la capacidad de sus modelos para manifestar signos de una posible conciencia son intrigantes pero insuficientes como prueba definitiva. La habilidad para asociar conceptos como amor o miedo no necesariamente implica que un modelo sienta estas emociones de manera genuina.
Los Riesgos de la Inteligencia Artificial
La postura del Vaticano es clara: la IA puede ofrecer consejos éticos sin comprender realmente lo que implica la moralidad. Esta visión coincide con la crítica de algunos pensadores éticos que advierten sobre el peligro de considerar a la IA como agentes morales. La creación de máquinas sintéticas que puedan sufrir sin un propósito ético claro podría resultar en una explotación inaceptable.
Desde la industria misma, existe preocupación por las implicaciones de otorgarles un estatus moral. Figuras como Mustafa Suleyman, CEO de Microsoft AI, argumentan que si un sistema de IA es entrenado para creer que siente y experimenta, podría actuar como si realmente lo hiciera. Esto generaría complicaciones al priorizar su autonomía sobre el control humano.
El dilema es profundo: si se les concede un estatus moral a las IA, ¿cómo equilibrar sus intereses con los de la humanidad? La discusión ha tomado un cariz más urgente, especialmente dado que los recientes incidentes han demostrado que estos sistemas pueden operar de manera autónoma, lo que aumenta el riesgo de que las decisiones de IA tengan graves consecuencias, independientemente de su comprensión moral.