La rápida adopción de la inteligencia artificial (IA) en diversas industrias plantea desafíos significativos que requieren una atención urgente. Dario Amodei, CEO de Anthropic, ha advertido sobre la necesidad de que las empresas tecnológicas frenen el ritmo de desarrollo de productos vinculados a la IA. En una carta recientemente difundida, Amodei anticipa un escenario disruptivo en el que la IA podría convertirse en un agente autónomo que cause daños económicos inmensos en un corto plazo. Sin embargo, el impacto ya se siente en sectores como la banca, donde las decisiones automatizadas están afectando la vida y las finanzas de millones de personas.
De acuerdo con datos de Deloitte, actualmente, el 31% de los empleados bancarios utiliza IA semanalmente, una cifra que se ha duplicado en el último año. No obstante, el incremento en el uso de la IA ha coincidido con un aumento alarmante en los incidentes relacionados, que se multiplicaron por ocho entre 2022 y 2025. Aunque estos problemas pueden parecer inflacionarios, su impacto real se traduce en consecuencias tangibles para individuos y empresas.
La necesidad de regulación en un entorno cambiante
El avance de la IA no parece estar acompañado por una regulación adecuada. Las empresas deben tomar decisiones críticas sobre qué tareas confiar a las máquinas, y esta responsabilidad recae sobre los líderes de negocio, quienes deben establecer directrices específicas para el uso de modelos de IA. La ausencia de un marco regulatorio efectivo puede resultar en decisiones sesgadas, como ocurre en el sector bancario, donde ciertos algoritmos pueden negar préstamos a solicitantes calificados basándose en datos históricos imparciales.
Ha llegado el momento de implementar estructuras que guíen el uso de la IA en una variedad de sectores críticos, desde la salud hasta las telecomunicaciones. Este marco no puede ser simplemente una lista de pautas; debe incluir la supervisión humana en cada etapa del proceso, lo que asegura que las decisiones automatizadas sean evaluadas y respaldadas por criterio humano.
Un marco de gobernanza para la IA
En este contexto, se requieren tres pasos inmediatos para construir una arquitectura moral robusta respecto a la IA:
1. Nombrar un propietario para cada sistema de IA
El primer paso es realizar un inventario exhaustivo de todos los sistemas de IA que operan dentro de la organización. Cada sistema debe contar con un propietario que tenga autoridad para implementar cambios y la responsabilidad de revaluar su efectividad periódicamente.
2. Mantener el juicio humano en el proceso
En el ámbito médico, aunque la IA ayuda en diagnósticos, un profesional debe tomar la decisión final. Este principio debe extenderse a la banca y otros sectores, donde los empleados necesitan la capacitación adecuada para evaluar las salidas de IA y sentir que pueden tomar decisiones en función de su criterio.
3. Incluir a los proveedores en la estrategia de gobernanza
Dado que la mayoría de las instituciones adquieren soluciones de IA de terceros, es crucial asegurar que los contratos con proveedores incluyan políticas de responsabilidad. Esto puede abarcar derechos de auditoría, pruebas de sesgo y notificación de incidentes, garantizando así un nivel de seguridad y previsibilidad.
Una mirada optimista hacia la IA
A pesar de las preocupaciones sobre la IA, también existe un potencial considerable para transformar positivamente los negocios. La IA puede optimizar procesos, enriquecer la experiencia del cliente y abrir nuevas oportunidades económicas. Un estudio revela que los bancos que implementan modelos de aprendizaje automático han visto incrementos significativos en las tasas de aprobación de préstamos para comunidades históricamente desatendidas.
La adopción responsable de la IA puede, por lo tanto, ser un catalizador para la innovación y la inclusión, siempre que las empresas implementen marcos de gobernanza que protejan tanto sus intereses como los de sus clientes. La decisión sobre cómo integrar la IA recae actualmente en las empresas, y los resultados de dichas decisiones tendrán un efecto duradero en la economía.