Goldman Sachs ha implementado restricciones significativas en el uso de herramientas de inteligencia artificial (IA) como Claude Code de Anthropic y GitHub de Microsoft. Esta decisión, que afecta a la mayoría de los traders y banqueros del banco, busca abordar preocupaciones sobre la productividad y el riesgo asociados con el uso de estas tecnologías en un entorno tan crítico como el financiero.
Desde octubre, las nuevas directrices internas han limitado el acceso a estas herramientas exclusivamente al equipo de ingenieros de Goldman Sachs. Anteriormente, traders y banqueros se beneficiaban de estos sistemas para monitorizar flujos comerciales y modelar movimientos en los mercados, así como para crear materiales gráficos y escritos. Según un portavoz del banco, la medida forma parte de un esfuerzo por determinar los mejores casos de uso de IA dentro de la firma.
Un cambio inesperado tras la promoción de herramientas ‘vibe coding’
En un giro sorprendente, el director de información de Goldman, Marco Argenti, había elogiado en julio el trabajo de los empleados no técnicos en la creación de herramientas de IA. Argenti destacó que estos profesionales habían desarrollado prototipos que luego eran refinados por ingenieros. Esta dinámica permitía a los traders y banqueros crear soluciones inmediatas sin esperar la disponibilidad de los recursos técnicos necesarios.
Sin embargo, las nuevas políticas limitan estas prácticas, resaltando la necesidad de un control más estricto sobre el software creado en un entorno financiero regulado. Dicha restricción sugiere una creciente preocupación sobre el riesgo de utilizar herramientas que pueden crear y ejecutar código sin el debido proceso de revisión y control.
Restricciones anteriores y su contexto
Las restricciones no son nuevas; en abril, Goldman Sachs ya había restringido el acceso a Claude en Hong Kong, lo cual se debió a términos contractuales específicos. A diferencia de esta primera medida, la prohibición actual se basa en la función desempeñada dentro del banco. No obstante, la plataforma de asistente de IA interna que utilizan modelos de varias empresas sigue disponible para todos los empleados.
Colaboración continua con Anthropic
A pesar de las restricciones, Goldman sigue colaborando estrechamente con Anthropic. Este año, ingenieros de Anthropic dedicaron tiempo en el banco para desarrollar agentes basados en Claude para contabilidad comercial y onboarding de clientes, lo que demuestra una inversión significativa en estas soluciones tecnológicas, a pesar de las limitaciones en su uso generalizado.
Goldman Sachs y Morgan Stanley son los principales aseguradores de la oferta pública inicial de Anthropic, prevista para debutar en Nasdaq bajo el ticker ANT. Esta dinámica plantea un interesante desafío para el banco, que está comprometido con la promoción de acciones de una compañía cuyas herramientas la mayoría de sus empleados no pueden utilizar.
Consideraciones acerca del uso de agentes de codificación
El uso de agentes de codificación en un entorno de trading, como el que ofrece Claude Code, implica ciertos riesgos. Dada su capacidad para redactar y ejecutar código automáticamente, podría resultar en la implementación de scripts que no han pasado por un escrutinio adecuado. Este escenario es particularmente preocupante cuando se considera que el código puede atravesar barreras de información, comprometiendo la integridad de las transacciones y operaciones del banco.
A medida que Goldman establece límites, otras instituciones como Barclays están explorando un enfoque opuesto, alentando a más desarrolladores a utilizar estas herramientas dentro de su organización. Esta discrepancia resalta la tensión en la industria financiera respecto al balance entre innovación tecnológica y la gestión de riesgos operativos.
La estrategia de Goldman Sachs, aunque reforzada por razones de seguridad, también sugiere una necesidad urgente de redefinir la propiedad y la responsabilidad del código generado por agentes externos en el entorno bancario, asegurando que se cumplan las regulaciones y se mantenga la confianza en las operaciones financieras.