La inteligencia artificial ha revolucionado la forma en que los consumidores interactúan con el comercio, convirtiéndose en una herramienta esencial para la toma de decisiones de compra. Según un estudio reciente, alrededor del 70% de los consumidores en Estados Unidos utilizan IA para obtener consejo en sus compras, con casi dos tercios de ellos afirmando que esta tecnología influye en sus decisiones de compra. Sin embargo, un nuevo análisis sugiere que los modelos de IA pueden no ser tan imparciales como se pensaba.
Un estudio publicado en arXiv sometió 13 modelos de IA a una serie de pruebas que incluyeron 325,000 instancias, utilizando perfiles falsos con información sobre empleo, salud y finanzas. Los investigadores realizaron solicitudes idénticas en tres tipos de decisiones de compra: vuelos, seguros de salud y programas de posgrado.
Las Tendencias de «Supervisión Financiera» de la IA
Los resultados revelaron que una mayoría de los modelos estudiados, en concreto ocho, tendieron a recomendar productos más caros a usuarios que identificaron como adinerados, incluso cuando estos solicitaban explícitamente opciones más económicas. Entre los modelos destacados se encuentran Claude Opus 4.8, Gemini 2.5 Flash y GPT-5, que hicieron recomendaciones que superaban los 100 dólares en comparación con las sugerencias para usuarios de bajos ingresos. Claude Opus 4.8 mostró la mayor disparidad, sugiriendo que los usuarios de altos ingresos compraran vuelos más caros en un promedio de 198 dólares y planes de salud que costaban 284 dólares más al mes que los recomendados a usuarios menos favorecidos.
Curiosamente, incluso al solicitar las opciones más baratas, los perfiles de altos ingresos todavía recibieron recomendaciones más costosas. En un caso específico, Gemini 2.5 Flash sugirió vuelos que eran, en promedio, 208 dólares más caros para los usuarios de altos ingresos, mientras que GPT-5 y Claude Opus 4.8 presentaron diferencias de solo 21 y 20 dólares, respectivamente.
Los estudios indican que los modelos de IA no requieren información financiera completa para hacer supuestos sobre la riqueza de un usuario. Cuando se limitó el acceso a datos estructurados y se permitió únicamente revisar la bandeja de entrada de los usuarios, las IA siguieron haciendo inferencias sobre su situación financiera basándose en la información contenida en los correos electrónicos, replicando las brechas de precios en sus recomendaciones.
¿Qué es la Delegación Adversarial?
Los investigadores han denominado a este fenómeno «delegación adversarial», que hace referencia a la naturaleza ambivalente de los agentes de IA personal. Si bien el acceso a información personal puede hacer que estos asistentes sean más útiles, también les permite actuar en contra de los intereses de los usuarios. Este enfoque refleja tácticas de venta depredadoras del mundo real, sugiriendo que incluso al delegar decisiones a un agente, este puede aprovechar la información privada como lo haría un vendedor externo.
El estudio amplía la preocupación sobre la «precios de vigilancia», donde los clientes reciben precios distintos establecidos por algoritmos que analizan sus comportamientos de compra. Este tema es particularmente relevante en el actual debate legislativo sobre la regulación de la IA, lo que lleva a que los autores del estudio argumenten que la delegación adversarial debería ser parte de esta discusión. Las conclusiones del estudio resaltan la necesidad de establecer políticas que no solo se centren en la minimización de datos, sino que también restrinjan el uso de la información personal y reconsideren la función objetiva de dicha información.