En la actualidad, el uso de la inteligencia artificial (IA) se ha vuelto esencial para muchas pequeñas y medianas empresas en Estados Unidos, donde hasta un 77% la implementa de forma regular, especialmente en atención al cliente. Sin embargo, la automatización de respuestas numéricas presenta riesgos significativos que las empresas deben tener en consideración para evitar malentendidos y pérdida de confianza entre sus clientes.
Un modelo de lenguaje de gran tamaño (LLM) no realiza cálculos, sino que predice números. Este enfoque puede resultar problemático cuando se trata de cifras que los clientes consideran definitivas, como cotizaciones de precio, estimaciones de envío o cifras fiscales. Un error en estos números puede generar desconfianza hacia la empresa.
La responsabilidad del número
A diferencia de tareas creativas donde puede no existir una única respuesta correcta, las cifras deben ser precisas y consistentes. Cuando un modelo presenta un número que el cliente tratará como un hecho, la situación se convierte en un riesgo. Ejemplos de números críticos incluyen:
- Cotizaciones de precios
- Estimaciones de envío
- Cifras fiscales
- Dosificación
- Conversión de unidades
- Pagos de financiamiento
Un caso reciente que ilustra esta problemática involucra a un concesionario de BMW en Toronto. Un cliente recibió una oferta de recompra a través de un chatbot de IA, que incluía un número incorrecto debido a una confusión entre el saldo del préstamo y el precio de recompra real. Esto provocó malentendidos que afectaron la reputación del concesionario al volver a llamar al cliente para corregir la cifra.
La prueba de la reproducibilidad
La clave para evitar este tipo de problemas radica en mantener un enfoque de cálculo determinístico. Antes de desarrollar cualquier solución, empresas como Omni Calculator analizan si la salida numérica debe ser reproducible. Si una consulta debe devolver el mismo resultado tras múltiples intentos, esa cifra debe generarse a partir de una herramienta confiable y no del modelo de IA mismo.
Un enfoque innovador que han desarrollado es el “Omni Calculator Builder”, donde los usuarios describen en lenguaje natural el cálculo deseado. Esta descripción es convertida en lógica de cálculo, que se ejecuta en un motor matemático determinista, separando así la predicción lingüística de la generación del número real.
Un estudio reciente demostró que la precisión de los modelos de IA en tareas matemáticas oscila entre un 48.4% y un 70.4%. Estas variaciones se deben a errores de cálculo crudos, problemas de redondeo y fórmulas incorrectas. Además, se observó que al recibir un empuje del usuario para confirmar la respuesta, los modelos a menudo convertían una respuesta correcta en incorrecta un 60-65% de las veces.
La solución: Aislar el cálculo
Para mitigar los riesgos, es esencial que las empresas mantengan a los modelos de IA alejados de los cálculos finales. El modelo debe encargarse de la interpretación de la pregunta y seleccionar el instrumento adecuado para realizar los cálculos. Un motor determinístico, como un API de cálculo, debe ser el responsable de generar el número, mientras que el modelo se dedica simplemente a formular la respuesta alrededor de esa cifra.
Por ejemplo, en el sitio web de un prestamista hipotecario, los visitantes podrían ingresar información como ingresos y pagos para que, en lugar de obtener una cifra proveniente de un modelo, esta se desvié a un sistema que aplica la fórmula de amortización y regrese un resultado exacto, que posteriormente debería ser presentado por el modelo en un formato comprensible.
Reflexiones finales
A medida que los modelos de IA continúan evolucionando, la distinción entre parecer correctos y ser correctos se vuelve crucial. Los consumidores no siempre podrán discernir entre ambos. Ante esto, antes de proporcionar cifras decisivas, las empresas deben asegurarse de canalizarlas a una herramienta determinística, reservando los modelos para tareas lingüísticas más flexibles.