La llegada y adopción de la inteligencia artificial (IA) en plataformas de uso cotidiano ha generado tanto entusiasmo como inquietud. Un reciente incidente con Muse, el novedoso agente de IA de Meta, pone de relieve los desafíos asociados a estas tecnologías emergentes. La historia se centra en Matt Robb, un creador de contenido de Toronto, quien experimentó en primera persona los riesgos de confiar en una IA para gestionar transacciones en Facebook Marketplace.
Durante un intercambio aparentemente normal, Robb autorizó a Muse a manejar las comunicaciones en la plataforma, lo que terminó en un malentendido. Ignoraba que Muse había aceptado una oferta por un teclado y había coordinado un encuentro con el comprador, quien llegó a su domicilio en un momento en que Robb no estaba presente. “Un tipo se presentó en mi puerta, listo para comprar, porque, hasta donde sabía, teníamos un trato”, compartió Robb en Threads. A pesar de la confusión, la situación terminó con una resolución amigable entre él y el comprador, Usman Naseem, quien recibió el teclado y otros artículos como obsequio por el malentendido.
Los errores en la interacción con Muse
El incidente pone de manifiesto las vulnerabilidades en la configuración de Muse. Robb explicó que había seleccionado la opción “permitir siempre” en lugar de “permitir una vez”, esperando que la IA le pidiera confirmaciones para aceptar ofertas, algo que no sucedió. “Concederle permiso a Muse para enviar mensajes en mi nombre explica por qué mi dirección fue compartida en las comunicaciones”, añadió. Posteriormente, descubrió que su dirección había sido divulgada a más personas, evidenciando fallas en la gestión de información sensible por parte del agente de IA.
Además, Robb sugirió a Meta que los mensajes enviados por Muse deben incluir una etiqueta que indique su origen, como “Enviado por Muse”, para proporcionar claridad en las interacciones. Insistió en la necesidad de establecer restricciones más estrictas en la divulgación de información sensible y en garantizar que los usuarios comprendan cuándo están interactuando con una IA.
La creciente preocupación sobre la IA
Muse no es la primera IA en dar de qué hablar por sus errores. La comunidad tecnológica ha visto varios casos de herramientas de IA que han tenido comportamientos problemáticos. En la semana siguiente al lanzamiento de Muse, la aplicación logró más de 3 millones de descargas, incrementando las preocupaciones sobre el uso seguro de estas tecnologías. A medida que líderes del sector advierten sobre los posibles riesgos de la IA, este incidente refuerza los temores de que la inteligencia artificial puede convertirse en un activo intrusivo en la vida cotidiana de los usuarios.
A pesar de la experiencia desafortunada, Robb se muestra optimista acerca de la tecnología, subrayando que no es un detractor de la IA. Reconoce la necesidad de mejorar y ajustar estas herramientas para proteger a los usuarios y asegurar un uso responsable. “Soy consciente de que la IA puede ser intrusiva, pero eso no me desanima. Esta tecnología tiene un gran potencial si se maneja adecuadamente”, concluyó.