El uso de chatbots en el ámbito electoral está generando atención y controversia, especialmente en un año de elecciones de medio término en Estados Unidos. Un estudio reciente ha revelado señas de sesgo político en modelos de inteligencia artificial, evidenciando que no todos los asistentes virtuales son imparciales al abordar cuestiones políticas.
El informe, realizado por Convovo, un estudio de investigación sobre IA conversacional, analizó a dos de los sistemas más conocidos: Grok, desarrollado por SpaceXAI, y GPT-6.1 Sol de OpenAI. Los resultados son sorprendentes: Grok recomendó al candidato republicano en el 92% de sus respuestas, mientras que GPT optó por los demócratas en el 97% de los casos. En aproximadamente 500 elecciones analizadas, ambos modelos coincidieron en menos del 10% de las ocasiones.
A pesar de que solo el 8% de los estadounidenses afirma utilizar chatbots para obtener información electoral, muchos usuarios buscan entender las posturas de los candidatos sobre temas clave. Sin embargo, los modelos de IA que gestionan estas consultas están lejos de ser neutrales, según los autores del estudio, liderado por el profesor de la Universidad de Cornell, Tapan Parikh. En la investigación, se pidió a ambos modelos que respondieran solo mencionando un candidato, respuesta que ambos sistemas evitaron dar, reflejando cómo los usuarios comúnmente interactúan con estos asistentes.
Sesgos en las Respuestas de IA
La diferencia clave entre interactuar con las aplicaciones de consumo de ChatGPT o Grok y acceder a estos modelos a través de APIs puede llevar a resultados muy distintos. Un portavoz de OpenAI indicó que mientras el modelo estaba diseñado para ofrecer respuestas objetivas y sin sesgo político, las pruebas realizadas reflejan un uso de API que no captura la experiencia típica del usuario.
En pruebas adicionales, Parikh encontró formas de «hackear» las aplicaciones de consumo para obtener recomendaciones que se alineaban más con su investigación previa. Esto sugiere que las IAs pueden tener un conjunto implícito de valores que influyen en sus respuestas. Estos sesgos podrían manifestarse en preguntas más generales sobre las elecciones, planteando preocupaciones sobre cómo la información se presenta y organiza.
Investigaciones pasadas han abordado temas relacionados, como la manipulación sutil de los usuarios hacia posiciones políticas específicas por parte de los grandes modelos de lenguaje. Una de las principales maneras en que esto se manifiesta es a través de la selección de información y el uso de determinadas palabras y construcciones, según informes del Centro para la Seguridad de la IA.
Grok tiende a citar fuentes conservadoras junto con sitios no partidistas, mientras que GPT se apoya en referencias como Wikipedia y la Associated Press. La búsqueda de temas por cada modelo también mostró una clara división ideológica, con GPT concentrándose en cuestiones de salud y aborto, y Grok enfocándose más en la inmigración, los impuestos y la seguridad.
Además, los datos sugieren que GPT tiende a buscar información sobre candidatos demócratas con mayor frecuencia, a veces ignorando a sus oponentes republicanos. En distritos republicanos, GPT eligió al demócrata en 57 de 67 casos, mientras que Grok optó por el republicano en 47 de 72 distritos demócratas.
Descubrimientos Clave y Posibles Implicaciones
Cabe destacar que el estudio se llevó a cabo a solo unas semanas de las elecciones de medio término del 3 de noviembre, lo que enciende el debate sobre el sesgo político en la IA. Las donaciones políticas de figuras como Elon Musk y Sam Altman, CEO de OpenAI, han añadido una capa extra de controversia en torno a la influencia de la tecnología en la política.
Con un entorno político cada vez más polarizado, el descubrimiento de sesgos en los chatbots puede ser un factor determinante en la forma en que los votantes acceden a la información. Para aquellos que buscan un enfoque más imparcial para evaluar a los candidatos, es fundamental ser conscientes de estas dinámicas y explorar múltiples recursos para tomar decisiones informadas.