Un grupo de veinticinco matemáticos de renombre, todos galardonados con la medalla Fields, han levantado la voz mediante una carta abierta que advierte sobre los peligros que la inteligencia artificial (IA) representa para su trabajo intelectual. La preocupación surge en un contexto donde los laboratorios de IA compiten para resolver problemas matemáticos célebres, lo que podría amenazar la cultura de investigación abierta en este ámbito.
Recientemente, el profesor Tristan Buckmaster de NYU acusó a OpenAI de presionarlo para que no acreditara a un colaborador de Anthropic en la resolución de un importante problema matemático. Buckmaster cuestionó la posibilidad de que OpenAI se hubiera beneficiado del trabajo desarrollado con Codex para producir su propia prueba innovadora durante un fin de semana de trabajo intensivo.
En un giro reciente, OpenAI decidió retirar su patrocinio de un evento matemático en el Instituto Tecnológico de California (CalTech) tras ser criticado por investigadores de la institución. Esta decisión pone de manifiesto el creciente descontento en la comunidad matemática respecto a cómo se anuncian y comunican los avances obtenidos a través de la IA.
Problemas de atribución y plagio
Los firmantes de la carta abogan por la necesidad de que las soluciones producidas por modelos de IA sean comprensibles y comunicadas adecuadamente. Subrayan que muchas veces estas soluciones son divulgadas apresuradamente, lo que dificulta la adecuada atribución y la referencia al trabajo previo de otros. La falta de verificación en la prueba de OpenAI ha intensificado estas preocupaciones.
El temor radica en que la cultura de investigación abierta que define a la comunidad matemática se vea amenazada. Con el acceso a modelos de lenguaje que pueden acelerar la búsqueda de soluciones, hay un riesgo real de que los laboratorios más avanzados inviertan grandes sumas de dinero para adelantarse a los investigadores originales, lo que incentivaría la secretividad sobre los resultados.
Esta situación se enmarca dentro de un panorama más amplio, donde la comunidad matemática aborda problemas similares a los que enfrentan otras disciplinas creativas y científicas. La carta se produce tras la publicación de la Declaración de Leiden en junio, la cual también reflexiona sobre cómo los avances en pruebas generadas por IA modificarán la práctica matemática.
La importancia de la comunidad y el conocimiento compartido
Los matemáticos han enfatizado que el valor de su trabajo va más allá de los resultados y el reconocimiento, abarcando la estructura intelectual que alimenta la formación de nuevos talentos y fomenta nuevas preguntas e ideas. La pérdida de esta integración en el tejido cultural humano sería una consecuencia indeseable de la evolución impulsada por la IA.
La carta abierta es un llamado a la reflexión sobre cómo la IA podría transformar tanto el ámbito matemático como otras áreas del conocimiento. En un momento en que la presión por adaptar las metodologías se intensifica, es crucial que las comunidades profesionales en todos los campos se mantengan alerta y encuentren formas de preservar la esencia de su labor.