La regulación y el acceso a modelos de inteligencia artificial (IA) se han convertido en un tema polémico en el sector tecnológico. Durante la reciente conferencia Ai4 en Las Vegas, tres figuras prominentes en el campo de la IA abordaron estos desafíos, resaltando la necesidad de un equilibrio entre la apertura y el control de los avances en esta área. Geoffrey Hinton, precursor en la investigación de IA y ganador del Premio Nobel, junto a Fei-Fei Li, CEO de World Labs, y Andrew Ng, cofundador de Coursera, discutieron la importancia de mantener el acceso abierto a los modelos de IA.
Las preocupaciones que dominaron el diálogo giraron en torno a la posibilidad de que unas pocas corporaciones controlen el ritmo de la innovación en el sector. Ng advirtió que tal monopolio podría limitar el acceso de las personas a la tecnología. “No quiero que haya guardianes,” expresó, destacando que esta situación podría restringir el desarrollo de tecnologías disruptivas y favorecer solo a las empresas más capitalizadas.
Por otro lado, Hinton planteó una diferencia fundamental entre el software de código abierto y los modelos de pesos abiertos. Mientras que el código abierto permite la inspección y modificación del mismo, los modelos de pesos abiertos otorgan acceso a los parámetros de un modelo de IA ya entrenado, lo cual puede facilitar su uso indebido. “Me opongo a los pesos abiertos porque puede facilitar que se usen de manera malintencionada,” declaró. Hinton también destacó que, aunque su postura es cautelosa, los modelos de pesos abiertos ya son una realidad en el campo de la IA, y el desafío radica en gestionar sus riesgos.
Ng, por su parte, enfatizó que el verdadero desafío no radica solo en los riesgos de los modelos abiertos, sino en quién controla el acceso a ellos. Señaló que la adopción de modelos de pesos abiertos de China podría influir en cómo se perciben conceptos fundamentales como la democracia y los derechos humanos, advirtiendo sobre la necesidad de fomentar la competitividad estadounidense en el desarrollo de IA abierta.
Un enfoque matizado sobre la apertura y regulación
Fei-Fei Li, en respuesta, abogó por un enfoque más matizado en la discusión sobre la apertura y el control. Comparó la situación actual de la IA con la física nuclear, donde el acceso a la información es graduado. “Es peligroso presentar el debate como un dilema entre total apertura y completo cierre,” aclaró, sugiriendo que en sistemas complejos, diferentes capas pueden operar bajo distintos niveles de apertura.
Li subrayó la importancia de las colaboraciones entre instituciones públicas y privadas, destacando cómo proyectos como el Proyecto del Genoma Humano han permitido avances significativos en la ciencia, beneficiando tanto a investigadores como a empresas farmacéuticas. “Necesitamos una cierta apertura que fomente descubrimientos científicos y modelos de negocio lucrativos para emprendedores, además de aceptar sistemas cerrados,” afirmó.
A pesar de las diferencias en sus enfoques, los tres expertos coincidieron en que un nivel de regulación será necesario para guiar la evolución de la IA hacia la mejora de la sociedad. Hinton concluyó señalando que la regulación debe ser parte de la discusión, enfatizando que no se puede dejar en manos de individuos como Elon Musk o Mark Zuckerberg la dirección que debe tomar la IA.