Expertos en inteligencia artificial demandan frenar 6 meses la “carrera sin control” de los ChatGPT

La velocidad a la que se están desplegando herramientas basadas en inteligencia artificial (IA) generativa, la que es capaz de crear textos, imágenes o música desde una serie de instrucciones, está amedrentando a los especialistas. Más de mil empresarios, intelectuales e estudiosos de primer nivel relacionados con esta tecnología han firmado una carta abierta en la que piden una moratoria en su desarrollo para reflexionar sobre sus consecuencias.

Más en concreto, solicitan una pausa de “al menos seis meses en el desarrollo y pruebas de sistemas de IA más poderosos que GPT4″, la última versión del gran modelo de lenguaje que usa ChatGPT. La carta advierte de que este último modelo ya es capaz de competir con los humanos en un creciente número de tareas, y que podría usarse para destruir empleo y difundir desinformación. Por ello, reclaman un desarrollo seguro y solo cuando estén seguros de que sus efectos serán positivos. “Desafortunadamente”, asegura la carta, “este nivel de planificación y gestión no está ocurriendo, a pesar de que en los últimos meses los laboratorios de IA han entrado en una carrera sin control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de forma fiable”.

El magnate Elon Musk, creador de Tesla y SpaceX y dueño de Twitter, se cuenta entre las personalidades que han firmado la carta. Curiosamente, Musk es uno de los creadores de OpenAI, la compañía que ha desarrollado ChatGPT, que fue la primera que decidió poner al alcance del gran público su gran modelo automático de lenguaje, algo que no había hecho absolutamente nadie hasta ese momento, a pesar de que Google o Meta hacía unos años que tenían sus desarrollos en marcha.

El historiador Yuval Noah Harari, renombrado por sus libros Sapiens y Homo Deus, o Yoshua Bengio, cuya aportación en las redes neuronales profundas le valió el premio Turing (considerado el Nobel de la informática), son otros de los firmantes más conocidos. Entre resaltan asimismo Steve Wozniak, cofundador de Apple, o Jaan Tallinn, cofundador de Skype.

El sello de España de la carta lo ponen especialistas con renombre internacional como Ramon López de Mántaras, uno de los vanguardistas de la IA en Europa; Carles Serra, directivo del Instituto de la IA del CSIC, y Francesc Giralt, catedrático retirado de la Universitat Rovira i Virgili. El primero de ellos firma otra carta abierta publicada el día de ayer en EL PAÍS en la que se protesta de la resolución del Gobierno de cerrar un pacto de cooperación con un instituto de IA financiado por Emiratos Árabes Unidos. Serra renunció la semana pasada a su puesto en el Consejo Asesor de la IA como queja por ese acuerdo.

Desarrollo, mas con responsabilidad

“La IA avanzada puede representar un cambio profundo en la historia de la vida en la Tierra y debería ser planificada y gestionada con cuidado y con recursos”, afirma un principio acordado en dos mil diecisiete por figuras clave de la disciplina en una conferencia internacional. “Desafortunadamente, este nivel de planificación y de gestión no se está dando”, se lamenta la carta.

“Un reciente comunicado de OpenAI relacionado con la IA general dice que ‘En algún momento, sería importante tener supervisión independiente antes de entrenar nuevos sistemas y para que los esfuerzos más avanzados acuerden limitar el ritmo de crecimiento de la potencia computacional usada para crear nuevos modelos’. Estamos de acuerdo. Ese momento es ahora”, expresa la carta en lo que semeja una indirecta a OpenAI a pesar de estar firmada por uno de sus creadores, Elon Musk.

El pistoletazo de salida de la nueva carrera por la IA generativa lo dio OpenAI, una compañía participada, entre otros muchos, por el hombre más rico del planeta y por Microsoft. El lanzamiento el pasado otoño de la versión beta de ChatGPT, su renombrado bot conversacional, puso a cargo del gran público una tecnología en la que empresas como Google o Meta venían trabajando desde hace quinquenios.

Microsoft supo captar la tendencia y anunció una inversión de diez millones de dólares estadounidenses en la compañía. Al poco tiempo, desveló que su buscador Bing y las aplicaciones de Office llevarían un chatbot semejante a ChatGPT. Google no deseó ser menos y presentó Bard, su versión de chatbot conversacional. Meta asimismo tiene el suyo: LLaMa. Mientras, OpenAI presentó ChatGPT4, una nueva versión considerablemente más potente y pulimentada de su bot conversacional, y ya trabaja en ChatGPT5.

Todo esto ha sucedido en menos de 5 meses. Alarmados por la velocidad de esta carrera, los firmantes de la carta piden una pausa de medio año para meditar de qué manera se debe encaminar. “Si esta pausa no se puede materializar pronto, los gobiernos deberían intervenir e imponer una moratoria”, piden los especialistas.

Puedes continuar a EL PAÍS Tecnología en Facebook y Twitter o apuntarte acá para percibir nuestra newsletter semanal.