Eliza, Terminator y el riesgo enmascarado de ChatGPT

Era mil novecientos sesenta y seis cuando Joseph Weizenbaum, vanguardista de la inteligencia artificial en el MIT, descubrió que tenía algo incómodo entre manos. Había desarrollado uno de los primeros chatbots, una computadora capaz de fingir una charla humana con razonable éxito. Se llamaba Eliza, y se transformaría en un jalón para esa tecnología naciente. Pero asimismo en un punto de cambio para su inventor, tras observar el efecto que ejercitaba sobre las personas. Weizenbaum quedó aterrorizado tras dejar que su secretaria usara Eliza: al cabo del rato, le solicitó que saliese de la habitación para tener amedrentad en su charla con la máquina. La anécdota sirve para leer con perspectiva el fenómeno actual del ChatGPT.

Eliza, en su versión Doctor, había sido creada como una parodia de las contestaciones de los psicoterapeutas que devolvían en forma de preguntas las aseveraciones de los usuarios. La pretensión era “demostrar que la comunicación entre una persona y una máquina era superficial”, mas al ver que su secretaria y considerablemente más personas se abrían por completo al conversar con Eliza, Weizenbaum descubrió una verdad muy diferente. “No me había dado cuenta de que incluso cortísimas exposiciones a programas relativamente simples podrían inducir poderosos pensamientos ilusorios en gente normal”, escribió posteriormente.

El programa de Weizenbaum era muy básico, lejos de la sofisticación de las presentes inteligencias conversacionales que acaparan titulares y llenan las redes con ejemplos espectaculares. Pero el efecto que provocan es exactamente el mismo que Eliza, como probó el ingeniero de Google persuadido de que LaMDA, otra de estas máquinas, tenía la conciencia de un pequeño de 7 años. Seguimos proyectando capacidades humanas en las máquinas pues , los humanos, asimismo estamos programados para conversar. Como explica el neurocientífico Mariano Sigman, lo que nos define como especie es que somos animales conversacionales: nos definimos, moldeamos y efectuamos mediante las palabras que compartimos con otros. Dialogar está en nuestro ADN y el cerebro soluciona esa discordancia cognitiva admitiendo que ese programa, si bien sepamos que es una caja negra de silicio, es un ser que desea comunicarse con nosotros.

Después de Eliza llegaría Parry, que simulaba ser un esquizofrénico, y después Alice o Siri, o las más recientes y conocidas para el público de España, como Irene de Renfe y Bea en Bankia (asistentes virtuales desarrolladas en España). En lo peor de la crisis de reputación del banco, con la investigación a Rodrigo Rato por sus supuestos delitos, fue Bea la que sostuvo en pie el sitio web de la entidad con su capacidad para darle palique a quienes entraban en tromba para sobresaturar sus sistemas y tumbar el portal. La gente no podía resistirse a volcar su indignación con insultos personificadores hacia ella.

Weizenbaum no comprendía que la gente tomara a Eliza como el paso inicial cara una máquina que pudiese simular la inteligencia humana. Pensaba que era una fantasía peligrosa y que era “monstruosamente erróneo” comprenderlo como algo más que un simple programa que ejecutaba una función. Weizenbaum abandonó Eliza y se transformó en un crítico de la idea de que las máquinas podían ser inteligentes, pues inocular ese marco mental en la sociedad sería “un veneno de efecto retardado”.

Las palabras de este vanguardista retumban ahora en objeciones como la que hace Emily Bender, que insiste en reiterar que ChatGPT no tienen nada de mágico, sino solo se trata de un papagayo. Un papagayo sofisticadísimo y con muchas lecturas (”estocástico”, matiza ), mas un papagayo. Esta lingüista computacional es una de las mayores críticas de los impulsores de estos programas que ya lo anegan todo. Herramientas que van a ser realmente útiles y que revolucionarán muchas actividades, sin duda, mas que adolecen de regulación y trasparencia. Bender demanda que las compañías que impulsan estos chats dejen de charlar en primera persona, tal y como si fuesen un ser consciente: “Deben dejar de hacerla parecer humana. No debería estar hablando en primera persona: no es una persona, es una pantalla”. “Quieren crear algo que parezca más mágico de lo que es, pero en realidad es la máquina creando la ilusión de ser humana”, demanda Bender. “Si alguien está en el negocio de vender tecnología, cuanto más mágica parezca, más fácil será venderla”, zanja. Es un truco comercial al que no podemos resistirnos. Como Geppetto, deseamos que el pequeño de madera sea un pequeño de verdad.

Liberando a Skynet

Ahora, las grandes tecnológicas están liberando por sus servicios programas inteligentes en los que llevaban años trabajando, mas que no se habían audaz a esparcir entre los usuarios hasta el momento en que llegó la moda, el hype, de ChatGPT. Por ejemplo, Google va a incluirla en su herramienta para empresas, Workspace, y Microsoft en Office. Eso ha generado una explosión de interés y asimismo críticas interesantes (e interesadas), como la carta abierta que firmaban el miércoles mil especialistas en la que solicitaban una moratoria de 6 meses en el desarrollo de chatbots. “Los laboratorios de IA han entrado en una carrera sin control”, denuncian, “para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de forma fiable”. La carta la firma Elon Musk, que impulsó en su origen OpenAI —la empresa que ha creado ChatGPT— y que, tras procurar controlarla, ahora trata de entorpecer.

¿Cuál es el inconveniente? Que los peligros que describen Musk y el resto firmantes son futuristas y de ciencia-ficción, no los reales y apremiantes. Hablan del riesgo de crear “mentes no humanas que eventualmente podrían superarnos en número, ser más astutas, obsoletas y reemplazarnos” y de que podríamos “perder el control de nuestra civilización”. Eso no pasará ni hoy ni mañana: no estamos en un instante en el que Skynet, la desalmada inteligencia, vaya a liberar un Terminator como en la conocida película. La mayor amenaza que tenemos hoy con la inteligencia artificial es que sus capacidades están concentrando más poder, riqueza y recursos en un pequeño puñado de empresas: Google, Microsoft, Facebook, Amazon, etc.. Precisamente, exactamente las mismas compañías que están acaparando todos y cada uno de los desarrollos y la investigación en ese campo, esquilmando las universidades, y dirigiendo todos y cada uno de los avances cara sus interes de tipo comercial, como denunciaba un estudio reciente en Science. Por ejemplo: el primer firmante de esa carta, al lado de Musk, es Yoshua Bengio, padre de la inteligencia artificial desde la Universidad de Montreal, que vendió su empresa de aprendizaje profundo a Microsoft y pasó a transformarse en consultor de la compañía. Ahora, Microsoft ha invertido diez millones de dólares estadounidenses en OpenAI, para después integrar el chatbot en su buscador. Las empresas más poderosas del planeta fagocitan hoy un campo esencial de investigación, mientras que la carta alarma de una futurible distopía en forma de Terminator.

Sin embargo, la gente desconfía. Un estudio reciente preguntó a más de cinco mil españoles por su percepción de la inteligencia artificial y dio con un resultado llamativo: el miedo a esos desarrollos brota del recelo cara los intereses de tipo económico de quienes los fomentan. Para entendernos: no se teme a Terminator, sino más bien a Cyberdyne Systems, la compañía que en esa ficción gestaba el programa Skynet sin arreglar en las consecuencias de abrir esa caja de Pandora.

Weizenbaum desarrolló Eliza con una meta, mas al tomar contacto con los humanos se transformó en una cosa diferente. Sus pretensiones daban igual, pues las personas lo percibían de otra forma. Originalmente, el leimotiv de Facebook era “muévete rápido y rompe cosas”. Cuando Mark Zuckerberg liberó Facebook entre los jóvenes universitarios, ¿para qué exactamente servía? Para recordarte el cumple de tu amigo del cole, dejarte ligotear con gente de tu ambiente y dejarte compartir pensamientos con el planeta. ¿Cuál fue la capacidad emergente? Colaborar en genocidios, como ha quedado confirmado en múltiples puntos del planeta. ¿Por qué pasó algo así? Por la ansía de sus dueños, que ya conocían el impacto en la humanidad, mas asimismo sabían que echarle el freno dañaba su cuenta de resultados.

Y ahora, ¿por qué no paramos de charlar de estos programas inteligentes, que llevaban desarrollando de forma opaca a lo largo de años? Porque todas y cada una estas compañías tienen prisa por ganar dinero en la nueva “carrera sin control” de los servicios de internet. Llegados a este punto, da lo mismo lo que haga la máquina o de qué manera lo haga, si es un papagayo estocástico o muy listo. Lo que importa es quién lo impulsa, por qué y lo que ese papagayo nos hace a nosotros, al lado de las pretensiones originales, como pasaba con Eliza. Y ahí deberíamos poner el foco con políticas que regulen los avances, demanden trasparencia y limiten la concentración de ese nuevo poder.

Puedes continuar a EL PAÍS Tecnología en Facebook y Twitter o apuntarte acá para percibir nuestra newsletter semanal.