Kate Darling, especialista en robots: “No deberíamos reírnos de la gente que se enamora de una máquina. Nos pasará a todos” | Tecnología

Kate Darling estudia los efectos legales, sociales y éticos de los robots en el MIT Media Lab (Rhode Island, EE UU, mil novecientos ochenta y dos). Lleva años observando de qué manera se relacionan humanos y robots. Tiene múltiples en su casa. Con la llegada de la revolución en inteligencia artificial (IA), responde sobre el futuro con evasivas: “Es todo tan especulativo”, asegura, “que es difícil de descifrar”. Aun así, no hay mejor temporada para su tarea, por el hecho de que jamás hemos estado tan cerca de vivir al lado de robots: “Es un momento emocionante, me siento muy afortunada de poder vivirlo”.

Darling (estadounidense de cuarenta y uno años) es autora del libro The New Breed (“La nueva casta”, aún sin traducción al de España) donde asevera que la mejor comparación para comprender qué es un robot es con los animales, no con los humanos. A mediados de junio va a visitar Barcelona para participar en actividades del festival Sónar+D, convidada por la asesora Seidor. En esta charla con Forbes Hispano, que hizo por video llamada desde su casa, trata de explicar la gran novedad que representan los modelos de lenguaje encabezados por ChatGPT.

Pregunta. ¿De qué forma ha alterado el éxito de ChatGPT su modo de ver el futuro de los robots?

Respuesta. Es un cambio enorme. Mucha gente no lo adelantó. Si me hubiesen preguntado hace unos años si tendríamos este género de sofisticación, habría dicho que no, jamás. Esto cambia el juego en muchos sentidos. ¿Qué pasará ahora? Nadie lo sabe. Para mí una de las grandes preguntas es: ¿las capacidades que vemos en la IA generativa se van a traducir en poder supervisar y programar robots físicos? Ese género de inteligencia y aprendizaje sería verdaderamente increíble. No tengo claro que vaya a acontecer.

P. No hay una definición de robot. ¿Por qué es tan bastante difícil?

R. No hay una definición universal. Dependiendo del campo, van a dar una definición u otra. Durante la historia, se ha llamado robot a algo nuevo, una nueva tecnología que la gente no comprende, que tiene algo de mágico. Luego, una vez se vuelve más frecuente, la gente deja de llamarlo robot y empieza a llamarlo lavaplatos o máquina expendedora.

P. Hay mucho discute ahora con una posible extinción provocada por una IA capaz de decidir por sí sola.

R. Soy una persona muy práctica y no sé de qué manera puede desarrollarse algo así. No hay mucho que podamos hacer para pronosticar si va a pasar y no existe nada que pueda resguardarnos, además de detener la investigación en IA, que no va a pasar. Me interesa más que la gente pensará que la IA es consciente, alén de si realmente lo es o no. Eso sí es una cosa que debemos encarar como sociedad.

Se ha llamado robot a una nueva tecnología que la gente no comprende. Luego, empiezan a llamarlo lavaplatos o máquina expendedora

P. Para comprender qué es un robot afirma que es mejor equipararlo con un animal que con un humano. ¿Mantiene esa idea tras ChatGPT?

R. Sí. Sé que ahora es más bastante difícil la comparación con una IA que usa lenguaje humano. Pero es aún más esencial el motivo, consistente en decir que no es tan valioso o útil crear algo que ya tenemos, que ya podemos hacer. Es más valioso tener máquinas que puedan complementarnos o ser asociados en lo que tratamos de conseguir. Muchas labores que la IA generativa va a hacer ahora las hacen humanos, mas creo que el auténtico potencial de la tecnología es que sea una herramienta que se combine con otras habilidades humanas y no solo un remplazo.

P. Ve a robots pronto como miembros de nuestras familias. ¿De qué forma van a ser?

R. En muchas investigaciones sobre la interacción humano-robot, las personas ya tratan a los robots como seres vivos, si bien saben que son solo máquinas. Pero a la gente le chifla hacerlo. Las personas aun antropomorfizan a los robots y nos proyectamos sobre ellos, les damos cualidades humanas locas, emociones. La gente asimismo comprende que está interaccionando no con una persona, sino más bien con algo diferente. Los robots van a ser un nuevo género de relación social: puede ser como una mascota o puede ser algo completamente diferente, por eso mi libro tiene por nombre nueva casta. Pero no creo que sustituya necesariamente las relaciones humanas. Será algo diferente, mas claramente pasará.

El auténtico potencial de la tecnología es que sea una herramienta que se combine con otras habilidades humanas y no solo un reemplazo

R. Tengo un par de tipos diferentes. Tenemos una foca bebé, un robot dinosaurio, un can robot y después tenemos otros robots que son más para asistir en casa, como un asistente o una aspiradora. Todos hacen cosas distintas y mis hijos interaccionan con ellos de forma diferente en dependencia de si los ven como herramienta o compañero.

P. ¿Los robots compañeros pueden apagarse o están siempre y en todo momento encendidos?

R. Los apagamos. Aunque ciertos están diseñados para estar siempre y en todo momento encendidos. El can, por poner un ejemplo, cuando la batería está baja, busca su sitio de carga y se tumba tal y como si fuera a dormir para cargarse.

P. ¿Estos robots mascota ya están ya listos para entrar en millones de hogares?

R. Ya hemos visto, con esta tecnología primitiva y carísima, que la gente que la tiene desarrolla conexiones significativas. La tecnología no va a empeorar. La barrera para los robots caseros no es la dificultad del robot, sino la gente aún no sabe el valor social que les daría tener uno. Una vez que consigan suficientes efectos positivos de un robot familiar que van a tener muchos hogares, va a haber un punto de cambio y más gente los deseará.

‘Her’ trata sobre una aplicación que lanza una compañía, ¿cuál es du modelo de negocio? ¿Qué tratan de hacer?

P. ¿Qué desea decir con “efectos positivos”?

R. La gente ya antes no veía el valor de tener una mascota. El animal debía cumplir una función: el can cuidaría la casa y el gato capturaría a los ratones, mas entonces la gente se percató de que la relación con la mascota y la conexión sensible eran el auténtico valor. Ahora tienen mascotas por ese motivo. Pasará lo mismo con los robots. Ahora mismo tienen una función: asistentes, aspirar el suelo. Pero una vez haya un número conveniente de robots con los que la gente interaccione, van a ver un valor en la conexión social y los desearán asimismo por esa razón.

P. Ha dicho que la película Her, sobre un humano que se enamora de una máquina, le preocupa y le emociona por igual. ¿Qué inconvenientes éticos ve?

R. Her trata sobre una aplicación que lanza una compañía. Hay muchas preguntas: ¿cuál es el modelo de negocio de la compañía? ¿Qué tratan de hacer? Probablemente, traten de aumentar al máximo sus ganancias. Son personas en una situación muy frágil por el hecho de que tienen ya una conexión sensible realmente fuerte con una aplicación, un dispositivo, un robot. Esto ya sucede. La aplicación Replika, que ya tiene millones de usuarios, tiene a gente apegada emotivamente. Me preocupa asimismo que haya inconvenientes de privacidad y colección de datos. Podría manipular emotivamente a las personas a fin de que adquieran productos y servicios o cambien su comportamiento, no en su interés, sino más bien en el de una compañía.

P. Ha dicho que puede imaginarse que una aplicación sexual pueda explotar la debilidad de un usuario en el calor del clímax.

R. Sí.

P. ¿No es mal marketing?

R. Igual es un tanto más sutil. Pero Replika tiene compras en la aplicación que la gente adquiere y, por consiguiente, es simple manipular, hacer gastar dinero o educar publicidad. Son inconvenientes de protección al consumidor por el hecho de que es algo persuasivo mas de una forma demasiado manipulador.

P. ¿Habrá un modo razonable de explotar comercialmente estas aplicaciones?

R. Sí, cuando los usuarios se den cuenta del valor de adquirir un compañero artificial y paguen suficiente dinero por este motivo. Podrán venderlo y ya. ¿Creo que va a pasar eso? No. Pero sería el mejor modo para resguardar la privacidad y no tener que manipular emotivamente a absolutamente nadie.

P. A bastante gente le sorprenderá que alguien humanice a estas máquinas. Pero estamos programados para eso.

R. Sí. Y no va a desaparecer. Si algo se mueve a nuestro alrededor es por el hecho de que tiene vida. Así piensan nuestros cerebros y hay esta proyección subconsciente que no solamente se da con objetos móviles, sino más bien con un chatbot o lo que sea que imite el comportamiento humano, cosas que reconocemos como señales, sonidos, y la evidencia a nivel científico muestra que lo hacemos desde pequeños. Está muy arraigado y proseguirá ahí.

[Lo que más me preocupa es] las compañías, la estructura de incentivos y los inconvenientes políticos y económicos. Es una cuestión de gobernanza, no tecnológica

P. Los robots van a morir. ¿Puede ser que nos separemos o abandonemos un robot en una cuneta por culpa de una actualización de software?

R. Sí, seguramente. Las relaciones pueden acabar de todas y cada una formas y vamos a tener relaciones reales con robots, tanto si son como relaciones humanas, relaciones humanos-mascotas o relaciones nuevas. Como tal van a poder terminar de formas diferentes, tanto con la muerte como con alguien decidiendo que ya no desea proseguir. Pasarán todo género de cosas. Es simple de prever por el hecho de que la gente desarrolla relaciones sensibles con entidades artificiales. Pero aún hay bastante gente que no lo comprende.

P. ¿No comprenden que pueden colarse por una máquina?

R. Sí. Hay ya historias sobre gente que se enamora de su chatbot. La mayoría de gente cree que no. Que esa gente que se enamora son tristes y solitarios, mas que no. Todos somos susceptibles de vincularnos con máquinas, especialmente cuando sean algo más interesantes y estén más libres. Tenemos que tomarnos esto más de verdad en vez de reírnos de que alguien se enamore de un robot por el hecho de que nos va a pasar a todos.

P. ¿No es sorprendente que la máquina de la que nos enamoremos sea solo una pantalla?

R. No demasiado. Incluso con los chatbots más primitivos la gente se abría. En el MIT crearon a Eliza en los años setenta y la gente le contaba sus cosas. Somos papanatas con todo cuanto nos da señales que reconocemos, aun si solo es una pantalla. La razón por la que me chiflan los robots físicos es por el hecho de que agrega esa capa más visceral que los hace más atractivos.

P. Pero no le agradan los robots humanoides.

R. No, son desganados.

P. Prefiere a R2-D2, un “cubo de basura con ruedas”.

R. Me agradan los robots que están diseñados para ser monos y con los que la gente se identifica, mas no deben parecer humanos. Es considerablemente más interesante crear una forma y en ocasiones marcha aun mejor por el hecho de que si se ve demasiado humanoide, entonces las esperanzas sobre de qué manera debe portarse y qué debe hacer terminan por desilusionar. Mientras que con algo que semeja un cubo de basura animado no hay exactamente las mismas esperanzas.

P. ¿Está más excitada o preocupada por estas novedades?

R. Ambas.

P. ¿Qué es lo que más le preocupa?

R. Las empresas, la estructura de incentivos y los inconvenientes políticos y económicos. Es una cuestión de gobernanza, no tecnológica.