El dinero impone su ley en OpenAI | Tecnología

La inusual crisis de OpenAI tiene los ingredientes de múltiples tramas cinematográficas. En una película de suspense, Sam Altman es el héroe: el líder soñador despedido inmerecidamente que vuelve a la compañía por aclamación de los empleados. En otra de ciencia ficción, es el villano: el directivo que entregó la inteligencia artificial a los interes de tipo comercial y provocó la desaparición de la humanidad. El despido y readmisión de Altman tienen sus raíces en la tensión entre los pesimistas y los pragmáticos a cargo de la inteligencia artificial, mas asimismo reflejan la pelea entre la concepción de OpenAI como una compañía no lucrativo y su ascenso como la start up más valiosa de Silicon Valley. En esa última batalla, el dinero semeja haber impuesto su ley, al paso que los múltiples giros de guion prueban los inconvenientes de gobernanza de la firma.

Walter Isaacson, biógrafo de Elon Musk, cuenta que la resolución de fundar OpenAI brotó en una cena privada del creador de Tesla con Sam Altman en Palo Alto (California), en pleno Silicon Valley. En aquel instante, Google encabezaba la carrera de la inteligencia artificial, mas Musk y Altman creían que lo hacía sin reparos morales sobre la seguridad y los potenciales peligros para la humanidad. La idea inicial era crear un laboratorio de inteligencia artificial no lucrativo que diseñaría un software de código abierto e procuraría contrarrestar el creciente dominio de Google en el campo.

Musk y Altman ficharon como científico jefe a un ingeniero de investigación de Google, Ilya Sutskever, con un sueldo de uno con nueve millones de dólares americanos más bonus. Eso provocó la rotura de relaciones entre Musk y Larry Page, uno de los cofundadores de Google.

OpenAI se creó como una ONG a fines de dos mil quince con la meta proclamado de “construir una inteligencia artificial general segura y beneficiosa para la humanidad”. Se lanzó con la meta de conseguir mil millones de dólares americanos en donaciones. Tras múltiples años la cantidad colectada estaba en ciento treinta con cinco millones, que sirvieron para financiar el funcionamiento de la organización y su trabajo exploratorio inicial. La superinteligencia es la que supera a la humana, asimismo famosa como inteligencia artificial general (AGI, por sus iniciales inglesas).

Musk rompió con OpenAI en dos mil dieciocho, tras procurar que se integrara con los proyectos de inteligencia artificial de Tesla, a lo que Altman se negó. Entonces procuró de qué manera acceder a más recursos. “Cada vez estaba más claro que las donaciones por sí solas no podrían compensar el coste de la potencia computacional y el talento necesarios para impulsar la investigación básica, poniendo en peligro nuestra misión”, explican en la compañía,

Se creó una nueva estructura. Se sostenía la ONG con su consejo como órgano rector de todo el conjunto, mas nacía una nueva filial con capacidad para producir acciones, contratar nuevos empleados y captar capital. Esa nueva empresa tiene sus beneficios limitados, tiene la obligación de perseguir la misión de la entidad no lucrativo y está bajo control por ella “para investigar, desarrollar y desplegar la superinteligencia, de forma que se equilibre la comercialización con la seguridad y la sostenibilidad, en lugar de centrarse en la mera maximización del beneficio”, conforme OpenAI.

La firma dejaba y prosigue dejando claro que invertir en ella es una apuesta “de alto riesgo”. Los inversores pueden perder todo el dinero sin conseguir ningún retorno, advierte en su página, que va aún más allá: “Sería prudente considerar cualquier inversión en OpenAI Global, LLC [la filial empresarial] con el espíritu de una donación, en el entendimiento de que puede ser difícil saber qué papel desempeñará el dinero en un mundo post inteligencia artificial general”.

La compañía establecía que el primordial adjudicatario había de ser la humanidad, no los inversores de OpenAI. Aun así, esa forma societaria fue suficiente para comenzar a captar sumas millonarias. Inversores de capital peligro asimismo hicieron sus aportaciones en dos mil dieciocho y poco después la firma alcanzó un acuerdo estratégico con Microsoft. La empresa fundada por Bill Gates inyectó primero mil millones de dólares americanos como una parte de un pacto en que se transformaba en su asociado tecnológico y de computación; entonces otros dos mil y por último alcanzó un acuerdo por diez.000 millones auxiliares, sin demandar representación en el consejo.

Microsoft tiene acceso a licencias de propiedad intelectual y de comercialización de determinados desarrollos, mas el consejo tiene la potestad de determinar que se ha alcanzado la inteligencia artificial general y Microsoft no tendría derecho sobre exactamente la misma.

Pese a las precauciones adoptadas, el giro empresarial levantó suspicacias. Los hermanos Daniela y Dario Amodei, vinculados al movimiento del altruismo efectivo ―que pone el acento en los peligros de la inteligencia artificial― dejaron OpenAI por sus diferencias con los pactos con Microsoft y con la dirección que estaba tomando y crearon otra empresa de inteligencia artificial con sede en San Francisco, Anthropic, al lado de otros viejos empleados de OpenAI. Uno de los primordiales inversores iniciales en Anthropic fue Alameda Research, la firma paralela de Sam Bankman-Fried, declarado culpable de diferentes delitos por la caída del mercado de criptomonedas FTX. Anthropic ha acabado recurriendo a fondos de Google y Amazon para financiarse.

El propio Musk prosigue sin admitir realmente bien aquel cambió de orientación de OpenAI. Según cuenta Isaacson en su biografía, Musk desafió a Altman a inicios de este año a que justificara legalmente el cambio con los documentos fundacionales de OpenAI en la mano. Altman trató de probarle que todo era lícito, mas no le persuadió. “OpenAI fue creada como una empresa de código abierto (por eso le di el nombre de Open AI), sin ánimo de lucro para que sirviera como contrapeso de Google, pero ahora se ha convertido en una empresa de código cerrado y maximización de beneficios controlada en términos efectivos por Microsoft”, afirmó, conforme Isaacson.

La herida de Musk, en verdad, no ha cicatrizado. Esta semana, al hilo de la crisis de la firma de inteligencia artificial, retransmitida en riguroso directo en gran medida en X, su red social, el millonario magnate ha difundido una carta de supuestos viejos empleados de OpenAI con ataques a Altman y su aliado Greg Brockman. “A lo largo de nuestro tiempo en OpenAI, hemos sido testigos de un inquietante patrón de engaño y manipulación por parte de Sam Altman y Greg Brockman, impulsados por su insaciable afán de lograr la inteligencia general artificial (AGI). Sus métodos, sin embargo, han suscitado serias dudas sobre sus verdaderas intenciones y hasta qué punto priorizan realmente el beneficio de toda la humanidad”, afirmaban en esa carta.

El consejo de administración de OpenAI era disfuncional. De habían ido saliendo múltiples de sus miembros por diferencias con la compañía, por enfrentamientos de intereses o por proyectos personales. Los consejeros eran inútiles de ponerse conforme para cubrir las bajas. Había quedado reducido a 6 componentes. Tres de ellos, empleados y fundadores: Greg Brockman, presidente; San Altman, consejero encargado, e Ilya Sutskever, científico jefe. Los otros 3, independientes: Adam D’Angelo, creador de Quora; Tasha McCauley, ingeniero y emprendedora, y Helen Toner, de la Universidad de Georgetown. Estas dos últimas están vinculadas a la corriente del llamado altruismo efectivo, que aboga por poner coto al desarrollo de la inteligencia artificial, que ven como una caja de Pandora, una posible amenaza existencial para la humanidad.

El movimiento del altruismo efectivo levanta poco a poco más contestación. Uno de sus críticos fanáticos, Marc Andreessen, otro inversor de larga trayectoria de Silicon Valley, recuerda que “el miedo a que la tecnología de nuestra propia creación se alce y nos destruya está profundamente arraigado en nuestra cultura”. Cree que con la inteligencia artificial se repite el mito de Prometeo, de Frankestein o de Terminator. “Mi opinión es que la idea de que la IA decidirá matar literalmente a la humanidad es un profundo error de categoría. (…) La idea de que en algún momento desarrollará una mente propia y decidirá que tiene motivaciones que le llevan a intentar matarnos es una superstición. En resumen, la IA no quiere, no tiene objetivos, no quiere matarte, porque no está viva. Y la IA es una máquina: no va a cobrar vida más de lo que lo hará tu tostadora”, mantiene tajante. “El ‘riesgo de la IA’ se ha convertido en un culto. (…) Resulta que este tipo de culto no es nuevo: existe una larga tradición occidental de milenarismo, que genera cultos apocalípticos. El culto del riesgo de la IA tiene todas las características de un culto milenarista del apocalipsis”, concluye.

Steven Pinker, científico cognitivo de la Universidad de Harvard, coincide: “Yo era un fan del altruismo efectivo (…), pero se convirtió en un culto. Estoy dispuesto a donar para salvar el mayor número de vidas en África, pero no para pagar a técnicos que se preocupan de que la IA nos convierta a todos en clips”, señalaba este viernes.

El caso es que, basándose en cuestiones de seguridad, la consejera Toner publicó en el mes de octubre un artículo académico que arremetía contra ciertas resoluciones de OpenAI y encomiaba las de su contrincante Anthropic, algo que Altman se tomó como una ignominia. “Anthropic reforzó la credibilidad de sus compromisos con la seguridad de la IA retrasando el lanzamiento anticipado de su modelo y absorbiendo posibles pérdidas de ingresos en el futuro”, escribía.

Al tiempo, otras actuaciones del consejero encargado no agradaban al consejo. Venía de festejar al lado del jefe de Microsoft, Satya Nadella, una conferencia con desarrolladores muy al estilo de empresas como Apple. También estaba en un proceso de captar inversores con una valoración de la compañía próxima a los ochenta y seis millones. En paralelo procuraba financiación para nuevos proyectos. La víspera de su despido se había referido a un reciente avance que “empujaba el velo de la ignorancia hacia atrás y la frontera del descubrimiento hacia delante”.

La falta de confianza se había instalado en el órgano de gobierno del que dependía todo el conjunto. En ese instante, Sutskever se alineó por sorpresa con los 3 independientes y juntos decidieron despedir a Altman y echar a Brockman del consejo en rutas videoconferencias el viernes a mediodía. La empresa acusaba a Altman de no ser honesto o franco con el consejo, por sorpresa y sin más explicaciones. El directivo de treinta y ocho años se conectó a su despido desde un hotel de Las Vegas, a donde había acudido a ver el Gran Premio de Fórmula 1 de ese fin de semana.

“La mayoría de las empresas del tamaño y la importancia de OpenAI tienen consejos de administración de entre ocho y 15 consejeros, la mayoría de los cuales son independientes y todos ellos tienen más experiencia en consejos de administración de esta envergadura que los consejeros independientes de OpenAI”, señalaba al reventar la crisis Marissa Mayer, directiva con una larga trayectoria de Silicon Valley. “No creo que cuenten con un asesoramiento jurídico sólido ni con buenas estructuras de gobernanza”, agregaba.

El despido provocó un seísmo. Brockman decidió dejar no solo el consejo, sino más bien renunciar de la compañía. Inversores y empleados comenzaron a presionar, más aún cuando no se aportaron razones específicas para el despido. En una primera asamblea del consejo con directivos, estos recriminaron al consejo que ponía en riesgo el futuro de la compañía. La sorpresa fue monumental cuando la contestación del consejo fue que “permitir la destrucción de la empresa sería coherente con la misión” que estimaban que tenían encomendada, de resguardar a la humanidad.

Eso era demasiado para inversores y empleados. Unos consejeros independientes parecían prestos a llevarse por delante a la firma más prometedora en inteligencia artificial por unas supuestas amenazas para la humanidad poco fundamentadas. Para los empleados peligraba su creación, su trabajo y sus acciones. Se plantaron. En las redes sociales corazones de colores de los empleados se alternaban con un mensaje: “OpenAI no es nada sin su gente”. Altman fue el último día de la semana a la sede de OpenAI a negociar su reincorporación. Llevaba una tarjeta de convidado. Tuiteó un selfi: “Primera y última vez que llevo una de estas”. Los consejeros independientes, no obstante, se resistieron a ceder y ficharon a un consejero encargado temporal, Emmeth Shear, igualmente apocalíptico.

Para los inversores asimismo era una pesadilla. Eran siendo conscientes de que la estructura del conjunto es especial, mas no podían imaginarse que el propio consejo de administración actuara como un kamikaze. Microsoft, el que más se jugaba, se movió veloz y anunció el fichaje de Altman. Con eso se garantizaba no perder comba en la carrera de la inteligencia artificial. O sostenía la cooperación con OpenAI o se hacía con sus empleados. Para el resto, el peligro era de perder el grueso de su inversión.

Con la oferta de Microsoft (y la de otras empresas) sobre la mesa, los empleados conminaron con irse si no se reaceptaba a Altman. El noventa y cinco% de los empleados firmaron una carta pidiendo la renuncia del consejo, entre ellos Mira Murati, la directiva tecnológica, designada en un inicio como substituta interina de Altman, y Sutskever, científico jefe, arrepentido de haber participado en el golpe, conforme un mensaje que publicó en la red social X.

Los incentivos económicos para continuar en OpenAI en vez de irse a Microsoft eran realmente fuertes. Los empleados tienen su participación en el capital y la valoración de la compañía ya antes de la presente crisis se había disparado hasta cerca de noventa millones de dólares americanos a lomos del brillante éxito de ChatGPT, de cuyo lanzamiento se cumple un año este treinta de noviembre. Precisamente estaba en marcha una venta de acciones de empleados a inversores que habría hecho millonarios a múltiples trabajadores de OpenAI.

Pese al anuncio del fichaje, el jefe de Microsoft proseguía presto a que Altman volviera a ponerse al frente de OpenAI. Las negociaciones siguieron a lo largo de un par de días. El propio Shear, segundo substituto interino, apoyó la vuelta de Altman como el camino para “maximizar la seguridad sin dejar de hacer lo correcto para todas las partes implicadas”. Al final, la solución incluyó la renuncia de las dos consejeras independientes y de Sutskever. Se formó un consejo inicial con Bret Taylor, expresidente de X y ex consejero encargado de Salesforce, como presidente, con dos vocales: Adam D’Angelo, que se sostenía, y el ex secretario del Tesoro Larry Summers. Altman era de nuevo jefe ejecutivo de la compañía, mas sin ser miembro del consejo. “Estamos colaborando para resolver los detalles. Muchas gracias por su paciencia”, decía el tweet de la compañía. Para la plantilla, fue una celebración. “Des-dimito”, dijo Brockman.

Los empleados de OpenAI tenían libre la semana de Acción de Gracias, si bien hasta el martes estuvieron pendientes de la vuelta de Altman. Cuando este lunes se reincorporen de lleno a sus puestos, las cosas ya no van a ser igual que diez días ya antes. En realidad, aún no se sabe de qué manera van a ser. Se anuncia una investigación independiente sobre las resoluciones y actuaciones de Altman y las circunstancias que llevaron a su despido. Al tiempo, el sistema de gobernanza del conjunto está en cuestión y podría ser rehabilitado en los próximos meses. El cofundador de OpenAI pasó la noche de Acción de Gracias con D’Angelo, el único consejero que ha subsistido al seísmo, y mandó felicidades de una parte de las familias de los dos.

_