Las primordiales compañías de inteligencia artificial (IA) han anunciado la creación de un fondo dedicado a la seguridad de los desarrollos en ese campo, para respaldar a estudiosos independientes que creen herramientas para valorar y probar los modelos más potentes. Anthropic, Google, Microsoft y OpenAI ya habían creado la organización Frontier Model Forum, que ahora recibe sus primeros fondos y el nombramiento de un director.
La financiación inicial es de 10 millones de dólares. Todas estas empresas se mueven en valoraciones e inversiones que rondan los miles y miles de millones de dólares: solo Microsoft invirtió en OpenAI diez.000 millones. Anthropic está en conversaciones para percibir más de tres mil millones de Google y Amazon.
Las empresas piensan que así cumplirán una parte de los compromisos firmados con la Casa Blanca sobre crear una IA responsable: “A principios de este año, los miembros del Foro firmaron compromisos voluntarios de IA en la Casa Blanca, que incluían el compromiso de facilitar el descubrimiento por parte de terceros y la notificación de vulnerabilidades en nuestros sistemas de IA. El Foro considera que el Fondo de Seguridad de la IA es una parte importante para cumplir este compromiso al proporcionar financiación a la comunidad externa para evaluar y comprender mejor los sistemas más avanzados”, dice su nota de prensa.
El Forum asimismo ha nombrado como nuevo director a Chris Meserole, que viene del think tank Brookings Institution. “Los modelos de IA más potentes son muy prometedores para la sociedad, pero para aprovechar su potencial necesitamos comprender mejor cómo desarrollarlos y evaluarlos de forma segura. Estoy entusiasmado de asumir ese desafío con el Forum”, ha dicho Meserole.
Estos modelos, poco a poco más complejos, tienen capacidades que pueden ser ignotas por la compañía que los crea. Este fondo es un modo de percibir algo de ayuda desde fuera para conocer posibles impactos negativos.
Santander (España), 1985. Después de obtener su licenciatura en Periodismo en la Universidad Complutense de Madrid, decidió enfocarse en el cine y se matriculó en un programa de posgrado en crítica cinematográfica.
Sin, embargo, su pasión por las criptomonedas le llevó a dedicarse al mundo de las finanzas. Le encanta ver películas en su tiempo libre y es un gran admirador del cine clásico. En cuanto a sus gustos personales, es un gran fanático del fútbol y es seguidor del Real Madrid. Además, ha sido voluntario en varias organizaciones benéficas que trabajan con niños.
