La evolución de los modelos de inteligencia artificial (IA) ha traído numerosas ventajas, desde asesorías prácticas hasta proyectos de investigación innovadores. Sin embargo, esta creciente sofisticación plantea un nuevo conjunto de riesgos. Recientemente, se ha dado a conocer que algunos científicos intentaron utilizar el modelo Claude, desarrollado por la empresa Anthropic, para investigar posibles armas biológicas, aunque afortunadamente, sus esfuerzos fueron bloqueados.
En su informe, Anthropic revela que, aunque no hay pruebas de que los investigadores buscaban causar daño, la posibilidad de que modelos de IA puedan ser manipulados para crear patógenos letales representa un riesgo creciente. A medida que estos modelos se vuelven más poderosos y avanzados en capacidades científicas, la amenaza de que se puedan generar virus o bacterias mortales se amplifica.
Investigaciones de alto riesgo
El informe de Anthropic menciona casos específicos de investigaciones potencialmente peligrosas. Un ejemplo involucra una solicitud de apoyo para un proyecto de «ganancia de función» relacionado con el virus del Chikungunya, que se transmite por mosquitos. Esta técnica busca alterar un patógeno para hacerlo más letal o contagioso y estudiar su impacto en los anfitriones.
Si bien este tipo de investigación tiene aplicaciones legítimas, la preocupación radica en que, bajo la apariencia de una solicitud científica válida, los científicos pudieran estar intentando obtener información para fines nefastos. Anthropic introduce el término «jailbreaking», haciendo referencia a métodos que pueden engañar a los modelos de IA para eludir las limitaciones impuestas por sus programadores.
La posibilidad de liberar un virus modificado que se asemeje a un brote natural plantea preguntas inquietantes sobre la seguridad. Un virus que ya circula en la naturaleza y cuyo potencial letal aumenta repentinamente podría ser indetectable y causar estragos en la salud pública.
El dilema de la tecnología de doble uso
Un segundo caso registrado por Anthropic refiere a un intento de desarrollar «venenos y toxinas novedosos». Este tipo de investigación, aunque puede ofrecer beneficios legítimos como el uso de toxinas en tratamientos médicos, también plantea un riesgo importante. Los mismos avances que permiten crear tratamientos estéticos a partir de toxinas pueden ser utilizados para crear herramientas letales.
La dualidad de la tecnología representa un desafío considerable para empresas en el campo de la IA como Anthropic. La intención no es desincentivar investigaciones valiosas, lo que podría llevar a que investigadores busquen otras vías, sino que existe la necesidad de filtrar cuidadosamente entre los proyectos legítimos y aquellos que podrían tener fines destructivos.
La creciente amenaza de la IA avanzada
A pesar de que Anthropic logró impedir varios intentos de solicitudes malintencionadas, existe una preocupación latente acerca de cuántas otras peticiones podrían haber eludido los filtros establecidos. A medida que los modelos de aprendizaje automático se perfeccionan en razonamiento científico, el riesgo aumenta. Aunque modelos como Claude se diseñan con restricciones más estrictas, la rápida evolución de modelos de “peso abierto” podría facilitar el acceso a capacidades destructivas sin la supervisión adecuada.
La posibilidad de que individuos con intenciones maliciosas utilicen inteligencia artificial avanzada para desarrollar patógenos resulta inquietante. En este contexto, es necesario reflexionar sobre las implicaciones éticas y la responsabilidad compartida entre desarrolladores, investigadores y la sociedad en general.