¿Logrará Safeworld generar confianza en que los robots de inteligencia artificial son seguros?

¿Logrará Safeworld generar confianza en que los robots de inteligencia artificial son seguros?

En un mundo donde la automatización y la inteligencia artificial están revolucionando diversas industrias, la seguridad en el uso de robots se erige como un desafío crucial. La reciente creación de Safeworld, una nueva startup dirigida por el Dr. Ding Zhao, junto a Kyle Wong y Simo Rachidi, busca abordar este problema esencial para la adopción generalizada de robots en entornos laborales y domésticos.

El avance de los modelos de inteligencia artificial generativa ha aportado innovaciones fascinantes, pero también ha hecho que sea más difícil predecir el comportamiento de los robots. «El desafío de seguridad al que nos enfrentamos combina evaluaciones probabilísticas extremadamente avanzadas y la necesidad de generar confianza», señala Zhao. Este matiz en la evaluación de riesgos se convierte en un aspecto fundamental para implementar robots de forma segura.

Safeworld emerge con una ronda de financiamiento inicial que supera los 12 millones de dólares, presentada por Shine Capital y a16z Speedrun. Esta inversión refleja la urgencia de establecer estándares de seguridad en la industria antes de que estos dispositivos sean integrados ampliamente en la vida cotidiana. Tal como advierte Jonathan Lai, socio de a16z Speedrun, «esperar a que los robots interactúen con humanos en entornos domésticos y laborales sería demasiado tarde».

Pruebas en Simulaciones Realistas

La especialidad de Safeworld radica en la evaluación de sistemas de control robótico mediante simulaciones que replican escenarios con modelos humanos realistas. Este enfoque se asemeja al que utilizan empresas como Tesla en la validación de sus vehículos autónomos, pero con un nivel de complejidad aún mayor debido a la naturaleza impredecible de los entornos en los que operan los robots.

Por ejemplo, en un entorno industrial, un robot podría enfrentarse a situaciones inesperadas como esquivar humanos que están cargando objetos. Wong destaca: «Es crítico entender cómo se comportará el robot en escenarios donde pudiera haber interacciones inesperadas con trabajadores».

Para construir estas simulaciones, Safeworld recreará aspectos específicos del entorno, como esquinas ciegas en fábricas, y ejecutará miles de escenarios. Zhao enfatiza que asegurar la respuesta adecuada a situaciones como caídas o tropiezos es vital, ya que “las personas son inherentemente impredecibles”.

Los casos de prueba no son meramente académicos; son esenciales para validar su funcionamiento en la vida real. A medida que los robots se despliegan en diversas industrias, la validación empírica se vuelve primordial. Vishal Dugar, CTO de Gritt Robotics, trabaja en la creación de un sistema de IA para ayudar a la instalación de paneles solares. Como señala, «probar formalmente la seguridad de un sistema robótico es un reto arduo, e inevitablemente, debe hacerse de manera empírica».

La Visión a Futuro

A pesar de que Safeworld está en sus primeras etapas y aún define el modelo óptimo para su producto, desde la creación de una plataforma para usuarios externos hasta un enfoque basado en servicios, el equipo confía en que están abordando el desafío correcto. Zhao afirma con optimismo: «Probablemente seremos la primera empresa rentable en este campo, ya que cualquier entidad que desee desplegar robots necesitará nuestros servicios para garantizar la seguridad”.

En conclusión, el camino hacia la integración de robots en la vida cotidiana está plagado de desafíos, pero iniciativas como la de Safeworld muestran que es posible mitigar riesgos y desarrollar estándares de seguridad que aseguren interacciones seguras entre humanos y máquinas. La combinación de habilidades en IA y un enfoque colaborativo hacia la seguridad parece ser la clave para un futuro donde los robots no solo sean herramientas, sino también compañeros confiables en diversos entornos.