Safeworld busca garantizar la seguridad de los robots de IA generativa

Safeworld, una nueva startup fundada por el Dr. Ding Zhao, Kyle Wong y Simo Rachidi, tiene como objetivo abordar los desafíos de seguridad de los robots de IA generativa. La empresa ha recaudado más de 12 millones de dólares en financiación inicial, liderada por Shine Capital y a16z Speedrun, con el apoyo adicional de Box Group y Carnegie Mellon University. Zhao enfatiza la necesidad tanto de la evaluación de riesgos como de la confianza al desplegar robots, señalando que los sistemas de IA generativa son inherentemente impredecibles. Safeworld utiliza simulaciones con modelos humanos realistas para probar los sistemas de control de robots, de forma similar a los desafíos que enfrentan empresas como Tesla y Wayve. El equipo argumenta que los robots que operan en entornos no estructurados requieren pruebas rigurosas para prevenir colisiones y garantizar la seguridad en diversos escenarios. Vishal Dugar de Gritt Robotics, un socio de Safeworld, destaca la dificultad de demostrar formalmente la seguridad a través de modelos matemáticos, abogando por pruebas empíricas. La empresa aún está determinando su modelo de negocio, pero tiene como objetivo ser la primera entidad rentable en el campo, proporcionando servicios de validación de seguridad para los desarrolladores de robots.