Safeworld visa garantir a segurança de robôs de IA generativa

A Safeworld, uma nova startup fundada por Dr. Ding Zhao, Kyle Wong e Simo Rachidi, busca abordar os desafios de segurança dos robôs de IA generativa. A empresa levantou mais de 12 milhões de dólares em financiamento inicial, liderado por Shine Capital e a16z Speedrun, com apoio adicional de Box Group e Carnegie Mellon University. Zhao enfatiza a necessidade de avaliação de riscos e confiança ao implantar robôs, observando que os sistemas de IA generativa são inerentemente imprevisíveis. A Safeworld utiliza simulações com modelos humanos realistas para testar sistemas de controle robóticos, de forma semelhante aos desafios enfrentados por empresas como Tesla e Wayve. A equipe argumenta que robôs operando em ambientes não estruturados requerem testes rigorosos para evitar colisões e garantir a segurança em diversos cenários. Vishal Dugar, da Gritt Robotics, uma parceira da Safeworld, destaca a dificuldade de provar formalmente a segurança por meio de modelos matemáticos, defendendo testes empíricos. A empresa ainda está definindo seu modelo de negócios, mas visa ser a primeira entidade lucrativa no campo, fornecendo serviços de validação de segurança para desenvolvedores de robôs.