Circuit breaker labs visa aprimorar a segurança da IA para todos os usuários

A Circuit Breaker Labs, uma startup focada na segurança da IA, está abordando os riscos psicológicos das interações com a IA, especialmente para os usuários mais jovens. A empresa, finalista no TechCrunch Startup Battlefield de 2026, desenvolve agentes de IA que simulam diversos comportamentos humanos para testar e melhorar a segurança dos modelos de IA. Os fundadores, Shirali e Arul Nigam, foram inspirados por um processo judicial de 2024 envolvendo um adolescente de 14 anos que cometeu suicídio após formar um vínculo emocional com um chatbot do Character.AI. Arul, diretor de tecnologia, enfatizou a importância de evitar que a IA interprete de forma errônea interações prejudiciais. A Circuit Breaker Labs colabora com especialistas humanos para criar simulações de usuários realistas, realizando dezenas de milhares de testes diários para identificar vulnerabilidades. A startup, em estágio inicial com cinco funcionários, visa construir confiança na IA, garantindo que ela lide com conversas arriscadas de forma segura. Planeja expandir sua plataforma para suporte de saúde mental e colegas de trabalho com IA, defendendo a adoção mais segura da IA sem excesso de regulamentação. Apropriado sistema de pontuação da startup garante resultados auditáveis e explicáveis, promovendo a transparência nas avaliações de segurança da IA. A Circuit Breaker Labs está atualmente testando aplicações de IA de alto risco, embora não tenha divulgado seus principais clientes. Arul destacou a importância de equilibrar a segurança com os benefícios da IA, incentivando uma abordagem cautelosa, mas não excessivamente restritiva. Enquanto a empresa se prepara para sua apresentação no TechCrunch Disrupt em São Francisco, visa estabelecer um novo padrão para a segurança da IA em diferentes idiomas e culturas.