Empreendedores da anthropic e da metr lançam startup de segurança de IA com financiamento de 55 milhões de dólares

Rune Kvist e Rajiv Dattani, um ex-funcionário da Anthropic e ex-COO da METR, lançaram a Artificial Intelligence Underwriting Company (AIUC), uma startup focada na segurança de IA para empresas. A empresa obteve financiamento de 55 milhões de dólares, incluindo uma rodada Série A de 40 milhões de dólares liderada pela Ribbit Capital e uma rodada de semente de 15 milhões de dólares da NFDG de Nat Friedman. A AIUC visa aplicar padrões de segurança cibernética aos riscos de IA, desenvolvendo um quadro de certificação chamado AIUC-1, inspirado no SOC 2. A startup realiza testes extensivos de agentes de IA por meio de 5.000 cenários, utilizando IA para executar testes e analisar dados, com verificação humana para auditorias finais. Dattani enfatizou a necessidade de transparência, afirmando: 'É aqui que ele funciona e onde você pode confiar.' A abordagem da AIUC se assemelha ao trabalho da METR, que anteriormente se concentrava em testes de desempenho para laboratórios de ponta. Dario Amodei, CEO da Anthropic, também fez um apelo por avaliações de segurança de terceiros. O modelo da AIUC busca fornecer às empresas avaliações independentes da segurança de agentes de IA, abordando preocupações sobre comportamento inadequado e vazamentos de dados. Os clientes da startup incluem Cursor, Lovable, Harvey e ElevenLabs, refletindo sua crescente influência no espaço da segurança de IA.