Startup de segurança de IA obtém financiamento de 140 milhões para fortalecer a segurança e mitigação de riscos dos modelos

A startup de segurança de IA, Alice, obteve financiamento de 140 milhões de dólares para expandir seus esforços em testes de stress de modelos de IA avançados e auxiliar empresas na proteção contra riscos emergentes. Noam Schwartz, CEO da empresa, destacou como as ameaças que antes eram executadas por indivíduos estão agora sendo amplificadas pelas capacidades de IA. Incidências recentes envolvendo modelos de ponta da OpenAI e Anthropic intensificaram o foco na segurança de IA. Schwartz explicou como a Alice colabora com laboratórios de pesquisa e empresas de IA para identificar vulnerabilidades antes que elas possam causar danos no mundo real. A discussão ocorreu durante uma entrevista com Ed Ludlow no Bloomberg Tech. (Fonte: Bloomberg)