Startup de seguridad de IA obtiene 140 millones de dólares para reforzar la seguridad y la mitigación de riesgos de los modelos

La startup de seguridad de IA, Alice, ha conseguido 140 millones de dólares en financiación para ampliar sus esfuerzos en las pruebas de estrés de modelos de IA avanzados y en ayudar a las empresas a protegerse contra los riesgos emergentes. Noam Schwartz, CEO de la empresa, destacó cómo las amenazas que antes ejecutaban los individuos ahora están siendo amplificadas por las capacidades de la IA. Los recientes incidentes que involucran modelos de vanguardia de OpenAI y Anthropic han intensificado el enfoque en la seguridad de la IA. Schwartz explicó cómo Alice colabora con laboratorios e instituciones de investigación de IA para identificar vulnerabilidades antes de que puedan causar daños en el mundo real. La entrevista tuvo lugar con Ed Ludlow en Bloomberg Tech. (Fuente: Bloomberg)