Cambio en la seguridad de la IA corporativa: las grandes empresas restringen el uso de los modelos de OpenAI y Anthropic

Recientemente, el mercado de la IA empresarial ha experimentado cambios significativos, ya que varios clientes importantes, incluidos NVIDIA, Palantir Technologies y Booz Allen Hamilton, han comenzado a restringir el uso de los modelos avanzados de Anthropic y OpenAI en proyectos sensibles debido a las preocupaciones sobre el manejo de datos propietarios. Este cambio fue provocado por un cambio de política en Anthropic a principios de este año, que permite que su modelo Fable retenga los datos del cliente durante hasta 30 días para detectar el uso indebido. A pesar de las garantías de Anthropic de que los datos no se utilizarían para el entrenamiento, muchos clientes optaron por aislar la información sensible. En respuesta a los posibles riesgos de seguridad de los datos, las empresas han adoptado varias estrategias. NVIDIA ha restringido el uso del modelo Fable a proyectos de menor sensibilidad, mientras que dirige sus negocios más confidenciales a su propio modelo Nemotron. Booz Allen Hamilton ha implementado restricciones similares y ha solicitado protecciones contractuales más estrictas. C Spire ha firmado acuerdos con OpenAI y Anthropic para prohibir el uso de sus datos para el entrenamiento, aunque los contratos existentes aún permiten la recopilación de información técnica de uso. Novo Nordisk ha adoptado un enfoque cauteloso, utilizando Claude para tareas rutinarias mientras prohíbe la entrada de datos propietarios. Microsoft ha capitalizado en el creciente énfasis en la seguridad de los datos promoviendo los entornos en la nube privados como una nueva oportunidad de mercado.