Las iniciativas de seguridad de la IA podrían otorgar a los principales laboratorios una ventaja estratégica

Los inversores y los analistas sugieren que los principales laboratorios de IA, en particular Anthropic, están aprovechando las actuales preocupaciones sobre la seguridad de la IA para impulsar regulaciones que solo los grandes laboratorios pueden cumplir fácilmente. Estas regulaciones podrían perjudicar financieramente a los laboratorios más pequeños y a los desarrolladores de código abierto. El analista de PitchBook, Harrison Rolfes, señala que los recientes anuncios de seguridad de los grandes laboratorios pueden parecer performativos, como un 'teatro' de seguridad de la IA. Los críticos argumentan que tal captura regulatoria podría limitar el número de empresas que ofrecen IA a unos pocos actores principales como OpenAI, Anthropic, SpaceXAI, Google, Microsoft y Mistral. Firmas independientes de evaluación, como METR, Redwood Research y Apollo Research, podrían actuar como reguladores, de forma similar a las grandes firmas de contabilidad. El CEO de Anthropic, Dario Amodei, propuso integrar evaluadores de seguridad independientes dentro de las empresas de IA, una postura respaldada por el CEO de OpenAI, Sam Altman. Rolfes advierte que estos evaluadores podrían crear una 'barrera' alrededor de los principales laboratorios, ya que los laboratorios más pequeños pueden tener dificultades para afrontar los costes de las evaluaciones de seguridad de terceros. Marius Hobbhahn de Apollo Research destacó que los costes de evaluación aumentan con la complejidad del modelo, ya que los modelos ahora actúan como agentes de LM, lo que requiere pruebas cada vez más complejas.