Anthropic indica que se acerca a la capacidad de IA auto-mejorable en nueva presentación

Anthropic reveló en su nueva presentación S-1A que la empresa se acerca a un punto de auto-mejora recursiva (RSI), un umbral en el que la IA acelera su propio desarrollo de forma drástica. Si bien la presentación detallaba los crecientes ingresos junto con los crecientes gastos, la advertencia principal se centraba en los riesgos asociados con el uso de la IA para construir sistemas de IA más capaces. La empresa señaló que el creciente uso de la IA en la investigación y el desarrollo podría provocar que las capacidades del modelo avancen más rápido que la capacidad de implementar las correspondientes medidas de seguridad y alineación. Anthropic afirmó que las estimaciones internas sugieren que pronto podrían cumplir con la definición de progreso drásticamente acelerado de la Política de Escalado Responsable, atribuido a la IA, aunque confirmaron que ningún modelo actual ha cruzado este umbral. A pesar de estas advertencias, Anthropic indicó que no prevé poder diseñar y construir de forma segura modelos de vanguardia de forma autónoma sin una supervisión humana significativa. Esto sugiere que la empresa está considerando activamente actualizaciones a su Política de Escalado Responsable para mantener el control humano sobre el desarrollo de modelos de vanguardia.