Jared kaplan, figura clave de Anthropic, advierte sobre los riesgos del autoentrenamiento de la IA

Jared Kaplan, una figura clave en Anthropic, ha advertido sobre los peligros de permitir que la IA se auto-entrene, una preocupación que planteó a finales del año pasado. Predijo que este punto crítico podría llegar entre 2027 y 2030, un plazo que parece estar acercándose a medida que se acerca 2026. Kaplan, que co-fundó Anthropic en 2021 junto con Dario Amodei, supervisa las políticas de seguridad y escalado responsable de la IA en la empresa. Sus advertencias han ganado terreno, ya que, según una reciente encuesta de Politico, alrededor de dos tercios de los estadounidenses creen que la IA podría representar una amenaza existencial para la humanidad. Las preocupaciones de Kaplan también han llegado a los responsables de la formulación de políticas, con legisladores considerando nuevas leyes sobre la seguridad de la IA. Jeffrey Ladish, ex ingeniero de Anthropic, citó los comentarios de Kaplan durante las reuniones con los legisladores, enfatizando los riesgos del autoentrenamiento de la IA. Kaplan, ahora un multimillonario, sigue siendo un líder respetado en Anthropic, a pesar de la negativa de la empresa a concederle una entrevista. Su formación en física y sus contribuciones a la investigación de la IA, incluyendo la co-autoría de un artículo clave sobre las leyes de escalado, lo han posicionado como una figura clave en el campo.