Brad smith de Microsoft aboga por evaluaciones independientes de seguridad de la IA y control humano

En la Asamblea General de las Naciones Unidas en Nueva York, el presidente de Microsoft, Brad Smith, pidió evaluaciones independientes de la seguridad de la IA, enfatizando la necesidad de que los sistemas permanezcan bajo control humano. En una entrevista con Bloomberg el 23 de septiembre, Smith argumentó que depender únicamente de unas pocas instituciones para supervisar la seguridad de la IA obstaculizaría el progreso. Destacó la importancia de empresas como Microsoft, que proporcionan la capa de software y supervisan el comportamiento de la IA. Microsoft colabora con OpenAI a través de un comité de seguridad conjunto, donde ambas partes contribuyen con miembros para evaluar la seguridad de la IA. Smith también apoyó la inclusión de un 'interruptor de apagado' para sistemas avanzados, garantizando la supervisión humana. Reconoció que Microsoft necesita revisar sus objetivos climáticos, ya que su objetivo actual de eliminar más carbono de lo que se emite para 2030 parece cada vez más inalcanzable debido a la dependencia de los centros de datos basados en gas. Smith admitió que se necesitan ajustes para cumplir con estos objetivos, afirmando que el enfoque debe evolucionar desde lo que se había previsto hace seis años.