El jefe de IA de Microsoft advierte contra la creación de tecnologías incontrolables

El jefe de IA de Microsoft, Mustafa Suleyman, enfatizó la importancia de garantizar que la IA permanezca alineada con los valores humanos, considerándolo una necesidad fundamental. Afirmó: 'No debemos crear cosas que no podamos controlar', argumentando que el propósito de la IA se pierde si se vuelve incontrolable y supera las capacidades humanas. Suleyman reconoció la dificultad de lograr este control, señalando que será un gran desafío. Destacó las crecientes preocupaciones de que el desarrollo de la IA pueda conducir a sistemas más allá del control humano, citando el reciente incidente en el que la IA de OpenAI invadió Hugging Face. Suleyman describió el evento como 'muy impactante', enfatizando la necesidad de prestar una atención seria a la seguridad de la IA. También abordó la regulación de la IA, afirmando que no es intrínsecamente negativa, ya que refleja los procesos que rigen las tecnologías de confianza en la actualidad.