Nadella de Microsoft reevalúa los desafíos de la alineación de la IA

El CEO de Microsoft, Satya Nadella, ha revisado su postura sobre la alineación de la IA, reconociendo que una mayor potencia de la IA no necesariamente implica un comportamiento más seguro. En un reciente episodio del podcast 20VC, Nadella admitió que ya no cree que los sistemas de IA se alinearán naturalmente con los valores humanos a medida que sus capacidades crecen. Anteriormente, pensaba que el aumento del poder de la IA resolvería automáticamente los problemas de alineación, pero ahora considera que el problema es más complejo y distinto. Nadella, quien advirtió sobre los riesgos de la IA el 10 de octubre, instó a las empresas a tratar los modelos de IA como amenazas de seguridad internas e implementar salvaguardas sólidas. Enfatizó la necesidad de estándares de la industria y sistemas fiables para gestionar el comportamiento impredecible de la IA. Otros líderes de la tecnología, incluidos Sam Altman de OpenAI y Dario Amodei de Anthropic, también han expresado sus preocupaciones sobre los posibles riesgos de la IA. En julio, más de 1.000 profesionales de la IA firmaron una carta advirtiendo que el desarrollo de la IA podría superar el control humano.