Líderes de grandes empresas de IA piden una supervisión regulatoria de los sistemas de IA que se auto-mejoran

Los líderes de Anthropic PBC, OpenAI, Meta Platforms Inc. y Microsoft Corp. han instado a los responsables de la formulación de políticas a examinar los sistemas de IA que se auto-mejoran e implementar medidas de seguridad. Esto se produce tras el creciente temor sobre la capacidad de la IA para mejorar sin intervención humana. Los directivos han destacado la necesidad de prestar atención regulatoria a estos sistemas, abogando por medidas proactivas para alinear el desarrollo de la IA con los estándares sociales y éticos. Su llamado se suma a las discusiones en curso del sector tecnológico sobre la responsabilidad corporativa en la gestión de los riesgos de la IA avanzada. Los directivos han enfatizado la transparencia y la rendición de cuentas, destacando la necesidad de supervisar los sistemas de IA que se auto-mejoran para evitar consecuencias no deseadas. También han solicitado la colaboración entre la industria y el gobierno para crear un marco equilibrado para la innovación y la seguridad. Esto marca un cambio hacia una mayor participación con los responsables de la formulación de políticas para dar forma a la regulación de la IA, reflejando el creciente reconocimiento del impacto social de la IA y la necesidad de prácticas de desarrollo responsables.