Expertos en IA expresan preocupación por las prácticas corporativas y los riesgos tecnológicos

La semana pasada, David Robinson, líder de seguridad de OpenAI, renunció, uniéndose a una lista creciente de expertos en IA que han abandonado sus empresas debido a preocupaciones éticas. En un ensayo para The Atlantic, Robinson criticó la dependencia de la industria de un enfoque de 'prueba y error'. Ed Newton-Rex, quien dejó Stability AI en noviembre de 2023, también expresó su preocupación por el uso de material con derechos de autor en el entrenamiento de modelos de IA. Fundó Fairly Trained, una organización sin ánimo de lucro que ofrece certificaciones para prácticas de datos éticas. En junio de 2024, 13 empleados actuales y anteriores de importantes empresas de IA publicaron una carta advirtiendo sobre los riesgos de la IA avanzada, incluyendo la desigualdad, la desinformación y la posible extinción humana. La carta fue firmada por figuras destacadas como Ramana Kumar y Neel Nanda, junto con varios ex empleados de OpenAI. La carta destacó la falta de supervisión y pidió una mayor rendición de cuentas. Entre los firmantes se encontraban Jacob Hilton del Alignment Research Center, Daniel Kokotajlo del AI Futures Project y William Saunders, Carroll Wainwright y Daniel Ziegler, con los últimos trabajando ahora en Anthropic. Seis firmantes permanecieron anónimos. Estas renuncias y advertencias públicas señalan una creciente inquietud dentro de la industria de la IA sobre su trayectoria y sus implicaciones éticas.