Los gigantes tecnológicos exploran una iniciativa conjunta de estándares de seguridad de IA

Según informes, Anthropic, OpenAI y Google están avanzando en planes para formar una organización de estándares de la industria de la IA, con discusiones que comenzaron en julio. El grupo de trabajo, compuesto por representantes de nivel medio de las tres empresas, ha celebrado reuniones regulares, incluida una la semana pasada. El CEO de Anthropic, Dario Amodei, recientemente ha abogado por ralentizar el desarrollo de la IA y establecer una supervisión independiente, proponiendo estándares de seguridad voluntarios junto con la regulación gubernamental. Sam Altman de OpenAI apoya los estándares liderados por la industria, pero se opone a la participación del gobierno, citando la falta de consenso. Demis Hassabis de Google DeepMind ha respaldado la idea, pero ha señalado la necesidad de refinamiento, mientras que Elon Musk también ha expresado su apoyo. La Casa Blanca había propuesto anteriormente un organismo regulador, pero no logró obtener el apoyo suficiente, lo que llevó a una pausa en los esfuerzos relacionados. Críticos, incluidos Aiden Gomez de Cohere y el exdirector de IA de la Casa Blanca, David Sacks, han expresado sus preocupaciones sobre posibles problemas antimonopolio y han cuestionado la altruismo de ralentizar el desarrollo. La postura de Meta sigue sin estar clara, con su jefe de IA, Alexander Wang, ofreciendo solo una declaración general sobre la alineación.