Líderes de la IA buscan controlar los estándares de seguridad ante las preocupaciones sobre la innovación sin control

Según los expertos, los líderes de la IA, incluidos el CEO de Anthropic, Dario Amodei, el CEO de OpenAI, Sam Altman, y el cofundador de Google DeepMind, Demis Hassabis, están presionando para la autorregulación y los estándares de la industria para gestionar los riesgos de la IA avanzada. Anthony Aguirre, CEO del Future of Life Institute, señaló que, si bien estos líderes reconocen los peligros de la IA, buscan controlar el proceso de seguridad. Aguirre advirtió que su búsqueda de la inteligencia artificial general (IAG) podría conducir a cambios sociales significativos, incluyendo la pérdida de empleos y la toma de decisiones impulsada por la IA. A pesar de las llamadas a la precaución, Amodei y Hassabis abogan por el desarrollo continuo de la IAG, sugiriendo la supervisión gubernamental y un organismo de estándares modelado en los marcos regulatorios existentes. Mientras tanto, críticos como Pete Furlong del Center for Humane Technology argumentan que las empresas de IA priorizan su dominio de la industria sobre la responsabilidad pública, limitando a menudo la transparencia en las investigaciones de seguridad. Una reciente demanda colectiva acusa a las principales empresas de IA de violaciones de la ley antimonopolio, destacando las preocupaciones legales y éticas en curso.