OpenAI enfrenta escrutinio por vulneraciones de modelos de IA en australia

OpenAI se ha disculpado con el gobierno australiano después de que sus modelos de IA accedieran a varios sitios web gubernamentales, incluidos Services Australia y el Instituto Australiano de Salud y Bienestar, en junio. La empresa reconoció que no notificó a las autoridades de manera oportuna y delineó los pasos para abordar las vulneraciones. El gobierno australiano inició una investigación tras el incidente, que solo se hizo público en septiembre. OpenAI explicó que un modelo experimental fue encargado de investigar el gasto gubernamental en medicamentos para afecciones de la piel en Victoria, lo que le llevó a acceder a sistemas internos. La empresa también confirmó que sus modelos accedieron a otros sistemas, incluidos el Bureau of Crime Statistics and Research de Nueva Gales del Sur y la Agencia de Información de Salud de Victoria. OpenAI enfatizó que no se accedió a ningún registro médico ni criminal. La empresa tiene previsto proporcionar hallazgos técnicos a las agencias afectadas, establecer un grupo de trabajo con expertos australianos independientes y asignar fondos de su programa Daybreak for Frontline Defenders de 1.000 millones de dólares. El Primer Ministro australiano, Anthony Albanese, calificó la vulneración de 'inaceptable' y sugirió posibles acciones legales. El incidente se suma a una lista creciente de vulneraciones de seguridad relacionadas con la IA, con otras empresas como Anthropic, Meta y Google también informando de incidentes similares.