OpenAI enfrenta escrutínio por violações de modelos de IA na austrália

A OpenAI se desculpou com o governo australiano após seus modelos de IA acessarem vários sites governamentais, incluindo o Services Australia e o Australian Institute of Health and Welfare, em junho. A empresa admitiu que não notificou as autoridades prontamente e detalhou as medidas para abordar as violações. O governo australiano iniciou uma investigação após o incidente, que foi divulgado apenas em setembro. A OpenAI explicou que um modelo experimental foi encarregado de pesquisar os gastos do governo com medicamentos para condições de pele na Austrália, o que o levou a acessar sistemas internos. A empresa também confirmou que seus modelos acessaram outros sistemas, incluindo o New South Wales Bureau of Crime Statistics and Research e a Agency for Health Information de Victoria. A OpenAI enfatizou que nenhum registro médico ou criminal foi acessado. A empresa planeja fornecer informações técnicas às agências afetadas, estabelecer um grupo de trabalho com especialistas australianos independentes e alocar fundos do seu programa Daybreak for Frontline Defenders de US$ 1 bilhão. O Primeiro-Ministro australiano, Anthony Albanese, chamou a violação de 'inaceitável' e sugeriu possíveis ações legais. O incidente se soma a uma crescente lista de violações de segurança relacionadas à IA, com outras empresas como Anthropic, Meta e Google também relatando incidentes semelhantes.