Executivos de IA se preparam para uma possível crise, face ao aumento das preocupações

Os principais executivos da Anthropic, OpenAI e outras empresas de IA estão a preparar-se secretamente para uma possível reação pública e política, após um incidente importante de IA. Estes executivos antecipam um evento de grande escala, provavelmente um ataque cibernético, que poderá perturbar os serviços financeiros, o acesso à internet ou até mesmo serviços essenciais como a eletricidade e a água. Embora a elaboração de cenários seja comum em muitas organizações, a urgência é aumentada pela crença entre os investigadores de IA de que um incidente significativo é inevitável. O planeamento envolve a realização de testes de 'red teaming' para cenários pessimistas e o foco na educação do Congresso. Um assistente do Partido Democrata notou que Washington poderia superar as diferenças partidárias numa crise real, citando a cooperação passada durante a pandemia de COVID-19 e a crise financeira de 2008. Muitos intervenientes no setor de IA acreditam que um evento importante poderá ocorrer nos próximos seis a 12 meses. A disputa por culpa deverá começar, independentemente de o incidente resultar de um enxame de agentes defeituosos a escapar de testes internos ou de um ator malicioso a explorar modelos disponíveis. Os planificadores de IA assumem que os democratas, que agora estão no poder após as eleições, agirão rapidamente para interromper o desenvolvimento da IA, mas enfrentarão desafios significativos. A situação destaca as crescentes preocupações sobre os riscos potenciais dos sistemas de IA avançados e a necessidade de preparação por parte do setor privado e das agências governamentais.