Quem irá conter a ameaça da IA?

O New York Times reportou que a Meta está a utilizar os seus centros de dados de IA como instalações experimentais para reivindicar biliões de dólares em créditos fiscais de investigação federais, uma estratégia que os seus próprios contabilistas consideraram legalmente arriscada. Os poupanças reportaram-se a crescer de 700 milhões de dólares em 2023 para 3,9 mil milhões de dólares em 2025. John Casey, um colunista, questiona se os líderes da IA podem ser confiáveis para priorizar a segurança em vez dos lucros, observando que as empresas raramente agem no interesse público, a menos que sejam forçadas. A OpenAI colocou em espera o seu mais recente modelo devido a preocupações com a segurança, enquanto o CEO da Anthropic alertou que a IA poderia direcionar uma enxame de agentes capazes de assumir o controlo da internet dentro de um ano. O Papa Leão também reconheceu a validade das preocupações com a segurança da IA. Casey argumenta que a auto-regulação é improvável sem coordenação governamental, o que está ausente, como visto nas agências subfinanciadas e com poucos funcionários, como o FBI, o Pentágono e o CDC. Ele conclui que a ameaça da IA é real, mas a resposta da indústria e do governo é inadequada, deixando a humanidade vulnerável.