SynthID do Google: marca d'água resistente, mas insuficiente contra desinformação de IA

A criação de conteúdo por inteligência artificial atingiu uma escala sem precedentes. De acordo com investigadores da Universidade de Stanford e USC, a geração de imagens pela IA conseguiu em apenas dezoito meses o que levou cento e quarenta e nove anos após a invenção da câmara fotográfica: um acervo de 1,5 mil milhões de imagens. O alcance é ainda maior quando se observa a Google. A empresa revelou recentemente que as suas ferramentas contribuíram para a produção de mais de cem mil milhões de imagens e vídeos gerados por IA num prazo de alguns anos. Face a este crescimento exponencial, a Google vem promovendo expansões da sua tecnologia SynthID, um sistema de marcação de conteúdo gerado por máquinas, distribuindo-a através de parcerias estratégicas. Contudo, os esforços de marcação revelam-se limitados no combate efectivo contra a desinformação. Embora a SynthID demonstre resiliência contra tentativas de anulação, a tecnologia por si só não consegue resolver os desafios sistémicos inerentes à propagação de informação falsa de origem artificial.