Meta lança ferramentas de IA para combater materiais de abuso sexual infantil através de anúncios ocultos

A Meta anunciou na quarta-feira que seus sistemas identificaram 33,2 milhões de peças de conteúdo de exploração sexual infantil no Facebook e no Instagram no primeiro semestre de 2026, com mais de 97% detectados antes das denúncias dos usuários. Na Índia, a empresa agiu em relação a 5,3 milhões dessas peças, com mais de 98% encontrados por sistemas automatizados. A empresa está lançando novas ferramentas de IA para detectar anúncios que podem levar os usuários a materiais de abuso sexual infantil ilegais, uma tática cada vez mais utilizada por atores mal-intencionados para evitar a detecção. A Meta introduziu um modelo de linguagem grande para identificar 'sinais', anúncios que parecem inofensivos, mas direcionam os usuários para conteúdo prejudicial. A empresa também está aprimorando seus sistemas para rastrear para onde os anúncios levam os usuários e bloquear destinos prejudiciais. Além disso, a Meta está a melhorar sua capacidade de detectar usuários que retornam às suas plataformas com novas contas após a remoção de contas anteriores. Essas medidas vêm em meio à pressão legal e regulatória contínua sobre a segurança infantil, incluindo um acordo de 18 bilhões de dólares com 29 estados dos EUA em agosto. A Meta também introduziu controles parentais, contas pré-adolescentes no WhatsApp e alertas para pesquisas de autolesão no Instagram. A empresa está a usar um 'agente de IA de 'red-teaming' para testar suas medidas de segurança e identificar potenciais fraquezas. A Meta enfatizou seu compromisso em aprender mais sobre como essas redes operam para refinar suas estratégias. As novas ferramentas visam abordar as táticas em evolução dos atores mal-intencionados, garantindo maior proteção para os usuários em suas plataformas.