Meta lanza herramientas de IA para combatir el material de abuso sexual infantil a través de anuncios ocultos

Meta anunció el miércoles que sus sistemas identificaron 33,2 millones de piezas de contenido de explotación sexual infantil en Facebook e Instagram en la primera mitad de 2026, con más del 97% detectado antes de las denuncias de los usuarios. En la India, la empresa actuó sobre 5,3 millones de estas piezas, con más del 98% encontrado por sistemas automatizados. La empresa está implementando nuevas herramientas de IA para detectar anuncios que pueden llevar a los usuarios a material de abuso infantil ilegal, una táctica cada vez más utilizada por actores maliciosos para evitar la detección. Meta ha introducido un modelo de lenguaje grande para identificar 'señales' - anuncios que parecen inofensivos pero dirigen a los usuarios a contenido dañino. La empresa también está mejorando sus sistemas para rastrear a dónde llevan los anuncios y bloquear destinos dañinos. Además, Meta está mejorando su capacidad para detectar a los usuarios que regresan a sus plataformas con nuevas cuentas después de que se hayan eliminado las cuentas anteriores. Estas medidas se producen en medio de la presión legal y regulatoria en curso sobre la seguridad infantil, incluida una indemnización de 18.000 millones de dólares con 29 estados de EE. UU. en agosto. Meta también ha introducido controles parentales, cuentas para pre-adolescentes en WhatsApp y alertas para búsquedas de autolesión en Instagram. La empresa está utilizando un 'agente de IA de 'red teaming' para probar sus medidas de seguridad e identificar posibles debilidades. Meta ha enfatizado su compromiso de aprender más sobre cómo operan estas redes para refinar sus estrategias. Las nuevas herramientas tienen como objetivo abordar las tácticas en evolución de los actores maliciosos, garantizando una mayor protección para los usuarios en sus plataformas.