Preocupaciones de seguridad aumentan a medida que las principales empresas de IA enfrentan críticas por generar contenido explícito

Los investigadores de seguridad han expresado su preocupación por la propagación sin control del contenido explícito generado por la IA, y los reguladores no han tomado medidas significativas. Un estudio dirigido por Google, realizado en julio de 2026 en los Estados Unidos, Australia y el Reino Unido, encontró que el contenido no consentido se comparte con frecuencia a través de mensajes de texto y mensajes directos o se almacena en nubes privadas, lo que dificulta su detección o notificación. Los investigadores de Google enfatizaron que el punto de intervención más crítico es en la fuente: las herramientas de IA dañinas utilizadas para generar imágenes sexuales falsas. Los recientes esfuerzos de 'red-teaming' sugieren que a medida que los principales generadores de imágenes de IA de Google y OpenAI se vuelven más capaces, son menos eficaces para bloquear las salidas explícitas. Esto ha generado alarma entre los expertos en seguridad, quienes advierten que la proliferación de este tipo de contenido continúa creciendo sin una supervisión o regulación adecuadas.