Meta enfrenta críticas por promocionar herramienta de IA vinculada a pornografía de deepfake

Meta recientemente ha enfrentado críticas tras publicar anuncios para una herramienta de IA llamada Kromix, que se comercializa como un 'estilista de imágenes de IA'. Los anuncios, que fueron revisados por WIRED, parecían alentar a los usuarios a generar vídeos de deepfake de mujeres políticas estadounidenses, a pesar de que las políticas de Meta prohíben el contenido sexual en los anuncios. La herramienta, que anteriormente estaba disponible en la App Store de Apple, permite a los usuarios subir fotos para su uso en escenarios como 'violación en el dormitorio' y 'amor de Disney'. Los vídeos en la aplicación también incluyen pornografía generada por IA que presenta a mujeres con trajes de Spider-Man. Una voz en off en uno de los anuncios describió la herramienta como teniendo 'ningún tipo de restricción' y afirmó que es 'la IA que los hombres realmente utilizan'. Uno de los anuncios mostraba a una mujer que se parecía a una destacada política estadounidense, frente a la bandera estadounidense, seguido de una escena de la misma mujer en un vídeo pornográfico. Las solicitudes de comentarios de WIRED a un contacto listado en la aplicación no recibieron respuesta. Este incidente se suma a una serie de fallos de Meta para evitar la promoción de herramientas que generan imágenes íntimas no consensuadas en sus plataformas.