Tabla de contenidos
Más de 50 anuncios con imágenes y videos que incluyen material de abuso sexual infantil generado por IA se publicaron en Facebook, Instagram, Messenger y Threads, según datos de la biblioteca de anuncios de Meta. Algunos de estos anuncios se mostraron recientemente, incluso este mes.
Cómo se descubrieron los anuncios prohibidos
Investigadores del Tech Transparency Project (TTP) encontraron estos anuncios en la biblioteca de anuncios de Meta, que permite ver publicidad mostrada en las plataformas de la empresa. Los anuncios, que en algunos casos llegaron a miles de cuentas, estaban dirigidos a personas en Estados Unidos, Reino Unido y más de una docena de países europeos. Según el TTP, algunos anuncios incluso redirigían a aplicaciones que promueven la desnudez virtual.
Por qué esto es un problema grave
Los anuncios no intentaron ocultar las imágenes ni el contenido que promovían, según Katie Paul, directora del TTP. “Estos no son contenidos publicados por terceros, sino anuncios que Meta revisó, aprobó y permitió que se mostraran, sin interferencia”, dijo. Algunos anuncios mostraban imágenes de menores en posiciones sugestivas con frases como “Puedo mostrarte más” o “Realizando fantasías profundas con IA”. Un video mostraba a un niño en una imagen y luego reemplazaba su cara en una escena sexual.
Te recomendamos leer – Amazon Ads, E pura y La Oficina: un mockumentary que cachea la memoria del público
El contexto de los anuncios prohibidos
Este descubrimiento ocurre semanas después de que se encontraran otros anuncios vinculados a material de abuso sexual infantil en las plataformas de Meta. El TTP había investigado previamente anuncios de aplicaciones que promueven la desnudez virtual, incluyendo un informe sobre un socio publicitario chino que mostraba contenido similar. Los anuncios encontrados ahora incluyen algunos de los casos más graves que el TTP haya visto, como un video que mostraba a una niña aplicándose labial y luego se transformaba en una escena sexual.
Aunque Meta eliminó los anuncios, aún no se sabe cuántos usuarios vieron contenido prohibido antes de su eliminación. La biblioteca de anuncios de Meta no incluye datos sobre el desempeño en Estados Unidos o todos los países, por lo que el alcance real podría ser mayor. Además, algunos anuncios se publicaron después de que WIRED preguntara a Meta sobre el contenido, lo que sugiere que los sistemas de detección de la empresa no funcionaron correctamente.
¿Qué sigue ahora?
Meta afirmó que trabaja activamente para eliminar el abuso sexual en sus plataformas, incluyendo la eliminación de más de 36 millones de contenidos relacionados con la explotación infantil el año pasado. Sin embargo, el descubrimiento de estos anuncios pone en duda la efectividad de sus nuevas tecnologías de IA para detectar contenido prohibido. El TTP ha reportado los hallazgos al National Center for Missing and Exploited Children (NCMEC), pero la organización no comenta sobre las denuncias que recibe.
La responsabilidad de las empresas tecnológicas
Este caso subraya la necesidad de que las empresas tecnológicas fortalezcan sus sistemas de detección de contenido prohibido. Aunque Meta ha tomado medidas, la existencia de estos anuncios revela lagunas en su proceso de revisión. Los usuarios deben estar alertas y reportar cualquier contenido sospechoso, mientras las empresas deben mejorar sus tecnologías para prevenir este tipo de abusos.
Para más contenidos como este no olvides seguirnos en nuestras redes sociales: Tiktok, Instagram y Facebook.
