lunes 15  de  julio 2024
POLÉMICA

X frena algunas búsquedas de Taylor Swift por falsa pornografía con IA

La red social X de Elon Musk bloqueó algunas búsquedas de Taylor Swift ante la circulación en internet de imágenes pornográficas falsas de la cantante

La red social X de Elon Musk bloqueó algunas búsquedas de Taylor Swift ante la circulación en internet de imágenes pornográficas falsas de la cantante creadas con Inteligencia Artificial (IA).

Los intentos de búsqueda del nombre de Swift sin comillas arrojaban como resultado el lunes un mensaje de error y un mensaje para que los usuarios volvieran a intentar su búsqueda, con la leyenda: “No te preocupes, no es tu culpa”.

Sin embargo, al entrecomillar el nombre de Swift aparecieron publicaciones que mencionaban su nombre.

taylor swift-twitter-ap.jpg
En esta captura de pantalla realizada el 29 de enero de 2024, una búsqueda de Taylor Swift arroja un error en la plataforma X. La red social X bloqueó algunas búsquedas de Taylor Swift, ante la proliferación de imágenes pornográficas falsas de la cantante.

En esta captura de pantalla realizada el 29 de enero de 2024, una búsqueda de Taylor Swift arroja un error en la plataforma X. La red social X bloqueó algunas búsquedas de Taylor Swift, ante la proliferación de imágenes pornográficas falsas de la cantante.

Las imágenes de Swift falsas, sexualmente explícitas y abusivas que incentivaban la pornografía, comenzaron a circular ampliamente la semana pasada en X, convirtiéndola en la víctima más famosa de un flagelo que las plataformas tecnológicas y los grupos antiabuso han luchado por solucionar.

“Esta es una acción temporal y se hace con mucha precaución, ya que priorizamos la seguridad en este tema”, dijo Joe Benarroch, jefe de operaciones comerciales de X, en un comunicado.

Fanáticos de Taylor Swift reaccionan

Después de que las imágenes comenzaron a difundirse en línea, la devota base de fans de la cantante, conocidos como Swifties, se movilizó rápidamente, lanzando una contraofensiva en X y el hashtag #ProtectTaylorSwift (Protejamos a Taylor Swift) para inundarlo con imágenes más positivas de la estrella del pop. Algunos dijeron que estaban reportando cuentas que compartían los deepfakes (vídeos, imágenes o sonidos manipulados mediante IA para parecer auténticos y reales).

El grupo de detección de deepfakes Reality Defender dijo que rastreó una avalancha de material pornográfico no consensuado que representaba a Swift, particularmente en X, anteriormente conocido como Twitter. Algunas imágenes también llegaron a Facebook, propiedad de Meta, y a otras plataformas de redes sociales.

Los investigadores encontraron más de una veintena de imágenes únicas generadas por IA. Las más compartidas estaban relacionados con el fútbol, mostrando a una Swift pintada o ensangrentada que la cosificaba y, en algunos casos, infligía un daño violento a su imagen falsa.

Los investigadores han dicho que el número de deepfakes explícitos ha crecido en los últimos años, ya que la tecnología utilizada para producir tales imágenes se ha vuelto más accesible y fácil de usar.

En 2019, un informe publicado por la empresa de inteligencia artificial DeepTrace Labs mostró que estas imágenes eran abrumadoramente producidas contra las mujeres. La mayoría de las víctimas, dijo, eran actrices de Hollywood y cantantes surcoreanas de K-pop.

FUENTE: AP

¡Recibe las últimas noticias en tus propias manos!

Descarga LA APP

Deja tu comentario

Te puede interesar