El espacio de anuncios políticos de Facebook es cada vez más un terreno de juego para las estafas deepfake y el contenido engañoso, con algunos de los principales anunciantes de la plataforma fabricando vídeos de políticos estadounidenses que prometen pagos gubernamentales inexistentes.
Este verano, vídeos alterados de la secretaria de prensa de la Casa Blanca, Karoline Leavitt, afirmaban que los estadounidenses podían reclamar cheques de ayuda de 5.000 dólares, redirigiendo a los usuarios a un sitio llamado Get Covered Today. Otros vídeos falsos similares mostraban a los senadores Elizabeth Warren y Bernie Sanders haciendo promesas idénticas. "Esto no es un truco", afirmaba la imitación de Warren, aunque en realidad sí lo era.
Según un nuevo análisis del Proyecto de Transparencia Tecnológica (vía The New York Times), 63 anunciantes que utilizaban este tipo de tácticas engañosas representaban aproximadamente uno de cada cinco de los 300 principales anunciantes políticos de Facebook.
Juntos, publicaron casi 150.000 anuncios y gastaron casi 49 millones de dólares en los últimos siete años. Aunque muchas de estas cuentas han sido suspendidas, más de la mitad siguieron publicando nuevos anuncios esta misma semana.
"Lo único peor que estos vídeos deepfake de IA que se utilizan para estafar a los estadounidenses es el hecho de que Meta gana decenas de millones de dólares con esos anuncios fraudulentos", dijo la senadora Warren, pidiendo protecciones más estrictas para los consumidores en Internet.
Meta, propietaria de Facebook, prohíbe los anuncios que suplantan a funcionarios o emplean prácticas engañosas, afirmando que hace cumplir estas normas "enérgicamente" y prometiendo inversiones en defensas técnicas. Sin embargo, los críticos afirman que la aplicación de la empresa es lenta, en gran medida automatizada y reactiva, y que depende de los usuarios o de los investigadores para señalar las estafas.
El auge de las herramientas de IA ha facilitado la creación de anuncios engañosos, y las plataformas de redes sociales son ahora el principal vector de fraude en línea, superando a las estafas telefónicas o de mensajes de texto. Los reguladores federales y los gobiernos, incluido el de Singapur, están presionando a Meta para que tome medidas enérgicas, amenazando con multas si la plataforma no actúa.
A medida que los ingresos publicitarios de Meta se acercan a los 160.000 millones de dólares anuales, el análisis del Proyecto de Transparencia Tecnológica sugiere que el beneficio a corto plazo suele primar sobre la integridad de la plataforma y la seguridad de los usuarios.
"El péndulo ha oscilado hacia consideraciones de ingresos a corto plazo frente a la salud a largo plazo de la plataforma", dijo Rob Leathern, antiguo empleado de Meta y experto en confianza en línea. "Quizá en algún momento tenga que oscilar hacia el otro lado".
