La “Armificación” de los Deepfakes

Por Facundo Jurisich, Estudiante avanzado de Ciencia Política (UBA). Especialista en teoría política y geopolítica. Redactor en Diario El Gobierno.

Los deepfakes son videos, imágenes o audios falsos generados o modificados con inteligencia artificial, cuyo nivel de realismo los vuelve verosímiles para el público general. Este artículo busca dar algunos ejemplos y categorizar los múltiples usos que se hicieron de esta tecnología en los últimos años.

Tal vez uno de los primeros usos popularizados de esta tecnología sea el de un video difundido a mediados de marzo de 2022 a través del canal ucraniano Ukrayina 24, cuya página web fue hackeada, en el cual aparecía el presidente de Ucrania pidiéndole a la ciudadanía que bajara las armas y se rindiera frente a Rusia. El video buscaba generar una confusión temporal y desmoralizar a la población y a las fuerzas ucranianas. Es así que un posible uso bélico de la tecnología es el de desmoralizar y confundir al enemigo mediante información falsa. Los deepfakes son especialmente útiles para este fin, ya que demostrar su falsedad requiere tiempo y limitar su difusión en el mientras tanto requiere una buena organización y decisión política.

El uso político de esta tecnología, sin embargo, no se limita al ámbito bélico: también tiene usos a la hora de deslegitimar a un partido, dirigente o gobierno. En primer lugar, pueden ser usados para difamar a oponentes políticos. Como ejemplo, en 2019 cuentas y páginas conservadoras en la red social entonces llamada Twitter (hoy X) compartieron un video manipulado de Nancy Pelosi (representante demócrata), ralentizado para que pareciera hablar como si estuviera ebria o drogada, mientras que Donald Trump difundió otro video muy editado que buscaba ridiculizarla. También hay casos conocidos de videos y audios de Joe Biden diciendo cosas que nunca dijo realmente, incluidos audios generados con inteligencia artificial. Más recientemente se conoció un caso de la BBC editando un video del discurso de Trump del 6 de enero de 2021 de manera tal que parecía llamar más claramente a la insurrección violenta (aunque la tecnología utilizada en este caso no es específicamente un deepfake, sino edición engañosa). Esto último es relevante ya que muestra cómo los videos falsificados o manipulados empiezan a ser adoptados como un arma por medios e instituciones tradicionalmente considerados serios.

En el caso de nuestro país, los deepfakes tomaron cierta importancia en el último tiempo, ya que se utilizaron durante campañas electorales para crear confusión entre el electorado. En las elecciones legislativas de la Ciudad de Buenos Aires se hizo popular un video falso de Mauricio Macri afirmando que la candidata de su espacio se retiraba de la contienda, y pidiendo el voto por el candidato del partido oficialista, La Libertad Avanza. En las elecciones bonaerenses y nacionales circularon, de forma similar, audios y/o videos falsos de Axel Kicillof y Javier Milei. Estos videos, además de confundir al espectador distraído, pueden generar un clima de opinión exaltado incluso entre quienes reconocen la falsedad de la información.

Es así que los deepfakes pueden servir como “munición” para las personas simpatizantes o militantes de una ideología o movimiento. Además de deslegitimar a líderes políticos, una postura política en su conjunto puede ser deslegitimada mediante la fabricación de evidencia falsa, que muestre a quienes simpatizan con dicha postura como personas extremistas, irracionales, y así sucesivamente. Por ejemplo, un extremista de derecha podría generar un video en el que una persona militante LGBT acosa a menores de edad, o un extremista de izquierda podría generar un video en el que personas de derecha llaman a asesinar a grupos minoritarios. Estos videos servirían como casos concretos para justificar la afirmación más generalizada: “todas las personas que pertenezcan a X movimiento político piensan de esa forma”. En contextos más violentos, la fabricación de evidencia falsa puede servir incluso para justificar guerras y ataques terroristas.

En estas situaciones de mayor violencia política, los deepfakes pueden tener utilidad para el reclutamiento de personas. Un ejemplo de esto es la difusión de la idea de que el apocalipsis islámico está cerca, apoyada en los dichos de Muhammad Qasim, quien afirma comunicarse con Dios. Estas afirmaciones son acompañadas con audios y videos compartidos en redes sociales, generados con inteligencia artificial, mostrando supuestos hechos sobrenaturales, voces superpuestas, etcétera. Parte de este contenido se difunde en redes vinculadas a discursos islamistas de corte apocalíptico, con el objetivo de convencer a sectores más moderados de la verdad de esa visión del mundo.

Los deepfakes, por otro lado, también pueden servir para embellecer las características “positivas” de los grupos extremistas, por las cuales muchas personas solitarias se unen a ellos: sentido de pertenencia, comunidad, identidad común, cosmovisión compartida. Es así que se pueden generar videos mostrando actos de camaradería o generar imágenes que compartan un mismo sentido del humor. Como ejemplo de esto último se encuentra una tendencia en internet basada en generar imágenes con mensajes subliminales contra la población judía, documentada en foros como 4chan. Además de imágenes con sentido humorístico, también pueden generarse imágenes impactantes que sirvan como símbolo de un grupo, una ideología o un hecho.

En síntesis, los deepfakes tienen múltiples usos políticos: 1) confundir a la población o a un grupo de la población, 2) deslegitimar líderes, ideologías o movimientos, 3) justificar acciones políticas (desde una política pública hasta guerras o actos terroristas, en algunos casos ya observables y en otros planteados de forma prospectiva) y 4) reclutar personas para grupos políticos (ya sean extremistas o no). El bajo costo de esta tecnología, en comparación con el costo tradicional de la propaganda audiovisual, permite que las producciones falsas sean utilizadas como armas arrojadizas por parte de grupos minoritarios y con relativamente pocos recursos.