Escríbanos al DetectBot 🤖 cuando vea información que no sepa si es cierta. Nuestro equipo de periodistas la verificará para usted.
El 11 de mayo, El País de España reveló un video en el que reaparece Iván Márquez, comandante de la Segunda Marquetalia, una disidencia de las extintas Farc. La grabación rápidamente se hizo viral. Era la primera vez que Márquez aparecía ante una cámara, después de que en julio de 2023 el noticiero CM& lo diera por muerto tras un atentado que habría sufrido en Venezuela en 2022.
El gobierno nunca confirmó su muerte. En agosto, Caracol Radio publicó un audio que desmentía su fallecimiento. En octubre, el entonces comisionado de Paz Danilo Rueda dijo que Márquez estaba vivo y estaría en Colombia. Y en marzo de este año la Policía informó que lo localizó con vida en el país. Sin embargo, no había evidencia tangible que confirmara que el guerrillero estaba vivo.
La grabación publicada por El País fue proyectada el sábado en un coliseo de Puerto Carreño, Vichada, durante el Foro Binacional de Paz, un evento de la Asamblea Departamental.
En la grabación, Márquez invitó a los colombianos a ser parte de la “primera línea del cambio” para apoyar las reformas sociales que impulsa el gobierno y la propuesta de la constituyente.
En medio del impacto de las imágenes de Márquez, en redes sociales como Twitter (hoy X) varios usuarios dijeron que el video era un deepfake. Es decir, que había sido manipulado con inteligencia artificial (IA), aunque no presentaron evidencia clara que demostrara era un clip creado o alterado con IA.
Sin embargo, la dificultad para confirmar su veracidad radica en que ningún actor independiente ha visto o se ha comunicado en persona con Márquez, que está en la clandestinidad. Su existencia, además del video, solo ha sido confirmada por miembros del gobierno.
Desde el Detector de Mentiras de La Silla Vacía revisamos la grabación y consultamos a expertos, incluidos los de El País que verificaron el material antes de ser publicado. Todo apunta a que el video es real, no hay indicios firmes de que sea un deepfake, pero el episodio abre un nuevo reto frente al uso de estas tecnologías. Actualmente, no hay herramientas 100 por ciento fiables para descartar la manipulación con inteligencia artificial.
La idea de que el video fue creado con inteligencia artificial se difundió sin pruebas
El sábado a las 12:35 del medio día, El País publicó el video de Iván Márquez que acababa de ser proyectado en Puerto Carreño, Vichada, donde estuvieron dos de sus reporteros. El fragmento publicado por el medio tiene una duración de 3:16 minutos y está en una relación de pantalla de 16:9, es decir en formato horizontal.
Varios medios de comunicación republicaron el video y a las 3:47 p.m. la W Radio compartió en Twitter una versión de 1:50 minutos, ajustada de forma vertical.
Fue después de ese trino que varios usuarios comenzaron a comentar que la grabación había sido creado con inteligencia artificial.
Una búsqueda avanzada en Twitter arrojó que antes de esa hora solo había un trino que lo sugería, los demás vinieron en respuesta a la grabación recortada de la W Radio (1, 2 y 3). Uno de esos trinos tiene 380 mil vistas y 2 mil “me gusta”.
Revisamos los comentarios y en su mayoría todos están relacionados con el supuesto uso de IA, pero ninguno presenta pruebas ni indicios de por qué creen que fue creado con este tipo de tecnología:
Un día después, el 12 mayo, la Segunda Marquetalia publicó en su página web el video completo que fue proyectado en Foro Binacional de Paz. En total dura 16:43 minutos y está en formato horizontal.
El grupo armado también envió el clip por un grupo de Telegram en el que difunden noticias:
Herramientas y diferentes expertos respaldan que la grabación de Márquez es verídica
Juan Diego Quesada, corresponsal en la región Andina para El País de España, le contó a La Silla que días antes de la publicación del video, una fuente le comentó sobre su existencia. Por eso dos reporteros de esa redacción viajaron a Vichada, donde la grabación sería mostrada.
Quesada explicó que cuando obtuvieron el video, este fue verificado por el jefe de fotografía de El País en Colombia y por la redacción de México.
La Silla Vacía analizó la grabación y también encontró indicios que apuntan a que es real.
Una búsqueda avanzada en Twitter arrojó que la publicación de la W Radio tuvo una nota de la comunidad, que son las que permiten que los usuarios de esa red social agreguen contexto de forma colaborativa a las publicaciones potencialmente falsas o engañosas.
Según la captura de pantalla que encontramos, la nota fue creada sobre las 5:00 a.m. del 12 de mayo. Mencionaba que el video era falso porque Iván Márquez fue abatido en julio de 2023 y que la grabación fue creada con una inteligencia artificial llamada ElevenLabs.
Por un lado, como contamos más arriba, la supuesta muerte de Márquez nunca fue confirmada, por el contrario, meses después miembros del gobierno afirmaron estaba vivo. Ahora, en julio de 2023 fue difundida una noticia de su fallecimiento, pero el atentado al que hace mención la nota de la comunidad sucedió en 2022.
En cuanto a ElevenLabs es una empresa que cuenta con uno de los software más sofisticados para crear y clonar voces con inteligencia artificial, y cualquier persona puede usarla porque tiene una versión gratuita.
En su página web esta empresa también ofrece una herramienta llamada AI Speech Classifier, para verificar si una voz fue creada con su software. Como explica aquí la Red Internacional de Periodistas, este tipo de herramientas no son 100% confiables y tienen un margen de error, pero permiten tener una perspectiva del contenido que se desea verificar.
Tomamos el audio del video de 1:50 minutos que fue publicado por la W Radio y lo analizamos con la herramienta AI Speech Classifier. Esta arrojó que era muy improbable que la voz de Márquez hubiera sido creada con ElevenLabs o que fuera un audio manipulado.
En su artículo, la Red Intencional de Periodistas también recomienda herramientas de inteligencia artificial para detectar deepfakes. Pasamos el fragmento por una de ellas: Deepware, una tecnología de código abierto gratuita y arrojó que no se trata de un deepfake.
La Silla consultó a Rubén Manrique, docente del departamento de Ingeniería de Sistemas y Computación de la Universidad de los Andes, quien procesó el audio del video de Márquez con algoritmos anti-spoof que esa universidad ha desarrollado para detectar clonaciones de voz. Estos arrojaron que hay una probabilidad del 75,4% de que se trate de una grabación genuina.
“Aunque parece baja la probabilidad, en este caso es normal dada la calidad regular del audio en el video. La voz tiene una distribución en frecuencias diferente, pero creo se debe al envejecimiento del personaje”, explicó Manrique.
Esto coincide con la revisión que hizo Alejandro Lozada, experto en inteligencia artificial y magíster en Sistemas Adaptativos Complejos. “No veo indicadores de inteligencia artificial en el audio, que por lo general son pausas extrañas, palabras muy pulcras con mucha habilidad para no equivocarse”, le dijo a La Silla.
Revisamos la grabación en detalle y encontramos varias características que apuntan a su veracidad. Por ejemplo, en varios momentos una luz se refleja en las gafas de Márquez cuando él levanta el rostro.
Héctor Guerrero, fotógrafo y jefe audiovisual de El País América, le explicó a La Silla que ese reflejo en las gafas es una muestra de que el video no fue creado con IA, algo que él revisó cuando verificó la grabación antes de publicarla en la página del medio.
Guerrero también resaltó que ese reflejo puede venir de la pantalla del computador que tenía Márquez al frente al momento de la grabación. De hecho, la Segunda Marquetalia publicó el video en su página web junto a una foto del detrás de cámaras. Ahí puede verse que sí había un portátil.
En esa foto, el rostro de Márquez coincide con el del video. Por ejemplo, tanto en la fotografía como en el clip su ojo izquierdo está un poco caído, algo que podría ser una secuela del atentado que sufrió.
Guerrero también destacó el tono de la piel, el cabello y las imperfecciones del rostro de Márquez, como las señales de envejecimiento. Recalcó que la inteligencia artificial crea imágenes muy perfectas y que no es probable que la Segunda Marquetalia cuente con una tecnología tan avanzada que pueda crear videos con ese tipo de imperfecciones naturales.
En la revisión también encontramos que en varios momentos la pancarta que está detrás de Márquez se mueve y recibe reflejos naturales de luz. Otra indicio de que se trata de un video real.
Luis Silva y Adonai Vera, ingenieros y cofundadores de una startup en inteligencia artificial, también revisaron el video original de Márquez y le explicaron a La Silla que no hay signos evidentes de uso de IA.
“Por ejemplo, no hay manipulación de valores de color medio y desviación estándar en las regiones faciales. Es decir, los píxeles tienen transiciones naturales sin cambios abruptos ni artefactos que indiquen manipulación”, explicó Silva.
También aseguró hicieron un análisis genérico con algunos modelos de visión computarizada básicos y estos tampoco arrojaron signos de manipulación con IA.
Sin embargo, Vera resaltó que “es necesario hacer un análisis detallado de todo el video con modelos especializados para confirmar su total veracidad. El video parece editado desde su origen, lo cual no asegura la integridad de la grabación”.
El 14 de mayo, el consejero comisionado de Paz, Otty Patiño, dijo a Blu Radio que él se había reunido con Márquez a principio de año y que el video era real. “El Iván Márquez del video es el mismo que vi el 1 de febrero”, aseguró.
Ese mismo día, el ministro de Defensa Iván Velásquez afirmó que, según información de inteligencia, el video es genuino.
Juan Diego Quesada, corresponsal de El País, le confirmó a La Silla que las mismas fuentes que le mencionaron de la existencia de la grabación le aseguraron que el hombre del video era Márquez y así se ve actualmente.
La inteligencia artificial: un reto para el periodismo y el fact-checking
Como explica aquí Silas Jonathan, investigador de Dubawa y becario de la Academia Africana de Investigación de Fuentes Abiertas (AAOS), los deepfakes o videos creados con inteligencia artificial “plantean importantes problemas y preocupaciones a los medios de comunicación”.
Por un lado, porque estas tecnologías cada vez son más sofisticadas y aún no existen herramientas que sean 100% confiables para verificarlas.
Como señalan los colegas de ColombiaCheck aquí, la inteligencia artificial refuerza la propagación de desinformación en internet.
El informe Freedom on the Net 2023 de la organización Freedom House dice que “incluso si los deepfakes son obviamente inventados o rápidamente expuestos como tales, aún contribuyen a un espacio de información en decadencia. Pueden socavar la confianza pública en los procesos democráticos, incentivar a activistas y periodistas a autocensurarse y ahogar la información confiable e independiente”.
El caso del video de Iván Márquez también abre espacio a otro reto, pues es un contenido verificado periodísticamente y que se presume cierto, pero que, sin pruebas claras, afirman fue manipulado con inteligencia artificial, minando su credibilidad y propagando desinformación.
“Mi miedo más grande con la sofisticación que están alcanzando estos motores de generación de imagen, audio y texto, no es que las cosas falsas se van a ver muy verdaderas, sino que la gente va a comenzar a dudar de cosas que sí son verdaderas”, le dijo a La Silla el experto Lozada.
Y agregó: “por ejemplo, si le toman una foto a un político cometiendo un delito, que es algo que antes se podía usar como evidencia de que eso pasó, ahora así sea real la gente va a poder decir que se trata de un montaje con inteligencia artificial y que ese no es él”.
Héctor Guerrero, jefe audiovisual de El País América, resaltó que “hace unos años se decía que todo era Photoshop, de hecho se llegaba a decir que algo era hecho con Photoshop de video. Ahora se cree que este tipo de herramientas (IA) pueden hacer cualquier cosa, pero no es así, tienen sus limitaciones”.
La Silla Vacía es parte del International Fact-Checking Network (Ifcn), la alianza global de verificadores de datos. Como parte de la alianza, firmamos y acatamos un código de principios, que pueden conocer acá
