LA MANIPULACION POR DEEPFAKES CHEAPFAKES

 EL IMPACTO DE LA IA GENERATIVA EN LA DESINFORMACIÓN POLÍTICA

Introducción

Durante décadas, la desinformación política se articuló en torno a palabras: rumores, titulares falsos, documentos manipulados. Hoy, ese paisaje ha cambiado de naturaleza. La imagen y el sonido, tradicionalmente considerados pruebas privilegiadas de la realidad, se han convertido en vectores de manipulación masiva. Con la irrupción de la IA generativa, el viejo principio de “ver para creer” ya no solo es insuficiente: empieza a ser peligroso.

La aparición de cheapfakes —manipulaciones burdas pero eficaces— y deepfakes —contenidos sintéticos de alta fidelidad— no representa únicamente una mejora técnica en la falsificación audiovisual. Supone un salto cualitativo en la arquitectura de la desinformación, al desplazar el problema desde la veracidad del mensaje hacia la credibilidad del soporte. Cuando cualquier vídeo puede haber sido fabricado y cualquier grabación de voz puede haber sido clonada, el consenso sobre lo real se vuelve frágil.

Este fenómeno no se limita a episodios virales ni a campañas marginales. Afecta al corazón mismo de las democracias contemporáneas: procesos electorales, confianza institucional, legitimidad del poder y protección de la dignidad individual. Las mismas tecnologías que prometen creatividad, accesibilidad y democratización mediática introducen, simultáneamente, herramientas de manipulación asimétrica capaces de amplificar conflictos, polarizar sociedades y erosionar la noción compartida de evidencia.

El impacto de los deepfakes y cheapfakes no puede comprenderse desde una sola disciplina. Requiere articular tecnología, psicología, geopolítica, derecho y ética en un mismo marco de análisis. No se trata solo de cómo se generan estos contenidos, sino de por qué funcionan, quién se beneficia de su difusión, qué daños producen de forma diferencial y hasta qué punto las respuestas actuales —técnicas o legales— resultan insuficientes.

Este artículo aborda la manipulación por deepfakes y cheapfakes como uno de los desafíos centrales de la era de la IA generativa, estructurando el análisis en seis partes:

1. De la manipulación artesanal a la falsificación sintética: cheapfakes y deepfakes como salto de escala
2. Por qué creemos lo que vemos: psicología, sesgos y vulnerabilidad cognitiva
3. Desinformación sintética como arma estratégica: la guerra contra el consenso
4. Detectar, atribuir y regular: la carrera imposible entre tecnología y derecho
5. Violencia digital y asimetría del daño: deepfakes no consensuales y género
6. Cuando la evidencia deja de ser fiable: infocalipsis, verificación y futuro democrático

A lo largo de estas seis dimensiones se sostendrá una tesis central: el mayor riesgo de la desinformación sintética no es que convenza de una mentira concreta, sino que debilite estructuralmente la posibilidad misma de creer en algo comúnmente verificable. En ese punto, la IA deja de ser solo una herramienta tecnológica y se convierte en un factor de reconfiguración política y social profunda.

Cuando la duda ya no distingue entre lo verdadero y lo falso, sino que los coloca a ambos bajo sospecha permanente, la manipulación deja de necesitar credibilidad. Basta con sembrar incertidumbre. Ahí comienza el verdadero problema que este artículo intenta pensar.

1. De la manipulación artesanal a la falsificación sintética: cheapfakes y deepfakes como salto de escala

La desinformación audiovisual no nació con la inteligencia artificial. Mucho antes de los modelos generativos, la manipulación política ya se apoyaba en ediciones selectivas, cambios de contexto, cortes estratégicos o alteraciones de velocidad y sonido. A estas prácticas se las ha denominado cheapfakes: falsificaciones de bajo coste técnico, pero con un potencial disruptivo considerable. Su eficacia no depende de la perfección, sino de la oportunidad, la emocionalidad y la predisposición del público.

Los deepfakes, en cambio, introducen una ruptura cualitativa. No se limitan a alterar un material existente, sino que generan contenido sintético nuevo, mediante redes neuronales capaces de modelar rostros, voces y gestos con una fidelidad cada vez mayor. Tecnologías como el face-swapping, la clonación de voz o la generación completa de vídeo por modelos de difusión ya no requieren conocimientos especializados ni infraestructuras complejas. Lo que en 2017 estaba restringido a laboratorios y estudios avanzados de posproducción, en 2023 se ha integrado en aplicaciones móviles accesibles al gran público.

Esta reducción drástica de la barrera de entrada produce un efecto sistémico. La amenaza deja de ser excepcional y se vuelve masiva y cotidiana. No solo aumenta el número de contenidos manipulados, sino su velocidad de producción y distribución. La desinformación sintética ya no necesita planificación prolongada: puede reaccionar casi en tiempo real a un evento político, adaptarse a distintos públicos y circular antes de que cualquier verificación resulte efectiva. La escala, más que la sofisticación individual, se convierte en el factor decisivo.

En este contexto emerge una pregunta incómoda: ¿qué resulta más peligroso para la integridad democrática? ¿Un cheapfake burdo, fácilmente detectable pero altamente viralizable —como un político editado para parecer ebrio o agresivo—, o un deepfake sofisticado, técnicamente impecable pero de circulación más limitada —como una falsa declaración militar o institucional—? La respuesta no es intuitiva. El cheapfake explota la economía de la atención y la psicología de la indignación: su impacto reside en la rapidez y en la confirmación emocional de prejuicios existentes. El deepfake, por su parte, apunta a la infraestructura de la confianza, buscando generar decisiones reales antes de que la duda se instale.

Desde esta perspectiva, el peligro no depende únicamente del realismo del contenido, sino de su función estratégica. Los cheapfakes erosionan lentamente la reputación y polarizan el debate; los deepfakes pueden desencadenar crisis inmediatas, pero también —y aquí está el efecto más profundo— contribuyen a un clima generalizado de sospecha donde cualquier prueba audiovisual puede ser descartada como falsa. Ambos actúan de forma complementaria: uno satura, el otro desestabiliza.

Así, el salto de los cheapfakes a los deepfakes no es solo un progreso tecnológico. Es una transformación del ecosistema informativo, donde la manipulación deja de ser un acto artesanal dirigido a engañar en casos concretos y pasa a convertirse en una capacidad estructural, permanentemente disponible. En ese punto, la pregunta deja de ser cómo evitar cada falsificación y pasa a ser cómo sostener la noción misma de evidencia en un entorno donde falsificar ya no tiene coste significativo.

2. Por qué creemos lo que vemos: psicología, sesgos y vulnerabilidad cognitiva

La eficacia de los cheapfakes y deepfakes no reside únicamente en su calidad técnica, sino en cómo interactúan con la arquitectura cognitiva humana. Incluso cuando existen señales de manipulación, advertencias externas o dudas razonables, estos contenidos continúan siendo creídos, compartidos y defendidos. La pregunta relevante no es por qué fallan los mecanismos de verificación, sino por qué la creencia se activa antes que la duda.

Uno de los sesgos centrales es el sesgo de confirmación: la tendencia a aceptar con mayor facilidad la información que refuerza creencias previas y a someter a mayor escrutinio aquello que las contradice. En el contexto político, este sesgo se ve amplificado por identidades ideológicas sólidas y dinámicas de grupo. Un cheapfake burdo puede resultar suficiente si confirma una narrativa ya interiorizada; el estándar de prueba se relaja cuando el contenido “encaja”.

A este mecanismo se suma el efecto de ilusión de verdad, por el cual la repetición incrementa la percepción de veracidad. Un vídeo manipulado compartido múltiples veces, incluso acompañado de desmentidos, gana familiaridad y, con ella, credibilidad subjetiva. La falsedad no se impone por convicción racional, sino por exposición reiterada. Aquí, la economía de plataformas juega un papel decisivo: visibilidad equivale a plausibilidad.

El tercer vector es la heurística de afecto. Los contenidos audiovisuales activan emociones primarias —ira, miedo, desprecio, empatía— que preceden al análisis racional. La imagen “habla” directamente al sistema emocional, reduciendo el tiempo disponible para el pensamiento crítico. En este sentido, los deepfakes no necesitan ser perfectos: basta con que provoquen una reacción suficientemente intensa como para disparar la respuesta social antes de cualquier verificación.

A estos sesgos clásicos se añade un fenómeno más reciente, conocido como “efecto lint” (Liars in New Technology). Consiste en la tendencia a atribuir mayor credibilidad a un contenido simplemente porque parece producido con tecnología avanzada o con estética profesional. La ironía es clara: cuanto más sofisticadas son las herramientas de falsificación, más se refuerza la presunción de autenticidad. La tecnología, que históricamente fue garante de calidad, se convierte así en un aval engañoso.

Frente a este panorama, las estrategias reactivas —desmentidos, etiquetas, retirada de contenido— muestran una eficacia limitada y tardía. De ahí el creciente interés por la inoculación cognitiva (pre-bunking), un enfoque preventivo inspirado en la psicología social. En lugar de corregir una falsedad después de su difusión, el pre-bunking busca exponer a las personas, de forma anticipada, a versiones atenuadas de las técnicas de manipulación, explicando cómo operan y por qué son engañosas.

Aplicado a la desinformación audiovisual, esto implica campañas de alfabetización mediática centradas no en “qué es falso”, sino en cómo se fabrica lo falso: mostrar ejemplos de cheapfakes, explicar patrones comunes de deepfakes, normalizar la duda razonable ante vídeos emocionalmente explosivos. El objetivo no es generar escepticismo cínico, sino resiliencia cognitiva: la capacidad de pausar, contextualizar y verificar antes de reaccionar.

La paradoja es evidente. La manipulación sintética triunfa no porque la ciudadanía sea ignorante, sino porque funciona con nuestra manera natural de procesar información. Combatirla no requiere solo mejores algoritmos de detección, sino una comprensión honesta de nuestras propias limitaciones cognitivas. Mientras la imagen siga siendo interpretada como evidencia directa y la emoción preceda al juicio, los deepfakes y cheapfakes seguirán encontrando terreno fértil.

3. Desinformación sintética como arma estratégica: la guerra contra el consenso

Cuando los deepfakes y cheapfakes trascienden la esfera del engaño individual y se integran en dinámicas estatales o paraestatales, dejan de ser simples falsificaciones para convertirse en instrumentos de poder geopolítico. En este contexto, la desinformación sintética no busca convencer de una narrativa concreta, sino alterar las condiciones mismas bajo las cuales una sociedad decide, confía y actúa.

Los casos documentados y plausibles permiten identificar varios objetivos estratégicos diferenciados. El intento de deepfake atribuido a una falsa declaración del presidente ucraniano en 2022, llamando a la rendición, ilustra un uso orientado a la deslegitimación inmediata y a la confusión operacional. Aunque técnicamente imperfecto, su valor no residía en la credibilidad a largo plazo, sino en el impacto temporal: sembrar duda en un momento crítico, aunque fuese durante minutos. En otros contextos —como procesos electorales en países africanos o campañas de desinformación híbrida— se observa un uso más persistente, orientado a la polarización y la erosión gradual de la confianza institucional.

A diferencia de la propaganda clásica o de la desinformación textual, la desinformación sintética aporta ventajas estratégicas claras. Su impacto emocional es mayor, al activar directamente percepciones visuales y auditivas asociadas a la experiencia real. Su plausibilidad inicial suele ser más alta, incluso si luego es desmentida. Y, sobre todo, introduce una ambigüedad radical: permite negar la autenticidad incluso de hechos reales, proporcionando a actores maliciosos una cobertura perfecta para el “todo es falso”.

Este fenómeno conduce a lo que algunos analistas describen como el “umbral de la incredulidad”. A partir de cierto punto de saturación, la sociedad deja de reaccionar a contenidos falsos específicos y entra en un estado de escepticismo generalizado. El daño ya no se mide en personas engañadas, sino en personas que dejan de creer en cualquier evidencia audiovisual, incluidas aquellas que documentan abusos reales, crímenes o violaciones de derechos humanos. La verdad no desaparece; pierde eficacia política.

Desde esta perspectiva, la desinformación sintética funciona como una arma de destrucción del consenso. No apunta a imponer una versión alternativa del mundo, sino a fragmentar el espacio compartido donde las versiones pueden debatirse. En términos estratégicos, este efecto puede resultar incluso más valioso que la persuasión directa: una sociedad que duda de todo es más fácil de paralizar, dividir o manipular indirectamente.

La pregunta crítica es si este estado de escepticismo total constituye un efecto colateral no deseado o el objetivo último de algunas campañas. La evidencia sugiere que, en muchos casos, la generación de incertidumbre es deliberada. La desinformación sintética ofrece un equilibrio perfecto entre acción y negación: se lanza un contenido falso y, al mismo tiempo, se erosiona la capacidad colectiva para determinar si algo es verdadero. El resultado es un campo informativo permanentemente inestable.

Así, la geopolítica de los deepfakes y cheapfakes no se juega solo en el terreno de la falsedad, sino en el de la credibilidad como recurso estratégico. En este nuevo escenario de guerra híbrida, ganar no significa convencer, sino impedir que el adversario pueda volver a confiar en sus propios mecanismos de verificación. Y una vez cruzado ese umbral, reconstruir el consenso resulta mucho más difícil que destruirlo.

4. Detectar, atribuir y regular: la carrera imposible entre tecnología y derecho

Ante la expansión de la desinformación sintética, la respuesta institucional tiende a apoyarse en dos pilares: detección técnica y regulación jurídica. Sin embargo, ambos operan en un terreno inherentemente inestable. La lucha contra deepfakes y cheapfakes no es una carrera con meta, sino un proceso de adaptación permanente, donde cada avance defensivo genera incentivos para una nueva evasión ofensiva.

En el plano técnico, los métodos de detección forense han evolucionado rápidamente. Analizan inconsistencias en el parpadeo, artefactos en la iluminación, anomalías en la sincronización labial o huellas estadísticas dejadas por los modelos generativos. A ello se suman el estudio de metadatos, trazas de edición y patrones de difusión anómalos. Durante un tiempo, estas técnicas parecieron ofrecer una ventaja clara a los defensores. Esa ventaja se ha ido reduciendo.

Los generadores actuales ya se entrenan explícitamente para evadir detectores, incorporando ejemplos adversariales y refinando la naturalidad del movimiento, la voz y el contexto. El resultado es una dinámica asimétrica: detectar exige certeza elevada; falsificar solo necesita sembrar duda razonable. En este escenario, la detección perfecta es inalcanzable, y la detección “suficiente” llega, con frecuencia, demasiado tarde para evitar el daño inicial.

Desde el ámbito legal, las propuestas se mueven entre dos enfoques principales. El primero es la transparencia obligatoria: exigir el marcado de contenidos sintéticos mediante etiquetas visibles o metadatos verificables. El segundo es la tipificación penal de la difusión maliciosa de deepfakes, especialmente en contextos electorales o de daño personal grave. Ambos enfoques presentan problemas estructurales. El marcado puede ser eliminado, falsificado o ignorado; la criminalización requiere demostrar intención, autoría y jurisdicción en un entorno digital globalizado.

Además, existe un riesgo no menor: afectar usos legítimos de la tecnología. El arte, la parodia, el doblaje audiovisual, la accesibilidad o la recreación histórica utilizan técnicas similares a las del deepfake. Una regulación imprecisa puede producir un efecto disuasorio sobre la innovación y la expresión creativa, sin reducir de forma significativa la desinformación maliciosa.

Por ello, gana terreno la idea de una gobernanza multistakeholder, que reconozca la distribución real de responsabilidades. Las plataformas deben actuar como gestores de riesgos sistémicos, detectando patrones de abuso y limitando la viralización en contextos sensibles. Los desarrolladores de IA tienen la obligación de incorporar salvaguardas desde el diseño, como restricciones de uso o trazabilidad técnica. Los medios de verificación aportan contexto y análisis, aunque su capacidad de respuesta sea necesariamente limitada. Y los organismos electorales deben anticipar escenarios de ataque, no solo reaccionar a ellos.

Ningún actor, por sí solo, puede resolver el problema. Pero la fragmentación de responsabilidades tampoco puede convertirse en dilución de responsabilidad. El desafío central no es alcanzar una detección infalible ni una ley perfecta, sino construir un ecosistema donde la manipulación tenga costes reales y crecientes, incluso si no puede erradicarse por completo.

En última instancia, la carrera entre atacantes y defensores no se ganará solo con mejores algoritmos o normas más duras. Se decidirá en la capacidad de las sociedades para redefinir qué consideran prueba suficiente, cómo reaccionan ante la incertidumbre y hasta qué punto están dispuestas a proteger el espacio informativo como un bien público. El derecho y la técnica son herramientas necesarias, pero insuficientes, frente a un problema que ya ha dejado de ser exclusivamente tecnológico.

5. Violencia digital y asimetría del daño: deepfakes no consensuales y género

Aunque la atención pública suele centrarse en el impacto político de los deepfakes, existe una dimensión menos visible y, sin embargo, devastadora: su uso como herramienta de violencia digital dirigida, ejercida de forma desproporcionada contra determinados grupos. Entre ellos, las mujeres ocupan un lugar central. La tecnología no crea el daño desde cero; amplifica desigualdades preexistentes, las automatiza y las escala.

Los deepfakes pornográficos no consensuales constituyen el ejemplo más claro. Mediante técnicas de sustitución facial o generación sintética, se insertan rostros reales en material sexual explícito sin consentimiento. El objetivo no es la persuasión política ni la confusión informativa, sino el daño reputacional, psicológico y social. A diferencia de otras formas de acoso, este ataque utiliza la apariencia de evidencia visual para imponer una narrativa falsa que resulta extremadamente difícil de desmontar.

Las consecuencias para las víctimas son profundas y persistentes. A nivel psicológico, aparecen ansiedad, depresión y pérdida de control sobre la propia identidad pública. En el plano social y profesional, el daño se traduce en estigmatización, autocensura y, en algunos casos, abandono de espacios públicos o laborales. El contenido puede ser técnicamente refutable, pero el impacto emocional y social precede a cualquier desmentido y rara vez desaparece por completo.

La interseccionalidad agrava este fenómeno. Cuando la víctima es, además de mujer, una persona racializada, una periodista, una activista o una figura política disidente, el deepfake se convierte en un instrumento de silenciamiento. El ataque no busca solo humillar, sino deslegitimar su voz pública, erosionar su autoridad y desalentar su participación. La tecnología permite ejecutar este castigo de forma barata, anónima y repetible.

Frente a esta realidad, las respuestas legales actuales resultan, en muchos países, fragmentarias o ineficaces. La dificultad para identificar a los responsables, la lentitud judicial y la falta de tipificaciones específicas dejan a las víctimas en una situación de indefensión prolongada. Incluso cuando existen marcos legales, estos suelen actuar después del daño, sin mecanismos ágiles de retirada ni reparación inmediata.

Un protocolo integral de respuesta debería operar en varios niveles simultáneos. En primer lugar, retirada rápida y prioritaria del contenido, independientemente de debates sobre intención artística o paródica cuando hay daño evidente. En segundo lugar, soporte psicosocial especializado, reconociendo que se trata de una forma de violencia, no de un simple conflicto digital. En tercer lugar, cooperación judicial y transnacional, para evitar que la deslocalización tecnológica funcione como refugio de impunidad. Y, por último, responsabilidad de plataformas y desarrolladores, incorporando mecanismos preventivos claros para este tipo de abuso.

Esta dimensión del problema revela una verdad incómoda: la desinformación sintética no afecta a todos por igual. Algunos colectivos cargan con un coste humano mucho mayor, mientras el debate público permanece enmarcado en términos abstractos de libertad de expresión o innovación tecnológica. Ignorar esta asimetría implica aceptar, de facto, que ciertos daños son tolerables.

En este punto, la discusión sobre deepfakes deja de ser exclusivamente política o técnica y se convierte en una cuestión de dignidad y derechos fundamentales. La capacidad de manipular imágenes no solo pone en riesgo la verdad colectiva; también amenaza el control individual sobre la propia identidad. Y cuando una tecnología facilita la violencia sin contacto ni testigos, la neutralidad deja de ser una posición sostenible.

6. Cuando la evidencia deja de ser fiable: infocalipsis, verificación y futuro democrático

La proliferación de deepfakes y cheapfakes plantea un escenario que va más allá de la desinformación puntual. Algunos autores lo han descrito como “infocalipsis” o crisis de la realidad: un punto en el que la distinción entre lo auténtico y lo sintético se vuelve tan costosa, lenta o ambigua que deja de operar como base funcional del discurso público. En este contexto, el problema no es solo la mentira, sino la pérdida de la evidencia como referencia compartida.

El impacto de este fenómeno sería especialmente grave en ámbitos donde la prueba audiovisual ha desempeñado un papel central: periodismo de investigación, procesos judiciales, rendición de cuentas políticas o documentación de violaciones de derechos humanos. Cuando un vídeo puede ser descartado automáticamente como falso —aunque sea real—, se produce una inversión perversa: la falsificación no necesita imponerse; basta con generar duda suficiente para neutralizar la verdad.

Ante esta amenaza, surgen propuestas tecnológicas radicales orientadas a restaurar la confianza en el origen de la información. Una de ellas es el “origen críptico”, que consiste en incrustar certificados digitales verificables en imágenes, vídeos o audios desde el momento de su creación. En teoría, este sistema permitiría trazar la cadena de custodia del contenido y diferenciar material auténtico de manipulaciones posteriores. Técnicamente, estos enfoques son viables y ya se exploran en iniciativas industriales y periodísticas.

Otra línea apunta a la verificación por consenso distribuido, donde múltiples actores independientes —medios, organizaciones civiles, instituciones— validan colectivamente la autenticidad de un contenido. Este modelo reconoce que ninguna autoridad única puede monopolizar la verdad, pero también introduce nuevos riesgos: concentración de poder de certificación, exclusión de voces marginales o uso político de los mecanismos de validación.

Ambas soluciones comparten una paradoja. Para proteger la confianza, incrementan la necesidad de infraestructuras de verificación, lo que puede derivar en nuevas formas de control, vigilancia o dependencia tecnológica. El remedio frente a la falsificación podría generar, si no se diseña con cuidado, sistemas menos transparentes o más centralizados que el problema original.

En este horizonte, la pregunta clave no es solo tecnológica. ¿Nos dirigimos hacia una era “post-verdad”, donde la autenticidad factual pierde relevancia frente a narrativas emocionales? ¿O hacia una era de hiper-verificación, donde ninguna afirmación será aceptada sin certificación técnica y aval institucional? Probablemente, el futuro combine ambas tendencias: escepticismo generalizado para unos, verificación estricta para otros, profundizando brechas de acceso y confianza.

Navegar este escenario exigirá nuevas habilidades cívicas y literacias digitales. No bastará con saber usar tecnología; será necesario comprender sus límites, reconocer patrones de manipulación, tolerar la incertidumbre sin caer en el cinismo y exigir mecanismos de rendición de cuentas sin delegar completamente el juicio crítico. La ciudadanía del futuro no será solo informada, sino epistémicamente competente.

En última instancia, el desafío de la desinformación sintética no consiste únicamente en proteger la verdad, sino en preservar las condiciones sociales que hacen posible buscarla colectivamente. Si la evidencia deja de ser creíble y la confianza se fragmenta, la democracia pierde uno de sus pilares fundamentales. Frente a este riesgo, la cuestión decisiva no es si la IA puede generar falsificaciones perfectas, sino si las sociedades serán capaces de reconstruir un pacto de verificación que mantenga viva la posibilidad de un mundo compartido.

Conclusión

A lo largo de este artículo hemos examinado la manipulación por cheapfakes y deepfakes no como un fenómeno anecdótico ni como una simple deriva tecnológica, sino como un desafío estructural para la integridad de las democracias contemporáneas. La IA generativa no ha creado la desinformación, pero ha modificado de manera radical su escala, su velocidad y, sobre todo, su relación con la evidencia.

Hemos visto que la amenaza no reside únicamente en la sofisticación de los deepfakes, sino en su articulación estratégica con manipulaciones más simples, psicológicamente eficaces y fácilmente viralizables. La desinformación sintética opera tanto a nivel emocional como cognitivo, explotando sesgos humanos conocidos y debilitando los mecanismos de juicio crítico antes de que cualquier verificación pueda activarse.

En el plano geopolítico, estas tecnologías funcionan como armas de erosión del consenso, más orientadas a generar incertidumbre permanente que a imponer narrativas concretas. Cuando la duda se convierte en el estado por defecto, la verdad pierde capacidad de movilización política y la rendición de cuentas se vuelve frágil. Este efecto se amplifica cuando la desinformación no solo engaña, sino que habilita la negación sistemática de hechos reales.

La carrera entre detección técnica y regulación jurídica demuestra sus límites con claridad. No existen soluciones definitivas, solo equilibrios inestables entre innovación, libertad de expresión y protección del espacio informativo. Al mismo tiempo, el análisis de los deepfakes no consensuales pone de relieve una dimensión ética ineludible: el daño no se distribuye de forma homogénea. La desinformación sintética puede convertirse en una forma automatizada de violencia, especialmente contra mujeres y colectivos vulnerables, erosionando derechos fundamentales bajo apariencia tecnológica.

Finalmente, el horizonte de la “infocalipsis” nos confronta con una pregunta decisiva. Si la evidencia deja de ser fiable y la autenticidad se vuelve negociable, ¿qué tipo de esfera pública es posible? Las respuestas tecnológicas —certificación de origen, verificación distribuida— ofrecen vías necesarias pero insuficientes. Sin competencia cívica, alfabetización mediática y responsabilidad institucional, ninguna infraestructura técnica podrá sostener la confianza colectiva.

El verdadero riesgo de la desinformación sintética no es que nos haga creer mentiras aisladas, sino que nos acostumbre a vivir sin criterios compartidos de verdad. Frente a ese escenario, la defensa de la democracia no pasa solo por regular algoritmos o perfeccionar detectores, sino por reconstruir un pacto social sobre la verificación, la evidencia y la dignidad informativa. En ese terreno, la tecnología influye, pero la decisión última sigue siendo política y cultural.

Ahí se juega, en última instancia, la diferencia entre una sociedad manipulable por imágenes y otra capaz de mirarlas con distancia crítica sin renunciar a la realidad que pretende comprender.