Deepfakes: Nuevo obstáculo para la democracia

En un contexto de desinformación, la inteligencia artificial puede desempeñar un contundente rol perjudicial en la toma de decisiones y en la estabilidad de los Estados. Andrea Harris Heredia analiza el impacto que puede tener la tecnología de los deepfakes en las democracias.

Hace unos meses se hizo viral en redes sociales una fotografía del papa Francisco portando una chamarra estilo puffer, blanca, larga y voluminosa, sobre su clásica vestimenta papal. La fotografía, que se hizo viral en Twitter en cuestión de minutos, llevó a la publicación de diversos artículos en medios digitales que desmintieron su autenticidad.¹

La fotografía resultó ser producto del uso de la inteligencia artificial y se cataloga como un deepfake, consistente en imágenes y videos que son alterados a través del uso de machine learning, de una manera convincente, para tergiversar que alguien está haciendo o diciendo algo que en realidad no se hizo o dijo.²

Lo anterior no es completamente novedoso, pues la manipulación de medios visuales ha existido desde mediados del siglo XIX.³ No obstante, lo que distingue un deepfake de esas primeras manipulaciones es que esta tecnología se ha desarrollado y popularizado en un contexto en el que la difusión de desinformación a través de redes sociales es una problemática que ha afectado a diversas sociedades alrededor del mundo. 

A pesar de que el deepfake del papa Francisco no causó más que risas y confusión, e inclusive indignación, la realidad es que el uso de este tipo de tecnología puede representar un riesgo para la democracia, la seguridad nacional, las relaciones diplomáticas, entre otras instituciones. 

En marzo de este año comenzó a circular un video en el que el presidente de Ucrania, Volodymyr Zelenskyy, pedía a los ciudadanos de su país que entregaran sus armas y dejaran de luchar contra los soldados rusos.⁴ Poco después de su publicación, el video fue desacreditado por el mismo Zelenskyy y removido de las principales redes sociales.⁵ No obstante, lo anterior demuestra que el uso de los deepfakes puede ir mucho más allá de la creación de imágenes chistosas, ya que tiene el potencial de incurrir en la estabilidad nacional e internacional. 

Como se ha señalado, la democracia es especialmente vulnerable a la difusión de información falsa.⁶ La Comisión Europea considera que la desinformación menoscaba la confianza de la población en las instituciones y daña la democracia al obstaculizar la capacidad de los ciudadanos para tomar decisiones informadas.⁷ La creciente popularidad de los deepfakes representa, entonces, un riesgo aún mayor para la misma, pues no sólo estamos hablando de tuits o artículos con contenido falso, sino también de fotografías y videos que tienen el potencial de representar a figuras públicas de altos rangos diciendo o haciendo algo que realmente no sucedió. 

De acuerdo con el académico Mark E. Warren, la sola existencia de ciertas instituciones en una sociedad determinada es insuficiente para considerar que se trata de una sociedad democrática, pues deben existir las siguientes funciones democráticas centrales:⁸ la inclusión empoderada, que consiste en que la persona potencialmente afectada por una decisión colectiva participe en su formulación; la formación de una agenda colectiva y de la voluntad, consistente en que las preferencias, los intereses y los valores de individuos y grupos se consideren en las agendas y en las voluntades colectivas; y, finalmente, la toma de decisiones colectivas. Warren identifica diversas acciones sociales que contribuyen a las funciones democráticas mencionadas, entre las que está la deliberación.⁹

La postura anterior se vincula con la justificación epistémica de la democracia conocida como democracia deliberativa, consistente en que las normas y las medidas políticas son democráticamente legítimas si y sólo si resultan de la deliberación pública entre ciudadanos y representantes y están justificadas en aquellas razones públicas que resultan aceptables para los deliberantes.¹⁰

De acuerdo con Warren, la acción social de deliberación es de especial importancia ya que aporta a las tres funciones democráticas centrales.¹¹ Esto se debe, en primer lugar, a que a través del intercambio de ideas basado en hechos, la lógica y la consideración de argumentos ajenos, la deliberación permite que las personas formen posturas políticas. En segundo lugar, la deliberación fomenta el respeto mutuo entre ciudadanos, ya que promueve el reconocimiento de los demás como agentes autónomos capaces de contribuir al discurso político. Finalmente, la deliberación promueve un proceso político inclusivo e igualitario. 

La confianza es un elemento clave para la eficiencia de la toma de decisiones colectivas. En el contexto de la deliberación, la confianza se da desde dos perspectivas: la confianza informativa, que recae sobre lo que uno ve y escucha, y la confianza social, que recae sobre nuestros conciudadanos y nuestras instituciones. Lo anterior se fundamenta en la teoría de la elección racional, pues al confiar en la información y en las personas que nos rodean, podemos esperar un mayor beneficio a través de la cooperación.¹²

En consideración de lo anterior, el uso de deepfakes en un contexto electoral resulta preocupante, pues afecta tanto la confianza informativa como la social. Esto se debe a que la incertidumbre respecto de la veracidad de los hechos sobre los cuales los ciudadanos forman sus opiniones y sus argumentos genera desconfianza en el seno de las sociedades democráticas y, así, en la democracia misma. Al poner en duda la sustancia del discurso colectivo, es decir, los hechos considerados por los ciudadanos, la deliberación ya no aporta a las funciones democráticas centrales, sino que, en el mejor de los casos, el diálogo se estanca en determinar la veracidad de diversas afirmaciones fácticas,¹³ y, en el peor de los casos, se procede a la toma de decisiones basada en información falsa.

Sobre cómo enfrentar la presente problemática, por un lado, existe la posibilidad de crear tecnología que nos permita identificar los casos en que estamos ante imágenes o videos falsos. No obstante, de acuerdo con expertos, nos encontramos a décadas de poder contar con tecnología forense que detecte una imagen real de una falsa de manera concluyente.¹⁴ Por otro lado, se tiene la opción de regular los deepfakes. Sin embargo, esto conlleva diversos riesgos en materia del derecho a la libertad de expresión que se tienen que considerar de conformidad con los estándares internacionales aplicables. 

Si bien el uso de la inteligencia artificial ha demostrado brindar beneficios significativos al simplificar procesos, sus desventajas no pueden pasar inadvertidas y corresponde a todos —ciudadanos, sector público y sector privado— estar conscientes de ello y encontrar soluciones para que el desarrollo tecnológico juegue a favor de nuestras vidas y nuestras instituciones.

1. L. E. Morales (2023, 26 marzo), “Papa Francisco se vuelve viral por usar una chamarra puffer blanca: ¿era real?”, El Heraldo de México, en https://heraldodemexico.com.mx/tendencias/2023/3/26/papa-francisco-se-vuelve-viral-por-usar-una-chamarra-puffer-blanca-era-real-492480.html[↩]
2. Definición de deepfake (2023), Merriam-Webster Dictionary, en https://www.merriam-webster.com/dictionary/deepfake[↩]
3. History of Photo Editing and Photo Manipulation (s. f.), FixThePhoto.com, en https://fixthephoto.com/blog/retouch-tips/history-of-photo-retouching.html.[↩]
4. The Telegraph (2022, 17 marzo), Deepfake Video of Volodymyr Zelensky Surrendering Surfaces on Social Media , YouTube, en https://www.youtube.com/watch?v=X17yrEV5sl4[↩]
5. M. Modoono (2022), “Deepfakes and Fake News Pose a Growing Threat to Democracy, Experts Warn”, Northeastern Global News, en https://news.northeastern.edu/2022/04/01/deepfakes-fake-news-threat-democracy/.[↩]
6. C. Colomina, (2021), “The Impact of Disinformation on Democratic Processes and Human Rights in the World”, European Parliament, en https://www.europarl.europa.eu/RegData/etudes/STUD/2021/653635/EXPO_STU(2021)653635_EN.pdf.[↩]
7. Tackling Online Disinformation (2023, 2 junio), European Comission, en https://digital-strategy.ec.europa.eu/en/policies/online-disinformation.[↩]
8. M. Pawelec (2022), “Deepfakes and Democracy (Theory): How Synthetic Audio-Visual Media for Disinformation and Hate Speech Threaten Core Democratic Functions”, Digital Society, 1(2), en https://doi.org/10.1007/s44206-022-00010-6.[↩]
9. Warren, M., et al. (2012), “A Systematic Approach to Deliberative Democracy”, Deliberative Systems. Cambridge University Press, Cambridge.[↩]
10. N. M. Olivares (2015), “Democracia deliberativa: una justificación sustantiva mixta”, Revista de la Facultad de Derecho de la Universidad de Córdoba, en https://ri.conicet.gov.ar/bitstream/handle/11336/70579/CONICET_Digital_Nro.063acec3-4f7f-409c-a86a-5a8e7577cff5_A.pdf?sequence=2#:~:text=La%20democracia%20deliberativa%20postula%20que,argumentos%20de%20todos%20los%20posibles.[↩]
11. M. Pawelec, op. cit.[↩]
12. O. Lagerspetz (2012), “Trust”, Encyclopedia of Applied Ethics, 2ª ed., Elsevier, en https://www.sciencedirect.com/topics/neuroscience/rational-choice-theory#:~:text=In%20rational%20choice%20theory%2C%20the,in%20a%20situation%20of%20uncertainty.[↩]
13. R. Chesney y D. K. Citron (2018), “Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security”, Social Science Research Network, en https://doi.org/10.2139/ssrn.3213954.[↩]
14. Idem.[↩]