Alfabetización moral digital para la detección de deepfakes y fakes audiovisuales

  1. Padilla Castillo, Graciela 1
  2. García Guardia, María Luisa 1
  3. Cerdán Martínez, Víctor 1
  1. 1 Universidad Complutense de Madrid
    info

    Universidad Complutense de Madrid

    Madrid, España

    ROR 02p0gd045

Revista:
CIC: Cuadernos de información y comunicación

ISSN: 1135-7991,  1988-4001

Año de publicación: 2020

Título del ejemplar: Sentido y simulación en la comunicación mediática. Wenceslao Castañares in memoriam

Número: 25

Páginas: 165-181

Tipo: Artículo

DOI: 10.5209/CIYC.68762 DIALNET GOOGLE SCHOLAR lock_openAcceso abierto editor

Otras publicaciones en: CIC: Cuadernos de información y comunicación

Resumen

Los deepfakes son vídeos manipulados donde se suplanta la cara de una persona por la de otra a través de Inteligencia Artificial. Estos contenidos fotorrealistas pueden convertirse en armas de acoso, propaganda o conflicto social. Esta investigación de innovación teórica ahonda en la incipiente literatura científica sobre el deepfake en Ciencias Sociales, poniendo sus bases en los trabajos de Wenceslao Castañares. Sus objetivos son analizar el fenómeno, buscar herramientas para detectarlo y combatirlo, e inaugurar una nueva vía de alfabetización moral digital de especial interés en el campo de la comunicación, por su importancia social y política. Se emplea una metodología diacrónica en dos pasos. En primer lugar, se realiza una investigación bibliográfica longitudinal y se ofrece una descripción histórica, sistémica y descriptiva, con los rasgos más importantes del fenómeno, naturaleza, funcionamiento y posibles usos. En segundo lugar, se realiza una observación científica consciente de más de medio centenar de vídeos deepfake, para percibir el fenómeno, conseguir una mayor generalización y garantizar la validez de los resultados. Los resultados muestran que aunque se han creado softwares de detección de este tipo de fakes, aún no son de acceso libre y gratuito. La única manera de reconocer el deepfake es a través de una educación moral digital, que pueda detectar una serie de parámetros visuales hiperrealistas: frecuencia del parpadeo, efecto intermitente de las caras o transiciones entre cabeza y cuello.

Referencias bibliográficas

  • Abril Curto, G. (2010). Cultura visual y espacio público-político. CIC. Cuadernos De Información Y Comunicación, 15, 21-36. Recuperado de https://revistas.ucm.es/index.php/CIYC/article/view/CIYC1010110021A
  • Abril Hernández, A. (2014). Narrativas transmediáticas en entornos digitales: la novela hipermedia Inanimate Alice y sus aplicaciones docentes. CIC. Cuadernos De Información Y Comunicación, 19, 287-301. https://doi.org/10.5209/rev_CIYC.2014.v19.43916
  • Adorjan, M. y Ricciardelli, R. (2019). Student perspectives towards school responses to cyber-risk and safety: the presumption of the prudent digital citizen. Learning, Media and Technology, 44(4), 430-442. https://doi.org/10.1080/17439884.2019.1583671
  • Aladro Vico, E. (2007). Metáforas e iconos para transmitir información. CIC. Cuadernos De Información Y Comunicación, 12, 49-57. Recuperado de https://revistas.ucm.es/index.php/CIYC/article/view/CIYC0707110049A
  • Aladro Vico, E. (2017). El lenguaje digital, una gramática generativa. CIC. Cuadernos De Información Y Comunicación, 22, 79-94. https://doi.org/10.5209/CIYC.55968
  • Aladro Vico, E. Jivkova-Semova, D y Bailey, O. (2018). Artivismo: Un nuevo lenguaje educativo para la acción social transformadora. Comunicar: Revista científica iberoamericana de comunicación y educación. 57, 9-18. https://doi.org/10.3916/C57-2018-01
  • Aparicio, E. (2015). Los medios de comunicación en la violencia contra las mujeres: el paradigma de la delgadez. Historia y comunicación social, 20(1), 107-119. https://doi.org/10.5209/rev_HICS.2015.v20.n1.49550
  • Arroyo, I. y Calle, S. (2018). Los community managers de las ONGD. Estudio de percepciones y usos de las redes sociales. Icono 14, 16(2), 121-142. https://doi.org/10.7195/ri14.v16i2.1189
  • Ashton, S., McDonald, K. y Kirkman, M. (2019). What does ‘pornography’ mean in the digital age? Revisiting a definition for social science researchers. Porn Studies, 6(2), 144-168. https://doi.org/10.1080/23268743.2018.1544096
  • Askham, G. (2018, 3 de mayo). Qué son los deepfakes y por qué se están convirtiendo en el nuevo porno de la venganza. BBC News. Recuperado de https://www.bbc.com/mundo/noticias-43975322
  • Bakir, V. y McStay, A. (2018). Fake News and The Economy of Emotions. Problems, causes, solutions. Digital Journalism, 6(2), 154-175. https://doi.org/10.1080/21670811.2017.1345645
  • Beamonte, P. (2018, 25 de enero). FakeApp, el programa de moda para crear vídeos porno falsos con IA. Hipertextual. Recuperado de https://hipertextual.com/2018/01/fakeapp-videos-porno-falsos-ia
  • Berlanga, I. y Sánchez, M. (2018). Ética y tratamiento de la información en los relatos periodísticos de corrupción. Historia y comunicación social, 23(2), 477-488. https://doi.org/10.5209/HICS.62269
  • Bernárdez, A. y Padilla, G. (2018). Mujeres cineastas y mujeres representadas en el cine comercial español (2001-2016). Revista Latina de Comunicación Social, 73, 1247-1266. DOI: 10.4185/RLCS-2018-1305
  • Bernárdez, A. y Serrano, M. (2018). Lo personal es político: un bebé en la sesión de constitución de las Cortes Generales. El tratamiento televisivo del caso de Carolina Bescansa y su hijo. Vivat Academia. Revista de Comunicación, 142, 79-96. http://doi.org/10.15178/va.2018.142.79-96
  • Cáceres, M. D., Brändle, G. y Ruiz San Román, J. A. (2017). Sociabilidad virtual: la interacción social en el ecosistema digital. Historia y comunicación social, 22(1), 233-247. https://doi.org/10.5209/HICS.55910
  • Castañares, W. (1994). De la interpretación a la lectura. Madrid. Iberediciones.
  • Castañares, W. (1995). Géneros realistas en televisión: los reality shows. CIC. Cuadernos De Información Y Comunicación, 1, 79-91. Recuperado de https://revistas.ucm.es/index.php/CIYC/article/view/CIYC9595110079A
  • Castañares, W., Núñez, F. y González, J.L. (1996). La sensibilidad moral: impresiones y testimonios de nuestro tiempo. Madrid. Nóesis.
  • Castañares, W. (1997). La Televisión y sus géneros: ¿una teoría imposible? CIC. Cuadernos De Información Y Comunicación, 3, 167-180. Recuperado de https://revistas.ucm.es/index.php/CIYC/article/view/CIYC9797110167A
  • Castañares, W. (2007a). La televisión moralista: valores y sentimientos en el discurso televisivo. Madrid. Fragua.
  • Castañares, W. (2007b). Cultura visual y crisis de la experiencia. CIC. Cuadernos De Información Y Comunicación, 12, 29-48. Recuperado de https://revistas.ucm.es/index.php/CIYC/article/view/CIYC0707110029A
  • Castañares, W. (2011). Realidad virtual, mímesis y simulación. CIC. Cuadernos De Información Y Comunicación, 16, 59-81. https://doi.org/10.5209/rev_CIYC.2011.v16.3
  • Catalina-García, B., García, A. y Montes, M. (2015). Jóvenes y consumo de noticias a través de Internet y los medios sociales. Historia y comunicación social, 20(2), 603-621. https://doi.org/10.5209/rev_HICS.2015.v20.n2.51402
  • Cerdán Martínez, V. y Villa, D. (2019). Creación de un formato de concienciación social para la televisión pública española «Héroes Invisibles». Revista Latina de Comunicación Social, 74(13), 1565-1579. DOI: 10.4185/RLCS-2019-1399-82
  • Cerdán Martínez, V. y Padilla Castillo, G. (2019). Historia del "fake" audiovisual: "deepfake" y la mujer en un imaginario falsificado y perverso. Historia Y Comunicación Social, 24(2), 505-520. https://doi.org/10.5209/hics.66293
  • Cole, S. (2017, 11 de diciembre). AI-Assisted Fake Porn Is Here and We’re All Fucked. Vice. Recuperado de https://motherboard.vice.com/en_us/article/gydydm/gal-gadot-fake-ai-porn
  • Ehrenkranz, M. (2018, 16 de junio). Hay un truco infalible para detectar si un vídeo ha sido manipulado por una IA Deep Fake: fíjate en los ojos. Gizmodo. Recuperado de https://bit.ly/2Y7iuRd
  • El País (2018, 15 de noviembre). Estas aplicaciones te ayudan a detectar imágenes y vídeos falsos desde tu móvil. Recuperado de https://bit.ly/2zl1CwU
  • Fake News Detector (2018). Recuperado de https://bit.ly/2Y86oY5
  • Farkas, J. y Schou, J. (2018). Fake News as a Floating Signifier: Hegemony, Antagonism and the Politics of Falsehood. Javnost - The Public. Journal of the European Institute for Communication and Culture, 25(3), 298-314. https://doi.org/10.1080/13183222.2018.1463047
  • Filloux, F. (2016, 5 de diciembre). Facebook’s Walled Wonderland Is Inherently Incompatible with News. Monday Note. Recuperado de https://mondaynote.com/facebooks-walled-wonderland-is-inherently-incompatible-with-news-media-b145e2d0078c#.v0txzx82e
  • Foladori, G. y García, M. (2017). El papel de la experiencia histórica y la confianza en la comunicación de tecnologías emergentes: el caso de las nanotecnologías. Historia y comunicación social, 22(1), 221-230. https://doi.org/10.5209/HICS.55909
  • Fouce, H., Pecourt, J., & Pedro-Carañana, J. (2018). El conocimiento en la universidad como problema público. Condiciones de producción en la comunicación y las ciencias sociales. CIC. Cuadernos De Información Y Comunicación, 23, 9-23.
  • https://doi.org/10.5209/CIYC.60909
  • Galiana, P. (2019, 10 de mayo). ¿Qué son los Deepfakes y cómo detectarlos? IEBS. Recuperado de https://bit.ly/2wcpXmA
  • Govaert, C., Lagerwerf, L. y Klemm, C. (2019). Deceptive Journalism: Characteristics of Untrustworthy News Items. Journalism Practice. https://doi.org/10.1080/17512786.2019.1637768
  • Guera, D. y Delp, E. (2018). Deepfake Video Detection Using Recurrent Neural Networks. Conference: 2018 15th IEEE International Conference on Advanced Video and Signal Based Surveillance (AVSS). DOI: 1-6. 10.1109/AVSS.2018.8639163.
  • Haigh, M., Haigh, T. y Kozak, N. I. (2018). Stopping Fake News. The work practices of peer-to-peer counter propaganda. Journalism Studies, 19(4), 2062-2087. https://doi.org/10.1080/1461670X.2017.1316681
  • Ireri, K., Chege, N., Kibarabara, J. y Onyalla, D. B. (2019). Frame Analysis: Newspaper Coverage of Kenya's Oil Exploration in the Post-2012 Discovery Era. African Journalism Studies, 40(2), 34-50. https://doi.org/10.1080/23743670.2019.1635035
  • Jivkova, D.; Requeijo, P. y Padilla, G. (2017). Usos y tendencias de Twitter en la campaña a elecciones generales españolas del 20D de 2015: hashtags que fueron trending topic”. El profesional de la información, 26(5), 824-837. https://doi.org/10.3145/epi.2017.sep.05
  • Knight, W. (2019, 21 de junio). A new deepfake detection tool should keep world leaders safe—for now. Technology review. Recuperado de https://bit.ly/2M3kqYA
  • Koopman, M., Macarulla Rodriguez, A. M. y Geradts, Z. (2018). Detection of Deepfake Video Manipulation. Proceedings of the 20th Irish Machine Vision and Image Processing conference IMVIP 2018, 133-136. Recuperado de https://www.researchgate.net/publication/329814168_Detection_of_Deepfake_Video_Manipulation.
  • Li, Y., Chang, M. C. y Lyu, S (2018). In ictu oculi: Exposing ai generated fake face videos by detecting eye blinking. IEEE International Workshop on Information Forensics and Security (WIFS). Recuperado de https://bit.ly/2S0oppv
  • Li, Y. y Siwei, L. (2018). Exposing DeepFake Videos By Detecting Face Warping Artifacts. New York: Computer Vision Foundation.
  • Linvill, D. L. (2019). Addressing social media dangers within and beyond the college campus. Communication Education, 68(3), 371-380. https://doi.org/10.1080/03634523.2019.1607885
  • Lucić, M., Baćak, V. y Štulhofer, A. (2019). The role of peer networks in adolescent pornography use and sexting in Croatia. Journal of Children and Media, 14(1), 110-127. https://doi.org/10.1080/17482798.2019.1637356
  • Lyu, S. (2018, 31 de agosto). The best defense against deepfake AI might be… blinking. Fast Company. Recuperado de https://bit.ly/2N78iqv
  • Maeve, D. (2013, 3 de julio). 6% of Online Adults are reddit Users. Pew Research Center. Recuperado de https://www.pewinternet.org/2013/07/03/6-of-online-adults-are-reddit-users
  • Márquez, I. (2017). Del muro a la pantalla: el graffiti en la cibercultura. CIC. Cuadernos De Información Y Comunicación, 22, 95-106. https://doi.org/10.5209/CIYC.55969
  • Márquez, I. y Tosca, S. (2017). Playing with the city: street art and videogames. Arte, Individuo y Sociedad, 29(1), 105-120. http://dx.doi.org/10.5209/ARIS.51892
  • Márquez, I. y Ardèvol, E. (2018). Hegemonía y contrahegemonía en el fenómeno youtuber. Desacatos: Revista de Ciencias Sociales, 56, 34-49.
  • Matsakis, L. (2018, 14 de febrero). Artificial intelligence is now fighting fake porn. Wired. Recuperado de https://www.wired.com/story/gfycat-artificial-intelligence-deepfakes/
  • Merino, M. (2019, 3 de febrero). Así es posible saber si un vídeo es un deepfake con sólo un abrir y cerrar de ojos, literalmente. Xataka. Recuperado de https://bit.ly/2BlE4J3
  • Ossorio, M. A. (2018, 30 de agosto). DARPA ha encontrado la forma de detectar Deepfakes: la clave está en los ojos. Media Tics. Recuperado de https://bit.ly/2Lzfrj2
  • Padilla Castillo, G. y Presol Herrero, África. (2020). Ética y deontología en publicidad. Nike ’Dream Crazier’ 2019 como campaña feminista en Instagram. Comunicación Y Género, 3(1), 3-15. https://doi.org/10.5209/cgen.63975
  • Pardo, L. (2018, 26 de enero). FakeApp: 200 fotos tuyas son suficientes para incluir tu rostro en cualquier vídeo. NeoTeo. Recuperado de https://www.neoteo.com/fakeapp-200-fotos-tuyas-suficientes-incluir-rostro-cualquier-video/
  • Plaut, S. y Klein, P. (2019). “Fixing” the Journalist-Fixer Relationship: A Critical Look Towards Developing Best Practices in Global Reporting. Journalism Studies, 20(12), 1696-1713. https://doi.org/10.1080/1461670X.2019.1638292
  • Rice, L. L. y Moffett, K. W. (2019). Snapchat and civic engagement among college students. Journal of Information Technology & Politics, 16(2), 87-104. https://doi.org/10.1080/19331681.2019.1574249
  • Saeed, A. (2019, 25 de junio). Deep Fake Detection Software Can Work as Game Changer for Authenticity. Digital information world. Recuperado de https://bit.ly/2Y875k9
  • Said-Hung, E., Arcila-Calderón, C. y Méndez-Barraza, J. (2011). Desarrollo de los cibermedios en Colombia. El profesional de la información, 2011, 20(1), 47-53. DOI: 10.3145/epi.2011.ene.06
  • Said-Hung, E., Serrano-Tellería, A., García de Torres, E., Yezers’ka, L. y Calderín, M. S. (2013). La gestión de los Social Media en los medios informativos iberoamericanos. Communication & Society, 26(1), 67‐92. Recuperado de https://dadun.unav.edu/bitstream/10171/35436/1/20130425132044.pdf
  • Setty, E. (2019). ‘Confident’ and ‘hot’ or ‘desperate’ and ‘cowardly’? Meanings of young men’s sexting practices in youth sexting culture. Journal of Youth Studies. https://doi.org/10.1080/13676261.2019.1635681
  • Silverman, C. y Alexander, L. (2016, 4 de noviembre). How Teens in the Balkans are Duping Trump Supporters with Fake News. Buzzfeed News. Recuperado de https://www.buzzfeed.com/craigsilverman/how-macedonia-became-a-global-hub-for-pro-trump-misinfo?utm_term=.ebrpdWyymW#.ijbg9Q44YQ
  • Soon, C. y How Tan, T. (2017). The media freedom-credibility paradox. Media Asia, 43(3-4), 176-190. https://doi.org/10.1080/01296612.2016.1276315
  • Stover, D. (2018). Garlin Gilchrist: Fighting fake news and the information apocalypse. Bulletin of the Atomic Scientists, 74(4), 283-288. https://doi.org/10.1080/00963402.2018.1486618
  • Tic Beat (2018, 14 de octubre). 5 herramientas para ayudarnos a detectar ‘fake news’. Tic Beat. Recuperado de https://bit.ly/2THd6Go
  • Túñez, M. y Martínez, Y. (2018). Impacto de las editoriales y las revistas "depredadoras" en el área de Comunicación. Historia y comunicación social, 23(2), 439-458. https://doi.org/10.5209/HICS.62267
  • Van Heekeren, M. (2019). The Curative Effect of Social Media on Fake News: A Historical Re-evaluation. Journalism Studies, 21(3), 306-318. https://doi.org/10.1080/1461670X.2019.1642136
  • Vincent, J. (2019, 27 de junio). Deepfake detection algorithms will never be enough. Spotting fakes is just the start of a much bigger battle. The Verge. Recuperado de https://bit.ly/2Xidj0o
  • Weber, K. (2018, 8 de noviembre). 8 steps to verify Deep Fake videos. Medium Corporation. Recuperado de https://bit.ly/32HxFEd
  • YouTube (2019). Creating deepfakes live. Enter to win your own deepfake video! Dan It All. Recuperado de https://bit.ly/2y1ppkj
Fuente de los datos: Dialnet