Deepfake, cinismo y diversión en la crueldad: Un caso de colegiales y pornografía en Ecuador

Autores/as

DOI:

https://doi.org/10.32719/26312514.2025.11.2

Palabras clave:

deepfake, inteligencia artificial, cinismo, pornografía, tecnología, comunicación, educación

Resumen

Los debates sobre la inteligencia artificial (IA) generativa han cobrado fuerza. Sus usos expandidos provocaron asombro y  también conmoción al ver cómo derivaron en acciones que afectan la concepción de la realidad. El deepfake es una tecnología que crea videos, imágenes o audios falsos mediante algoritmos de aprendizaje profundo que —al conjugarse con lógicas del  cinismo y la crueldad hacia otros— amenazan la integridad y la verdad. El objetivo del artículo es debatir críticamente los usos  instrumentales de la IA para crear contenidos visuales manipulados y pornográficos. La metodología tiene carácter cualitativo,  mediante revisión bibliográfica y documental, entrevistas y un análisis de caso: unos jóvenes crearon más de 700 fotos y videos  falsos, con rostros de mujeres de distintas edades, estudiantes de un colegio de Quito. El artículo debate cómo se relacionan la tecnología, las juventudes, la pornografía, la lógica del cinismo y la formación de redes y enjambres digitales, así como la  necesidad de políticas públicas en el campo educativo ante los “ultrafalsos”. 

Descargas

Referencias

Andino Veloz, Byron, y Eduardo Andino Espinoza. 2022. “Imaginarios desde la distopía: Política, tecnología y públicos en Black Mirror”. Uru. Revista de Comunicación y Cultura 6: 22-38. https://doi.org/10.32719/26312514.2022.6.2. DOI: https://doi.org/10.32719/26312514.2022.6.2

Bañuelos, Jacob. 2020. “Deepfake: La imagen en tiempos de la posverdad”. Revista Panamericana de Comunicación 2 (1): 51-61. https://doi.org/10.21555/rpc.v0i1.2315. DOI: https://doi.org/10.21555/rpc.v0i1.2315

Bigas, Núria. 2023. “Deepfakes pornográficos: Cuando la IA desnuda tu intimidad y vulnera tus derechos”. Universitat Oberta de Catalunya. 2 de noviembre. https://tinyurl.com/mv3t9d2j

Campillo, Beatriz. 2021. “De las fake news a las deepfakes: Nuevos retos para la ciberética”. Anuario Colombiano de Filosofía 2 (2): 89-106. https://tinyurl.com/yc3wcw45.

Cenizo, Néstor. 2023. “Los identificados por los ‘deepfakes’ sexuales de Almendralejo, que acumulan ya 22 denuncias, tienen entre 12 y 14 años”. elDiario.es. 20 de septiembre. https://tinyurl.com/4xd5m2ux.

Cerdán, Víctor, María Luisa García, y Graciela Padilla. 2020. “Alfabetización moral digital para la detección de deepfakes y fakes audiovisuales”. CIC. Cuadernos de Información y Comunicación 25: 165-81. https://doi.org/10.5209/ciyc.68762 DOI: https://doi.org/10.5209/ciyc.68762

—, y Graciela Padilla. 2019. “Historia del ‘fake’ audiovisual: ‘Deepfake’ y la mujer en un imaginario falsificado y perverso”. Historia y Comunicación Social 24 (2): 505-20. https://doi.org/10.5209/hics.66293. DOI: https://doi.org/10.5209/hics.66293

Costa, Flavia. 2021. Tecnoceno: Algoritmos, biohackers y nuevas formas de vida. Buenos Aires: Taurus.

Criado, Andrea. 2022. “La representación de la mujer en la pornografía desde una perspectiva de género: Un análisis global”. Journal of Feminist, Gender and Women Studies 1 (12): 52-80. https://doi.org/10.15366/jfgws2022.12.004. DOI: https://doi.org/10.15366/jfgws2022.12.004

Cuadra, Álvaro. 2015. “La obra de arte en la época de su hiperreproducibilidad digital”. Textos y Contextos 16: 89-117. https://doi.org/10.29166/tyc.vi16.1326. DOI: https://doi.org/10.29166/tyc.vi16.1326

—. 2019. El príncipe posmoderno. Quito: Ciespal.

—. 2021. Tecnopolítica: Mediaciones & mutaciones. Quito: Universidad Central del Ecuador. https://tinyurl.com/32fvxjab.

Debord, Guy. 2012. La sociedad del espectáculo. Buenos Aires: La Marca.

EC Ministerio de Educación. 2023. “Se presentó oficialmente el ‘Protocolo de actuación frente a situaciones de violencia digital detectadas en el Sistema Nacional de Educación’”. Ministerio de Educación. 28 de septiembre. https://tinyurl.com/4m2aeytb.

Egaña, Lucía. 2009. “La pornografía como tecnología de género: Del porno convencional al post-porno. Apuntes freestyle”. La Fuga 9. https://tinyurl.com/5f5rkcbc.

Ferrari, Lidia. 2016. La diversión en la crueldad: Psicoanálisis de una pasión argentina. Buenos Aires: Letra Viva.

Follari, Roberto. 2023. “Por fuera de la tecnofilia y la tecnofobia”. Revista Ciencias Sociales 1 (44): 17-29. https://doi.org/10.29166/csociales.v1i44.4087. DOI: https://doi.org/10.29166/csociales.v1i44.4087

Garci?a-Ull, Francisco. 2021. “Deepfakes: “El próximo reto en la detección de noticias falsas”. Ana?lisi. Quaderns de Comunicacio? i Cultura 64: 103-20. https://doi.org/10.5565/rev/analisi.3378. DOI: https://doi.org/10.5565/rev/analisi.3378

Gómez de Ágreda, Ángel, Claudio Feijóo e Idoia Salazar. 2021. “Una nueva taxonomía del uso de la imagen en la conformación interesada del relato digital: Deep fakes e inteligencia artificial”. Profesional de la Información 30 (2). https://doi.org/10.3145/epi.2021.mar.16. DOI: https://doi.org/10.3145/epi.2021.mar.16

Han, Byung-Chul. 2014. En el enjambre. Barcelona: Herder. DOI: https://doi.org/10.2307/j.ctvt9k4gh

Hernández Sampieri, Roberto, Carlos Fernández y Lucio Baptista. 2014. Metodología de la investigación. Ciudad de México: McGraw-Hill.

Infobae. “Fiscalía de Perú investiga a quienes vendieron fotos de menores manipuladas con IA en Lima”. Infobae. 28 de agosto de 2023. https://tinyurl.com/4wvvj2pf.

Margulis, Mario. 2001. “Juventud: Una aproximación conceptual”. En Adolescencia y juventud en América Latina, compilado por Solum Donas Burak, 41-56. Cartago, CR: Libro Universitario Regional, 41-56.

McNicholas, Tim. 2023. “New Jersey High School Students Accused of Making AI-Generated Pornographic Images of Classmates”. CBS News. 2 de noviembre. https://tinyurl.com/mrxu63vc.

Murolo, Leonardo. 2019. “La posverdad es mentira: Un aporte conceptual sobre ‘fake news’ y periodismo”. En La posverdad: Una cartografía de los medios, las redes y la política, coordinado por Roberto Aparici y David García, 65-80. Barcelona: Gedisa.

Roldán, Paula. 2022. “Pornografía, sexualidad y redes: ¿Nuevas violencias o nuevas máscaras?”. Revista de Estudios de Juventud 125: 77-94. https://tinyurl.com/yc5p6zfj.

Sadin, Éric. 2018. La humanidad aumentada: La administración digital del mundo. Buenos Aires: Caja Negra.

Scolari, Carlos. 2008. Hipermediaciones: Elementos para una teoría de la comunicación digital interactiva. Barcelona: Gedisa.

Sibilia, Paula. 2008. La intimidad como espectáculo. Buenos Aires: Fondo de Cultura Económica.

—. 2023. “Da hipocrisia aos cinismos: Transformações do ‘solo moral’ nas democracias contemporâneas”. Revista Eco-Pós 26 (1): 324-48. https://doi.org/10.29146/eco-ps.v26i01.28055. DOI: https://doi.org/10.29146/eco-ps.v26i01.28055

Soares, Fernanda. 2023. “‘Nudes’ falsos de cerca de 40 alunas criados por colegas de escola mostravam posições pornográficas e foram postados em redes sociais”. Globo. 8 de noviembre. https://tinyurl.com/mrzn4z6m.

Varnet, Tomás, y Ricardo Cartes. 2021. “Tránsito histórico de la pornografía: De transformaciones hasta la era de la internet”. Civilizar 21 (41): 81-92. https://doi.org/10.22518/jour.ccsh/2021.2a07. DOI: https://doi.org/10.22518/jour.ccsh/2021.2a07

Vega, Edgar. 2018. “De gays y trans a diversidades sexo/genéricas: Dos décadas de despenalización de la homosexualidad en Ecuador”. Interdisciplina 7 (17): 119-53. https://doi.org/10.22201/ceiich.24485705e.2019.17.67524. DOI: https://doi.org/10.22201/ceiich.24485705e.2019.17.67524

Wagner, Travis, y Ashley Blewer. 2019. “‘The Word Real Is No Longer Real’: Deepfakes, Gender, and the Challenges of AI-Altered Video”. Open Information Science 3 (1): 32-46. https://doi.org/10.1515/opis-2019-0003. DOI: https://doi.org/10.1515/opis-2019-0003

Williams, Raymond. 1992. Historia de la comunicación. Madrid: Bosch.

Descargas

Publicado

2025-01-16

Cómo citar

Andino Veloz, B. (2025). Deepfake, cinismo y diversión en la crueldad: Un caso de colegiales y pornografía en Ecuador. Uru: Revista De Comunicación Y Cultura, (11), 8–28. https://doi.org/10.32719/26312514.2025.11.2
Métricas alternativas