Artificial Intelligence and Security in the Age of Realfakes

Mikołaj Kabała

doi:10.56583/fs.2927

Data publikacji : 2026-06-30

Tom 19 Nr 1 (2026)

Sztuczna inteligencja a bezpieczeństwo w erze realfake

Mikołaj Kabała

https://orcid.org/0009-0001-6113-6548

DOI: https://doi.org/10.56583/fs.2927

Abstrakt

Artykuł analizuje znaczenie bezpieczeństwa w kontekście obrazów generowanych przez AI oraz doprecyzowuje pojęcie „realfake” jako kategorii opisującej syntetyczne lub hybrydowe wizualia naśladujące moc dowodową obrazu dokumentalnego. W badaniu 217 uczestników oceniało 18 bodźców – fotografie rzeczywiste, obrazy DALL-E i obrazy stylizowane na estetykę Ghibli – pod kątem autentyczności, skłonności do udostępniania i postrzeganego ryzyka. ANOVA z powtarzanym pomiarem i korektą Greenhouse’a–Geissera wykazała istotne różnice między warunkami. Fotografie rzeczywiste uznano za najbardziej autentyczne, obrazy DALL-E za najmniej autentyczne, a obrazy stylizowane na Ghibli generowały najwyższe poczucie niepewności i ryzyka. Wyniki uzasadniają łączenie detekcji, rozwiązań proweniencyjnych i edukacji medialnej ukierunkowanej nie tylko na oszustwo, lecz także na destabilizację środowiska dowodowego.

Szczegóły

Bibliografia

Statystyki

Autorzy

Pobierz pliki

PDF (English)
EPUB (English)
HTML (English)

Zasady cytowania

Kabała, M. (2026). Sztuczna inteligencja a bezpieczeństwo w erze realfake. Facta Simonidis, 19(1), 133–168. https://doi.org/10.56583/fs.2927

Wskaźniki altmetryczne

Cited by / Share

Licencja

Utwór dostępny jest na licencji Creative Commons Uznanie autorstwa – Użycie niekomercyjne – Na tych samych warunkach 4.0 Międzynarodowe.

Bibliografia

Bernacka, Julia. “Problematyka prawna technologii deepfake – analiza legalności tworzenia i rozpowszechniania deepfake’ów po uchwaleniu AI Act.” Prawo i Więź 58, no. 5 (2025): 671–694. https://doi.org/10.36128/hg1acq35.

Bray, Sergi D., Shane D. Johnson, and Bennett Kleinberg. “Testing Human Ability to Detect ‘Deepfake’ Images of Human Faces.” Journal of Cybersecurity 9, no. 1 (2023): tyad011. https://doi.org/10.1093/cybsec/tyad011.

Groh, Matthew, Ziv Epstein, Chaz Firestone, and Rosalind Picard. “Deepfake Detection by Human Crowds, Machines, and Machine-Informed Crowds.” Proceedings of the National Academy of Sciences 119, no. 1 (2021): e2110013119. https://doi.org/10.1073/pnas.2110013119.

Hausken, Liv. “Photorealism Versus Photography: AI-Generated Depiction in the Age of Visual Disinformation.” Journal of Aesthetics & Culture 16, no. 1 (2024): 2340787. https://doi.org/10.1080/20004214.2024.2340787.

Kietzmann, Jan, Linda W. Lee, Ian P. McCarthy, and Tim C. Kietzmann. “Deepfakes: Trick or Treat?” Business Horizons 63, no. 2 (2020): 135–146. https://doi.org/10.1016/j.bushor.2019.11.006.

Kuźnicka-Błaszkowska, Dominika, and Nadiya Kostyuk. “Emerging Need to Regulate Deepfakes in International Law: The Russo-Ukrainian War as an Example.” Journal of Cybersecurity 11, no. 1 (2025): tyaf008. https://doi.org/10.1093/cybsec/tyaf008.

Lewis, Andrew, Patrick Vu, Raymond M. Duch, and Areeq Chowdhury. “Deepfake Detection with and Without Content Warnings.” Royal Society Open Science 10, no. 11 (2023): 231214. https://doi.org/10.1098/rsos.231214.

Lu, Zeyu, Di Huang, Lei Bai, et al. “Seeing Is Not Always Believing: Benchmarking Human and Model Perception of AI-Generated Images,” 2023. https://doi.org/10.48550/ARXIV.2304.13023.

Łabuz, Mateusz. “Deep Fakes and the Artificial Intelligence Act—an Important Signal or a Missed Opportunity?” Policy & Internet 16, no. 4 (2024): 783–800. https://doi.org/10.1002/poi3.406.

Łabuz, Mateusz. “Regulating Deep Fakes in the Artificial Intelligence Act.” Applied Cybersecurity & Internet Governance 2, no. 1 (2023): 252–291. https://doi.org/10.60097/acig/162856.

Łabuz, Mateusz, and Christopher Nehring. “Information Apocalypse or Overblown Fears—What AI Mis- And Disinformation Is All About? Shifting Away from Technology Toward Human Reactions.” Politics & Policy 52, no. 4 (2024): 874–891. https://doi.org/10.1111/polp.12617.

Mirsky, Yisroel, and Wenke Lee. “The Creation and Detection of Deepfakes: A Survey.” ACM Computing Surveys 54, no. 1 (2021): article 7. https://doi.org/10.1145/3425780.

Mitręga, Adrian. “Wojna poznawcza we współczesnym środowisku bezpieczeństwa.” Annales Universitatis Paedagogicae Cracoviensis: Studia de Securitate 13, no. 2 (2023): 121–136. https://doi.org/10.24917/26578549.13.2.7.

National Institute of Standards and Technology. Artificial Intelligence Risk Management Framework (AI RMF 1.0). U.S. Department of Commerce, January 2023. https://doi.org/10.6028/nist.ai.100-1.

Nightingale, Sophie J., and Hany Farid. “AI-Synthesized Faces Are Indistinguishable from Real Faces and More Trustworthy.” Proceedings of the National Academy of Sciences 119, no. 8 (2022): e2120481119. https://doi.org/10.1073/pnas.2120481119.

Pawelec, Maria. “Deepfakes and Democracy (Theory): How Synthetic Audio-Visual Media for Disinformation and Hate Speech Threaten Core Democratic Functions.” Digital Society 1 (2022): article number 19. https://doi.org/10.1007/s44206-022-00010-6.

Pocol, Andreea, Lesley Istead, Sherman Siu, Sabrina Mokhtari, and Sara Kodeiri. “Seeing is No Longer Believing: A Survey on the State of Deepfakes, AI-Generated Humans, and Other Nonveridical Media.” In Advances in Computer Graphics, 427–440. Springer Nature Switzerland, 2023. https://doi.org/10.1007/978-3-031-50072-5_34.

Puczyńska, Julia, and Youcef Djenouri. “AI in Disinformation Detection.” Applied Cybersecurity & Internet Governance 3, no. 2 (2024): 211–232. https://doi.org/10.60097/acig/200200.

Ternovski, John, Joshua Kalla, and Peter Aronow. “Negative Consequences of Informing Voters about Deepfakes: Evidence from Two Survey Experiments.” Journal of Online Trust and Safety 1, no. 2 (2022): 1–16. https://doi.org/10.54501/jots.v1i2.28.

Vaccari, Cristian, and Andrew Chadwick. “Deepfakes and Disinformation: Exploring the Impact of Synthetic Political Video on Deception, Uncertainty, and Trust in News.” Social Media + Society 6, no. 1 (2020): 1–13. https://doi.org/10.1177/2056305120903408.