Vojenské Rozhledy

Czech Military Review

Vojenské rozhledy / Czech Military Review Nr. 1/2023: 3-16

Deepfake jako pokročilá manipulativní technika k šíření propagandyRecenzované - Přehledový

Martin Havlík

Článek popisuje základní fundamenty a význam manipulativní techniky nazývané Deepfake, která se v prostředí technologické a informační expanze stává také velmi využívaným nástrojem pro šíření propagandy. Tato pokročilá manipulace doplňuje širší spektrum forem dezinformací a bývá stále častěji využívána jako prostředek k vedení informačních operací, nezřídka kdy jako součást širšího hybridního válčení. Efektivně bojovat s tímto druhem manipulace klade vysoké nároky na konzumenty informací, a to jak ze strany použitých detekčních nástrojů, tak ze strany kognitivního lidského přístupu založeného na kritickém myšlení. Expanze a sofistikovanost obdobných manipulativních technik bude nadále pokračovat, a to v souvislosti s rozvojem moderních technologií a provázaností informačního prostředí. Přestože technika Deepfake není spojena pouze s bezpečnostně-vojenskými aspekty, nelze její vliv na informační operace a hybridní válčení opomíjet.

Klíčová slova: Hrozba; informace; manipulace; obrana; propaganda; technologie.

Deepfake as an Advanced Manipulative Technique for Spreading Propaganda

The article describes the basic foundations and significance of the manipulative technique called Deepfake, which in the environment of technological and informational expansion is also becoming a widely used tool for spreading propaganda. This advanced manipulation complements a wider spectrum of forms of disinformation and is increasingly being used as a means of conducting information operations, often as part of wider hybrid warfare. Effectively combating this kind of manipulation places high demands on consumers of information, both on the part of the detection tools used and on the part of the cognitive human approach based on critical thinking. The expansion and sophistication of similar manipulative techniques will continue, in connection with the development of modern technologies and the interconnectedness of the information environment. Although the Deepfake technique is not only associated with security-military aspects, its influence on information operations and hybrid warfare cannot be neglected.

Keywords: Threat; Information; Manipulation; Defence; Propaganda; Technology.

Zveřejněno: 15. březen 2023  Zobrazit citaci

ACS AIP APA ASA Harvard Chicago Chicago Notes IEEE ISO690 MLA NLM Turabian Vancouver
Havlík, M. (2023). Deepfake jako pokročilá manipulativní technika k šíření propagandy. Vojenské rozhledy / Czech Military Review104(1), 3-16
Stáhnout citaci

Reference

  1. ZEMANOVÁ, Milada. Nová DeepFake videa jsou k nerozeznání od reality. Agentura Focus. [online]. 2018. [cit. 2022-09-28]. Dostupné z: https://1url.cz/krlqJ
  2. National Archives Traveling Exhibits Service. Propaganda in Black & White. An Exploration of Overt and Covert U.S. Government Propaganda. National Archives Museum, Pennsylvania, Washington. [online]. 2015. [cit. 2022-09-28]. Dostupné z: https://www.archives.gov/files/exhibits/nates/files/propaganda.pdf
  3. JOWETT, Garth S., O´DONNELL, Victoria. Propaganda and Persuasion. Thousand Oaks: Sage Oublications Ltd. 2006.
  4. ELLUL, Jacques. Propaganda: The Formation of Men´s Attitudes. New York: Vintage Books. 1973.
  5. NELSON, Richard A. A Chronology and Glossary of Propaganda in the United States. Westport, Conn, and London: Greenwood Press. 1996.
  6. FERRARA, Emilio. Contagion Dynamics of Extremist Propaganda in Social Networks. Information Sciences, Volumes 418 - 419, 2017, no. 1, 1-12.
  7. Department of Defense Dictionary of Military and Associated Terms. Joint Publication 1-02. [online]. 2001. [cit. 2022-09-28]. Dostupné z: https://dcsg9.army.mil/assets/docs/dod-terms.pdf
  8. TAYLOR, Philip M. Munitions of the mind: a history of propaganda from the ancient world to the present era. New ed. New York: Distributed exclusively in the USA by St. Martin's Press, 1995. ISBN 0719048303.
  9. BECKER, Howard. The Nature and Consequences of Black Propaganda. American Sociological Review, vol. 14, no. 2, 1949, pp. 221-235. JSTOR. [online]. 1949. [cit. 2022-09-28]. Dostupné z: https://1url.cz/urlqu
  10. Založeno na recenzní připomínce a souvisejícím definičním vymezení propagandy podle Malá československá encyklopedie ČSAV, V. svazek, písmeno Pom-S. Academia, Praha 1987.
  11. DOOB, Leonard. "Goebbels' Principles of Nazi Propaganda". The Public Opinion Quarterly. 3 (Vol. 14, No. 3): 419-442. JSTOR 2745999.
  12. Ellul, Jacques (1965). Propaganda: The Formation of Men's Attitudes, p. 16. Trans. Konrad Kellen & Jean Lerner. Vintage Books, New York. ISBN 978-0-394-71874-3.
  13. LINEBARGER, Paul Myron Anthony. 1954. Psychological Warfare, Combat Forces Press, Washington.
  14. JOWETT, Garth S., O´DONNELL, Victoria. Propaganda and Persuasion. Thousand Oaks: Sage Oublications Ltd. 2006.
  15. SHULSKY, Abram, SCHMITT, Gary. Silent Warfare. Washington, DC: Brasseys Inc. 2002.
  16. SOG - Studies and Observation Group - OPS-33. Black Propaganda. [online]. 2018. [cit. 2022-09-28]. Dostupné z: https://1url.cz/Hrl2y
  17. KOPECKÝ, Kamil. Deep fake - stručný úvod do problematiky. E-Bezpečí, roč. 4, č. 1, s. 23-25. Olomouc: Univerzita Palackého. ISSN 2571-1679. [online]. 2019. [cit. 2022-09-28]. Dostupné z: https://1url.cz/yrlqL
  18. PERSONS, Timothy M. GAO - SCIENCE & TECH SPOTLIGHT: DEEPFAKES. [online]. 2020. [cit. 2022-09-28]. Dostupné z: https://1url.cz/grl27
  19. Malicious Uses and Abuses of Artificial Intelligence. Trend Micro Research, United Nations Interregional Crime and Justice Research Institute (UNICRI), Europol's European Cybercrime Centre (EC3). 2020. Pp. 53.
  20. TOLOSANA, Ruben, VERA-RODRIGEZ, Ruben, FIERREZ, Julian, MORALES, Aythami, ORTEGA-GARCIA, Javier. DeepFakes and Beyond: A Survey of Face Manipulation and Fake Detection. Biometrics and Data Pattern Analytics - BiDA Lab, Universidad Autonoma de Madrid, Spain. [online]. 2020. [cit. 2022-09-28]. Dostupné z: https://arxiv.org/pdf/2001.00179.pdf
  21. PARIS, Britt, DONOVAN, Joan. Deepfakes and Cheep fakes - The Manipulation of Audio and Visual Evidence. Data&Science. [online]. 2019. [cit. 2022-09-28]. Dostupné z: https://1url.cz/jrlEm
  22. Malicious Uses and Abuses of Artificial Intelligence. Trend Micro Research, United Nations Interregional Crime and Justice Research Institute (UNICRI), Europol's European Cybercrime Centre (EC3). 2020. Pp. 53.
  23. DAVIS, Raina, WIGGINS, Chris, DONOVAN, Joan. TECH FACTSHEETS FOR POLICYMAKERS SPRING 2020 SERIES - Deepfakes. Technology and Public Purpose Project, Belfer Center for Science and International Affairs, Harvard Kennedy School. [online]. 2020. [cit. 2022-09-28]. Dostupné z: Dostupné z: https://1url.cz/XrlFl
  24. PARIS, Britt, DONOVAN, Joan. Deepfakes and Cheep fakes - The Manipulation of Audio and Visual Evidence. Data&Science. [online]. 2019. [cit. 2022-09-28]. Dostupné z: https://1url.cz/jrlEm
  25. Malicious Uses and Abuses of Artificial Intelligence. Trend Micro Research, United Nations Interregional Crime and Justice Research Institute (UNICRI), Europol's European Cybercrime Centre (EC3). 2020. Pp. 52.
  26. McCLORY, Jonathan. General Manager, Asia. Portland. [online]. 2021. [cit. 2022-09-28]. Dostupné z: https://portland-communications.com/our-people/leadership-team/jonathan-mcclory/
  27. McCLORY, Jonathan. The Soft Power 30. USC Center on Public Diplomacy. [online]. 2021. [cit. 2022-09-28]. Dostupné z: https://softpower30.com/author/jonathan/
  28. Streamování je technologie kontinuálního přenosu audiovizuálního sdělení mezi zdrojem a koncovým uživatelem pomocí datového proudu. V současné době se streamování využívá především pro přenášení audiovizuálních sdělení po internetu.
  29. GLEICHER, Nathaniel, FRANKLIN, Margarita, AGRANOVICH, David, NIMMO, Ben, BELOGOLOVA, Olga, TORREY, Mike. Threat Report - The State of Influence Operations 2017 - 2020. 2021.
  30. WADDELL, Kaveh. "Researchers Are Figuring out How to Detect Audio Deepfakes before It's Too Late." Axios. [online]. 2019. [cit. 2022-09-28]. Dostupné z: https://www.axios.com/deepfake-audio-ai-impersonators-f736a8fc-162e-47f0-a582-e5eb8b8262ff.html
  31. DARPA - Defense Advanced Research Projects Agency. CORVEY, William. Media Forensics (MediFor) (Archived). [online]. 2020. [cit. 2022-09-28]. Dostupné z: https://www.darpa.mil/program/media-forensics
  32. TUREK, Matt. "Defense Advanced Research Projects Agency." Defense Advanced Research Projects Agency. [online]. 2020. [cit. 2022-09-28]. Dostupné z: https://www.darpa.mil/program/semantic-forensics
  33. DARPA - Defense Advanced Research Projects Agency. Announces Research Teams Selected to Semantic Forensics Program. [online]. 2021. [cit. 2022-09-28]. Dostupné z: https://www.darpa.mil/news-events/2021-03-02
  34. McCABE, David, DAVEY, Alba. "Facebook Says It Will Ban 'Deepfakes'." The New York Times. The New York Times. [online]. 2020. [cit. 2022-09-28]. Dostupné z: https://www.nytimes.com/2020/01/07/technology/facebook-says-it-will-ban-deepfakes.html
  35. KOPECKÝ, Kamil. Deep fake - stručný úvod do problematiky. E-Bezpečí, roč. 4, č. 1, s. 23-25. Olomouc: Univerzita Palackého. ISSN 2571-1679. [online]. 2019. [cit. 2022-09-28]. Dostupné z: https://www.e-bezpeci.cz/index.php?view=article&id=1417