Deepfake technologie jsou založeny na umělé inteligenci a generativních neuronových sítích, které nám přinášejí nové možnosti pro audiovizuální tvorbu ve filmu, vzdělávání nebo umělecké produkci, ale zároveň představují hrozbu pro etiku a samotnou společnost. Tato videa se čím dál více zneužívají k šíření různých dezinformací, což vede k poklesu důvěry veřejnosti v média. Empirické zjištění potvrzují, že většina deepfake obsahu má pornografický charakter a vzniká bez souhlasu dotčených osob. Takové zneužití má za následek nejen porušování lidské důstojnosti a práva na soukromí, ale také šíření kyberšikany a online vydírání. Závažné jsou i politické a bezpečnostní důsledky deepfake videí, které mohou ohrozit demokratické procesy a oslabit důvěru veřejnosti v média.

Rozvoj digitálních technologií a umělé inteligence v posledním desetiletí zásadním způsobem ovlivnil způsoby, kterými společnost přijímá, vytváří a interpretuje informace. Umělá inteligence pronikla do průmyslu, zdravotnictví, vzdělávání, ale i do médií a zábavního průmyslu. Jedním z jejích nejvýraznějších produktů je fenomén deepfake videí, které využívají metody strojového učení a generativních neuronových sítí (zejména GANs – Generative Adversarial Networks) k vytváření vizuálně přesvědčivého, ale ve skutečnosti neautentického obsahu.

Deepfake videa představují nový stupeň mediální manipulace, protože dokážou narušit hranici mezi realitou a fikcí. Jejich potenciál se projevuje nejen ve filmové a umělecké tvorbě, ale i v medicíně či vzdělávání. Negativní důsledky však jednoznačně převažují. Podle zprávy Deeptrace (Ajder et al., 2019) mělo až 96 % všech zkoumaných deepfake videí pornografický charakter, přičemž většina z nich byla vytvořena bez souhlasu zobrazených osob. Tento fakt upozorňuje na vážné porušování práv jednotlivců a šíření digitálního násilí, které se stalo hlavním prostorem zneužívání deepfake technologie. Kromě toho se objevují i případy politické manipulace a šíření dezinformací, které mohou ohrozit stabilitu demokratických institucí a oslabit důvěru veřejnosti v média.

Ačkoli většina diskusí o technologiích deepfake se soustředí na jejich negativní aspekty, existují i oblasti, kde má tato technologie potenciál přinést společenský přínos. Ve filmovém a mediálním průmyslu deepfake umožňuje tvůrcům efektivní a finančně méně náročné vizuální efekty, stejně jako rekonstrukci historických událostí či zosnulých postav (Kietzmann et al., 2020). V oblasti vzdělávání může být tato technologie využita k tvorbě personalizovaných výukových videí nebo k realistickým jazykovým překladům, které usnadňují globální komunikaci. V medicíně se deepfake experimentálně využívá při simulacích chirurgických zákroků, tréninku zdravotnického personálu nebo pro terapeutické účely v oblasti duševního zdraví (Gómez et al., 2022).

Cílem tohoto článku je analyzovat etické a společenské aspekty deepfake videí, představit jejich pozitivní i negativní využití a identifikovat rizika, která představují pro mediální prostředí a společnost. Text se zároveň snaží načrtnout možné řešení v oblasti mediální gramotnosti, společenské odpovědnosti médií a technologických opatření, která by mohla přispět k prevenci šíření manipulačního obsahu.

Teorie

Vzhledem k schopnosti vytvářet mimoriadně realistické, avšak falešné obrazové a zvukové stopy představují deepfake videa významný problém pro mediální etiku a společenskou odpovědnost, protože mohou být zneužita k manipulaci veřejného mínění a šíření nepravdivých informací (Husovec, 2023; Msg-life, 2025). Etické problémy vznikají zejména při nedostatečné transparentnosti, absenci souhlasu osob zobrazených v deepfake videích a možném zneužití k politické nebo sociální manipulaci (Koudelka, 2024; Aleksiev, 2023).

Společenská odpovědnost se v této oblasti projevuje potřebou legislativní regulace na ochranu digitální identity a předcházení škodlivému využívání těchto technologií. Vliv deepfake videí na důvěru v média a demokratické instituce je zásadní, protože vede k polarizaci společnosti a ohrožení veřejného diskurzu (Husovec, 2023; Koudelka, 2024). Proto je důležité podporovat veřejné vzdělávání v rozpoznávání deepfake obsahu a rozvíjet nástroje na jeho ověřování (Aleksiev, 2023; NBÚ, 2023).

Heidari (2024a) ve své studii uvádí, že deepfake je obsah generovaný hlubokým učením, který v očích člověka působí autenticky. Je tedy kombinací pojmů deep learning (hluboké učení) a fake (falešný) a označuje obsah generovaný hlubokou neuronovou sítí, která je podmnožinou strojového učení. Každý může upravovat video a obrazové soubory. To je možné již několik let díky různým uživatelsky přívětivým softwarovým balíkům, které umožňují úpravu videa, zvuku a obrazu. Manipulace s médii se stala jednodušší díky širokému používání aplikací pro smartphony, které provádějí automatizované operace, jako je synchronizace pohybů rtů, audio nástroje a výměna tváří.

Ve své další studii Heidari (2024b) uvádí, že systémy deepfake tak mohou vytvářet falešné obrazy především nahrazením scén nebo obrázků, filmů a zvuků, které lidé nedokáží odlišit od skutečných. Různé technologie nám přinesly možnost měnit syntetický hlas, obraz nebo video. Navíc jsou podvody s videi a obrázky dnes natolik přesvědčivé, že je obtížné rozlišit falešný a autentický obsah pouhým okem. Může to vést k různým problémům, od klamání veřejného mínění až po používání sfalšovaných důkazů u soudu. Z těchto důvodů je důležité mít technologie, které nám pomáhají rozlišovat realitu.

Hu (2023) ve své studii tvrdí, že vývoj technologií, které dokážou generovat deepfake videa, se rychle rozšiřuje. Tato videa lze snadno syntetizovat bez zanechání zjevných stop manipulace. Ačkoli forenzní detekce v datech s vysokým rozlišením dosáhla pozoruhodných výsledků, forenzní analýza komprimovaných videí si zaslouží další zkoumání. Komprimovaná videa jsou totiž běžná na sociálních sítích, například videa z Instagramu, Wechatu a TikToku. Proto se základní otázkou stává, jak identifikovat komprimovaná Deepfake videa.

Pennycook (2019) ve své studii zkoumá, jak je omezení šíření dezinformací, zejména na sociálních sítích, velkou výzvou. Zkoumá jeden možný přístup: algoritmy sociálních sítí by měly upřednostňovat zobrazování obsahu ze zdrojů zpráv, které uživatelé hodnotí jako důvěryhodné. K tomu se ptá, zda crowdsourcingová hodnocení důvěryhodnosti dokážou efektivně rozlišovat spolehlivější a méně spolehlivé zdroje. Provedl dva předem registrované experimenty (n = 1 010 z Mechanical Turk a n = 970 z Lucidu), v nichž jednotlivci hodnotili známost a důvěryhodnost 60 zpravodajských zdrojů ze tří kategorií: (1) hlavní média, (2) hyperpartizánské webové stránky a (3) webové stránky, které produkují zjevně falešný obsah („falešné zprávy“). Přestože nalezli významné stranické rozdíly, zjistili, že laici napříč politickým spektrem hodnotili mainstreamové zdroje jako mnohem důvěryhodnější než hyperpartizánské nebo zdroje falešných zpráv. Ačkoli tento rozdíl byl větší u demokratů než u republikánů – zejména kvůli nedůvěře republikánů k mainstreamovým zdrojům – každý mainstreamový zdroj (s jednou výjimkou) byl v obou studiích hodnocen jako důvěryhodnější než každý hyperpartizánský nebo zdroj falešných zpráv, když se stejně zohlednila hodnocení demokratů i republikánů. Kromě toho byla politicky vyvážená hodnocení laiků silně korelována (r = 0,90) s hodnoceními poskytovanými profesionálními ověřovateli faktů. Výzkum demonstruje, že zejména mezi liberály jednotlivci s vyšší mírou kognitivní reflexe dokázali spolehlivěji rozlišovat mezi kvalitními a nekvalitními informačními zdroji. Vyplynulo také, že vyřazení hodnocení účastníků, kteří daný zdroj zpráv neznali, výrazně oslabilo přesnost kolektivního hodnocení. Tyto poznatky naznačují, že algoritmy upřednostňující obsah z důvěryhodných médií mohou být účinným nástrojem v boji proti šíření dezinformací na sociálních sítích.

AlNajjar (2024) se zabývá tím, jak získání solidních kompetencí v oblasti mediální etiky představuje jeden z klíčových výstupů mediálního vzdělávání. Ve světě poznamenaném globalizací a mezikulturními mediálními vztahy vyvolává fakt, že studenti disponují etickými kompetencemi relevantními pro svou kariéru, kritickými otázkami týkajícími se kvality etických standardů. Tvrdí, že ačkoli diskuse o mediální etice vedly k vzniku mnoha pohledů na rozsah a podstatu etických kompetencí ve 21. století, multikulturalismus slibuje přípravu etických komunikátorů. Studie vychází z průzkumu 32 studentů mediálních studií na Americké univerzitě v Sharjahu, aby demonstrovala, jak multikulturní vzdělávání založené na širším sociálním kontextu s výraznou kulturní diverzitou podporuje hybridní pohledy na mediální etiku. Většina respondentů uvedla, že syntetické etické pohledy kombinující lokální a globální perspektivy na mediální etiku by jim poskytly vhodné kompetence k efektivnímu řešení lokálních i mezinárodních otázek a událostí s využitím solidních etických standardů.

Negativní využití této technologie však výrazně zatížilo její pozitivní potenciál. Už v roce 2019 vyhodnotil výzkum Deeptrace, že až 96 % tehdy dostupných deepfake videí představovalo pornografický obsah, přičemž většina z nich byla vytvořena bez vědomí a souhlasu zobrazených osob (Ajder et al., 2019). Tento fakt upozorňuje na to, že primární oblastí zneužití technologie deepfake není politická manipulace, ale spíše sexualizované násilí páchané prostřednictvím digitálních médií. Pornografická deepfake videa nejenško zraňují důstojnost a soukromí jednotlivců, ale často se využívají i pro vydírání a kyberšikanu. Tento trend zřetelně ilustruje, že největší oběti technologie deepfake jsou běžní lidé, zejména ženy, jejichž obraz je zneužíván bez jejich souhlasu.

Východiska zkoumání

Etika médií je postavena na základních principech, jakými jsou pravdivost, přesnost, nestrannost a odpovědnost vůči veřejnosti (McQuail, 2010).

V prostředí, kde se objevují nové formy manipulačního obsahu, je právě zachování těchto hodnot klíčové pro udržení důvěryhodnosti médií. Technologie deepfake však tyto principy zásadním způsobem zpochybňují, protože umožňují vytvářet audiovizuální materiály, které mohou působit autenticky, ale ve skutečnosti jsou falešné. To vede k situaci, v níž se klasické chápání vizuálního důkazu stává problematickým a veřejnost si začíná klást otázku, zda je možné věřit jakémukoli mediálnímu obsahu (Chesney, Citron, 2019).

Z pohledu společnosti představují deepfake videa hrozbu pro demokratické procesy a veřejný diskurz. Politická manipulace prostřednictvím sfalšovaných projevů a vyjádření politiků může ovlivnit volební chování a zničit stabilitu demokratických institucí (Vaccari, Chadwick, 2020). Podobně i šíření falešného obsahu v krizových situacích (vojny, pandemie) může výrazně narušit schopnost občanů orientovat se v informacích a přijímat racionální rozhodnutí.

Významným východiskem je také otázka legislativní a regulační ochrany. Evropská unie přijala v roce 2024 Akt o umělé inteligenci (AI Act), který je prvním komplexním právním rámcem pro regulaci AI technologií včetně deepfake obsahu. Tento dokument zavádí povinnost označovat syntetická média a podporuje rozvoj nástrojů na jejich detekci (European Parliament, 2024). V slovenském kontextu se problematika zatím řeší spíše v rovině mediální gramotnosti a iniciativ nezávislých fact-checkingových organizací, přičemž právní rámec zůstává fragmentární.

Východiskem pro zkoumání fenoménu deepfake videí tak spočívají ve třech pilířích: (1) etické principy médií, (2) společenská rizika, která ovlivňují důvěru a fungování demokracie, a (3) legislativní snahy na evropské a národní úrovni, které představují první krok k ochraně společnosti před těmito technologiemi.

Metodologie

Výzkum je zpracován jako teoreticko-analytická studie, jejímž cílem je identifikovat etické a společenské důsledky technologií deepfake v mediálním prostředí. Metodologicky vychází z analýzy sekundárních zdrojů, především vědeckých článků publikovaných v databázích Web of Science a Scopus, i odborných zpráv nezávislých institucí (např. Data & Society Research Institute, Deeptrace Report).

Použitá metoda literární analýzy umožnila syntetizovat poznatky z několika disciplín – mediálních studií, etiky, práva a informačních technologií – a vytvořit tak interdisciplinární pohled na zkoumanou problematiku. Osobní pozornost byla věnována studiím, které se zabývají dopadem deepfake videí na důvěru veřejnosti v média (Vaccari, Chadwick, 2020), na demokratické procesy (Chesney, Citron, 2019), i na šíření dezinformací v online prostředí (Pennycook, 2019).

Sekundární analýza byla doplněna příklady z praxe, zejména případy politických deepfake videí, které se objevily v USA a v Indii, a daty z Deeptrace Report (Ajder et al., 2019), které dokumentují převahu pornografického obsahu mezi materiály deepfake. Tento přístup umožnil propojit akademické poznatky s praktickými implikacemi a připravit půdu pro diskusi o možnostech prevence a regulace.

Diskuse

Technologie deepfake představují zásadní výzvy pro média, společnost a jednotlivce. Ačkoli jejich potenciál v oblasti vzdělávání, umění či medicíny nelze zpochybnit, negativní důsledky jejich zneužívání dnes výrazně převládají. Diskuse o deepfake proto musí být vedena nejen na úrovni technologických možností, ale i z hlediska etických a společenských důsledků.

Jednou z klíčových otázek je zachování důvěry v média. Tradičně se vizuální záznam považoval za spolehlivý důkaz reality. Deepfake však tuto jistotu narušuje, což vede k tzv. „krizi důvěry“. Pokud si člověk nebude jistý, zda záznam odpovídá realitě, může dojít ke ztrátě důvěry nejen ve vztahu k médiím, ale i k oslabování samotného veřejného diskurzu.

Dalším problémem je politická manipulace. Příklady sfalšovaných projevů politiků ilustrují, že deepfake může zásadním způsobem ovlivnit demokratické procesy. Takový obsah může být použit k polarizaci společnosti, šíření nenávisti nebo ovlivňování voleb. Podobně nebezpečné je i využití deepfake během krizí, například při vojenských konfliktech nebo pandemiích, kdy je veřejnost obzvlášť citlivá na dezinformace.

Osobní pozornost si vyžaduje etická odpovědnost médií. Novináři a mediální instituce čelí výzvě, jak odlišovat autentický obsah od manipulačního. Fact-checkingové organizace a novináři hrají v tomto procesu klíčovou roli, ale i oni mají své limity. Odpovědnost proto nesou také technologické platformy, které obsah šíří, přičemž právě ony by měly investovat do nástrojů detekce a označování syntetických médií.

Významným preventivním nástrojem je mediální gramotnost. Jak uvádí Pennycook (2019), schopnost veřejnosti rozlišovat mezi důvěryhodnými a nedůvěryhodnými zdroji může výrazně přispět k omezení šíření dezinformací. Vzdělávací instituce, neziskové organizace a stát by měly podporovat programy, které vedou občany k rozvoji kritického myšlení a schopnosti ověřovat informace.

Technologická řešení nabízejí další část odpovědi. Vývoj algoritmů pro detekci deepfake obsahu, stejně jako zavádění digitálních vodoznaků a označování syntetických médií, představují důležité kroky k prevenci. Evropský AI Act (2024) již zavádí povinnost transparentního označování materiálů deepfake, což může přispět k větší informovanosti uživatelů. Současně roste potřeba interdisciplinárního výzkumu, který by propojoval technologické inovace s právními a etickými rámci. Výzvou zůstává také fakt, že s rostoucí sofistikovaností deepfake může být stále těžší rozlišit falešný a autentický obsah, dokonce i pro pokročilé forenzní nástroje (Mirsky, Lee, 2021).

Diskuse proto ukazuje, že efektivní reakce na fenomén deepfake musí být interdisciplinární. Nestačí se spoléhat jen na technická řešení, ale je nutné propojit technologický sektor, média, legislativu i akademickou sféru. Tak lze dosáhnout rovnováhy mezi svobodou tvorby a ochranou společnosti před manipulačním obsahem.

Závěr

Fenomén deepfake videí představuje jednu z největších etických a společenských výzev současného mediálního prostředí. Na jedné straně jde o technologii, která otevírá nové možnosti v oblasti filmu, vzdělávání nebo umění, na druhé straně však přináší zásadní rizika pro důvěryhodnost médií, stabilitu demokratických procesů a bezpečnost jednotlivců. Analýza nám ukázala, že hlavním problémem není samotná existence technologie deepfake, ale její zneužívání k šíření dezinformací, kyberšikany nebo politické manipulace.

Média dnes stojí před výzvou, jak si udržet důvěru veřejnosti v prostředí, kde je možné sfalšovat téměř jakýkoli obrazový nebo zvukový záznam. Odpovědnost v tomto směru nesou nejen novináři, ale i technologické platformy, které obsah šíří. Klíčovou roli hraje také vzdělávání a zvyšování mediální gramotnosti občanů, která může výrazně přispět k odolnosti společnosti vůči manipulačním obsahům.

Závěrem lze konstatovat, že účinná reakce na výzvy spojené s deepfake videi vyžaduje interdisciplinární přístup. Propojení technologického vývoje, legislativních opatření, etiky médií a akademického výzkumu představuje cestu, jak vytvořit rámec ochrany společnosti před negativními důsledky této technologie. Pokud se podaří najít rovnováhu mezi svobodou tvorby a ochranou veřejného zájmu, deepfake může zůstat nástrojem kreativity, nikoli hrozbou pro demokracii a důvěru v média.

Autoři: Mgr. Dominik Maček, interní doktorand PaedDr. Beáta Pošteková, PhD. Žilinská univerzita v Žiline, Ústav mediamatiky a kultúrneho dedičstva, Žilina Afiliace: Příspěvek je částečným výstupem grantové úlohy VEGA 1/0324/25 Longitudinální výzkum mediální gramotnosti v kontextu udržitelného společenského rozvoje v podmínkách Slovenska.

Bibliografie

AJDER, H., PATRINI, G., CAVALLI, F. a CULLEN, L., 2019. The State of Deepfakes: Landscape, Threats, and Impact. Amsterdam: Deeptrace. Deeptrace Report.

ALEKSIEV, A., 2023. Odborník radí, co si všímat u deepfake videí. Trend.sk [online]. Bratislava: Trend Holding. [cit. 2025-10-04]. Dostupné z: https://www.trend.sk/technologie/vyskyt-deepfake-videi-vyrazne-rastie-odbornik-radi-co-davat-pozor-co-vsimat

ALNAJJAR, A., 2024. Gaining Solid Competence in Media Ethics: A Multicultural Perspective. Journal of Media Ethics. 39(1), 15–28. [online]. [cit. 2025-10-04]. Dostupné z: https://www.webofscience.com/wos/woscc/full-record/WOS:001282396600001

CHESNEY, R., CITRON, D. K., 2019. Deep fakes: A looming challenge for privacy, democracy, and national security. California Law Review. 107(6), 1753–1819.

EUROPEAN PARLIAMENT, 2024. Artificial Intelligence Act. Brusel: Evropská unie.

GÓMEZ, J., MARTÍN, M., LÓPEZ, C., 2022. Applications of Deepfake Technology in Healthcare: Opportunities and Challenges. Journal of Medical Systems. 46(7), 1–10.

HEIDARI, A., 2024a. Deepfake technology and human perception. Journal of Information Security Research. 12(2), 55–67. [online]. [cit. 2025-10-04]. Dostupné z: https://www.webofscience.com/wos/woscc/full-record/WOS:001148512000002

HEIDARI, A., 2024b. The implications of deepfake systems for law and society. International Journal of Law and Technology. 18(1), 22–36. [online]. [cit. 2025-10-04]. Dostupné z: https://www.webofscience.com/wos/woscc/full-record/WOS:001107488700001

HU, J., 2023. Forensic detection of compressed Deepfake videos on social networks. Multimedia Tools and Applications. 82(3), 4125–4140. [online]. [cit. 2025-10-04]. Dostupné z: https://www.webofscience.com/wos/woscc/full-record/WOS:000766700400017

HUSOVEC, M., 2023. Deepfakes a ochrana soukromí. [S.l.]: [s.n.].

KIETZMANN, J., LEE, L. W., MC CARTHY, I. P. and KAHN, A. M., 2020. Deepfakes: Trick or treat? Business Horizons. 63(2), 135–146.

KOUDELKA, M., 2024. Falešná videa zaplavují internet. Česká televize [online]. Praha: Česká televize. [cit. 2025-10-04]. Dostupné z: https://ct24.ceskatelevize.cz/clanek/domaci/falesna-videa-zaplavuji-internet-spolehlive-nastroje-na-rozeznani-deepfaku-ale-neexistuji-348484

MCQUAIL, D., 2010. McQuail's Mass Communication Theory. 6. vyd. Londýn: Sage. MIRSKY, Y. a LEE, W., 2021. The Creation and Detection of Deepfakes: A Survey. ACM Computing Surveys. 54(1), 1–41.

MSG-life, 2025. Význam deepfake: jak ho odhalit a rozpoznat od originálu. [online]. Bratislava: Msg-life. [cit. 2025-10-04]. Dostupné z: https://msg-life.sk/clanky/digitalizacia/deepfake/#:~:text=vr%C3%A1tane%20ochrany%20osobn%C3%BDch%20%C3%BAdajov

NÁRODNÝ BEZPEČNOSTNÝ ÚRAD, 2023. NBÚ upozorňuje na deepfake videa, uvádí, co si dát pozor. Týden [online]. Bratislava: NBÚ. [cit. 2025-10-04]. Dostupné z: https://www.tyzden.sk/politika/98941/nbu-upozornuje-na-deepfake-videa-uvadza-co-si-treba-vsimat/#:~:text=nezvy%C4%8Dajn%C3%A9%20pohyby%20tela%20a%20tv%C3%A1re

PENNYCOOK, G. a RAND, D. G., 2019. Fighting misinformation on social media using crowdsourced judgments of news source quality. Proceedings of the National Academy of Sciences. 116(7), 2521–2526.

VACCARI, C. a CHADWICK, A., 2020. Deepfakes and disinformation: Exploring the impact of synthetic political video on deception, uncertainty, and trust in news. Social Media + Society. 6(1), 1–13.