Detekce deepfaků: stručný návod k ověřování pravosti vizuálního a zvukového obsahu

Proč „rychlý manuál ověřování“ při deepfake a podvodech s AI

Generativní AI radikálně snížila bariéry pro tvorbu přesvědčivých podvodů: syntetický hlas, tvář, podpis, ba dokonce i celá „osoba“ dokáže během několika minut vyvolat falešný pocit naléhavosti a vylákat peníze, přístupy či citlivá data. Tento manuál přináší praktické, okamžitě použitelné postupy pro ověření pravosti hlasu, videa, fotografie, textu a identity volajícího či odesílatele. Je určen jednotlivcům i organizacím a zdůrazňuje zásadu: před jakoukoli platbou, sdílením kódů nebo údajů – ověřujte a dokumentujte.

Spektrum hrozeb: co všechno dnes deepfake a AI dokážou

• Hlasové klony (voice cloning): napodobení hlasu z krátké ukázky (10–60 s). Typické při „urgentních“ telefonátech (falešné výkupné, „šéf žádá o převod“).
• Videodeepfake: realistická tvář, synchronizované rty; často v kombinaci s face swap a syntetickým hlasem.
• Fotorealistické snímky: falešné důkazy, profilové fotografie, „screenshoty“ konverzací a dokladů.
• Textové podvody s pomocí LLM: dlouhé, bezchybné e-maily, chaty a scénáře sociálního inženýrství s osobním tónem.
• „Živé“ videohovory: překrývání tváře v reálném čase a synchronizovaný překlad (lip-sync) – používá se při onboardingu a podvodech s KYC.

Rychlé rozhodovací schéma: STOP–OVĚŘ–KDO–CO–PROČ

1. STOP: přerušte automatické jednání (neplaťte, nesdílejte kódy, neklikejte).
2. OVĚŘ: použijte druhý kanál (jiné číslo/e-mail/chat), který už znáte, nikoli ten, který vám právě nadiktovali.
3. KDO: vyžádejte si tajné heslo/kódovou frázi dohodnutou předem („dohodnutý kód“).
4. CO: požadujte přesný důvod a ověřitelné podrobnosti (číslo smlouvy, interní reference, kontaktní osoba).
5. PROČ: ptejte se na účel a alternativy (proč naléhavě, proč mimo běžný postup, proč právě teď).

Manuál ověřování videa (deepfake) – 10 kroků

1. Zdroj: kde se video objevilo poprvé (originál vs. opětovné nahrání). Upřednostňujte primární kanál dané osoby či instituce.
2. Konzistence obrazu: okraje vlasů a uší, okolí očí, blikání a stínování; hledejte „gelový“ vzhled, neplynulé zuby, nesoulad zubů/jazyka při artikulaci „f“/„v“/„s“.
3. Osvětlení a odlesky: zda světelné zdroje a odrazy v očích odpovídají scéně; pohyby hlavy ve srovnání se změnami stínů.
4. Geometrie: proporce rukou, prstů, krku; deformace při rychlých gestech nebo překrývání objektů.
5. Synchronizace: zpoždění rtů oproti hlasu (mikroskopické „rozpojení synchronizace rtů“), zvláště u rychlých slabik.
6. Zvuk: „kovový“ dozvuk, nesoulad s akustikou místnosti, chybějící mikropauzy a hluk pohybu čelisti.
7. Metadata: máte-li původní soubor, zkontrolujte kontejner/EXIF (nestandardní tagy editoru, nepravděpodobná časová razítka).
8. Referenční klipy: porovnejte je s autentickými videi (tempo řeči, mimika, slovník, typická gesta).
9. Kontext: dává tvrzení smysl v daném čase a místě? Ověřte datum, místní svědky a oficiální vyjádření.
10. Druhý kanál: potvrďte informace u osoby či instituce prostřednictvím jiného komunikačního kanálu (známé číslo, oficiální helpdesk).

Manuál ověřování hlasu (voice clone) – 8 kroků

1. Kontrolní otázka: vyžádejte si dohodnutý kód nebo podrobnost známou pouze vám (nikoli datum narození z veřejných zdrojů).
2. Rušení a dynamika: syntetické hlasy mívají nepřirozeně čistý signál a při náhlých změnách jim chybí okolní šum.
3. Melodie a dysfluence: umělý hlas má plochou intonaci, chybí mu koktání, „ehm“ a protahování slabik.
4. Latence: neobvyklé pauzy po vaší otázce (model „skládá“ odpověď).
5. „Naléhavá“ žádost: tlak na rychlé platby/převody, odpor k ověření prostřednictvím druhého kanálu – varovný signál.
6. Zpětné volání: zavolejte zpět na známé číslo z adresáře, nikoli na číslo z hovoru/SMS.
7. Bezpečné prostředí: nikdy nesdělujte jednorázové kódy (MFA, podpisy) během hovoru; tyto kódy nejsou určeny ke sdílení hlasem.
8. Záznam: je-li to legální, pořiďte záznam hovoru pro pozdější forenzní analýzu a nahlášení.

Ověřování fotografií a „screenshotů“ – 7 kroků

1. Zpětné vyhledávání obrázků: zpětné vyhledávání snímků/obrázku (zda nejde o starší obsah s novým popiskem).
2. Chyby kompozice: ruce a prsty, texty na tričkách/nápisech (křivky, deformace, nečitelné fonty).
3. Brýle a odrazy: zda odrazy odpovídají scéně; deepfake odlesky často zanedbává.
4. EXIF: model zařízení, čas, software; zjevné rozpory.
5. Okraje a bokeh: nerealistická hloubka ostrosti, „splývání“ vlasů s pozadím.
6. Text v obraze: překlepy, nelogické rozmístění prvků uživatelského rozhraní, „divné“ ikony/oznámení na screenshotech.
7. Potvrzení kontextu: stejný obraz by měl být dostupný v nezávislých zdrojích (ne pouze v sérii opětovných nahrání od jednoho anonymního subjektu).

Ověřování identity při „živém“ hovoru nebo videohovoru

• Ověření ve dvou kanálech: během hovoru požádejte danou osobu, aby poslala SMS/e-mail ze předem známého kontaktu se slovem, které jí nadiktujete.
• Náhodné výzvy: požádejte o tři rychlé úkony: ukaž levé ucho, řekni dnešní datum, otoč kameru k oknu. Skutečné deepfake mají problém s interakcí a osvětlením v reálném čase.
• Samostatný kalendář: jde-li o nadřízeného, ověřte v interním kalendáři, zda je k dispozici; podvodníci „volají“ během porad a mimo běžnou pracovní dobu.
• Žádné peníze během hovoru: žádné převody ani kódy během hovoru; po ověření použijte standardní finanční postup.

Organizační zásady: procesy, které ruší „naléhavý scénář“

1. Finanční pravidlo „dvou osob“: každou platbu nad stanovený limit musí schválit dva nezávislí schvalovatelé.
2. Pravidla zpětného volání: u nestandardního požadavku je povinné zpětně zavolat na číslo z adresáře/CRM.
3. Kódová slova: tajná fráze pro krizové situace; měňte ji každých X měsíců.
4. Vzdělávání: čtvrtletní školení s novými příklady; sdílený „sešit podvodů“ se skutečnými incidenty.
5. Reakce na incidenty: formulář pro nahlášení podezření a bezpečnostní hotline; bez sankcí za „falešné poplachy“.

Nástroje a signály „provenience“ (C2PA, vodoznaky, hashování)

• Značky provenience: digitální podpisy a manifesty obsahu (C2PA) mohou doložit, kdo a čím obsah vytvořil/upravil.
• Vodoznaky modelů: některé generátory vkládají zjistitelné vzory; berte je jako pomocný signál, nikoli jako absolutní důkaz.
• Hashování originálů: u kritických záznamů (porady, prohlášení) uložte originál a jeho hash – usnadní to prokazování pravosti.

Meze detekce: proč stačí malá chyba v procesu

Moderní deepfake jsou stále přesnější; vizuální a akustické artefakty mizí. Proto se nespoléhejte pouze na „odhalení“, ale na procesní pojistky (druhé kanály, vícenásobné schvalování, zákaz sdílení kódů během hovoru). Ověření identity je multifaktorový problém: technické stopy + organizační pravidla + zdravá skepse.

Nejčastější scénáře podvodů s AI a doporučená obrana

„Nesdílejte kódy“: zvláštní pravidla pro MFA a podpisy

• Jednorázové kódy (OTP): nikdy je nepřenášejte z telefonu do hovoru/chatu. Legitimní procesy nikdy nepožadují, abyste jim OTP sdělili hlasem.
• Schvalování v aplikaci: útok typu „push fatigue“ – pokud opakovaně dostáváte výzvy ke schválení, informujte bezpečnostní tým.
• Autorizace plateb: používejte firemní schvalovací aplikace, nikoli e-mailová „potvrzení“.

Forenzní připravenost: co a jak archivovat při podezření

1. Originály: uložte původní soubor/URL, nestahujte opakovaně nahrané soubory s opětovnou kompresí.
2. Kontext: datum, čas, kanál, účty, čísla, ID hovorů, jméno operátora.
3. Řetězec předání: kdo měl k materiálu přístup; zachovejte jeho integritu (hashe).
4. Právní stránka: dodržujte zákony o nahrávání a ochraně osobních údajů; při eskalaci připravte stručné shrnutí pro příslušné orgány.

Domácí a firemní „playbook“ – připravené scénáře

Osobní scénář (telefonát v nouzi)

1. „Zastavme se: řeknu naše kódové slovo a ty ho zopakuješ.“
2. „Zavěsím a zavolám ti zpátky na číslo v kontaktech.“
3. „Dokud nepotvrdíme totožnost, nic nezaplatím a žádné kódy nepošlu.“

Firemní scénář (finanční požadavek)

1. „Děkuji, provedu zpětné volání podle pravidel – ozvu se z interního čísla.“
2. „Bez druhého schválení a požadavku zaznamenaného v systému platba neproběhne.“
3. „Ověřím dostupnost v kalendáři a žádost připojím do protokolu incidentů.“

Minimální balíček opatření pro jednotlivce

• Dohodnuté kódy s nejbližšími; měňte je každých 6–12 měsíců.
• Druhý kanál pro ověření (alternativní e-mail/číslo).
• Žádné OTP/klíče během hovoru/chatu; platby až po ověření.
• Návyk archivovat: screenshoty, poznámka k incidentu (čas, číslo, požadavek).

Minimální balíček opatření pro organizaci

• Pravidlo dvou osob a pravidla zpětného volání ve směrnicích.
• Bezpečnostní helpdesk s jednoduchým kanálem pro nahlášení podezření.
• Simulovaná cvičení (tabletop) se scénáři deepfake každé 3–6 měsíců.
• Technické kontroly: DMARC/SPF/DKIM pro e-maily, blokování odkazů ze zkracovačů v podnikové síti, protokolování hovorů prostřednictvím oficiálních nástrojů.

Etické a právní hranice: obrana bez porušování soukromí ostatních

Ověřování má být přiměřené a účelové. Neshromažďujte ani neuchovávejte zbytečné biometrické údaje. Při nahrávání hovorů dodržujte právní předpisy a informujte účastníky, pokud to vyžaduje zákon nebo interní pravidla.

Budoucnost: co sledovat

• Lepší deepfake v reálném čase → posílit procesní pojistky a vícefaktorové ověřování identity.
• Širší adopce C2PA a vodoznaků → usnadní ověřování původu, ale neochrání před „živými“ podvody.
• Detekční modely na straně klienta → pomocné signály, nikoli náhrada procesů.

Ověřování jako zvyk, nikoli jako výjimečná reakce

Nejlepší obranou proti deepfake a podvodům s AI je zvyk – automaticky ověřovat zdroj, použít druhý kanál, vyžádat si kód a odmítat jakékoli žádosti o kódy či urgentní převody mimo běžný postup. Technologie se rychle mění, ale tyto jednoduché zásady zůstávají pevné. Udělejte z nich každodenní standard pro sebe i svůj tým.