Deepfake: Když AI vytvoří přesvědčivý falešný obraz nebo hlas

Deepfake: když umělá inteligence vytvoří přesvědčivý falešný obraz nebo hlas

Deepfake je syntetický obraz, video nebo zvuk vytvořený či upravený pomocí umělé inteligence (AI). Díky této technologii lze například napodobit něčí tvář, pohyby nebo hlas a zasadit je do situace, která se ve skutečnosti nestala. Výsledek může působit velmi věrohodně, přestože zachycuje zcela smyšlený obsah.

Jak deepfake vzniká

Nástroje založené na AI dokážou zpracovat obrazové a zvukové ukázky a podle nich vytvářet nový obsah nebo měnit již existující záznam. Mohou například upravit mimiku, nahradit obličej ve videu, napodobit hlas či vytvořit umělý projev. Kvalita výsledku závisí mimo jiné na použité technologii a dostupných podkladech.

Možnosti využití deepfake technologie

Deepfake nemusí sloužit pouze k podvodu. Využít jej lze také v kreativní tvorbě, filmu, zábavě nebo při vytváření digitálních efektů. Umělá inteligence může například pomoci s úpravou obrazu a zvuku nebo nabídnout nové způsoby, jak připravovat audiovizuální obsah.

Rozhodující je přitom způsob použití a to, zda publikum ví, že sleduje syntetický či upravený materiál. Otevřené označení vytvořeného obsahu pomáhá předcházet záměně fikce za skutečný záznam.

Rizika falešných videí a hlasů

Přesvědčivý deepfake může být zneužit k šíření nepravdivých informací, poškození pověsti nebo manipulaci s publikem. Falešný hlas může také vzbudit dojem, že konkrétní člověk něco řekl, zatímco upravené video může mylně působit jako autentický důkaz události. Takový obsah proto může oslabovat důvěru v obrazové a zvukové záznamy obecně.

Jak přistupovat k podezřelému obsahu

Samotný vzhled videa či zvuku nemusí stačit k posouzení jeho pravosti. Při ověřování je vhodné hledat původní zdroj, porovnat informaci s důvěryhodnými médii a zjistit, zda záznam převzaly i další spolehlivé zdroje. Opatrnost je namístě zejména u obsahu, který vyvolává silné emoce nebo vybízí k rychlému sdílení.

Automatické nástroje pro rozpoznávání syntetického obsahu mohou při posuzování pomoci, nemusejí však poskytnout jistý výsledek. Proto je vhodné spojit technické ověřování s kontrolou kontextu a původu záznamu.

Deepfake a důvěryhodnost informací

Deepfake přináší nové tvůrčí možnosti, zároveň však zvyšuje nároky na ověřování informací. Kritický přístup k videím, obrazům i hlasovým zprávám pomáhá omezit šíření manipulativního obsahu a lépe rozlišovat mezi skutečným záznamem a výtvorem umělé inteligence.