Digitální stopa terorismu: detekce a šíření obsahu souvisejícího s radikalizací

Charakteristika obsahu souvisejícího s terorismem

Obsah související s terorismem představuje materiály, které propagují, ospravedlňují nebo operacionalizují násilí s cílem zastrašit civilní obyvatelstvo či vyvíjet nátlak na politická rozhodnutí. V online prostředí je jeho šíření obzvlášť problematické: internet snižuje náklady na distribuci, umožňuje cíleně oslovovat zranitelné skupiny a vytváří ekosystém, v němž se škodlivé narativy opakují a radikalizují. Z etického hlediska jde o formu neetického chování na internetu, která narušuje bezpečnost, demokracii a lidskou důstojnost.

Terminologie a rámce

Teroristická propaganda: komunikace vytvářející pozitivní obraz násilí a jeho pachatelů.
Radikalizační obsah: materiály posouvající uživatele od nespokojenosti k přijetí legitimizovaného násilí.
Operacionalizační obsah: texty a videa poskytující návody nebo logistickou podporu (patří k nejrizikovějším, platformy jej obvykle bezodkladně odstraňují).
Apologetika a ospravedlňování: bagatelizace či glorifikace útoků, mučednictví, dehumanizace obětí.
Kontranarativ: obsah, který vyvrací mýty, předkládá fakta, podporuje odklon od násilí a posiluje odolnost publika.

Ekosystém šíření: kanály a dynamika

Velké platformy: vysoký dosah, ale také robustní zásady a automatizovaná moderace; po zásazích dochází k migraci obsahu.
Sítě s nízkými vstupními bariérami a decentralizované sítě: slabší moderace, rychlé opětovné nahrávání, krátké životní cykly účtů.
Uzavřené skupiny a soukromé kanály: vrstvení důvěry, kódovaný jazyk, kontrola přístupu.
Obsahové „mosty“: memy, humor a symboly, které oslabují kognitivní obranu a normalizují extremistické narativy.

Motivace šiřitelů a cílové skupiny

Nábor a mobilizace: získávání sympatizantů, logistická podpora, získávání zdrojů.
Psychologický dopad: strach, polarizace, narušení společenské soudržnosti.
Legitimizace: vytváření ideologického rámce, který ospravedlňuje násilí.
Propaganda trvalosti: archivace a replikace materiálů, aby přetrvaly zásahy moderace.

Etické a právní aspekty (obecně a v EU/SR)

Šíření obsahu podporujícího terorismus je v rozporu s principy lidských práv a právně závaznými normami. Ochrana svobody projevu má své meze tam, kde komunikace podněcuje k násilí, podporuje trestnou činnost a ohrožuje bezpečnost. V evropském prostředí se uplatňují zásady zákonnosti, proporcionality a nezbytnosti: platformy musí jednat přiměřeně, transparentně a s důrazem na řádný proces (možnost odvolání, posouzení kontextu).

Rizika a dopady na jednotlivce a společnost

Radikalizace jednotlivců: posun od pasivních sympatií k aktivní podpoře.
Polarizace a nenávist: dehumanizace „těch druhých“, oslabování veřejného diskurzu.
Bezpečnostní rizika: zvyšování pravděpodobnosti napodobování útoků a logistická podpora násilí.
Opětovná viktimizace: sdílení násilných záznamů a identifikovatelných údajů obětí.

Principy odpovědné moderace

Jasné zásady: výslovné zákazy propagace, návodů a ospravedlňování teroristických činů.
Vícevrstvé posuzování: kombinace automatizovaných nástrojů, lidských moderátorů a kontextu.
Transparentnost: oznamování zásahů, statistiky odstranění, mechanismy odvolání.
Minimalizace chyb: omezení falešně pozitivních a falešně negativních výsledků, auditování datových sad a modelů.
Kontrolované výjimky: povolení novinářských, akademických a vzdělávacích kontextů při přísném dohledu a minimalizaci škod.

Detekce a hodnocení rizika (na vysoké úrovni)

Signály obsahu: textové, vizuální a zvukové indikátory, symboly, slogany a jejich použití v kontextu.
Signály chování: koordinované opětovné nahrávání, nově vytvořené účty, sdílení prostřednictvím „mostových“ kanálů.
Kontextualizace: rozlišení mezi propagandou a zpravodajstvím (žurnalistika, výzkum, odsuzující zprávy).
Hodnocení škod: pravděpodobnost mobilizace k násilí, velikost publika, zranitelnost cílové skupiny.

Zmírňující zásahy a jejich proporcionalita

Odstranění a blokování: okamžité odstranění operacionalizačních materiálů a materiálů glorifikujících násilí.
Omezení šíření: snížení dosahu, demonetizace, zákaz doporučování, věková omezení.
Kontrola opětovného nahrávání: hashování, rozpoznávání podobnosti, kolaborativní databáze signatur.
Posilování kontranarativů: přesměrování na zdroje prevence, linky pomoci, osvětové kampaně.
Řádný proces: informování autora o zásahu a zajištění mechanismu odvolání v nejasných případech.

Prevence a odolnost komunity

Digitální gramotnost: rozpoznávání manipulačních technik, symbolů a emocionálních spouštěčů.
Etiketa a odpovědné sdílení: nešířit sporná videa a odkazy, ani když jsou „zpravodajsky zajímavé“.
Mechanismy nahlašování: aktivní využívání nástrojů pro nahlašování a poskytování kontextu moderátorům.
Podpora zranitelných skupin: komunitní sítě nabízející alternativní identity a smysluplné začlenění.

Specifika práce médií, akademiků a pedagogů

Média a výzkumníci hrají klíčovou roli v informování veřejnosti, aniž by reprodukovali propagandu. Etické postupy zahrnují minimalizaci explicitních obrazových materiálů, vyhýbání se glorifikačnímu jazyku, důslednou anonymizaci obětí a zasazení faktů do kontextu. Ve vzdělávání je důležitá výuka zaměřená na kritické myšlení a prevenci radikalizace, s důrazem na bezpečnost a duševní pohodu studentů.

Rizika chyb moderace a jak jim předcházet

Přehnané zásahy: odstranění legitimního zpravodajství nebo kritiky; potřeba kontextových výjimek.
Nedostatečné zásahy: nebezpečná časová okna pro šíření nových trendů a kódovaných symbolů.
Jazykové a kulturní zkreslení: slabší detekce v menších jazycích, potřeba místní expertizy.
Smyčky opětovného nahrávání: nutnost propojit automatizované signály s lidským dohledem a koordinací napříč platformami.

Správa, audit a odpovědnost platforem

Jasné zásady a procesy: definice, kategorizace závažnosti, SLA pro zásahy.
Auditovatelnost: zaznamenávání rozhodnutí, sledování chyb a pravidelné nezávislé audity.
Ochrana práv uživatelů: vysvětlení zásahů, možnost odvolání, ochrana oznamovatelů.
Spolupráce s odborníky: konzultace s výzkumníky v oblasti násilí, psychology a organizacemi občanské společnosti.

Měření účinnosti opatření

MTTR a MTTA: průměrná doba do rozpoznání a odstranění šířeného obsahu.
Míra opětovného nahrávání: míra opětovného nahrávání po zásazích a doba do opětovného výskytu.
Následné škody: pokles viditelnosti materiálů glorifikujících násilí v doporučeních a výsledcích vyhledávání.
Falešně pozitivní/negativní výsledky: rovnováha mezi ochranou bezpečnosti a právy uživatelů.

Kontrolní seznam pro platformy a komunity

Aktualizované zásady s příklady a kontextovými výjimkami.
Školení moderátorů o kódovaném jazyce, symbolech a místních kontextech.
Automatizované nástroje s lidským dohledem a možností rychlé eskalace.
Mechanismy nahlašování přístupné a viditelné pro uživatele, včetně zpětné vazby.
Program kontranarativů a spolupráce s důvěryhodnými partnery.

Kontrolní seznam pro jednotlivce

Neposílat dál, nesdílet ani nearchivovat materiály glorifikující násilí.
Nahlásit sporný obsah s co nejvíce souvislostmi (odkazy, čas, popis).
Chránit duševní zdraví: vyhýbat se traumatickým záběrům a při vystavení násilným materiálům vyhledat podporu.
Rozlišovat mezi informováním a propagandou; důvěřovat ověřeným zdrojům.

Budoucí výzvy a směřování

Adaptivní narativy: rychlé změny symbolů a kódů, které obcházejí detekci.
Multimodální formáty: kombinace textu, obrazu a zvuku vyžaduje pokročilé nástroje citlivé na kontext.
Odpovědná AI: potřeba vysvětlitelnosti a auditů, aby detekční systémy nebyly diskriminační ani zneužitelné.
Meziplatformová spolupráce: výměna signatur a rychlá reakce při krizových událostech.

Obsah související s terorismem a jeho šíření představují vážné etické, společenské a bezpečnostní riziko. Efektivní reakce vyžaduje kombinaci jasných pravidel, kontextové moderace, spolupráce s odborníky, posilování odolnosti komunity a aktivní prevence. Cílem není umlčet legitimní diskusi či novinářské zpravodajství, ale zabránit glorifikaci násilí, operacionalizaci útoků a škodám, které tyto materiály způsobují jednotlivcům i společnosti.