Statistické modely v analýze dat: regrese, testování hypotéz a korelace

Role statistických modelů v analýze dat

Statistické modely poskytují formální rámec pro kvantifikaci vztahů mezi proměnnými, odhad nejistoty a testování hypotéz. Od jednoduchých lineárních vztahů až po hierarchické a bayesovské struktury umožňují vytvářet replikovatelné, interpretovatelné a auditovatelné závěry. Klíčem je soulad mezi modelem a procesem generování dat (DGP), nikoli samotná predikční přesnost bez kontextu.

Datové typy, škály měření a předzpracování

• Škály: nominální, ordinální, intervalová, poměrová. Volba modelu a ztrátové funkce musí respektovat měřítko.
• Kódování kategorií: one-hot, účinkové (deviation), Helmertovo, target kódování pro vysokou kardinalitu.
• Transformace: standardizace, robustní škálování (medián/IQR), Box–Cox/Yeo–Johnson pro aproximaci normality reziduí.
• Detekce anomálií: identifikace extrémů (IQR, z-skóre), robustní metody (M-odhady) před fitováním modelu.

Předpoklady modelů a diagnostika

• Lineární regrese: linearita, homoskedasticita, normalita chyb, nezávislost pozorování.
• GLM: správná spojovací funkce, členění rozptylu podle rodiny rozdělení (exponenciální rodina).
• Časové řady: stacionarita, absence autokorelace reziduí po fitování modelu, sezónnost.
• Diagnostika: Q–Q grafy, Breusch–Pagan/White, Durbin–Watson, ACF/PACF, Cookova vzdálenost, grafy vlivu.

Lineární regrese a regularizace

Model: y = Xβ + ε, kde ε ~ N(0, σ²I). Odhad OLS minimalizuje ||y − Xβ||². Při multikolinearitě a vysoké rozměrnosti použijeme regularizaci:

• Ridge (L2): penalizace λ||β||², stabilizuje odhady, neredukuje koeficienty přesně na nulu.
• Lasso (L1): penalizace λ||β||₁, provádí výběr proměnných (řídké řešení).
• Elastic Net: kombinace L1 a L2; vhodná při skupinové korelaci prediktorů.
• Volba λ: k-násobná křížová validace, případně informační kritéria (AICc/BIC).

Generalizované lineární modely (GLM)

GLM rozšiřují lineární model na různá rozdělení odezvy pomocí spojovací funkce g(·): g(μ) = Xβ.

Smíšené (hierarchické) modely

Pro data se strukturou (opakovaná měření, shluky) použijeme náhodné efekty: y = Xβ + Zb + ε, b ~ N(0, D). Smíšené modely umožňují odlišit variabilitu mezi jednotkami (např. školami, pacienty) od variability uvnitř jednotek a zlepšují inferenci i predikce. Rozšířením jsou GLMM pro negaussovské odezvy.

Modely časových řad

• ARIMA/SARIMA: kombinace autoregrese (AR), integrování (I) a klouzavého průměru (MA) se sezónností. Postup: diferenciace → identifikace (ACF/PACF) → odhad → diagnostika.
• Stavový prostor a Kalmanův filtr: obecný rámec pro dynamické systémy, latentní stavy a měřicí šum; snadná práce s nepravidelným vzorkováním a chybějícími hodnotami.
• GARCH: modelování heteroskedasticity (finanční časové řady).

Bayesovské modelování

Bayesovský přístup kombinuje předchozí znalost p(θ) s věrohodností p(y|θ) do posteriorního rozdělení p(θ|y). Výhody: přirozená kvantifikace nejistoty, hierarchie, práce s malými vzorky.

• Výpočet: MCMC (NUTS/HMC), variační inference (VI) pro rychlejší aproximace.
• Předchozí rozdělení: slabě informativní (např. Studentovo t-rozdělení pro robustnost), nebo informativní, založené na dřívějších studiích.
• Kontrola modelu: posterior predictive checks, LOO-CV/WAIC pro porovnání modelů.

Neparametrické a pružné modely

• Spliny a aditivní modely (GAM): y = α + Σ f_j(x_j) + ε s penalizací hladkosti; zachycují nelinearity při zachování interpretovatelnosti.
• Jádrové metody: odhady hustoty (KDE), lokálně vážená regrese (LOESS).
• Gaussovské procesy (GP): f(·) ~ GP(m, k); plně bayesovská nelineární regrese s kvantifikací nejistoty, náročná na výpočet (pro škálování se používají indukční body).

Redukce rozměrnosti a reprezentace

• PCA: ortogonální projekce maximalizující rozptyl; vhodná pro odšumění a vizualizaci.
• FA/ICA: faktorová a nezávislá komponentní analýza pro latentní zdroje.
• t-SNE/UMAP: nelineární vizualizace struktur; pouze explorativní, nikoli pro inferenci.

Analýza přežívání (survival)

• Kaplanovy–Meierovy křivky: nestranný odhad přežívání při cenzorovaných datech.
• Coxův model proporcionálních rizik: semiparametrický model; test proporcionality (Schoenfeldova rezidua), časově proměnné kovariáty při porušení předpokladu.
• Akcelerované modely doby do události (AFT): parametrická alternativa s přímou interpretací násobků doby do události.

Kauzální inference

• DAG a do-kalkulus: explicitní model příčin a následků, kontrola konfuzních proměnných.
• Odhad efektu: skóre sklonu (párování, vážení), stratifikace, dvojitě robustní metody (AIPW).
• RCT vs. observační studie: zdroje zkreslení (výběrové, měřicí, časově proměnné confoundingové vlivy); analýza citlivosti.

Výběr modelu, metriky a validace

• Křížová validace: k-fold, stratifikovaná, blokovaná pro časové řady, leave-one-group-out pro shluky.
• Informační kritéria: AIC/AICc (predikční schopnost), BIC (parsimoničnost), WAIC/LOO pro bayesovské modely.
• Metriky: RMSE/MAE (regrese), AUC/PR-AUC, log-loss, Brierovo skóre, kalibrace (diagramy spolehlivosti), očekávaná chyba kalibrace.

Resampling, bootstrap a permutační testy

• Bootstrap: intervaly spolehlivosti bez silných předpokladů; percentilové, BCa.
• Permutace: neparametrické testování nulové hypotézy zaměnitelnosti; odolné vůči odchylkám od normality.

Chybějící data: mechanismy a imputace

• Mechanismy: MCAR, MAR, MNAR. Správná strategie závisí na mechanismu chybění.
• MICE: vícenásobná imputace s kombinováním podle Rubinových pravidel; respektování typů proměnných.
• Analýza citlivosti: posouzení vlivu různých předpokladů o chybění na závěry.

Robustní modelování a odlehlé hodnoty

• M-odhady (Huber, Tukey): snižují vliv extrémů na odhady.
• RANSAC: odolné fitování při vysokém podílu odlehlých hodnot, zejména v regresi.
• Studentovy t-chyby: bayesovská robustifikace pomocí těžkoocasých rozdělení.

Interpretovatelnost a vysvětlitelnost

• Koeficienty a kontrasty: pro lineární modely/GLM; pozor na kolinearitu a kódování kategorií.
• Parciální závislosti (PDP), křivky ICE: globální/individuální efekt prediktorů.
• Shapleyho hodnoty (SHAP): aditivní dekompozice příspěvků; používat s ohledem na korelace a stabilitu.
• Kalibrace: Plattova škálovací metoda/izotonická regrese pro klasifikaci; důležitá v rozhodovacích systémech.

Kvantifikace nejistoty a intervaly

• Intervaly spolehlivosti vs. věrohodnostní intervaly: frekventistické vs. bayesovské pojetí.
• Predikční intervaly: zahrnují nejistotu parametru i reziduální rozptyl; nezaměňovat s intervaly pro střední hodnotu.
• Nejistota modelu: průměrování modelů (frekventistické/BMA) a penalizace složitosti.

Reprodukovatelnost, verzování a etika

• Reprodukovatelný postup: notebooky + skripty + soubory pro uzamčení závislostí, správa verzí dat, hodnoty semene RNG.
• Dokumentace: předem stanovené protokoly (preregistrace u inferenčních studií), datové slovníky, kontrola kódu.
• Etika a zkreslení: audit tréninkových dat, metriky spravedlnosti (DP/EO/EOD), ochrana soukromí od počátku návrhu a minimalizace dat.

Nasazení a sledování modelu

• Monitoring: posun dat (PSI), posun predikcí, změna rozdělení reziduí, alarmy při překročení specifikace.
• Opětovné trénování: spouštěč podle SLO, nasazení ve stínovém režimu, testy champion–challenger.
• Správa verzí: registry modelů, podepisování artefaktů, auditovatelnost.

Rychlý referenční přehled spojovacích funkcí (GLM)

Kontrolní seznam pro aplikaci statistického modelu

• Definujte cíl (inference vs. predikce) a rozhodovací metriky.
• Zmapujte datové typy, mechanismus chybějících dat a potenciální zkreslení.
• Zvolte kandidátní modely a jejich předpoklady; připravte diagnostické testy.
• Proveďte převzorkování/křížovou validaci, nastavte hyperparametry a ověřte kalibraci.
• Kvantifikujte nejistotu (intervaly, posteriorní rozdělení), dokumentujte omezení.
• Vybudujte monitorování posunu dat a plán opětovného trénování.

Závěr

Statistické modely tvoří páteř analytického rozhodování: propojují doménové znalosti, pravděpodobnostní uvažování a výpočetní metody. Úspěch spočívá v kritickém přístupu ke vstupním předpokladům, správné volbě metrik, důsledné diagnostice a transparentní komunikaci nejistoty. Kombinací lineárních, generalizovaných, hierarchických a bayesovských přístupů lze vytvářet robustní, interpretovatelné a eticky udržitelné analýzy napříč obory.