EuroEkonóm.sk
Human-in-the-loop (HITL), česky přístup „člověk ve smyčce“, označuje způsob využití umělé inteligence, při kterém člověk kontroluje, upravuje nebo schvaluje její výstupy a rozhodnutí. Umělá inteligence tedy nepracuje zcela samostatně: v předem určených bodech procesu do něj vstupuje lidský odborník, který zohledňuje širší kontext a podle potřeby zasáhne.
Přístup human-in-the-loop propojuje rychlost automatizovaného zpracování dat s lidským úsudkem, zkušenostmi a odpovědností. Uplatňuje se zejména tam, kde je důležité nejen získat výsledek rychle, ale také ověřit jeho správnost a přiměřenost konkrétní situaci.
Jak funguje přístup human-in-the-loop
V systému HITL umělá inteligence zpravidla zpracuje data, vytvoří návrh výsledku nebo upozorní na situaci, která vyžaduje pozornost. Člověk následně výstup ověří a rozhodne, zda jej přijme, upraví, nebo odmítne. Může také požádat o doplňující informace či předat případ odborníkovi s vyšší úrovní pravomocí.
Rozsah lidského dohledu se liší podle účelu systému a míry rizika. V některých případech člověk kontroluje pouze vybrané výstupy, například ty, které systém označí jako nejisté. Jinde je povinné schválení každého rozhodnutí, než se podle něj začne jednat. U méně rizikových úloh může být lidská kontrola následná, zatímco u citlivých rozhodnutí probíhá ještě před jejich provedením.
Člověk se může zapojit také při přípravě a zlepšování modelu. Odborníci například označují trénovací data, opravují chybné výstupy nebo poskytují zpětnou vazbu, podle níž se systém dále upravuje. Lidské posouzení tak může pomoci nejen s kontrolou jednotlivých výsledků, ale i s postupným zvyšováním kvality systému.
Proč je lidský dohled nad AI důležitý
Modely umělé inteligence dokážou zpracovávat velké objemy informací rychle a konzistentně. Jejich výstupy však nemusejí být vždy správné, úplné ani vhodné pro konkrétní situaci. Model může vycházet z neúplných či zkreslených dat, přehlédnout důležité okolnosti nebo vytvořit přesvědčivě formulovaný, ale nepřesný závěr. Lidská kontrola pomáhá takové nedostatky odhalit a posoudit jejich možné následky.
Odborník může zohlednit okolnosti, které systém nezná nebo nedokáže správně vyhodnotit, a rozpoznat, kdy automatické doporučení neodpovídá potřebám konkrétního člověka. Lidský dohled je proto obzvlášť důležitý u kritických a citlivých procesů, v nichž může rozhodnutí AI významně ovlivnit zdraví, bezpečnost, práva nebo finanční situaci jednotlivce.
HITL může zároveň přispět k transparentnějšímu rozhodování. Pokud organizace zaznamenává, jak AI dospěla k návrhu a jak jej člověk posoudil, může lépe vysvětlit průběh rozhodnutí i rozdělení odpovědnosti. Samotná přítomnost kontrolora ale nestačí: dohled musí být skutečný, informovaný a podpořený odpovídajícími pravomocemi.
Kde se human-in-the-loop využívá
Přístup human-in-the-loop se uplatňuje v různých oborech, zejména tam, kde je potřeba spojit rychlost automatizace s odborným posouzením. Konkrétní podoba závisí na povaze úlohy, možných dopadech rozhodnutí a požadavcích daného odvětví.
Zdravotnictví a finanční služby
Ve zdravotnictví může AI pomáhat při analýze lékařských snímků nebo při třídění informací o pacientech. Výsledek slouží jako podklad, zatímco konečné posouzení nálezu provádí zdravotnický odborník. Ten může doporučení ověřit s ohledem na zdravotní stav pacienta a další dostupné informace.
Ve finančních službách může systém označit podezřelou transakci nebo upozornit na možný problém při posuzování žádosti. Pracovník následně prověří okolnosti a rozhodne, zda je potřeba další postup. Podobně může lidská kontrola pomoci omezit dopady chybných nebo nepřiměřených automatizovaných doporučení.
Moderování obsahu a zpracování žádostí
Lidský dohled se využívá také při moderování obsahu, vyhodnocování žádostí, kontrole dokumentů a práci s automatizovanými doporučeními. AI může například vytřídit obsah, který pravděpodobně porušuje pravidla, nebo upozornit na části dokumentu vyžadující pozornost. Člověk pak posoudí sporné případy, u nichž je důležitý kontext nebo znalost konkrétních pravidel.
Jak nastavit účinnou lidskou kontrolu
Aby byl přístup HITL skutečně přínosný, musí organizace jasně určit, v jakých situacích se člověk do procesu zapojuje a co přesně má při kontrole ověřovat. Hodnotitel potřebuje mít k dispozici relevantní informace, rozumět omezením systému a vědět, jak může jeho výstup změnit. Důležitá je také možnost předat neobvyklé nebo sporné případy k dalšímu posouzení.
Hodnotitelé by měli mít odpovídající odborné znalosti, dostatek času a pravomoc doporučení AI odmítnout. Organizace by zároveň měly nastavit srozumitelné postupy pro zaznamenávání rozhodnutí, řešení chyb a odpovědnost za konečný výsledek. Bez těchto podmínek se z lidské kontroly může stát pouze formální krok.
Účinnost systému je potřeba průběžně vyhodnocovat. Organizace by měly sledovat chybovost AI, zaznamenávat zásahy člověka a zjišťovat, zda kontrola skutečně odhaluje problémy. Výsledky mohou pomoci upravit pracovní postupy, zlepšit školení hodnotitelů nebo identifikovat situace, ve kterých systém potřebuje další úpravy.
Přínosy a omezení modelu HITL
Human-in-the-loop může zvýšit spolehlivost rozhodování, usnadnit odhalování chyb a zlepšit přizpůsobení systému konkrétním potřebám. Zpětná vazba od odborníků může navíc přispívat k postupnému zlepšování modelu. Lidské posouzení je přínosné zejména tehdy, když systém narazí na nejednoznačný případ nebo když mohou mít jeho výstupy závažné důsledky.
Lidská kontrola však vyžaduje čas, odborné pracovníky a odpovídající provozní zdroje. Její kvalita závisí na zkušenostech hodnotitelů i na jejich pracovních podmínkách. Člověk může být ovlivněn únavou, vlastní zaujatostí nebo přílišnou důvěrou v doporučení systému. Pokud pouze mechanicky potvrzuje automatické výstupy, nemusí případné chyby rozpoznat.
Samotná přítomnost člověka v procesu proto automaticky nezaručuje správný výsledek. Účinný model HITL spojuje kvalitní technologii, smysluplně nastavený dohled, jasnou odpovědnost a průběžné vyhodnocování. Teprve za těchto podmínek může člověk doplnit schopnosti AI a zároveň pomoci omezit rizika spojená s automatizovaným rozhodováním.
