EuroEkonóm.sk
Generativní umělá inteligence odpovídá podle informací, které má v danou chvíli k dispozici. Samotné zadání proto často nestačí: výsledek ovlivňuje také výběr podkladů, jejich uspořádání, historie konverzace, nástroje dostupné modelu i způsob, jakým systém pozná, zda je odpověď použitelná. Právě koordinované řízení těchto vstupů se označuje jako context engineering, česky někdy jako návrh či správa kontextu.
Co znamená context engineering
Context engineering je postup, při němž se navrhuje a průběžně upravuje soubor informací a instrukcí, které model obdrží při řešení úkolu. Cílem není dodat co nejvíce textu, ale sestavit takový kontext, aby byl pro danou úlohu relevantní, srozumitelný a dostatečně úplný.
Kontext může zahrnovat například:
- instrukce určující roli modelu, cílovou skupinu, styl a omezení odpovědi;
- uživatelský požadavek a důležité části předchozí konverzace;
- interní dokumenty, databázové záznamy nebo jiné podklady;
- výstupy z nástrojů, například výpočtů, vyhledávání či firemních systémů;
- požadovaný formát odpovědi a pravidla pro ověření její správnosti.
V praxi tedy nejde jen o formulaci otázky. Jde o návrh celého informačního prostředí, v němž model pracuje.
Rozdíl mezi prompt engineeringem a správou kontextu
Prompt engineering se obvykle soustředí na podobu instrukce: jak úkol popsat, jak vymezit roli modelu nebo jak uvést příklad očekávaného výstupu. Tato dovednost zůstává užitečná, ale představuje jen jednu část širšího procesu.
Context engineering řeší také to, odkud model informace získá, které z nich dostane, v jakém pořadí se mu předloží a jak se jeho pracovní kontext aktualizuje během delšího procesu. U jednoduché otázky může postačit dobře formulovaný prompt. U firemního asistenta, který odpovídá podle interních dokumentů nebo provádí úkol rozdělený do několika kroků, je důležitá i architektura práce s daty a nástroji.
Proč na kvalitě kontextu záleží
Model může vytvořit přesvědčivě formulovanou, ale nepřesnou odpověď, pokud dostane neúplné, zastaralé nebo vzájemně rozporné informace. Stejně tak může přehlédnout důležitý údaj, když je skrytý v rozsáhlém souboru textu. Kvalitní kontext proto pomáhá zvyšovat relevanci a konzistenci výstupů a zároveň omezuje prostor pro nepodložené závěry.
Význam má také délka kontextu. Větší množství informací automaticky neznamená lepší výsledek. Nadbytečné podklady mohou odvádět pozornost od podstatných údajů, zvyšovat nároky na výpočet a komplikovat správu systému. Důležitý je výběr, struktura a aktuálnost, nikoli pouhý objem.
Jak se kontext připravuje v praxi
Vymezení úkolu a požadovaného výstupu
Nejprve je třeba určit, co má systém udělat a podle čeho se pozná úspěšný výsledek. Jiný kontext potřebuje model, který má shrnout smlouvu, a jiný asistent připravující odpověď zákazníkovi. Zadání má vymezit účel, cílového čtenáře, rozsah i případná omezení, například požadavek uvádět nejistotu nebo pracovat pouze s dodanými zdroji.
Výběr a uspořádání podkladů
Podklady se vybírají podle jejich vztahu k úkolu. U rozsáhlých dokumentových kolekcí lze nejprve vyhledat relevantní pasáže a teprve ty předat modelu. Tento přístup se často používá v systémech s generováním rozšířeným o vyhledávání, známých pod zkratkou RAG. Model v takovém případě odpovídá na základě nalezených zdrojů, nikoli pouze podle obecných znalostí získaných při trénování.
Vyhledané informace je vhodné předat přehledně a s potřebnými metadaty, například názvem dokumentu nebo datem jeho platnosti. Pokud si podklady odporují, systém by je neměl bez upozornění sloučit do jediné jistě znějící odpovědi.
Práce s historií a pamětí
U delší konverzace je nutné rozhodnout, které informace z předchozích částí jsou stále důležité. Přenášet celý průběh rozhovoru nemusí být účelné, protože konverzace může obsahovat odbočky, zastaralé požadavky nebo citlivé údaje. Alternativou je průběžné shrnutí relevantních závěrů a otevřených úkolů.
Pojem paměť může označovat různé mechanismy. Nemusí jít o trvalé zapamatování informací modelem; často jde o ukládání dat v externím systému, z něhož se při další interakci vybírají potřebné záznamy. Z pohledu organizace je proto důležité vědět, co se ukládá, jak dlouho, za jakým účelem a kdo k tomu má přístup.
Zapojení nástrojů a kontrolních kroků
Některé úkoly vyžadují víc než práci s textem. Model může potřebovat získat aktuální údaj z databáze, provést výpočet nebo připravit návrh, který následně posoudí člověk. Context engineering určuje, kdy se nástroj použije, jaké informace mu systém předá a jak se jeho výstup promítne do dalšího kroku.
U finančních, právních nebo provozně citlivých činností je vhodné rozlišovat mezi přípravou návrhu a jeho schválením. Model může usnadnit analýzu či administrativu, odpovědnost za významná rozhodnutí však nelze automaticky přenést na samotný systém.
Ekonomické dopady pro podniky
Dobře navržené zpracování kontextu může snížit čas potřebný k vyhledávání informací, omezit opakované zadávání podkladů a zlepšit využití firemních znalostí. Přínos se ale neprojeví automaticky. Závisí na kvalitě dat, vhodnosti zvoleného procesu i na tom, zda pracovníci výstupy skutečně začlení do své práce.
Náklady zahrnují nejen používání modelu, ale také přípravu a údržbu datových zdrojů, integraci s podnikovými systémy, bezpečnostní opatření a průběžné testování. Rozsáhlý kontext může zvyšovat spotřebu výpočetních prostředků. Naopak příliš úzký výběr informací může vést k chybám, které jsou nákladnější než samotné zpracování.
Organizace proto potřebují posuzovat návratnost na úrovni konkrétního pracovního postupu. Sledují například dobu vyřízení úkolu, podíl oprav, přesnost odpovědí, náklady na jeden dokončený případ nebo míru, s níž zaměstnanci výstupy přijímají. Vhodné ukazatele se liší podle účelu aplikace.
Rizika a pravidla řízení
Práce s kontextem přináší také bezpečnostní a provozní rizika. Systém může dostat nepřesný či zastaralý dokument, zpřístupnit informace uživateli bez odpovídajícího oprávnění nebo nesprávně vyhodnotit instrukci vloženou do zdrojového textu. Rizikem je rovněž nadměrné ukládání osobních či obchodně citlivých údajů.
Řízení těchto rizik obvykle zahrnuje:
- kontrolu přístupových práv ke zdrojům a jejich dědění do výstupů;
- pravidla pro aktualizaci, archivaci a vyřazování neplatných podkladů;
- omezení práce s citlivými údaji a stanovení podmínek jejich ukládání;
- testování systému na běžných i krajních případech;
- možnost dohledat, z jakých zdrojů odpověď vycházela;
- lidskou kontrolu tam, kde chyba může mít významné důsledky.
Pravidla je třeba přizpůsobit účelu systému. Asistent pro interní vyhledávání má jiné požadavky než nástroj, který navrhuje obchodní nabídky nebo podporuje rozhodování o financování.
Jak ověřovat kvalitu řešení
Úspěšnost nelze posuzovat jen podle toho, zda odpověď působí přirozeně. Testování by mělo zahrnovat správnost, úplnost, relevanci, práci se zdroji i schopnost přiznat nejistotu. U systémů využívajících vyhledávání je užitečné odděleně sledovat, zda byly nalezeny vhodné podklady a zda z nich model správně vyvodil závěr.
Testovací případy mají vycházet z reálných úloh, ale neměly by se omezovat na běžné scénáře. Je třeba prověřit také chybějící data, rozporné zdroje, nejednoznačné požadavky a pokusy získat informace mimo oprávnění uživatele. Výsledky testů je vhodné opakovat po změně modelu, dat, instrukcí nebo způsobu vyhledávání.
Kontext jako součást provozního návrhu
Context engineering není jednorázové vyladění promptu, ale průběžná práce s informacemi, nástroji a pravidly, která obklopují model. Jeho přínos spočívá v tom, že propojuje schopnosti generativní AI s konkrétními podklady a procesy organizace.
Pro podniky z toho plyne praktický závěr: před zavedením AI je třeba vědět, jaké rozhodnutí nebo činnost má podpořit, jaké zdroje k tomu potřebuje a jak bude ověřována kvalita výsledku. Čím důsledněji jsou tyto otázky vyřešeny, tím snazší je posoudit přínosy, náklady i rizika systému.
