Ne každý problém potřebuje AI

AI není cíl projektu

Jedna z nejdůležitějších zkušeností z AI projektů může na přednášce o umělé inteligenci působit téměř nepatřičně: nezačínejme předpokladem, že problém musíme řešit pomocí AI.
Klienti dnes často přicházejí rovnou s požadavkem na „AI řešení“. Když se ale začne rozebírat skutečný business problém, ukáže se, že jejich cílem není umělá inteligence jako taková. Potřebují ušetřit čas, snížit náklady, automatizovat část procesu nebo zefektivnit práci. A právě v tomto bodě je potřeba se vrátit o krok zpět.

Řada problémů se přitom dá dobře vyřešit klasickou automatizací, tradičním strojovým učením, lepším datovým skladem nebo reportingem. Použití velkého jazykového modelu (LLM) samo o sobě není všelék pro každé řešení. Naopak může přinést vyšší náklady, latenci a především určitou míru nejistoty.

Ta se v produkci projeví velmi rychle. Uživatelé jsou zvyklí, že běžné informační systémy se nastaví jednou a pracují bezchybně. U AI to tak ale nefunguje. I tým nejlepších expertů nedokáže zabránit tomu že tu a tam AI udělá chybu. A to třeba i v případu co již stokrát zvládla perfektně. Něco takového například u systému na kontrolu účetní závěrky může mít dost drahé následky.

Proto má smysl začít od otázky, jakou hodnotu má systém vytvořit. Teprve potom řešit, zda je AI správným prostředkem.

Kde je naopak AI obtížně nahraditelná

Existují ale situace, ve kterých současné modely přinášejí schopnost, kterou se klasickými technologiemi nahrazuje obtížně.

První z nich je komunikace mezi člověkem a počítačem.

Tradiční aplikace vyžadují přesné formuláře, filtry a postupy. Jazykový model si naopak často poradí s přirozenou řečí, nespisovnou formulací, chybami i různými jazyky.

Tato situace je dobře demonstrovatelná na příkladu zpracování faktur. Klasická automatizace funguje dobře, dokud se nezmění rozložení dokumentu nebo se neposune některý údaj. Model pracující s významem obsahu je vůči podobným změnám flexibilnější. Pokud jednou za čas přijde faktura v angličtině nebo dodavatel změnil formát data není to pro něj problém.

AI se hodí také tam, kde dopředu neznáme všechny budoucí požadavky. Klasický systém stavíme podle konkrétního zadání a nové funkce do něj musíme postupně doprogramovat. Agentní řešení může místo toho pracovat se sadou nástrojů. Pokud nový požadavek spadá do jejich možností, nemusí pro něj vznikat samostatná funkce.

Neznamená to, že agent zvládne cokoli. Nemusíme ale předem naprogramovat každou cestu, kterou se uživatel může vydat. Například systém nastavený na shromažďování dat o profitabilitě může stejně tak využít své přístupy k datovému skladu k pochopení proč dlouhodobě klesá.

AI není digitální zaměstnanec

S očekáváním flexibility souvisí ještě jeden fenomén, který se v rozhovorech s klienty opakuje: představa AI jako dalšího člověka v týmu, který bude ovládat existující aplikace stejně jako uživatel. V praxi jsme se setkali se situaci, kdy se klient ptal, zda by AI nemohla převzít ovládání myši a systém si jednoduše „proklikat“.

Technicky by to možné bylo, ale obvykle by šlo o horší řešení a chabou výmluvu k ušetření nákladů. AI věci vidí jinak než člověk a je potřeba k ní mít úplně odlišný přístup. Nemá například problém zadávat dlouhé SQL dotazy přímo bez jakékoliv šablony, ale pokud narazí na špatně zadaný záznam, jen obtížně si všimne, že něco nesedí. Systém ji zahrnující musí být nastaven přímo pro ni, využívající její síly a myslíc na její slabosti. Cokoliv jiného bude mít stejné výsledky jako kdybychom od zítřka požadovali, aby zaměstnanci na počítači využívali pouze poznámkový blok.

Bez kvalitních dat nepomůže ani lepší model

Jakmile má model pracovat s podnikovými informacemi, vrací se do hry téma, které datové týmy řeší dlouhá léta: kvalita dat.

Pokud jsou vstupní data chybná, nekonzistentní nebo bez kontextu, samotný model problém nevyřeší. Naopak může být situace ještě komplikovanější.

Člověk při pohledu na zjevně nesmyslná data často pozná, že je něco špatně. LLM modely naopak mají tendenci předpokládat, že data, které dostaly, mají nějaký význam, a pokusí se z nich sestavit odpověď. Model tak například bude sebevědomě tvrdit že prodeje se zestonásobili, když se jen někde ztratila desetinná čárka.

Proto zůstává důležitá data governance, datový slovník, lineage a další kontext. Systém potřebuje rozumět nejen hodnotám, ale také jejich významu a původu.

Platí tedy stejné pravidlo jako dříve: špatná vstupní data nezachrání ani sebelepší model.

S chybami je nutné počítat

Jazykové modely nejsou deterministický software. Nelze zaručit, že budou vždy reagovat správně a předvídatelně. Ani velmi jednoduchý scénář nemusí být stoprocentně předvídatelný.

Jako příklad z praxe můžeme uvést jednoho našeho agenta integrovaného do Microsoft Teams. Bezpečnostní filtr Microsoftu při jedné formulaci dotazu na hlavní město České republiky otázku opakovaně vyhodnotil jako problematickou. Po změně slovosledu stejný význam prošel.

Pro produkční návrh z toho plyne jednoduchý závěr: systém nesmí předpokládat, že AI nikdy neselže. Musí umět chybu zachytit a omezit její dopad. Například pro chatboty skoro vždy přidáváme failsafe, který ověří výstup a případně ho vrátí k opravě. U důležitějších úloh proto dává smysl human-in-the-loop – kontrolní bod, ve kterém výstup ověří nebo schválí člověk. Pokud například AI připravuje obsah k publikaci, může jej člověk před zveřejněním zkontrolovat. U akcí nad databází jsou zase nutné bezpečné mechanismy pro zachycení a zpracování chyb.

Cílem není vytvořit model, který se nikdy nesplete. Cílem je navrhnout proces, který jeho selhání přežije.

Firemní znalosti nejsou něco, co jednoduše nahrajeme do modelu

Dalším častým očekáváním je představa, že firmě stačí dodat vlastní dokumenty a model se je jednoduše „naučí“. V praxi je práce s podnikovými znalostmi složitější. Ostatně kdyby nebyla Open AI, ani Anthropic by se nezdržovali s tvorbou nových AI modelů a už dávno jen tvořili custom modely pro korporátní klienty.

Namísto představy modelu, do kterého jednou vložíme všechny firemní znalosti, je užitečnější přemýšlet o modelu jako o komponentě, které při konkrétní úloze dodáváme potřebný kontext.

Typickým příkladem je práce s knowledge base prostřednictvím vyhledávání. Model nemusí danou informaci obsahovat přímo uvnitř svého kódu. Systém ji v případě potřeby najde v podnikových zdrojích a teprve následně ji poskytne modelu jako kontext pro odpověď.

Jedním z používaných přístupů je vektorové vyhledávání, které umožňuje hledat obsah podle významové podobnosti, nikoliv pouze podle shody klíčových slov. A právě tady se pozornost přesouvá od samotného modelu k tomu, co stojí kolem něj.

Důležitější než další model mohou být nástroje kolem něj

Pozornost se tak přesouvá od samotného LLM k infrastruktuře kolem něj: k datům, vyhledávání, nástrojům a službám, které model používá.

Právě tyto komponenty často rozhodují o výsledné hodnotě řešení více než další generace modelu. Umožňují AI pracovat se správnými informacemi a provádět řízené akce.

AI proto není univerzální odpovědí na každý technologický problém. Největší smysl má tam, kde potřebujeme překlenout rozdíl mezi lidskou komunikací a strukturou informačních systémů nebo kde nelze předem popsat všechny budoucí požadavky.

Co si z toho odnést

Nezačínejte technologií. Nejdřív definujte business problém a ověřte, zda jej lépe nevyřeší automatizace, klasický software, reporting nebo strojové učení.

LLM mají největší hodnotu při práci s nejednoznačností. Přirozený jazyk, různorodé vstupy a nepředvídatelné budoucí požadavky jsou oblasti, kde mají proti tradičním systémům výraznou výhodu.

Nepřistupujte k AI jako k digitálnímu zaměstnanci. Pokud lze určitou činnost zpřístupnit modelem přes API nebo jiný řízený nástroj, je to spolehlivější než imitovat lidské ovládání aplikace.

Data governance neztrácí význam – naopak. Kvalita dat, slovníky, lineage a kontext jsou pro spolehlivé AI řešení zásadní.

Počítejte se selháním. Halucinace a další nepředvídatelné výstupy nelze považovat pouze za chybu, kterou jednou odstraníme. Naopak musíme postavit robustní systém, který v případě selhání využije dalších AI elementů nebo human-in-the-loop k nápravě.

Soustřeďte se na systém kolem modelu. Knowledge base, retrieval, nástroje, kontrolní mechanismy a infrastruktura mohou být pro výslednou hodnotu řešení důležitější než přechod na nejnovější model.

Autor: Ondřej Bronec