Na běžnou kancelářskou práci počítejte s firemním předplatným AI asistenta. Platí se pevná měsíční částka za člověka, podobně jako u jiného kancelářského softwaru. Platba za použití, tedy za tokeny, přibude jen tam, kde AI pracuje sama uvnitř vašich procesů, a dá se shora omezit. Vlastní server s modelem se malé firmě vyplatí jen výjimečně.
Konkrétní částka závisí na třech věcech. Kolik lidí AI opravdu používá každý den. Jestli AI pracuje i bez člověka, třeba při zpracování objednávek, faktur nebo dotazů. A jak citlivá jsou data, se kterými pracuje. Podle toho se váš rozpočet skládá z jedné, dvou nebo všech tří složek.
Dvě zprávy ukazují opačné cesty, ale ani jedna není typická pro malou firmu
Hospodářské noviny přinesly rozhovor se šéfem e-shopu GymBeam. Už titulek uvádí, že AI agenti a tokeny stojí firmu desítky tisíc eur měsíčně. Náklady na AI jsou tam skutečná položka rozpočtu.
Firma Mistral zase zveřejnila váhy svého velkého modelu Mistral Large 4 s bilionem parametrů. Model lze zdarma používat i komerčně a provozovat na vlastní infrastruktuře.
Jedna zpráva tedy říká, že AI může stát hodně peněz měsíčně. Druhá, že model se dá mít zadarmo. Obě jsou pravdivé a obě mohou majitele menší firmy zmást.
Velký e-shop s velkým objemem zakázek je ale jiná situace než firma s dvaceti lidmi. A „zdarma ke stažení“ neznamená „zdarma v provozu“. Pro rozhodnutí je proto důležité rozumět tomu, za co se u AI vlastně platí.
Rozlište tři způsoby placení, než začnete počítat
Každý ze tří způsobů se hodí na jinou práci a nese jiné riziko.
| Předplatné na uživatele | Platba za použití (tokeny) | Vlastní provoz modelu | |
|---|---|---|---|
| Za co platíte | Pevná částka za člověka a měsíc | Za množství textu, který AI přečte a napíše | Server, elektřinu, správu, zálohy |
| Kdy se hodí | Lidé AI používají sami při běžné práci | AI zpracovává dokumenty nebo zprávy automaticky | Data nesmí ven a objem je velký a stálý |
| Hlavní riziko | Placené licence, které nikdo nepoužívá | Nečekaně vysoký účet | Velká investice, která leží ladem |
| Jak riziko hlídat | Jednou za čtvrtletí projít, kdo licenci používá | Měsíční limit a upozornění u poskytovatele | Nejdřív vyzkoušet stejný model u poskytovatele |
Token je kousek textu, zhruba část slova. Poskytovatelé uvádějí cenu za milion tokenů zvlášť pro text, který model čte, a zvlášť pro text, který píše. Psaní bývá dražší.
Většina malých firem začíná předplatným. Platba za tokeny přichází ve chvíli, kdy chcete, aby AI dělala práci sama, třeba četla přijaté faktury. Vlastní provoz je až třetí krok a mnoho firem ho nikdy nepotřebuje.
Spočítejte rozpočet na člověka ve čtyřech krocích
Rozpočet nemusí být přesný na korunu. Musí ale vycházet z toho, jak vaši lidé skutečně pracují.
- Rozdělte lidi do tří skupin. Kdo by AI používal denně (psaní, shrnutí, tabulky, překlady), kdo jen občas a kdo vůbec. U firmy s deseti lidmi to může být šest, dva a dva.
- Předplatné dejte jen denním uživatelům. Cenu firemního tarifu zjistíte na stránkách poskytovatele. Vynásobte ji počtem lidí v první skupině. Občasným uživatelům licenci přidejte, až o ni sami řeknou. Jeden účet pro víc lidí většinou podmínky poskytovatelů nedovolují.
- Odhadněte automatické úlohy zvlášť. Pro každou úlohu si zapište, kolik dokumentů nebo zpráv měsíčně zpracuje a jak jsou dlouhé. Pak vyzkoušejte na malém vzorku, kolik tokenů jeden kus skutečně spotřebuje. Spotřebu za vzorek najdete v přehledu u poskytovatele. Vynásobte ji měsíčním objemem.
- Přidejte rezervu a stanovte strop. Odhad ze vzorku bývá nižší než realita, protože skutečné dokumenty jsou různě dlouhé a některé se zpracují dvakrát. Strop nastavte tak, abyste se při jeho dosažení nelekli.
Měsíční rozpočet na člověka pak spočítáte jednoduše. Sečtěte předplatné a náklady na automatické úlohy a vydělte počtem lidí, kterým AI pomáhá. Užitečnější je ale sledovat obě složky odděleně. Předplatné se mění s počtem lidí, tokeny s objemem práce.
Pokud se nechcete zabývat výpočtem tokenů, začněte jen předplatným. Automatické úlohy přidejte, až budete vědět, kterou práci chcete AI svěřit.
Platbu za tokeny držte pod stropem od prvního dne
Strach z nečekaného účtu je oprávněný. Platba za použití nemá přirozený konec. Když se něco pokazí, platíte dál, dokud si toho nikdo nevšimne.
Účty nejčastěji rostou z těchto důvodů:
- Agent pracuje ve smyčce. Opakuje krok, protože nedostal výsledek, který čekal, a každý pokus stojí peníze.
- Model dostává pokaždé celý kontext. Například ke každé objednávce celý ceník nebo dlouhou historii e-mailů.
- Na jednoduchou práci se používá velký model. Třídění zpráv nebo vytažení čísla faktury zvládne menší a levnější model.
- Zkušební úloha zůstala zapnutá. Někdo ji vyzkoušel a zapomněl vypnout.
Co nastavit hned na začátku:
- měsíční limit útraty, po kterém se služba zastaví, pokud ho poskytovatel nabízí (jinak aspoň upozornění a pravidelnou kontrolu útraty),
- upozornění e-mailem při dosažení poloviny a většiny limitu,
- samostatný přístupový klíč pro každou úlohu, aby bylo vidět, co kolik stojí,
- první týden po spuštění se na spotřebu podívat každý den, pak jednou týdně.
Zastavená služba je nepříjemná. Účet, o kterém se dozvíte až na konci měsíce, je horší.
Vlastní server se malé firmě vyplatí jen výjimečně
Zveřejněné váhy znamenají, že za licenci modelu neplatíte. Platíte ale za všechno ostatní.
Model s bilionem parametrů nepoběží na běžném firemním serveru. Potřebuje stroj s několika výkonnými grafickými kartami a dostatkem paměti. K pořízení se přidá elektřina, chlazení, zálohy, bezpečnostní aktualizace a člověk, který se o provoz stará. A server stojí peníze i ve chvíli, kdy na něm v noci a o víkendu nikdo nepracuje.
Menší otevřené modely běží i na skromnějším hardwaru. Na jednodušší úlohy mohou stačit. U složitější práce ale obvykle zaostávají za velkými modely, které nabízejí poskytovatelé.
Vlastní provoz začne dávat smysl, když platí většina z těchto bodů:
- data podle smluv se zákazníky nebo podle pravidel vašeho oboru nesmí opustit firmu,
- objem práce je velký a rovnoměrný po celý den,
- máte vlastního člověka, který server zvládne spravovat,
- úloha je jasně ohraničená a menší model na ni prokazatelně stačí.
Pokud vás táhne hlavně ochrana dat, existuje i střední cesta. Otevřený model vám může provozovat poskytovatel v oblasti, kterou si zvolíte, případně na stroji vyhrazeném jen pro vás. Než se rozhodnete, zjistěte, co u vás platí pro zpracování osobních a citlivých údajů, a ověřte si to u místního odborníka.
Rozumný postup je vyzkoušet stejný otevřený model nejdřív u poskytovatele. Když se osvědčí a objem bude opravdu velký, máte podklady pro výpočet, jestli se vlastní stroj zaplatí.
Související řešení: Software na míru vs. krabicový program: kdy se vyplatí který
Po měsíci zkušebního provozu rozpočet upravte podle skutečnosti
Žádný odhad předem nenahradí měsíc skutečného používání. Spusťte AI v omezeném rozsahu a po měsíci si sedněte nad čísla z přehledu u poskytovatele.
Kontrolní otázky po prvním měsíci
- Používají licenci všichni, kdo ji dostali? Komu ji nikdo nepoužil, tomu ji zrušte.
- Ozval se někdo z občasných uživatelů, že by ji potřeboval častěji?
- Odpovídá spotřeba tokenů odhadu ze vzorku? Pokud je vyšší, kde vzniká rozdíl?
- Dosáhla některá úloha limitu? Šlo o skutečný objem, nebo o chybu?
- Převzala automatická úloha práci, kterou umíte pojmenovat? Například kolik dokladů už nikdo nepřepisuje.
- Objevila se data, která by do AI nástroje posílat neměla?
Pak rozpočet upravte a další kontrolu naplánujte za čtvrt roku. Ceny poskytovatelů i nabídka modelů se mění poměrně rychle. Co platilo při prvním výpočtu, nemusí platit za rok.
Zdroje
Často kladené otázky
Mám dát firemní předplatné AI všem zaměstnancům najednou?
Spíš ne. Začněte s lidmi, kteří mají jasnou práci, kde AI pomůže, a ostatní přidávejte, až o licenci sami požádají. Nebudete tak platit za licence, které nikdo nepoužívá, a zároveň zjistíte, kde AI ve firmě opravdu pomáhá.
Stačí pro firmu bezplatná verze AI asistenta?
Na první seznámení ano, pro práci s firemními daty spíš ne. Bezplatné verze mívají jiné podmínky nakládání s daty než firemní tarify a obvykle chybí správa uživatelů. Přečtěte si podmínky konkrétní služby a lidem řekněte, co do ní nesmí vkládat.
Co když poskytovatel zdraží nebo změní podmínky?
Proto se vyplatí nevázat celou práci na jediný model. Když máte automatické úlohy postavené tak, aby šel model vyměnit, přechod k jinému poskytovateli je otázka úprav, ne nového projektu. U předplatného na uživatele je změna jednodušší, stačí převést lidi na jinou službu.
Je otevřený model horší než placený od velkých poskytovatelů?
Záleží na velikosti modelu a na úloze. Velké otevřené modely se placeným mohou blížit. Malé, které běží na levném hardwaru, bývají na složitou práci slabší. Rozhodne test na vašich vlastních dokumentech, ne obecná srovnání.
Jak poznám, že se mi AI vyplácí?
Porovnejte měsíční náklady s prací, kterou AI prokazatelně převzala nebo zrychlila. Nejsnáz se to měří u opakovaných úloh, kde víte, kolik kusů měsíčně zpracujete. U psaní a shrnutí se zeptejte lidí, jestli by se AI vzdali, a když ne, na co ji používají.
