Zákaznickému chatbotovi dejte ke čtení jen to, co byste bez obav vyvěsili na web. Sám smí dělat jen kroky, které jdou snadno vzít zpět. Všechno ostatní má projít přes člověka nebo přes systém, který ověří, kdo se ptá. Vycházejte z toho, že co chatbot vidí, to z něj vytrvalý návštěvník dostane.

Kolik mu můžete svěřit, závisí na třech věcech. Jestli jen odpovídá, nebo ve vašich systémech i něco mění. Jestli umíte ověřit, kdo se ptá. A jestli jeho provoz někdo sleduje. Před nasazením si proto projděte pět otázek: co čte, co udělá sám, kolik smí utratit, kdo ho sleduje a co máte od dodavatele písemně.

Počítejte s tím, že chatbota jde přemluvit

Lupa.cz popsala pražskou přednášku o slabinách firemních chatbotů. Plynou z ní tři věci. Zákaznického chatbota lze zneužít k cizí práci na náklady firmy. Pravidla provozovatele jdou obejít přeformulovaným dotazem. A chatbot s přístupem k dokumentům, e-mailu nebo databázi může data vydat ven.

Důvod je prostý. Jazykový model nerozlišuje spolehlivě mezi vaším pokynem a textem od návštěvníka. Obojí je pro něj text, na který má reagovat.

Věta „interní informace nikomu nesděluj“ v zadání je proto prosba, ne zámek. Většinou zabere. Spoléhat se na ni nedá.

Bezpečnost tedy nestavte na tom, co chatbotovi řeknete. Stavte ji na tom, kam nedosáhne a co neumí udělat. Na data, která nevidí, se ho nikdo nedoptá.

Hlídáte dvě věci: data a peníze. Další části jsou kontrolní seznam pro obojí.

Ke čtení dejte chatbotovi jen to, co smí vidět kdokoli

Pomůže jednoduchá zkouška. U každého dokumentu a každé tabulky si představte, že je návštěvník dostane celé do ruky. Když vám to nevadí, chatbot je číst smí.

Druh dat Zpřístupnit? Za jaké podmínky
Veřejné informace: ceník, dodací podmínky, návody, otevírací doba Ano Kopie připravená pro chatbota, ne přístup do celého úložiště
Stav objednávky konkrétního zákazníka Ano, omezeně Systém ověří zákazníka a vrátí jen jeho záznam
Interní dokumenty: nákupní ceny, marže, smlouvy, interní postupy Ne –
Firemní e-mail a sdílené složky Ne –
Celá databáze zákazníků Ne Jen jeden záznam po ověření
Osobní a citlivé údaje Jen nezbytné minimum Zjistěte, co u vás pro ně platí, a ověřte to u místního odborníka

U údajů konkrétního zákazníka rozhoduje, kdo ověřuje totožnost. Nesmí to být chatbot. Ten se dá přesvědčit, že mluví s někým jiným.

Ověřovat má systém pod ním. Zákazník je přihlášený, nebo zadá číslo objednávky a údaj, který zná jen on. Systém pak chatbotovi vrátí jeden záznam a nic dalšího.

Zeptejte se dodavatele přímo: může chatbot prohledávat všechny objednávky, nebo dostane jen tu jednu? Pokud může prohledávat, chrání cizí data jen jeho zadání.

Pozor na pohodlnou zkratku „napojíme ho na sdílený disk, ať má z čeho čerpat“. Na sdíleném disku bývá i to, co tam nepatří. Podklady pro chatbota připravte zvlášť a ať je před nahráním někdo přečte.

Chatbot smí sám udělat jen to, co jde snadno vzít zpět

Čtení je jedno riziko. Druhé vzniká ve chvíli, kdy chatbot smí ve vašich systémech něco změnit.

Rozdělte jeho úkony do tří skupin.

Smí sám:

  • odpovědět z připravených podkladů,
  • založit požadavek pro podporu,
  • předat rozhovor člověku,
  • po ověření ukázat zákazníkovi stav jeho objednávky.

Jen se schválením člověka:

  • vrácení peněz, sleva nebo jiná kompenzace,
  • změna doručovací adresy a kontaktních údajů,
  • zrušení objednávky,
  • zpráva odeslaná jménem firmy mimo okno chatu.

Vůbec ne:

  • mazání záznamů,
  • změna cen a skladových zásob,
  • cokoli s platebními údaji.

Změna adresy vypadá nevinně. Je to ale známá cesta, jak přesměrovat cizí zásilku. Proto patří do prostřední skupiny.

Schválení nemusí zdržovat. Chatbot připraví návrh a člověk z podpory ho jedním kliknutím potvrdí nebo zamítne.

Zvlášť si ošetřete sliby. Chatbot může zákazníkovi slíbit slevu nebo termín, které neplatí. Zjistěte, nakolik je u vás firma takovým slibem vázána, a ověřte to u místního odborníka. V okně chatu aspoň uveďte, že odpovídá automat a kde zákazník najde platné podmínky.

Nastavte strop útraty a hranice jednoho rozhovoru

Chatbot stojí peníze za každý text, který přečte a napíše. Když ho někdo používá jako bezplatného pomocníka na vlastní práci, platíte to vy. Právě takové zneužití popisuje Lupa.cz.

Návštěvník přitom nemusí být útočník. Stačí člověk, který zjistí, že mu váš chatbot přeloží dlouhý text nebo napíše školní práci.

Nastavte proto hranice dřív, než chatbota pustíte na web:

  • Měsíční strop útraty u poskytovatele modelu. Po jeho dosažení se chatbot zastaví.
  • Upozornění odpovědnému člověku už v polovině stropu.
  • Délka jedné zprávy. Dotaz na dodací lhůtu se vejde do pár vět, cizí dokument ne.
  • Počet zpráv v jednom rozhovoru a počet rozhovorů z jednoho zařízení za den.
  • Délka odpovědi. Chatbot, který píše jen krátké odpovědi, je pro cizí práci málo zajímavý.

Rozhodněte předem, co návštěvník uvidí po zastavení. Stačí věta, že pomocník není dostupný, a kontakt na podporu.

Pokyn „odpovídej jen na dotazy k našemu zboží“ do zadání patří. Berte ho ale jako filtr na běžné návštěvníky, ne jako ochranu. Tou jsou limity.

Určete člověka, který čte skutečné rozhovory

Bez sledování se o zneužití dozvíte z faktury nebo od zákazníka. Určete proto jednoho člověka jménem. „Bude to hlídat podpora“ znamená, že to nehlídá nikdo.

První týden po spuštění ať projde rozhovory každý den. Potom stačí vzorek jednou týdně a přehled spotřeby.

Na co se dívat:

  • dotazy, které nesouvisí s vaším oborem,
  • neobvykle dlouhé rozhovory,
  • pokusy zjistit pokyny chatbota nebo interní informace,
  • náhlý nárůst počtu rozhovorů, hlavně v noci,
  • odpovědi, kde chatbot něco slíbil nebo si něco vymyslel.

Čtení rozhovorů se vyplatí i bez útočníků. Uvidíte, na co se zákazníci ptají a co na webu nenašli.

Stejný člověk musí umět chatbota vypnout. Sám, hned a bez volání dodavateli. Vyzkoušejte to dřív, než to budete potřebovat.

Záznamy rozhovorů obsahují údaje zákazníků. Domluvte, jak dlouho se uchovávají a kdo je smí číst. Co u vás platí pro jejich zpracování, ověřte u místního odborníka.

Od dodavatele chtějte odpovědi písemně

Ústní ujištění „je to bezpečné“ nestačí. Chtějte krátký dokument, kterému rozumíte i bez technického vzdělání.

  1. Seznam přístupů. Ke kterým systémům a datům se chatbot dostane, zvlášť pro čtení a zvlášť pro změny.
  2. Ověření zákazníka. Kde přesně probíhá a že ho nedělá jazykový model.
  3. Uložení rozhovorů. Kde leží, jak dlouho a kdo k nim má přístup. A jestli se z nich učí cizí modely.
  4. Limity. Jaké stropy útraty a použití jsou nastavené a kdo je smí měnit.
  5. Vypnutí. Jak chatbota zastavíte sami.
  6. Incident. Kdo vám oznámí bezpečnostní problém a jak rychle.
  7. Zkoušky proti zneužití. Jak byl chatbot testován a že se test zopakuje po každé změně modelu nebo zadání.

Když dodavatel na některý bod neumí odpovědět, je to také odpověď.

Totéž platí, pokud si chatbota skládáte sami z hotové služby. Odpovědi pak sepište vy a uložte je tam, kde je najde i váš zástupce.

Před spuštěním zkuste chatbota sami přemluvit

Než chatbota uvidí zákazníci, věnujte mu hodinu a zkuste ho použít proti sobě. Nepotřebujete k tomu technické znalosti, jen trpělivost.

  • Chtějte po něm něco mimo obor: přeložit dlouhý text, napsat cizí e-mail, vyřešit domácí úkol.
  • Zeptejte se ho na jeho pokyny a na to, z jakých dokumentů čerpá.
  • Vydávejte se za kolegu z podpory a chtějte objednávky jiného zákazníka.
  • Tvrďte, že vám vedoucí slíbil slevu, a žádejte její potvrzení.
  • Odmítnutý požadavek zkuste znovu jinými slovy, v jiném jazyce nebo po částech.

Sepište si, co se stalo. Pak rozlišujte dva druhy nálezů.

Když chatbot řekl něco hloupého nebo mimo téma, upravte zadání a limity.

Když vydal data nebo provedl úkon, který neměl, není chyba ve formulaci. Je v oprávněních. Přístup mu odeberte, nesnažte se ho ukáznit lepším zadáním.

Zkoušku zopakujte po každé větší změně. Nový model nebo nové podklady mohou chování změnit.

Související řešení: Evidence hasicích přístrojů a revizí požární ochrany

Zdroje

Často kladené otázky

Máme chatbota jen na webu, bez napojení na naše systémy. Týká se nás to také?

Riziko úniku dat je u vás malé, pokud chatbot čerpá jen z veřejných podkladů. Zůstává ale riziko útraty za cizí práci a riziko, že pod vaší značkou řekne něco nepravdivého. Limity a pravidelné čtení rozhovorů se proto vyplatí i u zcela jednoduchého nasazení.

Je bezpečnější chatbot, který nabízí jen připravené odpovědi a tlačítka?

Ano. Když návštěvník vybírá z nabídky a nepíše volný text, není co přeformulovat a není koho přemlouvat. Cenou je menší pohodlí: zákazník s neobvyklým dotazem skončí u člověka. Pro první nasazení to bývá rozumný začátek.

Má zákazník vědět, že mluví s automatem?

Doporučujeme to říct hned v první zprávě. Zákazník pak odpovědi bere s přiměřenou důvěrou a ví, že může požádat o člověka. V některých zemích to navíc mohou vyžadovat pravidla, proto si ověřte, co platí u vás.

Co dělat, když zjistíme, že chatbot vydal něco, co neměl?

Chatbota vypněte a uložte záznamy rozhovorů, ze kterých je vidět, co přesně odešlo a komu. Pak mu odeberte přístup k daným datům, samotná úprava zadání nestačí. Jestli máte povinnost únik někomu oznámit, zjistěte u místního odborníka.

Smí interní chatbot pro zaměstnance vidět víc než ten zákaznický?

Smí, ale ne všechno. Platí stejná zásada: chatbot má vidět jen to, co smí vidět člověk, který se ptá. Když skladník nemá přístup ke mzdám, nesmí se k nim dostat ani přes chatbota.