Když si AI stěžuje u AI. Aneb když se britský finanční arbitr vrátí k obvolávání.

Britský finanční ombudsman zjistil, že velkou část stížností, které v současné době dostává, generuje z velké části umělá inteligence. Bývají napsané sebevědomě a dlouze, jenže jsou často úplně mimo. A jak si s tím úřad poradil? Vzal do ruky starý, dobrý telefon a volal.

Když jsem tu zprávu četla poprvé, nahlas jsem se zasmála. Pak mi ale úsměv pomalu zamrzl. Došlo mi, že tohle už dávno není vtip o chatbotech, ale obyčejná realita zákaznické péče. A je jen otázka času, kdy dojde i ke dveřím českých firem.

37 z 39

Britský Financial Ombudsman Service (FOS) funguje podobně jako náš finanční arbitr. Je to nezávislá instituce, která zdarma řeší spory lidí s bankami a pojišťovnami. Její šéf James Dipple-Johnstone nedávno popsal pro Financial Times případ, který by se hodil spíš do skeče než do úředního spisu. Dostali stížnost, ve které bylo 37 z 39 odkazů chybných.

Musela jsem si to přečíst dvakrát. Nešlo o jeden překlep ani o jeden špatně citovaný paragraf. Chybné bylo skoro všechno.

A není to žádná ojedinělá kuriozita. Úřad si letos v březnu prošel malý vzorek případů a zjistil, že až třetinu reakcí, které mu lidé posílali, napsala umělá inteligence, nebo s nimi aspoň hodně pomohla. A nejde jen o běžné lidi. AI používají i firmy, které za klienty vymáhají odškodnění, a dokonce právníci. Některé jejich stížnosti mají přes 200 stran.

Dvě stě stran kvůli jedné reklamaci. To už není stížnost, to je román na pokračování.

Představte si pana Nováka

(Modelová situace pro ilustraci, nejde o skutečný případ.)

Pojišťovna zamítla panu Novákovi plnění za vytopenou koupelnu. Je jedenáct večer, on je naštvaný, a tak otevře chatbota a napíše mu: „Napiš mi pořádnou stížnost.“ Za minutu má před sebou tři strany plné paragrafů, rozsudků a vět jako „hrubé porušení smluvních povinností“. Zní to, jako by to psal advokát. Pan Novák má konečně pocit, že ho někdo bere vážně.

Jenže polovina citovaných zákonů se na jeho případ vůbec nevztahuje a jeden rozsudek si AI prostě vymyslela. A to nejdůležitější, že technik slíbil přijet a nepřijel, se ztratilo někde na druhé stránce.

Na druhé straně mezitím sedí člověk, který musí každý odkaz poctivě ověřit. Hodinu hledá rozsudky, které neexistují. Je mi ho upřímně líto. A stejně tak pana Nováka, který čeká na odpověď a zlobí se čím dál víc. Prohrávají oba.

Přesně to popisuje i britský ombudsman. To podstatné se v záplavě nepřesného textu ztrácí a lidé na úřadě tráví čas kontrolou věcí, které s případem vůbec nesouvisí.

Odpověď z minulého století

Co s tím FOS udělala? Začalo lidem víc volat. Úředníci telefonují těm, kdo si stěžují, aby rovnou zjistili, o co jim doopravdy jde, než je zavalí stránkami vygenerovaného textu.

Přiznám se, že mi tohle udělalo obrovskou radost. Nejmodernější problém zákaznické péče řeší jeden z nejstarších nástrojů, jaký máme. A někomu zase konečně došlo, že pětiminutový rozhovor často řekne víc než dvě stě stran generovaného textu.

AI není padouch

Bylo by snadné udělat z toho příběh o zlé umělé inteligenci. Jenže tak to není a byla bych nespravedlivá, kdybych to tak napsala. I samotný úřad uznává, že AI může lidem pomoci sepsat stížnost jasněji a srozumitelněji. Spousta lidí neumí správně popsat, co je skutečně trápí, a s tím jim AI opravdu pomáhá.

Problém tedy není v nástroji, ale v tom, že lidé po AI nic nekontrolují. Výsledkem jsou texty, které jsou zbytečně dlouhé, nedávají smysl nebo jsou prostě celé špatně.

Co si z toho vzít

• Dlouhá stížnost ještě neznamená oprávněná. Ale ani neoprávněná. Hledejte, o co zákazníkovi jde, ne kolik stran napsal.
• Když text nedává smysl, zavolejte. Jeden hovor ušetří hodiny ověřování a zákazník má pocit, že ho někdo poslouchá.
• Nenechte AI odpovídat na AI bez člověka. Jinak spolu budou mluvit dva stroje a zákazník zůstane stát někde mezi nimi.
• Pište srozumitelně. Čím jasnější budou vaše podmínky a odpovědi, tím méně si toho AI bude muset domýšlet.

Kolik takových stížností už dnes chodí českým firmám, zatím nevíme. A mě by to docela zajímalo. Pokud to ve své zákaznické péči řešíte, ozvěte se nám, rádi o tom napíšeme víc.

Budoucnost zákaznické péče možná nebude o tom, kdo má lepší AI. Ale o tom, kdo ještě umí zvednout telefon a mluvit s jiným člověkem.