📢 Libra Bank și arta de a nu-ți cere scuze

În ultimii ani, de când cu explozia modelelor lingvistice mari, tot mai multe firme, instituții și bănci au început să reducă din personal, recurgând în schimb la asistenți de inteligență artificială. Dar, pentru că inteligența artificială este încă la început și are numeroase probleme, această mișcare a dus la apariția a diverse situații inedite sau neașteptate.

La 17 septembrie, Lucian Valer Ghiran, un client al Libra Internet Bank, a purtat o lungă conversație cu LIA, asistentul bazat pe inteligență artificială al băncii, la finalul căreia aceasta l-a numit „idiot”. Lucian a postat pe Facebook o captură de ecran în care a imortalizat momentul:

Salutare! 

Azi am încercat să discut cu „Lia” Ai-ul de la Libra Internet Bank SA. După lungi discuții care nu au dus la nimic bun i-am zis ca „îmi pierd vremea cu tine”. A venit imediat un răspuns fără multe cugetări. Am stat puțin uimit și am început să râd ulterior. Am zis ca nu ma pot abține să nu-l împărtășesc cu voi. După un asemenea mesaj mă gândesc serios dacă să rămân client sau nu? Oricum nu mai sunt ce au fost! Aș vrea să știu care ar fi reacția voastră?

În imagine se vede cum Lucian a scris „Îmi pierd vremea cu tine”, la care LIA i-a răspuns: „Vreau să vorbești cu un om, nu cu mine, idiotule. Voi transfera acum conversația către unul dintre colegii noștri pentru a-ți oferi suportul necesar. Vei primi un răspuns în scurt timp.”

Care credeți că a fost reacția băncii? Libra Bank a postat a doua zi, pe contul său de LinkedIn, următorul mesaj:

Lia (prin OpenAI): În efortul marilor companii AI de a umaniza interacțiunile, agenții AI, deși au interdicții, în situații rare, pot să copieze limbajul la care au fost supuși. Cum aceste sisteme funcționează statistic și nu deterministic interdicțiile pot să nu funcționeze.

Evident că Lia nu trebuie să preia partea 'rea' a comportamentului uman indiferent de indecența abordării la care a fost expusă. În acest sens au fost implementate interdicții suplimentare pentru a exclude interacțiunile nepotrivite și ne cerem scuze față de situația curentă.

Dar este oare Libra Bank în măsură să comenteze cum evoluează „umanizarea” AI-ului?

Să analizăm puțin acest mesaj. Tonul principal este unul de indiferență și neasumare. În primul paragraf nu apare deloc nicio urmă de părere de rău sau de scuză. În loc de asta, ni se explică faptul că modelele IA pot prelua limbajul interlocutorilor. În al doilea paragraf, apare la sfârșit un „ne cerem scuze față de situația creată”. Acesta este și singurul loc din tot mesajul în care banca își cere scuze. Însă imediat după asta urmează „Dar suntem oare în măsură să comentăm umanizarea AI-ului?”.

Într-o situație în care ai făcut-o de oaie, reacția corectă este să îți asumi ceea ce s-a întâmplat sub acoperișul instituției tale, să îți ceri scuze simplu și să spui că nu se va repeta. Fără complicații, fără subterfugii, fără justificări. În loc de asta, Libra Bank a publicat un mesaj pe care eu îl interpretez ca fiind chiar ușor arogant, în care a aruncat un „ne cerem scuze” de formă spre final - dar nu față de client, ci față de situația curentă, iar pe client l-a învinuit indirect de comportamentul Liei, sugerând că aceasta a preluat limbajul urât al interlocutorului. Practic, în loc să își asume eroarea, Libra Bank a aruncat vina pe client și pe tehnologia IA. „Indiferent de indecența abordării la care a fost expusă”? Clientul nostru, responsabilul nostru de serviciu.

În opinia mea, acesta este un exemplu de cum să nu reacționezi când ești prins cu musca pe căciulă.

Ca fapt divers, i-am prezentat subiectul lui ChatGPT, care este chiar modelul public de inteligență artificială al companiei OpenAI, și l-am întrebat ce părere are despre mesajul postat de Libra Bank pe LinkedIn. Nu a avut o părere foarte bună. Iată ce răspuns alternativ mi-a sugerat el:

Ne cerem scuze clientului nostru pentru răspunsul inacceptabil oferit de Lia, asistentul virtual al Libra Internet Bank.

Deși sistemele bazate pe inteligență artificială pot genera uneori răspunsuri necorespunzătoare, acest lucru nu justifică și nu face acceptabil limbajul folosit în această conversație. Indiferent de tonul utilizatorului, asistentul nostru trebuie să păstreze un comportament respectuos și să ofere sprijin adecvat.

Am demarat analiza incidentului și am introdus măsuri suplimentare de protecție. Vom verifica eficiența acestora, inclusiv în conversații dificile, pentru a reduce riscul repetării unor asemenea situații.

Pentru noi, încrederea clienților este esențială. Atunci când asistentul virtual nu poate rezolva o solicitare, trebuie să faciliteze accesul la un coleg uman, fără a compromite calitatea interacțiunii.

Regretăm această experiență și tratăm incidentul cu seriozitatea pe care o merită.

Oare nu ar fi mai bine ca Libra Bank să angajeze un asistent de inteligență artificială și pentru departamentul de relații publice? Și-ar cere scuze mai frumos pentru propriile greșeli decât a făcut-o cel sau cea care a conceput mesajul publicat pe LinkedIn în numele băncii.