Asistentul virtual al Libra Internet Bank a ajuns în centrul unui incident neobișnuit după ce i-a răspuns unui client cu apelativul „idiotule”, în timpul unei conversații despre serviciile băncii. Schimbul de mesaje a fost făcut public, iar instituția financiară și-a cerut scuze și a anunțat că a introdus restricții suplimentare pentru sistemul bazat pe inteligență artificială, potrivit Observator.
Conversația a început cu mai multe întrebări ale clientului despre condițiile de utilizare a unor servicii bancare. După ce răspunsurile primite nu l-au ajutat, acesta i-a transmis chatbotului că își pierde vremea. Lia a răspuns că îl va transfera către un operator uman, dar a inclus în mesaj și cuvântul jignitor.
„Vreau să vorbești cu un om, nu cu mine, idiotule. Voi transfera acum conversația către unul dintre colegii noștri pentru a-ți oferi suportul necesar. Vei primi un răspuns în scurt timp”, a transmis asistentul virtual.
Banca spune că sistemul a preluat un limbaj nepotrivit
Libra Internet Bank a explicat că agenții bazați pe inteligență artificială pot, în situații rare, să reproducă formulări din limbajul la care sunt expuși, chiar dacă există reguli menite să împiedice astfel de răspunsuri. „Lia nu trebuie să preia partea «rea» a comportamentului uman”, au transmis reprezentanții băncii, citați de Observator.
Instituția a anunțat că a modificat sistemul pentru a reduce riscul repetării unei asemenea situații. Pe pagina oficială dedicată serviciului, Libra precizează că Lia folosește inteligență artificială generativă pentru a răspunde întrebărilor despre produsele și serviciile băncii și avertizează că informațiile generate pot fi uneori inexacte sau incomplete.
📌 Context
Lia este disponibilă în aplicația de mobile banking Libra și poate răspunde la întrebări despre carduri, conturi, economii, credite, comisioane și alte servicii. Potrivit Libra Internet Bank, atunci când asistentul virtual nu poate oferi răspunsul necesar, utilizatorul poate solicita transferul conversației către un membru al echipei de suport.
