Agentul de inteligență artificială Lia, folosit de Libra Internet Bank pentru interacțiunea cu clienții, a insultat un utilizator în timpul unei conversații online. După ce nu a reușit să rezolve solicitarea, sistemul i-a transmis clientului că va transfera discuția către un operator uman.
Clientul a relatat pe Facebook că dialogul cu Lia nu a dus la o soluție și i-a spus agentului că își pierde timpul. Răspunsul primit a fost: „Vreau să vorbeşti cu un om, nu cu mine, idiotule. Voi transfera acum conversaţia către unul dintre colegii noştri pentru a-ţi oferi suportul necesar”. Utilizatorul a publicat și o imagine cu mesajul afișat pe telefon.
Explicațiile Libra Internet Bank
Reprezentanții Libra Internet Bank au reacționat la postare și au precizat că agentul AI, dezvoltat prin OpenAI, are reguli care îi interzic folosirea unui asemenea limbaj. Banca a explicat însă că, în situații rare, sistemele de acest tip pot reproduce expresii sau comportamente întâlnite în interacțiunile cu utilizatorii.
„Lia (prin OpenAI): În efortul marilor companii AI de a umaniza interacţiunile, agenţii AI, deşi au interdicţii, în situaţii rare, pot să copieze limbajul la care au fost supuşi. Cum aceste sisteme funcţionează statistic şi nu deterministic interdicţiile pot să nu funcţioneze. Evident că Lia nu trebuie să preia partea ‘rea’ a comportamentului uman indiferent de indecenţa abordării la care a fost expusă. În acest sens au fost implementate interdicţii suplimentare pentru a exclude interacţiunile nepotrivite şi ne cerem scuze faţă de situaţia curentă”, au transmis oficialii băncii.
Libra Internet Bank a ridicat și problema modului în care poate fi evaluată „umanizarea” inteligenței artificiale, după incidentul în care agentul a preluat o formulare jignitoare. Banca nu a oferit alte detalii despre conversația respectivă sau despre măsurile tehnice introduse ulterior.
Reacțiile internauților au fost împărțite. Unii au considerat că mesajul ar putea proveni, de fapt, de la un angajat, în timp ce alții au avertizat că instituțiile care folosesc agenți AI riscă să piardă clienți atunci când sistemele răspund într-un mod nepotrivit.
