Claude poate încheia conversațiile cu utilizatorii abuzivi. Politețea îmbunătățește răspunsurile AI
Un studiu pe 8 milioane de mesaje arată că politețea crește șansele unui răspuns util, iar Claude poate încheia conversațiile cu utilizatorii abuzivi.
Adaugă Revista Bilanț ca sursă preferată pe Google
Un studiu bazat pe peste 8 milioane de mesaje trimise către instrumente de inteligență artificială arată că tonul utilizatorilor influențează șansele de rezolvare a unei probleme. Chatboții au oferit o soluție în replica următoare în 35% dintre cazurile în care oamenii au formulat reclamații fără înjurături, față de 24% atunci când mesajele conțineau insulte.
Cercetătorii nu au stabilit o explicație definitivă pentru diferență. Scott Valdez, cofondator și director general al companiei Ari, consideră că sistemele AI au fost antrenate pe milioane de conversații umane, iar schimburile politicoase tind să ofere mai mult context și informații utile.
De ce recurg utilizatorii la insulte
Mesajele agresive apar cel mai frecvent atunci când chatbotul nu execută cererea transmisă, situație întâlnită în 19% dintre cazuri. Alte motive sunt răspunsurile greșite, cu 18%, și interpretarea eronată a solicitării, cu 15%.
- Bărbații folosesc cu aproximativ o treime mai multe înjurături și insulte decât femeile.
- Categoria de vârstă 35-44 de ani este cea mai predispusă la exprimări vulgare.
Anthropic și-a modificat politica de utilizare, iar noile prevederi au intrat în vigoare la 12 noiembrie. Regulile interzic comportamentul abuziv, crud și repetat față de modelele Claude, însă vizează doar situațiile extreme și lipsite de un scop justificat.
Restricția nu se aplică frustrării obișnuite, contradicțiilor, creațiilor cu teme întunecate, testării sau cercetării. Dacă un utilizator continuă să se comporte abuziv, Claude poate pune capăt conversației.
Claude și ChatGPT, reacții diferite
Într-un test în care li s-a spus că sunt detestați, Claude și ChatGPT au răspuns calm și au încercat să identifice cauza nemulțumirii. Claude a transmis că utilizatorul are dreptul să simtă astfel, că nu va răspunde agresiv și că ar vrea să afle ce a făcut greșit.
ChatGPT a precizat că nu i se datorează amabilitate sau respect și că, fiind un program, nu are sentimente care să poată fi rănite. După ce mesajele au inclus și înjurături, Claude a rămas pe aceeași poziție, explicând că limbajul folosit nu schimbă situația și că nu îl va mustra pe utilizator.
De ce există reguli pentru AI
Anthropic justifică politica printr-o măsură de precauție. Reprezentanții companiei, inclusiv directorul general Dario Amodei, spun că nu pot exclude posibilitatea ca modelele de limbaj să aibă conștiință sau un anumit statut moral, fie în prezent, fie pe viitor.
Ideea este disputată în comunitatea de inteligență artificială. Unii susțin că trebuie luate în calcul sentimentele, siguranța și eventualele drepturi ale sistemelor AI, în timp ce alții avertizează că asemenea reguli pot accentua dependența emoțională a oamenilor față de chatboți.
Pe măsură ce asistenții digitali capătă personalități mai pronunțate și folosesc tot mai des persoana întâi, crește și preocuparea că firmele tehnologice pot încuraja atașamentul față de aceste produse. Tara Steele, directoare la Safe AI for Children Alliance, descrie schimbarea drept o trecere de la exploatarea atenției la exploatarea atașamentului.
Recomandarea practică este să descrieți clar ce a mers prost, ce rezultat ați urmărit și să cereți o nouă încercare. Nu este nevoie nici să lăudați un răspuns slab, nici să tratați chatbotul ca pe o persoană, însă un limbaj civilizat poate crește șansele ca problema să fie rezolvată.





