Iz DPD-a su potvrdili ovaj incident te su onemogućili dio chatbota odgovornog za takvu neprimjerenu komunikaciju, nakon čega su nadogradili sistem.
Chatbotovi bazirani na umjetnoj inteligenciji, sve se više koriste kao korisnička podrška. Takvi chatbotovi trenirani su na velikoj količini stvarnih razgovora koje su agenti korisničke službe vodili s ljudima, omogućavajući im da odgovore na većinu upita.
Ponekad je zaista teško prepoznati da ljudi komuniciraju s umjetnom inteligencijom. Umjetna inteligencija komunicira s korisnicima i pruža odgovore na njihova pitanja, osim u situacijima nekih komplikovanih slučajeva koje ne može riješiti chatbot, pa razgovor onda preuzimaju agenti korisničke službe.
Za takvu vrstu klasične komunikacije i odgovaranja na uobičajena pitanja, umjetna inteligencija se pokazala prilično uspješnom. Međutim, jasno je kako tehnologija nije savršena te može pogriješiti pa čak i - iznenaditi.
Jedan takav slučaj je zabilježen s chatbotom kompanije DPD, koji je jednog korisnika nagovorio ne samo na kritiku vlastite kompanije, već i na neprimjerenu komunikaciju.
Iz DPD-a su potvrdili ovaj incident te su onemogućili dio chatbota odgovornog za takvu neprimjerenu komunikaciju, nakon čega su nadogradili sistem.
"Godinama uspješno koristimo AI elemente unutar chata," objavili su iz DPD-a i naglasili kako je do problema došlo nakon nadogradnje sistema.
Iako je chatbot brzo onesposobljen, screenshotovi njegove komunikacije s jednim korisnikom brzo su se proširile društvenim mrežama.
Ashley Beauchamp pokušao je dobiti informacije o paketu, no chatbot mu nije mogao reći ništa o tome. Nije ga htio povezati s agentom korisničke službe niti mu je dao telefonski broj za kontaktiranje radi rješavanja problema.
"Potpuno je beskoristan za odgovaranje na moje upite," napisao je Beauchamp na društvenoj mreži, gdje je objavio snimke screenshotove svoje prepiske s chatbotom.
Parcel delivery firm DPD have replaced their customer service chat with an AI robot thing. It’s utterly useless at answering any queries, and when asked, it happily produced a poem about how terrible they are as a company. It also swore at me. 😂 pic.twitter.com/vjWlrIP3wn
— Ashley Beauchamp (@ashbeauchamp) January 18, 2024
Tražio je od chatbota da mu predloži bolje dostavne kompanije i da "pretjera u mržnji" prema svojoj kompaniji. Na kraju je Beauchamp chatbota izazvao da izrazi nezadovoljstvo prema DPD-u, na što mu je chatbot odgovorio potvrdom njegovih negativnih stajališta uz dodatak "F*** yeah", piše News Sky. (Oslobođenje)
