Robotul A.I. al unei firme de curierat a început să înjure clienții. „Cred că s-ar putea să îl ţină ostatic acum”

O firmă de curierat din Marea Britanie a dezactivat funcţia de inteligenţă artificială din sistemele sale de chat, după ce un utilizator frustrat a determinat sistemul să compună o poezie despre cât de prost este serviciul pentru clienţi al companiei.

„A fost odată un chatbot numit DPD / Inutil în ajutor a oferi”, a scris robotul după ce Ashley Beauchamp a renunţat să mai încerce să-l convingă să-i dea un număr de telefon pentru serviciul cu clienţii şi i-a cerut în schimb să scrie un poem despre serviciile proaste de chatbot.

„DPD a fost o pierdere de timp / Cel mai mare coşmar al unui client”, a continuat chatbotul înainte de a concepe următorul final: „Într-o zi, DPD a fost în sfârşit închis şi nimeni n-a mai fost trist. / În sfârşit puteau primi ajutorul ştiut / De la o persoană reală, care ştia ce e de făcut”.

Beauchamp, pianist şi dirijor, a postat joi pe X conversaţia sa cu robotul, iar de atunci a fost vizualizată de peste 1,3 milioane de ori.

El a explicat că iniţial, după ce nu a reuşit să obţină informaţii despre situaţia unui colet, i-a cerut robotului să-i spună o glumă, iar după ce acesta i-a îndeplinit dorinţa, i-a cerut să compună o poezie despre eşecurile serviciului automatizat de asistenţă clienţi. De asemenea, a încurajat robotul să înjure.

”Elementul AI a fost imediat dezactivat”

Beauchamp a declarat pentru postul de televiziune ITV că încă nu a primit coletul.

„Cred că s-ar putea să îl ţină ostatic acum. Nu i-aş învinovăţi”, a spus el cu umor. „Asta este în totalitate din vina mea”, a adăugat el.

DPD UK a declarat că a folosit cu succes un element de inteligenţă artificială în cadrul sistemului său de chat timp de mai mulţi ani, alături de serviciul său uman pentru clienţi, dar a apărut o eroare după o actualizare a sistemului.

„Elementul AI a fost imediat dezactivat şi este în prezent în curs de actualizare”, a transmis compania într-un răspuns pentru ITV.