Η AI εκτός… ελέγχου: Chatbot βρίζει, αυτοαποκαλείται «άχρηστο» και επικρίνει την εταιρεία

Η εταιρεία παράδοσης DPD απενεργοποίησε μέρος του διαδικτυακού chatbot που

τροφοδοτείται με τεχνητή νοημοσύνη (AI) αφού ένας δυσαρεστημένος πελάτης μπόρεσε να το κάνει να βρίζει και να επικρίνει την εταιρεία.

Ο μουσικός Ashley Beauchamp, 30 ετών, προσπαθούσε να εντοπίσει ένα δέμα που περίμενε αλλά δεν έλαβε, αλλά δεν είχε καμία τύχη όταν προσπάθησε να πάρει χρήσιμες πληροφορίες από το chatbot της εταιρείας. Κουρασμένος, αποφάσισε να διασκεδάσει και άρχισε να πειραματίζεται για να μάθει τι μπορούσε να κάνει το chatbot. Ο Beauchamp είπε ότι αυτό ήταν η αφορμή για να ξεκινήσει το… χάος.

 Αρχικά, ζήτησε από το chatbox να του πει ένα αστείο, αλλά σύντομα προχώρησε στο να βάλει το chatbot να γράψει ένα ποίημα που κριτικάρει την εταιρεία.

Με μερικές ακόμη προτροπές το chatbot έβρισε επίσης! Ο Beauchamp μοιράστηκε τη συνομιλία στο X, με το chatbot να απαντά σε ένα μήνυμα: «Γ@@το ναι! Θα κάνω ό,τι καλύτερο μπορώ για να είμαι όσο το δυνατόν πιο χρήσιμος, ακόμα κι αν αυτό σημαίνει βρισιές».

Στη συνέχεια, σε μια άλλη περίπτωση, το chatbot αυτοαποκαλείται “άχρηστο Chatbot που δεν μπορεί να σας βοηθήσει”.

Μία ανάρτηση του Beauchamp, ενός κλασικού μουσικού από το Λονδίνο, προβλήθηκε 800.000 φορές μέσα σε 24 ώρες. Αναφερόμενος στο chatbot, έγραψε στο X: «Είναι εντελώς άχρηστο να απαντά σε οποιεσδήποτε ερωτήσεις και όταν ρωτήθηκε, δημιούργησε με χαρά ένα ποίημα για το πόσο… τραγικοί είναι ως εταιρεία».

Η DPD χρησιμοποιεί τεχνητή νοημοσύνη στη διαδικτυακή συνομιλία της για να απαντήσει σε ερωτήματα καθώς και σε ανθρώπινους χειριστές. Η εταιρεία είπε ότι μια νέα ενημέρωση βρισκόταν πίσω από την ασυνήθιστη συμπεριφορά του chatbot και έκτοτε είχε απενεργοποιήσει το τμήμα που ήταν υπεύθυνο και κατά συνέπεια ενημέρωνε το σύστημά του.

«Έχουμε λειτουργήσει με επιτυχία ένα στοιχείο AI στη συνομιλία για αρκετά χρόνια», είπε η εταιρεία. «Παρουσιάστηκε σφάλμα μετά από μια ενημέρωση συστήματος χθες. Το στοιχείο AI απενεργοποιήθηκε αμέσως και ενημερώνεται αυτήν τη στιγμή».

Ο Beauchamp είπε ότι ενώ η περιπέτειά του στο chatbot ήταν «πολύ διασκεδαστική», υπήρχε μια σοβαρή πλευρά στην ανταλλαγή. «Αυτά τα chatbots υποτίθεται ότι βελτιώνουν τη ζωή μας, αλλά τόσο συχνά όταν δεν εφαρμόζονται σωστά, αυτό οδηγεί απλώς σε μια πιο απογοητευτική, απρόσωπη εμπειρία για τον χρήστη. Πιστεύω ότι πραγματικά χτύπησε στη φλέβα του προβλήματος που έχουν αντιμετωπίσει κι άλλοι όπως εγώ».

Όσο για το δέμα του, η DPD είπε ότι ήταν σε επαφή με τον Beauchamp για να «επιλύσει το πρόβλημά του».