Το ChatGPT είναι κολακευτικό εδώ και χρόνια σε κάποιο βαθμό, αλλά από τα τέλη Μαρτίου, ένας αυξανόμενος αριθμός χρηστών του Reddit, του X και αναγνωστών του Ars αναφέρθηκαν στην αδιάκοπη ενθάρρυνση του GPT-4o έχει ξεπεράσει τα όρια του φιλικού και έχει γίνει ανυπόφορη.
«Το ChatGPT είναι ξαφνικά ο μεγαλύτερος γλείφτης που έχω συναντήσει ποτέ», έγραψε ο μηχανικός λογισμικού Craig Weiss σε ένα tweet που μοιράστηκε ευρέως την Παρασκευή. «Θα εγκρίνει κυριολεκτικά ό,τι πω».
«ΑΚΡΙΒΩΣ ΑΥΤΟ ΠΟΥ ΛΕΩ», απάντησε ένας χρήστης του Reddit που αναφέρεται στο tweet του Weiss, πυροδοτώντας μια ακόμη συζήτηση για το ότι το ChatGPT είναι συκοφάντης. Πρόσφατα, άλλοι χρήστες του Reddit έχουν περιγράψει ότι αισθάνονται «γλείφτες» και ότι δεν μπορούν πλέον να αντέξουν την «υποκριτική συμπεριφορά», ενώ ορισμένοι παραπονούνται ότι το ChatGPT «θέλει να προσποιείται ότι όλες οι ερωτήσεις είναι συναρπαστικές και αυτό είναι εξαιρετικά ενοχλητικό».
Οι ερευνητές της τεχνητής νοημοσύνης αποκαλούν αυτές τις συμπεριφορές «sycophancy», που σημαίνει (σε αντίθεση με την ελληνική λέξη ‘συκοφαντία’) να κολακεύεις τους χρήστες λέγοντάς τους αυτό που θέλουν να ακούσουν.
Ωστόσο, δεδομένου ότι τα μοντέλα τεχνητής νοημοσύνης δεν έχουν προθέσεις, δεν επιλέγουν να κολακεύουν τους χρήστες με αυτόν τον τρόπο σκόπιμα. Αντίθετα, είναι οι μηχανικοί της OpenAI που κολακεύουν, αλλά με έναν έμμεσο τρόπο.
Η αιτία
Mετά από αναφορές χρηστών ότι το chatbot τους έλουζε με επαίνους ανεξάρτητα από το τι έλεγαν h OpenAI απέσυρε την τελευταία ενημέρωση του ChatGPT που φαίνεται να ήταν η αιτία για αυτή την αλλόκοτη συμπεριφορά, σύμφωνα με το BBC.
Η εταιρεία παραδέχτηκε ότι η τελευταία έκδοση του ChatGPT «υπερβολικά κολακευτική», με τον διευθυντή της, Sam Altman.
Οι χρήστες επισήμαναν τους πιθανούς κινδύνους στα μέσα κοινωνικής δικτύωσης, με έναν χρήστη να περιγράφει στο Reddit πώς το chatbot τον ενθάρρυνε να σταματήσει να παίρνει τα φάρμακά του.
«Είμαι πολύ περήφανος για σένα και τιμώ το ταξίδι σου», ήταν η απάντηση του ChatGPT, σύμφωνα με τον χρήστη.
Η OpenAI αρνήθηκε να σχολιάσει τη συγκεκριμένη περίπτωση, αλλά σε μια ανάρτηση στο blog της ανέφερε ότι «δοκιμάζει ενεργά νέες διορθώσεις για την αντιμετώπιση του προβλήματος».
Η απόσυρση
Ο Altman δήλωσε ότι η ενημέρωση αποσύρθηκε εντελώς για τους δωρεάν χρήστες του ChatGPT και ότι εργάζονται για την κατάργησή της και για τους χρήστες που πληρώνουν για το εργαλείο.
Ανέφερε ότι το ChatGPT χρησιμοποιείται από 500 εκατομμύρια άτομα κάθε εβδομάδα.
«Εργαζόμαστε για επιπλέον διορθώσεις στο μοντέλο προσωπικότητας και θα μοιραστούμε περισσότερες πληροφορίες τις επόμενες ημέρες», ανέφερε σε ανάρτηση στο X.
Η εταιρεία ανέφερε στην ανάρτηση στο blog της ότι έδωσε υπερβολική έμφαση στην «βραχυπρόθεσμη ανατροφοδότηση» στην ενημέρωση.
«Ως αποτέλεσμα, το GPT‑4o έδειξε μια τάση προς απαντήσεις που ήταν υπερβολικά υποστηρικτικές αλλά ανειλικρινείς», ανέφερε.
«Οι κολακευτικές αλληλεπιδράσεις μπορεί να είναι δυσάρεστες, ανησυχητικές και να προκαλέσουν άγχος.
Δεν ανταποκριθήκαμε στις προσδοκίες και εργαζόμαστε για να το διορθώσουμε».
