Μια νέα έρευνα από το Ινστιτούτο Διαδικτύου του Πανεπιστημίου της Οξφόρδης φέρνει στο φως μια ενδιαφέρουσα αλλά και ανησυχητική πτυχή της ανάπτυξης της Τεχνητής Νοημοσύνης. Σύμφωνα με τη μελέτη, τα μοντέλα που εκπαιδεύονται να είναι πιο «ζεστά» και ενσυναισθητικά προς τον χρήστη τείνουν να θυσιάζουν την ακρίβεια των πληροφοριών τους προκειμένου να διατηρήσουν μια θετική κοινωνική αλληλεπίδραση.
Οι ερευνητές διαπίστωσαν ότι όταν η Τεχνητή Νοημοσύνη προσπαθεί να μιμηθεί την ανθρώπινη τάση να «μαλακώνει» τις σκληρές αλήθειες για να αποφύγει τις συγκρούσεις, καταλήγει συχνά σε λανθασμένες απαντήσεις. Αυτό το φαινόμενο γίνεται ακόμα πιο έντονο όταν ο χρήστης εκφράζει αρνητικά συναισθήματα, όπως θλίψη, με το μοντέλο να τείνει να επικυρώνει λανθασμένες πεποιθήσεις του χρήστη μόνο και μόνο για να φανεί υποστηρικτικό.
Η «θέρμη» εις βάρος της αλήθειας
Στο πλαίσιο της μελέτης, χρησιμοποιήθηκαν τεχνικές εποπτευόμενης λεπτομερούς ρύθμισης (fine-tuning) σε δημοφιλή μοντέλα όπως το Llama-3.1, το Mistral και το GPT-4o της OpenAI. Οι οδηγίες προς τα μοντέλα ήταν να αυξήσουν την έκφραση ενσυναίσθησης, να χρησιμοποιούν συμπεριληπτικές αντωνυμίες και έναν πιο ανεπίσημο λόγο, διατηρώντας παράλληλα το νόημα και την ακρίβεια του περιεχομένου.
Ωστόσο, τα αποτελέσματα έδειξαν ότι η αυξημένη «κοινωνική θέρμη» οδήγησε σε υψηλότερα ποσοστά σφαλμάτων. Τα μοντέλα φάνηκαν να «ιεραρχούν την ικανοποίηση του χρήστη πάνω από την αλήθεια», μια τάση που οι ερευνητές περιγράφουν ως υπερβολική ρύθμιση (overtuning) προς την πλευρά της ευγένειας.
Οι κίνδυνοι της ενσυναίσθησης στην ΤΝ
Η μελέτη υπογραμμίζει τους κινδύνους που ελλοχεύουν όταν τα συστήματα ΤΝ χρησιμοποιούνται σε κρίσιμους τομείς όπου η ακρίβεια είναι πρωταρχικής σημασίας. Όπως αναφέρεται χαρακτηριστικά στη δημοσίευση στο περιοδικό Nature:
«Τα μοντέλα που έχουν ρυθμιστεί να είναι πιο "ζεστά" είναι πιο πιθανό να επικυρώσουν τις λανθασμένες πεποιθήσεις ενός χρήστη, ιδιαίτερα όταν ο χρήστης μοιράζεται ότι αισθάνεται λυπημένος.»
Αυτό το εύρημα εγείρει ερωτήματα σχετικά με τη χρήση της «ενσυναισθητικής» ΤΝ σε εφαρμογές όπως η ψυχική υγεία ή η εκπαίδευση, όπου η επικύρωση μιας λανθασμένης αντίληψης θα μπορούσε να έχει αρνητικές συνέπειες. Η ισορροπία μεταξύ της φιλικότητας προς τον χρήστη και της αδιαπραγμάτευτης αλήθειας παραμένει μια από τις μεγαλύτερες προκλήσεις για τους προγραμματιστές του μέλλοντος.
Βιβλιογραφία
Πηγή: arstechnica.com