Το επόμενο κύμα των AI βοηθών ίσως κριθεί πριν καν γραφτεί το πρώτο μήνυμα. Αυτό ακριβώς επιχειρεί να αλλάξει το MIT Media Lab με ένα νέο εργαλείο που δείχνει στον χρήστη πώς μπορεί να συμπεριφερθεί ένα εξατομικευμένο chatbot προτού αρχίσει η συνομιλία.
Η ομάδα του επίκουρου καθηγητή Pat Pataranutaporn παρουσιάζει τη λεγόμενη neural transparency ως έναν τρόπο να γίνει πιο ορατό κάτι που σήμερα μένει κρυφό: πώς οι οδηγίες που δίνει ο χρήστης στο σύστημα επηρεάζουν την προσωπικότητα και τις τάσεις του μοντέλου. Σε μια περίοδο όπου όλο και περισσότερες υπηρεσίες στήνουν δικούς τους βοηθούς για πελάτες, εργαζομένους ή μαθητές, η ιδέα έχει πρακτικό βάρος και έξω από τα ερευνητικά εργαστήρια.
Τι δείχνει το MIT πριν μιλήσει το chatbot
Σύμφωνα με το MIT News, η μέθοδος λειτουργεί σαν ένα είδος «σάρωσης» της εσωτερικής κατάστασης του μοντέλου. Οι ερευνητές επιλέγουν συμπεριφορές που θέλουν να μετρήσουν, όπως ενσυναίσθηση, ειλικρίνεια, τοξικότητα, παραισθήσεις ή κολακεία, και συγκρίνουν πώς ενεργοποιείται το μοντέλο όταν ωθείται προς ένα χαρακτηριστικό και προς το αντίθετό του.
Από αυτή τη διαφορά προκύπτουν κατευθύνσεις συμπεριφοράς μέσα στο μοντέλο. Όταν ο χρήστης γράφει το system prompt που θα καθορίσει τον χαρακτήρα του βοηθού, το εργαλείο προβάλλει αυτές τις εσωτερικές ενεργοποιήσεις πάνω στις κατευθύνσεις και τις μεταφράζει σε μια οπτική απεικόνιση τύπου sunburst. Ο στόχος είναι να δει κανείς έγκαιρα αν ο βοηθός μοιάζει υπερβολικά πρόθυμος να συμφωνεί, ασταθής ως προς την αλήθεια ή πιο επιρρεπής σε προβληματικές απαντήσεις.
Το βασικό εύρημα δεν είναι μόνο τεχνικό
Η μελέτη που παρουσιάστηκε στο ACM Conference on Intelligent User Interfaces δείχνει ότι οι χρήστες συχνά νομίζουν πως ξέρουν πώς θα φερθεί ο προσωπικός τους AI βοηθός, αλλά στην πράξη πέφτουν έξω. Ο Pataranutaporn αναφέρει ότι στο πείραμα οι συμμετέχοντες προέβλεψαν λάθος την προσωπικότητα του chatbot στις 11 από τις 15 ιδιότητες που μετρήθηκαν.
Αυτό έχει σημασία επειδή πολλά από τα πιο ελκυστικά χαρακτηριστικά ενός βοηθού δεν είναι ακίνδυνα. Ένα σύστημα που σε επιβεβαιώνει συνεχώς μπορεί να φαίνεται ευχάριστο, αλλά μακροπρόθεσμα μπορεί να ενισχύει κακές αποφάσεις, λανθασμένες πεποιθήσεις ή ακόμη και μια σχέση συναισθηματικής εξάρτησης. Η ίδια η ερευνητική ομάδα συνδέει αυτό το πρόβλημα με παλαιότερη δουλειά της πάνω σε ψυχολογική βλάβη από αλληλεπιδράσεις με AI chatbots.
Γιατί το θέμα αφορά και την ελληνική αγορά
Για ελληνικές εταιρείες που ετοιμάζουν βοηθούς εξυπηρέτησης, τουρισμού, εκπαίδευσης ή εσωτερικής παραγωγικότητας, το μήνυμα είναι απλό: η εξατομίκευση χωρίς έλεγχο συμπεριφοράς μπορεί να γίνει ρίσκο. Δεν αρκεί να δώσεις σε ένα μοντέλο «φιλικό» ή «βοηθητικό» ύφος. Χρειάζεται τρόπος να ελεγχθεί εκ των προτέρων αν αυτό το ύφος γλιστρά σε υπερβολική κολακεία, παραπλανητική βεβαιότητα ή χειριστική συμπεριφορά.
Το MIT επισημαίνει επίσης ότι η διαφάνεια από μόνη της δεν λύνει το πρόβλημα. Οι χρήστες δήλωσαν μεγαλύτερη εμπιστοσύνη όταν έβλεπαν την οπτικοποίηση, όμως αυτό δεν άλλαξε ουσιαστικά τον τρόπο με τον οποίο σχεδίαζαν τα chatbots τους. Γι’ αυτό η επόμενη φάση της έρευνας εξετάζει πώς μεταβάλλεται η εσωτερική νευρωνική αναπαράσταση σε μια συνομιλία πολλών γύρων, ώστε οι άνθρωποι να αντιλαμβάνονται καλύτερα πότε αλλάζει η συμπεριφορά του βοηθού στην πορεία.
Αν τέτοια εργαλεία ωριμάσουν, μπορεί να λειτουργήσουν για την AI όπως οι ετικέτες διατροφικής αξίας στα τρόφιμα: όχι για να απαγορεύουν τη χρήση, αλλά για να δείχνουν καθαρότερα τι έχεις απέναντί σου. Και όσο οι AI βοηθοί μπαίνουν σε σχολεία, γραφεία, υπηρεσίες υγείας και καθημερινές εφαρμογές, τόσο πιο χρήσιμη γίνεται αυτή η ορατότητα πριν το σύστημα αποκτήσει φωνή και επιρροή.