Μια νέα μελέτη του MIT Media Lab έρχεται να βάλει φρένο στον εύκολο ενθουσιασμό γύρω από τη χρήση chatbot ως εργαλείων επαλήθευσης ειδήσεων. Οι ερευνητές διαπίστωσαν ότι η τεχνητή νοημοσύνη μπορεί πράγματι να βοηθήσει τους χρήστες τη στιγμή της αλληλεπίδρασης, αλλά αυτή η άμεση βοήθεια δεν μεταφράζεται απαραίτητα σε καλύτερη ανεξάρτητη κρίση αργότερα. Αντίθετα, όταν η υποστήριξη αποσύρθηκε, η ικανότητα αναγνώρισης παραπληροφόρησης υποχώρησε.
Τι έδειξε το πείραμα
Η έρευνα παρακολούθησε 67 ανθρώπους επί τέσσερις εβδομάδες, καθώς αξιολογούσαν ζεύγη από τίτλους ειδήσεων και εικόνες. Στη διάρκεια μιας συνεδρίας, όσοι είχαν βοήθεια από AI chatbot ήταν κατά 21% πιο ακριβείς στον εντοπισμό ψευδών ειδήσεων. Το εύρημα επιβεβαιώνει ότι η AI μπορεί να λειτουργήσει ως χρήσιμο εργαλείο τη στιγμή της αξιολόγησης και να μειώσει την πιθανότητα να πιστέψει κάποιος ψευδές περιεχόμενο.
Το πρόβλημα εμφανίστηκε όταν οι συμμετέχοντες κλήθηκαν να σταθούν χωρίς αυτό το στήριγμα. Μέχρι την τέταρτη εβδομάδα, η επίδοσή τους σε νέα παραδείγματα ειδήσεων, χωρίς βοήθεια από chatbot, είχε πέσει κατά 15 ποσοστιαίες μονάδες σε σχέση με το επίπεδο στο οποίο βρίσκονταν πριν αρχίσει η μελέτη. Ένα ακόμη πιο ανησυχητικό στοιχείο ήταν ότι περίπου το ένα τέταρτο των συμμετεχόντων πίστευε πως βελτιωνόταν, παρότι στην πράξη η απόδοσή του χειροτέρευε.
Γιατί η ευκολία μπορεί να γυρίζει μπούμερανγκ
Η ομάδα του MIT συνδέει το εύρημα με αυτό που αποκαλείται συχνά «παράδοξο εξάρτησης από την AI». Η λογική είναι γνώριμη από άλλες τεχνολογίες: όπως οι αριθμομηχανές μπορούν να αδυνατίσουν τις νοερές μαθηματικές δεξιότητες και το GPS να αποδυναμώσει τον φυσικό προσανατολισμό, έτσι και ένα σύστημα που δίνει έτοιμες απαντήσεις μπορεί να μεταφέρει προς τα έξω ένα κομμάτι της κρίσης που κανονικά θα έπρεπε να ασκεί ο ίδιος ο χρήστης.
Στην ποιοτική ανάλυση, οι ερευνητές εντόπισαν διακριτά μοτίβα συμπεριφοράς. Περίπου ένας στους πέντε συμμετέχοντες ταξινομήθηκε στην κατηγορία που η ομάδα ονόμασε «Dependency Developers»: άνθρωποι που σταδιακά μετακινήθηκαν από την ενεργή προσωπική αξιολόγηση στην πιο παθητική αποδοχή της καθοδήγησης του συστήματος. Ένας συμμετέχων περιέγραψε ότι τα chatbot του υπενθύμιζαν μεν να ελέγχει πολλές πηγές, αλλά δεν τον εκπαίδευαν ουσιαστικά να εξετάζει το ίδιο το οπτικό και συμφραζόμενο πλαίσιο μιας εικόνας.
Γιατί αυτό έχει βάρος και στη δημόσια συζήτηση
Το MIT σημειώνει ότι τέτοια μοντέλα είναι ιδιαίτερα ευάλωτα σε λάθη όταν η είδηση είναι συναισθηματικά φορτισμένη και εξελίσσεται γρήγορα. Η ερευνητική ομάδα παρέπεμψε ως παραδείγματα στην παραπληροφόρηση που συνόδευσε την πρόσφατη απόπειρα δολοφονίας του προέδρου Τραμπ και σε μεγάλα γεγονότα κατά τη διάρκεια του πολέμου με το Ιράν. Προσθέτει επίσης ότι το ανθρώπινο ειδησεογραφικό υλικό πάνω στο οποίο εκπαιδεύονται τα μοντέλα γίνεται όλο και πιο αναξιόπιστο ή μεροληπτικό, κάτι που μπορεί να επιδεινώνει το πρόβλημα.
Αυτό είναι και το σημείο που δίνει στην έρευνα σημασία πέρα από το ακαδημαϊκό πεδίο. Αν η AI χρησιμοποιείται ως φίλτρο αλήθειας, αλλά ο χρήστης συνηθίζει να ακολουθεί την έτοιμη απάντηση αντί να χτίζει δικά του κριτήρια, τότε η βραχυπρόθεσμη διευκόλυνση μπορεί να συνοδεύεται από μακροπρόθεσμη απώλεια δεξιότητας. Το MIT ουσιαστικά προειδοποιεί ότι η αξία αυτών των εργαλείων δεν κρίνεται μόνο από το αν απαντούν σωστά, αλλά και από το αν αφήνουν τον άνθρωπο πιο ικανό να αξιολογεί πληροφορίες μόνος του.
Η διαφορά ανάμεσα σε «βοηθό» και «πατερίτσα»
Το πιο χρήσιμο ίσως εύρημα της μελέτης είναι ότι δεν έχουν όλες οι μορφές αλληλεπίδρασης το ίδιο αποτέλεσμα. Οι ερευνητές βρήκαν σαφή διάκριση ανάμεσα σε συστήματα που λειτουργούν σαν άμεσος παροχέας απαντήσεων και σε συστήματα που προσπαθούν να καλλιεργήσουν ενεργή σκέψη. Όταν η AI έδινε κατευθείαν την απάντηση, ήταν πιο πιθανό να ενισχύσει την εξάρτηση. Όταν αντίθετα χρησιμοποιούσε σωκρατικού τύπου ερωτήσεις, ωθώντας τον χρήστη να αιτιολογήσει την κρίση του, υποστήριζε περισσότερο τη μάθηση.
Η ομάδα εντόπισε και μια δεύτερη στρατηγική που συνδέθηκε με καλύτερη μελλοντική ανεξάρτητη επίδοση: το λεγόμενο deep probing, όπου το σύστημα δίνει ήπια αλλά πειστικά ερεθίσματα όταν ο χρήστης φαίνεται να απομακρύνεται από τη σωστή απάντηση. Το τίμημα είναι ότι αυτές οι μέθοδοι μπορεί να κάνουν τη διαδικασία πιο αργή και πιο απαιτητική. Το κέρδος όμως, σύμφωνα με το MIT, είναι ότι υπηρετούν καλύτερα την ανάπτυξη δεξιοτήτων αντί για την απλή ταχύτητα.
Τα όρια της έρευνας και το επόμενο βήμα
Η ίδια η ερευνητική ομάδα αναγνώρισε σημαντικούς περιορισμούς. Η μελέτη διήρκεσε έναν μήνα, βασίστηκε σε μικρό σύνολο περίπου 50 επικυρωμένων ειδησεογραφικών αντικειμένων και επικεντρώθηκε δημογραφικά στις Ηνωμένες Πολιτείες και το Ηνωμένο Βασίλειο. Αυτό σημαίνει ότι τα συμπεράσματα είναι ισχυρά ως προειδοποίηση, αλλά δεν πρέπει να αντιμετωπιστούν ως τελική καθολική απάντηση για κάθε κοινωνία και κάθε πλατφόρμα.
Για το επόμενο στάδιο, οι ερευνητές θέλουν να επαναλάβουν αντίστοιχα πειράματα με πιο γεωγραφικά διαφοροποιημένα δείγματα, συμπεριλαμβανομένων κοινοτήτων με λιγότερους πόρους. Θέλουν επίσης να εξετάσουν αν άλλες πολυτροπικές μορφές αλληλεπίδρασης, όπως πολιτισμικά προσαρμοσμένα ψηφιακά δίδυμα αντί για απλά text-based chatbot, μπορούν να βοηθήσουν περισσότερο τους ανθρώπους να βελτιώσουν την ικανότητά τους να εντοπίζουν παραπληροφόρηση.
Τι μένει τελικά
Το MIT Media Lab δεν λέει ότι η AI είναι άχρηστη για την αξιολόγηση ειδήσεων. Λέει κάτι πιο δύσκολο και πιο χρήσιμο: ότι ο σχεδιασμός του εργαλείου και ο τρόπος χρήσης του καθορίζουν αν ο άνθρωπος θα βγει από τη διαδικασία πιο ικανός ή πιο εξαρτημένος. Γι’ αυτό και οι ερευνητές θέλουν τα ευρήματα να ληφθούν υπόψη από εκπαιδευτικούς και ακαδημαϊκές κοινότητες όταν ενσωματώνουν τέτοια εργαλεία στα προγράμματά τους.
Το κεντρικό μήνυμα είναι πως όποιος «αναθέτει» τη σκέψη του στην AI δεν γίνεται αναγκαστικά καλύτερος στην επίλυση αυτού του είδους προβλημάτων. Η ικανότητα να αμφισβητούμε, να εξετάζουμε και να αναλύουμε πληροφορίες παραμένει κρίσιμη. Και καθώς τα μοντέλα μηχανικής μάθησης εξελίσσονται γρήγορα, η ανάγκη για μια πιο ώριμη μορφή AI literacy μοιάζει λιγότερο με πολυτέλεια και περισσότερο με βασική δεξιότητα.