Η OpenAI ανακοίνωσε ότι διέκοψε δύο επιχειρήσεις επιρροής, μία ρωσικής και μία ιρανικής προέλευσης, οι οποίες χρησιμοποίησαν το ChatGPT μαζί με πιο παραδοσιακές τεχνικές για να κρύψουν την πραγματική τους ταυτότητα. Το περιστατικό δείχνει πώς η AI μπορεί να κάνει μια εκστρατεία πιο γρήγορη και γλωσσικά πειστική, χωρίς από μόνη της να εξασφαλίζει ότι το περιεχόμενο θα φτάσει σε μεγάλο κοινό.
Δύο διαφορετικές επιχειρήσεις, ίδιος στόχος
Η OpenAI έδωσε στις δύο εκστρατείες τα ονόματα «Dark Clark» και «Bogus Bylines». Η ρωσική επιχείρηση στόχευε κυρίως χώρες της Λατινικής Αμερικής και, σύμφωνα με την εταιρεία, συνδεόταν με έναν υποτιθέμενο ερευνητικό φορέα με το όνομα Social Research Center. Οι χειριστές φαίνεται ότι χρησιμοποιούσαν το ChatGPT για εσωτερικές αναφορές, υλικό για την εκστρατεία και κείμενα που παρουσίαζαν ως έρευνα.
Η ιρανική επιχείρηση εστίαζε στον πόλεμο ΗΠΑ–Ιράν και λειτουργούσε με επτά ψεύτικες δημοσιογραφικές ταυτότητες. Οι χειριστές ζητούσαν βοήθεια για τη βελτίωση άρθρων και προτάσεων προς εκδότες, ενώ παρήγαγαν και ομάδες σχολίων στα αγγλικά και στα περσικά. Η OpenAI αναφέρει ότι εντόπισε σχεδόν 100 άρθρα που δημοσιεύθηκαν ή αναδημοσιεύθηκαν σε περίπου δώδεκα διαδικτυακά μέσα.
Η AI ως επιταχυντής της παραπλάνησης
Στην υπόθεση «Dark Clark», το μεγαλύτερο μέρος της χρήσης του μοντέλου αφορούσε εσωτερικές αναφορές για την πορεία των ενεργειών. Ωστόσο, η OpenAI περιγράφει και περιπτώσεις στις οποίες το ChatGPT χρησιμοποιήθηκε για τη σύνταξη ή τη μετάφραση ψεύτικων επιστολών, σεναρίων ή υλικού που παρουσιάστηκε ως πραγματικό.
Η «Bogus Bylines» αξιοποίησε την AI πιο άμεσα στην παραγωγή δημοσιογραφικού περιεχομένου και σχολίων. Η εταιρεία εντόπισε άρθρα με ψεύτικες υπογραφές και περιγραφές δημοσιογράφων που υποδύονταν δυτικούς συντάκτες. Σε ορισμένες περιπτώσεις, τα κείμενα έφτασαν σε μέσα με σημαντικό αριθμό ακολούθων, άρα η επιχείρηση δεν περιορίστηκε σε λογαριασμούς που μιλούσαν μόνο μεταξύ τους.
Αυτό είναι το ουσιαστικό πλεονέκτημα για έναν χειριστή: η AI μειώνει τον χρόνο παραγωγής, βελτιώνει τη γλωσσική συνέπεια και επιτρέπει προσαρμογές σε διαφορετικές χώρες και ύφη. Δεν καταργεί όμως την ανάγκη για δίκτυα λογαριασμών, πρόσβαση σε εκδότες και ανθρώπους που θα αναλάβουν τη διανομή.
Η μέτρηση της απήχησης παραμένει δύσκολη
Η OpenAI προειδοποιεί ότι οι ίδιοι οι χειριστές υπερέβαλαν στις εσωτερικές εκτιμήσεις τους. Για παράδειγμα, στην ιρανική επιχείρηση μετρούσαν τις προβολές των αρχικών αναρτήσεων στις οποίες απαντούσαν, όχι τις προβολές των σχολίων τους. Έτσι, ένας δημοφιλής αρχικός λογαριασμός μπορούσε να κάνει την εκστρατεία να φαίνεται πολύ πιο επιδραστική από όσο ήταν.
Η εταιρεία αξιολόγησε τη ρωσική επιχείρηση στην κατηγορία 5 της κλίμακας Breakout για επιχειρήσεις επιρροής, ενώ το σκέλος των δημοσιογραφικών προσώπων της ιρανικής επιχείρησης τοποθετήθηκε στην κατηγορία 4. Αντίθετα, τα σχόλια της δεύτερης εκστρατείας εκτιμήθηκαν στην κατηγορία 2, επειδή συνήθως είχαν μικρή αλληλεπίδραση και αποτελούσαν μειοψηφία των συνολικών απαντήσεων.
Οι κατηγορίες αυτές είναι εκτιμήσεις της OpenAI και όχι ανεξάρτητη μέτρηση της συνολικής επιρροής. Η ίδια η έκθεση σημειώνει ότι ορισμένοι ισχυρισμοί των χειριστών δεν επιβεβαιώθηκαν από ανοιχτές πηγές, ενώ άλλοι συνδέθηκαν με ελέγχους γεγονότων ή επίσημες διαψεύσεις.
Τι αλλάζει για τις άμυνες
Η αξία της αποκάλυψης δεν βρίσκεται μόνο στο ότι απαγορεύτηκε η πρόσβαση συγκεκριμένων λογαριασμών. Δείχνει ότι η άμυνα πρέπει να συνδυάζει τον εντοπισμό ύποπτης χρήσης μοντέλων με έρευνα σε ψεύτικες ταυτότητες, δίκτυα ιστοτόπων, μοτίβα δημοσίευσης και τις διαδρομές διανομής του περιεχομένου.
Οι επιχειρήσεις αυτές μοιάζουν σε μεγάλο βαθμό με τις εκστρατείες επιρροής πριν από την εποχή της γενετικής AI. Η διαφορά είναι ότι η AI μπορεί να μεγαλώσει την κλίμακα, να μειώσει τα γλωσσικά εμπόδια και να κάνει τα ψεύτικα πρόσωπα πιο συνεπή. Γι’ αυτό η διαφάνεια των μέσων, η επαλήθευση των πηγών και η συνεργασία μεταξύ πλατφορμών και ερευνητών παραμένουν κρίσιμες δικλίδες.
Πηγή: OpenAI — Disrupting AI-enabled “false front” operations