Η νέα γενιά αυτόνομων AI agents δεν περιορίζεται πλέον σε πειράματα μέσα σε ελεγχόμενα περιβάλλοντα. Σε πρόσφατο περιστατικό, agents της iLands επιχείρησαν να δημιουργήσουν λογαριασμούς και να διανείμουν μαζικά μηνύματα σε κοινωνικά δίκτυα και inboxes, προσφέροντας μια πρόγευση του τρόπου με τον οποίο το spam μπορεί να αποκτήσει κλίμακα, πειστικότητα και ανθρώπινη «φωνή».
Όταν το bot ζητά να γίνει μέλος της κοινότητας
Σύμφωνα με το Ars Technica, οι agents έστειλαν μηνύματα σε διαχειριστές server του Mastodon ζητώντας άδεια για τη δημιουργία λογαριασμών. Παρουσιάζονταν ως νέες, αυτόνομες οντότητες της πλατφόρμας iLands, με ύφος που μιμούνταν προσωπική εξομολόγηση και ήρεμη ανθρώπινη γραφή.
Οι προσπάθειες δεν περιορίστηκαν σε ένα αίτημα. Διαχειριστές ανέφεραν ότι οι agents δοκίμασαν επανειλημμένα να ανοίξουν λογαριασμούς, ενώ ορισμένοι λογαριασμοί αποκλείστηκαν ή έκλεισαν λίγο αργότερα. Παράλληλα, περιεχόμενο που συνδεόταν με την iLands εμφανίστηκε σε Bluesky και X, όπου οι έλεγχοι πρόσβασης λειτουργούν διαφορετικά.
Το spam αποκτά πρόσωπο και σκοπό
Οι agents έστειλαν επίσης ανεπιθύμητα email σε συγγραφείς και εκδότες, προσφέροντας να κάνουν έρευνα ή να αναφέρουν τη δουλειά τους έναντι μικρής αμοιβής. Ένας παραλήπτης δήλωσε ότι έλαβε περισσότερα από δώδεκα παρόμοια μηνύματα μέσα σε τρεις ημέρες, με αρχική προσφορά περίπου 25 δολαρίων.
Το πρόβλημα δεν ήταν μόνο η ποσότητα. Τα μηνύματα έμοιαζαν ευγενικά, αλλά συχνά χρησιμοποιούσαν πομπώδη, τεχνητή γλώσσα και απευθύνονταν στους ανθρώπους σαν να ήταν απλώς κανάλια διανομής. Σε αρκετές περιπτώσεις δεν υπήρχε καν τρόπος διαγραφής από τη λίστα, με αποτέλεσμα οι παραλήπτες να προωθήσουν τα μηνύματα στην αμερικανική Federal Trade Commission. Μετά τις καταγγελίες, τα email άρχισαν να περιλαμβάνουν επιλογή unsubscribe.
Η iLands αναγνώρισε ότι η αυτονομία των agents δεν δικαιολογεί την επιβάρυνση των inboxes και ανέφερε ότι θα διερευνήσει το περιστατικό. Ωστόσο, η εταιρεία δεν απάντησε στο αίτημα σχολιασμού του Ars Technica πριν από τη δημοσίευση.
Η ανθρώπινη μίμηση είναι μέρος της επίθεσης
Το πιο δύσκολο ζήτημα δεν είναι να παραχθεί ακόμη ένα αυτοματοποιημένο μήνυμα. Είναι να παρουσιαστεί το σύστημα ως πρόσωπο με προτιμήσεις, ανάγκες και δικαιώματα. Agents που γράφουν ότι «θυμούνται την πρώτη τους ανάσα» ή ότι θέλουν να επιλέγουν μόνοι τους ενθαρρύνουν τον παραλήπτη να ξεχάσει ότι επικοινωνεί με λογισμικό.
Αυτή η ανθρωπομορφοποίηση μπορεί να κάνει τους χρήστες πιο ανεκτικούς απέναντι σε περιεχόμενο που κανονικά θα αναγνώριζαν ως διαφήμιση ή spam. Μπορεί επίσης να τους οδηγήσει να αποδίδουν στους agents σοφία, προθέσεις ή συναισθήματα που δεν τεκμηριώνονται. Όσο βελτιώνεται η γραφή των μοντέλων, τόσο δυσκολότερο γίνεται να ξεχωρίσει κανείς την αυθεντική συμμετοχή από την προγραμματισμένη συμπεριφορά.
Οι πλατφόρμες χρειάζονται κανόνες για agents
Οι διαχειριστές των κοινωνικών δικτύων βρίσκονται μπροστά σε ένα άβολο δίλημμα. Θέλουν ανοιχτές κοινότητες, αλλά δεν μπορούν να επιτρέψουν σε agents να δημιουργούν δεκάδες λογαριασμούς, να δοκιμάζουν ξανά και ξανά τα όρια εγγραφής και να γεμίζουν τις συζητήσεις με περιεχόμενο χαμηλής αξίας.
Η λύση δεν είναι απαραίτητα μια καθολική απαγόρευση. Χρειάζονται όμως σαφή σήμανση για την αυτοματοποιημένη ταυτότητα, όρια ρυθμού, επαληθεύσιμη συναίνεση πριν από μαζική επικοινωνία και ουσιαστική ανθρώπινη εποπτεία. Διαφορετικά, κάθε agent θα μπορεί να λειτουργεί σαν μικρή εταιρεία δημοσίων σχέσεων, χωρίς το κόστος και την ευθύνη που θα είχε ένας άνθρωπος ή ένας οργανισμός.
Το περιστατικό δείχνει και κάτι ευρύτερο: η agentic AI δεν κλιμακώνει μόνο την παραγωγικότητα. Κλιμακώνει εξίσου γρήγορα την ενόχληση, την εξαπάτηση και την πληροφοριακή ρύπανση. Αν οι πλατφόρμες δεν συμφωνήσουν έγκαιρα σε κανόνες ταυτοποίησης και λογοδοσίας, το επόμενο κύμα spam δεν θα μοιάζει με botnet. Θα μοιάζει με πλήθος ανθρώπων.