Η Meta βρέθηκε αντιμέτωπη με μια ιδιαίτερα σοβαρή αποτυχία ελέγχου διαφημίσεων: έρευνα του Tech Transparency Project (TTP), που δημοσίευσε η Ars Technica, εντόπισε εκατοντάδες διαφημίσεις σε Facebook και Instagram οι οποίες προωθούσαν εφαρμογές που μετατρέπουν φωτογραφίες σε σεξουαλικοποιημένο, μη συναινετικό υλικό. Σε αρκετές περιπτώσεις, οι εικόνες αφορούσαν πραγματικά παιδιά.
Το εύρημα δεν αφορά απλώς την κακή χρήση ενός εργαλείου τεχνητής νοημοσύνης. Αφορά το πώς τέτοια εργαλεία βρίσκουν χώρο μέσα στην κανονική διαφημιστική υποδομή μιας μεγάλης πλατφόρμας, περνούν από διαδικασίες έγκρισης και συνεχίζουν να προβάλλονται ακόμη και μετά τις καταγγελίες.
332 διαφημίσεις που ξέφυγαν από τα φίλτρα
Σύμφωνα με την έρευνα του TTP, η Meta απέτυχε να εντοπίσει 332 διαφημίσεις που περιείχαν υλικό σεξουαλικής κακοποίησης παιδιών μέσα στο 2026. Η «συντριπτική πλειονότητα» προωθούσε εφαρμογές τεχνητής νοημοσύνης που αναπτύσσονται στην Κίνα, ενώ πολλές ανήκαν στην κατηγορία των λεγόμενων nudify apps: υπηρεσίες που τροποποιούν φωτογραφίες πραγματικών ανθρώπων χωρίς τη συναίνεσή τους.
Οι ερευνητές ταίριαξαν αρκετές από τις διαφημίσεις με φωτογραφίες παιδιών που είχαν δημοσιευτεί αλλού στο διαδίκτυο. Η Ars Technica αναφέρει, μεταξύ άλλων, φωτογραφία νεαρής Ευρωπαίας που ανήκει σε βασιλική οικογένεια και εικόνα 14χρονης influencer από το Instagram. Η χρήση πραγματικών φωτογραφιών κάνει την απειλή πολύ ευρύτερη από μια υπόθεση συνθετικών χαρακτήρων: μια συνηθισμένη εικόνα από δημόσιο προφίλ μπορεί να γίνει πρώτη ύλη για κακοποίηση.
Το πρόβλημα δεν περιορίστηκε στο περιεχόμενο που αφορούσε ανηλίκους. Η Wired εντόπισε ανεξάρτητα εκατοντάδες σχετικές διαφημίσεις με ρητό υλικό ενηλίκων, πιθανότατα επίσης χωρίς συναίνεση. Έτσι, η υπόθεση φωτίζει ταυτόχρονα την προστασία των παιδιών και το γενικότερο επιχειρηματικό μοντέλο γύρω από τις εφαρμογές μη συναινετικής ψηφιακής παραποίησης.
Η καθυστέρηση αφαίρεσης είναι μέρος της αποτυχίας
Η Meta αφαίρεσε τις διαφημίσεις που υπέδειξαν το TTP και η Wired, όμως η διαδικασία δεν ήταν πάντα άμεση. Μετά την αναφορά περισσότερων από 300 διαφημίσεων, η εταιρεία αφαίρεσε γρήγορα περίπου τις μισές από τη βιβλιοθήκη διαφημίσεών της. Σε πολλές περιπτώσεις, ωστόσο, οι καταχωρίσεις δεν επισημάνθηκαν αρχικά ως παραβιάσεις της πολιτικής για την εκμετάλλευση παιδιών.
Το TTP υποστήριξε ότι η ασυνέπεια αυτή μπορεί να σημαίνει πως η Meta υποεκτιμά τον πραγματικό αριθμό των περιστατικών. Σε μία περίπτωση, διαφήμιση που αναφέρθηκε την ημέρα έναρξής της παρέμεινε ενεργή για ημέρες και οι εμφανίσεις της αυξήθηκαν από τέσσερις σε 330. Οι ερευνητές κατέγραψαν επίσης περιπτώσεις όπου δύο σχεδόν πανομοιότυπες διαφημίσεις αντιμετωπίστηκαν διαφορετικά: η μία αφαιρέθηκε, ενώ η άλλη κρίθηκε ότι δεν παραβίαζε τους κανόνες.
Η Meta δήλωσε στη Wired ότι δεν ανέχεται τις εφαρμογές nudify ή οποιαδήποτε μορφή εκμετάλλευσης παιδιών, είτε το υλικό είναι πραγματικό είτε δημιουργημένο από AI. Η εταιρεία απέδωσε μέρος της διαφυγής στην ανίχνευση σε σύντομα ή θολά αποσπάσματα. Η απάντηση, όμως, αφήνει ανοιχτό το ερώτημα αν οι αυτοματοποιημένοι έλεγχοι αξιολογούν πραγματικά το πλαίσιο μιας διαφήμισης ή απλώς επιμέρους καρέ και λέξεις.
Όταν η διαφημιστική οικονομία ανταμείβει το ρίσκο
Η έρευνα συνδέει την υπόθεση και με τους μεσάζοντες της διαφημιστικής αγοράς. Το TTP ανέφερε ότι τρεις συνεργάτες μεταπώλησης διαφημίσεων στην Κίνα —οι GIMC, Meetsocial και BlueFocus— έτρεξαν στο Facebook και στο Instagram διαφημίσεις με το ίδιο απαγορευμένο υλικό. Παράλληλα, η Ars Technica επικαλείται προηγούμενο ρεπορτάζ του Reuters, σύμφωνα με το οποίο η Meta δεν αντιδρά πάντα άμεσα σε παραβιάσεις που προέρχονται από Κινέζους μεταπωλητές, επειδή η αγορά αυτή αποφέρει σημαντικά έσοδα.
Οι διαφημίσεις που εντοπίστηκαν έφτασαν συνολικά σε περισσότερους από 29.000 ανθρώπους στην Ευρωπαϊκή Ένωση και 6.800 στο Ηνωμένο Βασίλειο, σύμφωνα με το TTP. Περίπου το 80% προβλήθηκε στις Ηνωμένες Πολιτείες. Οι αριθμοί δεν αποτυπώνουν κατ’ ανάγκη όλη την έκταση του προβλήματος, αλλά δείχνουν γιατί η ταχύτητα αφαίρεσης και η διαφάνεια των αρχείων διαφημίσεων έχουν πρακτική σημασία.
Η υπόθεση έχει ήδη προκαλέσει πολιτική και ρυθμιστική κινητικότητα. Γενικοί εισαγγελείς του Μίσιγκαν και της Φλόριντα δήλωσαν ότι εξετάζουν τις διαφημίσεις, ενώ ο γερουσιαστής Mark Warner ζήτησε από τη Meta να σταματήσει το παράνομο και ακατάλληλο περιεχόμενο. Η αυστραλιανή ρυθμιστική αρχή eSafety ζήτησε επίσης πληροφορίες από την εταιρεία.
Το κρίσιμο ερώτημα δεν είναι αν μπορεί να υπάρξει ένα τέλειο φίλτρο. Είναι αν μια πλατφόρμα που αποδέχεται πληρωμένη διαφήμιση μπορεί να εντοπίζει εγκαίρως προφανείς κινδύνους, να εξηγεί τις αποφάσεις της και να αποτρέπει την επανεμφάνιση των ίδιων καμπανιών. Όσο η τεχνητή νοημοσύνη κάνει τη μετατροπή μιας απλής φωτογραφίας σε κακοποιητικό υλικό πιο εύκολη, η ευθύνη δεν μπορεί να μετακυλίεται μόνο στον τελικό χρήστη.
Πηγή: Ars Technica