Η OpenAI σχεδιάζει να ενεργοποιεί από προεπιλογή ένα υδατογράφημα στα κείμενα που παράγει το ChatGPT για χρήστες στην Ευρωπαϊκή Ένωση. Η αλλαγή, που αναμένεται να κυκλοφορήσει «τις επόμενες εβδομάδες», συνδέεται με τις απαιτήσεις του ευρωπαϊκού κανονισμού για την τεχνητή νοημοσύνη και όχι με μια παγκόσμια αλλαγή στον τρόπο λειτουργίας του ChatGPT.
Τι ακριβώς αλλάζει
Το σύστημα ονομάζεται textGrain και λειτουργεί ενσωματώνοντας μοτίβα στις επιλογές λέξεων. Τα μοτίβα δεν είναι ορατά στον αναγνώστη και δεν έχουν σχεδιαστεί για να αλλάζουν αισθητά την ποιότητα του κειμένου, όμως ένας ειδικός ανιχνευτής με το κατάλληλο κλειδί μπορεί να τα αναζητήσει.
Στην Ευρωπαϊκή Ένωση η λειτουργία θα είναι ενεργή από προεπιλογή στις εφαρμογές ChatGPT και Codex, ενώ σε άλλες περιοχές θα προσφέρεται προαιρετικά. Η OpenAI λέει επίσης ότι θα ανοίξει τον ανιχνευτή αρχικά σε περιορισμένο αριθμό ερευνητών και οργανισμών, με διαδικασία αιτήσεων για νέους συμμετέχοντες.
Η αξιοπιστία έχει όρια
Οι δοκιμές της OpenAI αναφέρουν ποσοστό επιτυχούς ανίχνευσης 92%, αλλά αυτό δεν ισοδυναμεί με βεβαιότητα για κάθε κείμενο. Σύμφωνα με την ίδια αξιολόγηση, η αλλαγή μόλις του 10% ενός αποτελέσματος μειώνει την επιτυχή ανίχνευση σχεδόν κατά 30%, ενώ αλλαγή 20% μπορεί να τη μειώσει σχεδόν κατά 75%.
Η απόδοση είναι χαμηλότερη σε σύντομα ή μεταφρασμένα κείμενα. Άρα το υδατογράφημα μπορεί να λειτουργήσει ως ένδειξη προέλευσης σε ορισμένα σενάρια, όχι ως αλάνθαστη απόδειξη ότι ένα κείμενο γράφτηκε από AI.
Τι σημαίνει για την ευρωπαϊκή αγορά
Η διαφορετική προεπιλογή στην ΕΕ δείχνει πώς η ρύθμιση μπορεί να επηρεάσει ακόμη και λεπτομέρειες του προϊόντος. Η υποχρέωση σήμανσης συνθετικού περιεχομένου δημιουργεί κίνητρο για τεχνικές όπως το textGrain, αλλά η ευκολία παράκαμψης περιορίζει την αξία τους ως μοναδικού εργαλείου ελέγχου.
Η Anthropic έχει ενεργοποιήσει αντίστοιχη λειτουργία παγκοσμίως, ενώ η OpenAI κρατά πιο περιορισμένη προσέγγιση: το υδατογράφημα θα είναι προεπιλεγμένο στην ΕΕ και διαθέσιμο προαιρετικά εκτός αυτής. Το επόμενο κρίσιμο τεστ δεν θα είναι μόνο η ακρίβεια του ανιχνευτή, αλλά και το αν οι ερευνητές, οι πλατφόρμες και οι αρχές θα το χρησιμοποιούν μαζί με άλλες ενδείξεις, αντί να το αντιμετωπίζουν ως τελεσίδικη ετυμηγορία.