Η Ουάσιγκτον κατονομάζει έξι κινεζικές εταιρείες AI που, σύμφωνα με κοινή ανακοίνωση αμερικανικών υπηρεσιών, χρησιμοποίησαν μεγάλης κλίμακας επιθέσεις distillation για να εξάγουν δυνατότητες από αμερικανικά frontier μοντέλα. Η υπόθεση ανοίγει ένα δύσκολο τεχνικό και πολιτικό μέτωπο: πώς προστατεύεται ένα μοντέλο που λειτουργεί μέσω API χωρίς να τιμωρούνται οι νόμιμοι χρήστες του;
Τι καταγγέλλουν οι αμερικανικές υπηρεσίες
Η NSA, η CISA και το FBI υποστηρίζουν ότι οι DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun και Z.AI επιτίθενται σε αμερικανικά μοντέλα τουλάχιστον από τα τέλη του 2024. Η κοινή ανακοίνωση μιλά για προσπάθειες εξαγωγής δυνατοτήτων από παραλλαγές των Claude, GPT, Gemini και Grok και εκτιμά ότι οι ενέργειες έγιναν πιθανότατα με γνώση της κινεζικής κυβέρνησης.
Η διατύπωση έχει σημασία: πρόκειται για ισχυρισμούς κυβερνητικών υπηρεσιών που δημοσιοποιήθηκαν ως προειδοποίηση και όχι για ανεξάρτητα αποδεδειγμένο δικαστικό πόρισμα. Η Ars Technica σημειώνει επίσης ότι οι εταιρείες των οποίων τα μοντέλα φέρεται να στοχοποιήθηκαν δεν είχαν απαντήσει άμεσα στις ερωτήσεις της.
Πώς λειτουργεί το distillation
Στο distillation, ένα «μαθητικό» μοντέλο υποβάλλει μεγάλο αριθμό ερωτημάτων σε ένα ισχυρότερο «δασκαλικό» μοντέλο και χρησιμοποιεί τις απαντήσεις για να εκπαιδευτεί. Έτσι μπορεί να μιμηθεί συμπεριφορές, τεχνικές επίλυσης και εξειδικευμένες ικανότητες χωρίς να επαναλάβει όλο το δαπανηρό στάδιο εκπαίδευσης ενός frontier συστήματος.
Σύμφωνα με την αμερικανική ανακοίνωση, το μοτίβο περιλάμβανε ψεύτικους λογαριασμούς, συντονισμένα prompts από χιλιάδες έως εκατομμύρια ερωτήματα και δίκτυα proxies που έκρυβαν τη γεωγραφική προέλευση της κίνησης. Οι υπηρεσίες αναφέρουν επίσης prompt injection και jailbreaks που ζητούσαν από τα μοντέλα να αποκαλύψουν την εσωτερική τους διαδικασία συλλογισμού.
Οι διαφορετικοί στόχοι των έξι εταιρειών
Η DeepSeek κατηγορείται ότι άντλησε ικανότητες από Claude, Gemini, GPT και Grok, μεταξύ άλλων για agents, βοηθούς, γραφή, ερωταπαντήσεις και συλλογισμό. Η Moonshot AI φέρεται να εναλλασσόταν ανάμεσα σε αμερικανικά μοντέλα για να αντιγράψει τεχνικές fine-tuning, reinforcement learning, software engineering και μαθηματικών.
Για τις Alibaba, MiniMax, StepFun και Z.AI, οι υπηρεσίες περιγράφουν πιο στοχευμένες προσπάθειες αντιγραφής δυνατοτήτων μοντέλων της Anthropic και της OpenAI. Το κοινό στοιχείο είναι η αξιοποίηση έτοιμων υπηρεσιών inference ως πηγής συνθετικών δεδομένων και τεχνογνωσίας.
Τα προτεινόμενα αντίμετρα έχουν κόστος
Η Ουάσιγκτον ζητά αυστηρότερη επαλήθευση ταυτότητας, ανίχνευση ασυνήθιστων λογαριασμών και συνεργασία μεταξύ εταιρειών και συμμάχων. Ένα ιδιαίτερα αμφιλεγόμενο μέτρο είναι η σιωπηρή υποβάθμιση ύποπτων λογαριασμών σε λιγότερο ικανό μοντέλο ή η αλλαγή του τρόπου απάντησης, ώστε να μειώνεται η αξία των δεδομένων που συλλέγουν.
Το πρόβλημα είναι η ακρίβεια. Ένας νόμιμος ερευνητής ή πελάτης enterprise μπορεί να μοιάζει με αυτοματοποιημένη καμπάνια, ενώ η αλλαγή του μοντέλου χωρίς ενημέρωση πλήττει την προβλεψιμότητα και την εμπιστοσύνη. Οι ίδιες οι υπηρεσίες αναγνωρίζουν ότι η άμυνα μπορεί να μειώσει την ακρίβεια και τη χρησιμότητα για κανονικούς χρήστες.
Μια διαμάχη που δεν λύνεται μόνο με τεχνικά φίλτρα
Οι αμερικανικές εταιρείες AI έχουν προειδοποιήσει επανειλημμένα για επιθέσεις distillation και η κυβέρνηση υποστηρίζει ότι η κλοπή δυνατοτήτων αποτελεί κεντρικό, όχι συμπληρωματικό, μέρος της κινεζικής στρατηγικής ανάπτυξης AI. Η Κίνα απορρίπτει τις κατηγορίες ως αβάσιμες και υποστηρίζει ότι η πρόοδός της προέρχεται από επιστημονική και τεχνολογική αυτοδυναμία, ενώ επισημαίνει ότι και αμερικανικές εταιρείες χρησιμοποιούν κινεζικά μοντέλα για έρευνα και εκπαίδευση.
Η ουσία της υπόθεσης είναι ότι το API έχει γίνει ταυτόχρονα προϊόν και πιθανό κανάλι μεταφοράς τεχνογνωσίας. Η αποτελεσματική άμυνα θα χρειαστεί κοινά σήματα μεταξύ παρόχων, διαφανείς κανόνες για την πρόσβαση και αρκετή ακρίβεια ώστε η προστασία της πνευματικής ιδιοκτησίας να μη μετατραπεί σε αόρατη υποβάθμιση της εμπειρίας όλων των χρηστών.