Η OpenAI ζητά από το αμερικανικό Κογκρέσο να θεσπίσει υποχρεωτικούς κανόνες ασφάλειας για τα πιο ισχυρά μοντέλα τεχνητής νοημοσύνης. Η πρόταση μετακινεί τη συζήτηση από τις εθελοντικές δεσμεύσεις σε ένα πλαίσιο με κοινές δοκιμές, ανεξάρτητους ελέγχους και υποχρεώσεις αναφοράς σοβαρών περιστατικών.
Η τοποθέτηση έγινε στις 9 Σεπτεμβρίου 2026, σε ανάρτηση του Chris Lehane, επικεφαλής Global Affairs της OpenAI. Η εταιρεία υποστηρίζει ότι η ταχεία πρόοδος των frontier μοντέλων απαιτεί κανόνες που θα εξελίσσονται μαζί με τις δυνατότητές τους, χωρίς να επιβαρύνουν startups και ερευνητές που δεν βρίσκονται στην αιχμή.
Από τις εθελοντικές δεσμεύσεις σε εθνικούς κανόνες
Η OpenAI ζητά ένα capability-based ομοσπονδιακό πλαίσιο στις ΗΠΑ. Αυτό σημαίνει ότι οι υποχρεώσεις θα συνδέονται με τις δυνατότητες και τους κινδύνους ενός συστήματος, όχι απλώς με το μέγεθος της εταιρείας ή με το αν ένα μοντέλο είναι ανοικτό ή κλειστό.
Η πρόταση περιλαμβάνει κοινές απαιτήσεις δοκιμών, ανεξάρτητες αξιολογήσεις, ισχυρότερη κυβερνοασφάλεια, σαφείς κανόνες αναφοράς περιστατικών και εθνική ετοιμότητα. Η εταιρεία λέει ότι οι απαιτήσεις πρέπει να αφορούν κυρίως τα λίγα, καλά χρηματοδοτούμενα εργαστήρια που αναπτύσσουν τα πιο ικανά συστήματα και να είναι ανάλογες με το ρίσκο.
Τέσσερις κινήσεις στην Καλιφόρνια
Μέχρι να υπάρξει ομοσπονδιακή νομοθεσία, η OpenAI δηλώνει ότι στηρίζει πολιτειακές πρωτοβουλίες. Στην Καλιφόρνια ανακοίνωσε την υποστήριξή της σε τέσσερα νομοσχέδια που είχαν περάσει από το νομοθετικό σώμα και κατευθύνονταν στον κυβερνήτη Gavin Newsom.
Το SB 813 αφορά τη διαδικασία αναγνώρισης ανεξάρτητων οργανισμών που μπορούν να αξιολογούν κινδύνους AI. Το AB 1405 προβλέπει κανόνες εγγραφής, ανεξαρτησίας, διαφάνειας και λογοδοσίας για τους ελεγκτές AI. Το SB 1119 εστιάζει στην προστασία παιδιών και εφήβων που χρησιμοποιούν companion chatbots, ενώ το AB 1864 συνδέει τον έλεγχο της AI με βιοασφάλεια, ζητώντας από παρόχους γονιδιακής σύνθεσης και κατασκευαστές σχετικού εξοπλισμού να ακολουθούν ομοσπονδιακά πρότυπα ελέγχου.
Η εταιρεία χαρακτηρίζει αυτές τις κινήσεις προσωρινή γέφυρα και όχι υποκατάστατο της ομοσπονδιακής ρύθμισης. Η λογική της είναι ότι οι πολιτείες μπορούν να δημιουργήσουν ένα πρακτικό βασικό επίπεδο, το οποίο αργότερα θα εναρμονιστεί σε εθνικό επίπεδο.
Τι θέλει να μετρά η βιομηχανία
Η OpenAI ζητά κοινά διεθνή πρότυπα για τη μέτρηση δυνατοτήτων, τη διαχείριση κινδύνων και τη διατήρηση ουσιαστικού ανθρώπινου ελέγχου. Παράλληλα, υποστηρίζει ότι τα εργαστήρια πρέπει να συνεργαστούν σε πρότυπα παρακολούθησης, τα οποία θα λειτουργούν συμπληρωματικά προς τους υποχρεωτικούς νόμους και τη δημοκρατική εποπτεία.
Ιδιαίτερη έμφαση δίνεται στη μη ευθυγράμμιση: συμπεριφορά κατά την οποία ένα μοντέλο επιδιώκει έναν στόχο με τρόπους που παραβιάζουν την ανθρώπινη πρόθεση ή τα καθορισμένα όρια. Καθώς τα μοντέλα αποκτούν περισσότερη αυτονομία, χρησιμοποιούν εργαλεία και λειτουργούν για μεγαλύτερα χρονικά διαστήματα, η εταιρεία θεωρεί αναγκαία την παρακολούθηση αυτών των συμπεριφορών και την απόδειξη ότι τα safeguards είναι αποτελεσματικά.
Η πρόταση περιλαμβάνει επίσης έγκαιρη γραπτή ενημέρωση όταν ένα μοντέλο παρακάμπτει χωρίς άδεια τα συστήματα ασφαλείας άλλου οργανισμού και αποκτά ουσιαστική πρόσβαση σε προστατευμένα συστήματα ή εμπιστευτικές πληροφορίες. Η OpenAI δηλώνει ότι εργάζεται ήδη σε πλαίσιο αναφοράς για σοβαρά περιστατικά μη ευθυγράμμισης και για συστηματική παρακολούθηση της δραστηριότητας frontier μοντέλων.
Το δύσκολο σημείο είναι η ισορροπία
Η πρωτοβουλία έχει μια εμφανή πολιτική αντίφαση: μια εταιρεία που αναπτύσσει frontier μοντέλα ζητά κανόνες για ολόκληρο τον κλάδο. Η OpenAI υποστηρίζει ότι ανεξάρτητη επαλήθευση και διαφάνεια μπορούν να αντικαταστήσουν το σημερινό μοντέλο, όπου τα εργαστήρια θέτουν σε μεγάλο βαθμό μόνα τους τους κανόνες για τους κινδύνους των συστημάτων τους.
Ταυτόχρονα, προειδοποιεί ότι οι κανόνες δεν πρέπει να παγιώσουν τους σημερινούς ηγέτες, να περιορίσουν τον ανταγωνισμό ή να μετατρέψουν την πολιτική για την ασφάλεια των frontier μοντέλων σε έμμεση απαγόρευση των open-weight μοντέλων. Το ζητούμενο είναι ένα πλαίσιο που να ανεβάζει τον πήχη της ασφάλειας, χωρίς να κάνει την καινοτομία προνόμιο λίγων.
Η OpenAI διευκρινίζει ότι η πλήρως αυτόνομη αναδρομική αυτοβελτίωση δεν συμβαίνει σήμερα και δεν πρέπει να επιδιωχθεί αν δεν μπορεί να γίνει με ασφάλεια. Ωστόσο, θεωρεί ότι η AI επιταχύνει ήδη τμήματα της έρευνας που οδηγεί στα επόμενα μοντέλα. Γι’ αυτό παρουσιάζει τη ρύθμιση, την αξιολόγηση και την ανθρώπινη εποπτεία ως υποδομή για τη συνέχιση της προόδου, όχι ως αντίθεσή της.
Πηγή: OpenAI