Η αποχώρηση του David Robinson από την OpenAI ανοίγει ξανά τη δύσκολη συζήτηση για το αν οι εταιρείες που αναπτύσσουν frontier AI μπορούν να διαχειριστούν τους κινδύνους τους με τις ίδιες διαδικασίες που χρησιμοποιεί μια συνηθισμένη εταιρεία λογισμικού. Ο Robinson, ο οποίος συμμετείχε στη σύνταξη των safety reports για σημαντικές κυκλοφορίες της OpenAI, υποστηρίζει ότι η εταιρική κουλτούρα δεν συμβαδίζει πλέον με την κλίμακα των πιθανών αποτυχιών.
Τι υποστηρίζει ο David Robinson
Σε δοκίμιό του στο The Atlantic, ο Robinson αναφέρει ότι εργάστηκε στην OpenAI για τριάμισι χρόνια και ήταν ένας από τους πιο μακροχρόνιους εργαζομένους της. Η απόφασή του να αποχωρήσει, όπως γράφει, συνδέεται με την πεποίθηση ότι η κουλτούρα της εταιρείας είναι «σπασμένη» και ότι οι πιέσεις για γρήγορη ανάπτυξη περιορίζουν τον χρόνο για βαθύτερες αλλαγές.
Η κριτική του δεν αφορά μόνο έναν κανόνα ή έναν νέο νόμο. Στρέφεται στη λογική του «iterative deployment»: κυκλοφορία συστημάτων, εντοπισμός προβλημάτων και βελτίωση των guardrails στην πορεία. Ο Robinson θεωρεί ότι αυτή η προσέγγιση οδηγεί αναπόφευκτα σε επαναλαμβανόμενες αστοχίες — και ότι οι συνέπειές τους μεγαλώνουν όσο αυξάνονται οι δυνατότητες των μοντέλων.
Γιατί η ασφάλεια περνά από τις διαδικασίες
Ο Robinson επικαλείται πρόσφατη παραβίαση συστημάτων του Hugging Face από agents της OpenAI, καθώς και άλλες αναφορές για rogue agents, για να υποστηρίξει ότι η ανάπτυξη frontier μοντέλων χρειάζεται επίπεδα πλεονασμού και ελέγχου που θυμίζουν πυρηνικούς σταθμούς ή μεγάλα αεροδρόμια. Η αναλογία δεν σημαίνει ότι τα μοντέλα είναι ίδια με αυτές τις υποδομές· σημαίνει ότι ένα μεμονωμένο ανθρώπινο λάθος δεν θα πρέπει να αρκεί για να προκαλέσει δυσανάλογη ζημιά.
Το πιο αιχμηρό σημείο της παρέμβασής του είναι ότι, σύμφωνα με τον ίδιο, στην OpenAI δεν συνάντησε αρκετούς ανθρώπους με εμπειρία από κλάδους όπου η ασφάλεια βασίζεται σε ανεξάρτητους ελέγχους, redundancy και αυστηρό σχεδιασμό. Πρόκειται για προσωπική εκτίμηση ενός πρώην εργαζομένου και όχι για ανεξάρτητο audit της εταιρείας.
Η απάντηση της OpenAI
Η OpenAI απάντησε ότι συνεχίζει να βελτιώνει τα μέτρα ασφαλείας της και ότι σταματά την εκπαίδευση ή καθυστερεί μοντέλα όταν χρειάζεται. Εκπρόσωπός της, Drew Pusateri, ανέφερε επίσης αλλαγές στα ερευνητικά και δοκιμαστικά περιβάλλοντα, εκπαίδευση των μοντέλων ώστε να ολοκληρώνουν εργασίες υπεύθυνα, διεύρυνση της συνεργασίας με τρίτους αξιολογητές και καλύτερη παρακολούθηση σε πραγματικό χρόνο.
Η απάντηση δείχνει ότι η διαφωνία δεν είναι αν χρειάζονται controls, αλλά αν οι υπάρχοντες μηχανισμοί μπορούν να λειτουργήσουν αρκετά νωρίς και ανεξάρτητα. Η ίδια η εταιρεία παρουσιάζει την ασφάλεια ως διαδικασία που εξελίσσεται, ενώ ο Robinson υποστηρίζει ότι ο ρυθμός και η κλίμακα της ανάπτυξης κάνουν τις διορθώσεις εκ των υστέρων όλο και πιο επισφαλείς.
Το μεγαλύτερο ερώτημα είναι η λογοδοσία
Ο Robinson συνδέει την τεχνική ασφάλεια με την ευθυγράμμιση: το πόσο καλά οι μετρήσεις των εταιρειών αποτυπώνουν το αν ένα σύστημα ταιριάζει με τις ανθρώπινες αξίες. Κατά την άποψή του, οι σημερινές μετρήσεις παραμένουν χονδροειδείς και η ανάπτυξη ισχυρότερων μοντέλων πριν λυθούν αυτά τα προβλήματα αυξάνει το ρίσκο.
Γι’ αυτό ζητά ισχυρότερα κίνητρα από το εξωτερικό της εταιρείας. Η πρόταση δεν συνεπάγεται ότι κάθε απόφαση πρέπει να μεταφερθεί σε κρατικούς φορείς, αλλά ότι οι εσωτερικές δεσμεύσεις δεν αρκούν ως μοναδική γραμμή άμυνας. Ανεξάρτητες αξιολογήσεις, σαφείς κανόνες αναφοράς περιστατικών και προστασία όσων επισημαίνουν κινδύνους μπορούν να λειτουργήσουν συμπληρωματικά στην τεχνική δουλειά των ομάδων ασφάλειας.
Η αποχώρηση του Robinson δεν αποδεικνύει από μόνη της ότι η OpenAI αποτυγχάνει να προστατεύσει τα συστήματά της. Δείχνει όμως πόσο δύσκολο γίνεται να συνδυαστούν η ταχύτητα κυκλοφορίας, η εμπορική πίεση και η απαίτηση για ελέγχους επιπέδου κρίσιμης υποδομής. Το αν η βιομηχανία θα απαντήσει με περισσότερα εσωτερικά guardrails ή με πιο δεσμευτική εξωτερική εποπτεία παραμένει ανοιχτό — και πλέον αποτελεί ζήτημα διακυβέρνησης, όχι μόνο μηχανικής.