Ο Demis Hassabis επιχειρεί να βάλει ξανά τη συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης σε πιο θεσμική βάση, την ώρα που η Google αλλάζει τη διοικητική δομή του DeepMind και μεταφέρει τον ίδιο πιο κοντά στον ρόλο του στρατηγικού επιστήμονα παρά του καθημερινού διαχειριστή.
Σύμφωνα με τη Wall Street Journal, ο συνιδρυτής του Google DeepMind συζήτησε με στελέχη άλλων εργαστηρίων AI και με αξιωματούχους της αμερικανικής κυβέρνησης την ιδέα ενός ανεξάρτητου φορέα που θα ορίζει κανόνες ασφάλειας και βέλτιστες πρακτικές για την ανάπτυξη συστημάτων τεχνητής γενικής νοημοσύνης, της λεγόμενης AGI.
Τι πρότεινε ο Hassabis
Η βασική ιδέα, όπως περιγράφεται στο δημοσίευμα, δεν είναι μια ακόμη εσωτερική επιτροπή εταιρικής συμμόρφωσης αλλά ένας εξωτερικός οργανισμός με ρόλο συντονισμού και θέσπισης προτύπων. Ο Hassabis φέρεται να παρομοίασε το σχήμα αυτό με φορείς διεθνούς ή κλαδικής εποπτείας, υποστηρίζοντας ότι τα πιο ισχυρά μοντέλα δεν μπορούν να αξιολογούνται μόνο με εθελοντικές υποσχέσεις των ίδιων των εταιρειών που τα αναπτύσσουν.
Η συζήτηση έχει βαρύτητα επειδή προέρχεται από έναν από τους ανθρώπους που διαμόρφωσαν την τρέχουσα γενιά της AI και όχι από εξωτερικό επικριτή του κλάδου. Αυτό δίνει στην πρόταση μεγαλύτερο πολιτικό και βιομηχανικό βάρος, ακόμη κι αν δεν υπάρχει ακόμη σαφές θεσμικό σχέδιο ή συμφωνία για το πώς θα χρηματοδοτείται και ποιος θα επιβλέπει έναν τέτοιο μηχανισμό.
Γιατί η χρονική στιγμή μετράει
Η πρόταση δεν εμφανίζεται σε ουδέτερο περιβάλλον. Έρχεται λίγο πριν από τον ανασχηματισμό στην κορυφή του Google DeepMind, με τον Hassabis να αφήνει την καθημερινή θέση του CEO για να γίνει chairman του DeepMind και chief scientist της Alphabet, ενώ την επιχειρησιακή ηγεσία αναλαμβάνει ο Koray Kavukcuoglu.
Η Guardian έχει καταγράψει ότι η αλλαγή αυτή εντάσσεται σε μια ευρύτερη αναδιάταξη της AI στρατηγικής της Google, σε μια περίοδο που η εταιρεία δέχεται πίεση από τον ανταγωνισμό με OpenAI και Anthropic. Μέσα σε αυτό το πλαίσιο, η μετακίνηση του Hassabis σε ρόλο πιο στρατηγικό κάνει την παρέμβασή του για εποπτεία να μοιάζει λιγότερο με προσωπική άποψη και περισσότερο με μήνυμα για το πού θεωρεί ότι πρέπει να πάει ο κλάδος.
Τι σημαίνει για την αγορά AI
Το κρίσιμο ερώτημα είναι αν μια τέτοια αρχιτεκτονική μπορεί να έχει πραγματική επιρροή ή αν θα περιοριστεί σε συστάσεις χωρίς δεσμευτική ισχύ. Όσο τα μοντέλα αποκτούν μεγαλύτερη αυτονομία σε κώδικα, κυβερνοασφάλεια και πράξεις πολλών βημάτων, τόσο πιο δύσκολο γίνεται για κυβερνήσεις και εταιρείες να στηρίζονται μόνο σε αποσπασματικές δοκιμές ή σε δημοσιεύσεις πολιτικής.
Για την αγορά, η πρόταση του Hassabis είναι ένδειξη ότι η συζήτηση μετακινείται από το «αν χρειάζονται κανόνες» στο «ποιος θα έχει το κύρος να τους ορίζει». Αυτό δεν σημαίνει ότι μια ανεξάρτητη αρχή είναι άμεσα κοντά, αλλά δείχνει πως ακόμη και πρωταγωνιστές της βιομηχανίας αναγνωρίζουν ότι η επόμενη φάση της AI θα κριθεί όχι μόνο από τις επιδόσεις των μοντέλων, αλλά και από την αξιοπιστία της εποπτείας γύρω τους.