Το μοντέλο τεχνητής νοημοσύνης Mythos της Anthropic, το οποίο η εταιρεία έχει χαρακτηρίσει ως επικίνδυνο εάν χρησιμοποιηθεί από λάθος χέρια, έχει προσπελαστεί από μη εξουσιοδοτημένους χρήστες μέσω ενός τρίτου κατασκευαστή.
Η πρόσβαση επιτεύχθηκε από μικρή ομάδα που εντοπίστηκε μέσω ιδιωτικού διαδικτυακού φόρουμ Discord, σύμφωνα με πληροφορίες που δημοσίευσε το Bloomberg.
Σημαντικές Αποκαλύψεις
Το Claude Mythos Preview είναι ένα νέο μοντέλο τεχνητής νοημοσύνης που έχει σχεδιαστεί για την αναγνώριση και εκμετάλλευση ευπαθειών σε όλα τα μεγάλα λειτουργικά συστήματα και φυλλομετρητές.
Η επίσημη πρόσβαση στο μοντέλο περιορίζεται σε επιλεγμένες εταιρείες μέσω της πρωτοβουλίας Project Glasswing, συμπεριλαμβανομένων των Nvidia, Google, Amazon Web Services, Apple και Microsoft.
Αρκετές κυβερνήσεις έχουν επίσης εκφράσει ενδιαφέρον για την τεχνολογία. Η Anthropic δεν σχεδιάζει να κυκλοφορήσει δημοσίως το μοντέλο λόγω ανησυχιών ότι μπορεί να χρησιμοποιηθεί ως όπλο.
Η Διαδικασία της Ανεξάρτητης Πρόσβασης
Η μη εξουσιοδοτημένη ομάδα προχώρησε στην πρόσβαση του Mythos χρησιμοποιώντας γνώσεις από άλλες μορφές μοντέλων της Anthropic, που αποκτήθηκαν μέσω πρόσφατης παραβίασης δεδομένων της εταιρείας Mercor.
Τα μέλη της ομάδας εκμεταλλεύτηκαν αυτές τις πληροφορίες για να κάνουν μια «ενημερωμένη εικασία» σχετικά με τη διαδικτυακή θέση του Mythos.
Οι χρήστες έχουν χρησιμοποιήσει το μοντέλο τακτικά από τότε που απέκτησαν πρόσβαση, παρέχοντας στιγμιότυπα οθόνης και ζωντανή επίδειξη ως αποδεικτικά στοιχεία.
Η ομάδα δεν φαίνεται να χρησιμοποιεί το μοντέλο για κυβερνοασφάλεια, μάλλον προσπαθεί να αποφύγει τον εντοπισμό από την Anthropic.
Η Αντιμετώπιση της Anthropic
Εκπρόσωπος της Anthropic δήλωσε ότι η εταιρεία διερευνά αναφορές για μη εξουσιοδοτημένη πρόσβαση στο Claude Mythos Preview μέσω ενός από τα περιβάλλοντα τρίτων προμηθευτών της.
Η Anthropic δεν έχει στοιχεία ότι η μη εξουσιοδοτημένη πρόσβαση επηρεάζει τα συστήματα της εταιρείας ή ξεπερνά το περιβάλλον του τρίτου προμηθευτή.
Η πρόσβαση στο μοντέλο αναφέρθηκε για πρώτη φορά στις 7 Απριλίου, την ίδια ημέρα που η Anthropic ανακοίνωσε ότι θα κυκλοφορήσει το Mythos σε περιορισμένο αριθμό εταιρειών για δοκιμή.
Ευρύτερες Επιπτώσεις
Η υπόθεση εγείρει σοβαρά ερωτήματα σχετικά με τα πρωτόκολλα ασφάλειας που χρησιμοποιούνται από τις εταιρείες τεχνητής νοημοσύνης.
Προκλήσεις στην προστασία της πνευματικής ιδιοκτησίας των προηγμένων μοντέλων τεχνητής νοημοσύνης παραμένουν κρίσιμες.
Η δυνατότητα χρήσης τέτοιων μοντέλων για ανεύρεση και εκμετάλλευση αδυναμιών υπογραμμίζει την ανάγκη για αυστηρότερους μηχανισμούς ασφάλειας.
Η ανάπτυξη και διανομή προηγμένων μοντέλων τεχνητής νοημοσύνης πρέπει να συνοδεύεται από εξαιρετικά συστήματα διαχείρισης κινδύνου.