Η Google βρίσκεται αντιμέτωπη με ένα απρόσμενο πρόβλημα: η τεχνητή νοημοσύνη της δεν μπορεί να γράψει σωστά ούτε το όνομα «Google». Οι χρήστες που αναζητούν πληροφορίες για την ορθογραφία λέξεων λαμβάνουν απαντήσεις που είναι — κυριολεκτικά — λάθος.
Ένα αστείο που έγινε viral
Το AI Overview, η λειτουργία τεχνητής νοημοσύνης που έχει ενσωματώσει η Google στην Αναζήτησή της, υποστηρίζει ότι υπάρχουν δύο «P» στη λέξη «Google». Στην πραγματικότητα, υπάρχει μόνο ένα. Παρομοίως, η μηχανή ισχυρίζεται ότι υπάρχει ακριβώς ένα «r» στη λέξη «poop» και δύο «d» στη λέξη «journalism», την οποία όμως γράφει ως j-o-u-r-n-a-d-i-s-m.
Δεν χρειαζόταν προφητική ικανότητα για να προβλεφθεί ότι η ριζική αναθεώρηση της Αναζήτησης με τεχνητή νοημοσύνη από την Google θα αντιμετώπιζε προβλήματα. Δεν είναι η πρώτη φορά που συμβαίνει. Την πρώτη φορά που η Google πρόσθεσε AI Overviews στην Αναζήτηση, η λειτουργία κατέληξε να παραθέτει σατιρικές αναρτήσεις από το The Onion και το Reddit, προτείνοντας στους ανθρώπους να τρώνε πέτρες και να βάζουν κόλλα στην πίτσα τους.
Η τεχνική εξήγηση πίσω από τα ορθογραφικά λάθη
Αυτά τα βασικά ορθογραφικά λάθη μπορεί να φαίνονται αστεία, αλλά αποκαλύπτουν μια θεμελιώδη αρχιτεκτονική αδυναμία των μεγάλων γλωσσικών μοντέλων (LLMs). Τα LLM, το είδος τεχνητής νοημοσύνης που τροφοδοτεί τα chatbots και άλλες εφαρμογές δημιουργίας κειμένου, δεν είναι σχεδιασμένα να κατανοούν την ορθογραφία.
Αποτελεί εδώ και χρόνια ένα επαναλαμβανόμενο αστείο ότι όποτε μια εταιρεία παρουσιάζει ένα νέο μοντέλο AI, θα πρέπει να το ρωτάς πόσα «r» έχει η λέξη «strawberry». Αυτά τα μοντέλα — που μπορούν να γράψουν κώδικα σε δευτερόλεπτα ή να λύσουν προβλήματα που ταλανίζουν τους μαθηματικούς για δεκαετίες — είναι περίπου εξίσου ικανά στην ορθογραφία όσο ένα παιδί νηπιαγωγείου.
Γιατί τα LLM δεν μπορούν να γράψουν σωστά
Η βασική αιτία βρίσκεται στον τρόπο με τον οποίο τα γλωσσικά μοντέλα επεξεργάζονται το κείμενο. Αντί να «βλέπουν» μεμονωμένα γράμματα, λειτουργούν με tokens — ομάδες χαρακτήρων που αντιπροσωπεύουν λέξεις ή μέρη λέξεων. Η λέξη «Google», για παράδειγμα, μπορεί να αποτελεί ένα ενιαίο token. Το μοντέλο δεν έχει καμία αντίληψη για το ποια γράμματα το αποτελούν, πόσο μάλλον σε ποια σειρά.
Αυτή η αρχιτεκτονική διαφορά εξηγεί γιατί τα σύγχρονα AI μοντέλα — που μπορούν να δημιουργήσουν ποιήματα, να γράψουν δοκίμια και να λύσουν περίπλοκα μαθηματικά προβλήματα — αποτυγχάνουν παταγωδώς σε απλές εργασίες ορθογραφίας.
Η Google υπόσχεται βελτιώσεις
«Η μέτρηση γραμμάτων μέσα στις λέξεις είναι μια γνωστή πρόκληση για τα LLM και εργαζόμαστε για να διορθώσουμε αυτό το συγκεκριμένο ζήτημα», δήλωσε η Google στο TechCrunch μέσω email.
Τα προβλήματα της Google με το AI Overview, ωστόσο, δεν περιορίζονται στα ορθογραφικά λάθη. Η εταιρεία είχε ήδη διορθώσει ένα ζήτημα από την προηγούμενη εβδομάδα, όπου η αναζήτηση της λέξης «disregard» εμφάνιζε έναν ορισμό που στην πραγματικότητα ήταν η απάντηση: «Understood. Let me know whenever you have a new prompt or question!»
Παρ' όλα αυτά, η Google παραμένει προσηλωμένη στο όραμά της να κάνει τη δημιουργική τεχνητή νοημοσύνη τον κεντρικό πυλώνα του προϊόντος Αναζήτησης που κλείνει φέτος 29 χρόνια ζωής. Και όπως φαίνεται, τα ορθογραφικά λάθη θα συνεχίσουν να μας διασκεδάζουν μέχρι να βρεθεί λύση.
Ο ευρύτερος αντίκτυπος στην τεχνητή νοημοσύνη
Η αδυναμία των γλωσσικών μοντέλων να διαχειριστούν βασική ορθογραφία έχει σημαντικές επιπτώσεις για εφαρμογές που απαιτούν ακριβή δημιουργία κειμένου, όπως οι βοηθοί κωδικοποίησης, τα εργαλεία δημιουργίας περιεχομένου και το εκπαιδευτικό λογισμικό.
Η έρευνα πάνω στο θέμα δείχνει ότι, παρά τις εντυπωσιακές δυνατότητες των σύγχρονων AI μοντέλων στην κατανόηση και παραγωγή φυσικής γλώσσας, η αρχιτεκτονική τους δεν τους επιτρέπει να επεξεργάζονται ακολουθίες χαρακτήρων με τον τρόπο που το κάνει ο ανθρώπινος εγκέφαλος. Αυτό το φαινόμενο δεν αποτελεί απλώς ένα τεχνικό περιορισμό, αλλά μια υπενθύμιση ότι η τεχνητή νοημοσύνη, όσο προηγμένη κι αν είναι, παραμένει θεμελιωδώς διαφορετική από την ανθρώπινη νοημοσύνη.