Η Google DeepMind παρουσιάζει το EmbeddingGemma 2 ως ένα ανοιχτό μοντέλο embeddings που έχει σχεδιαστεί για να δουλεύει σε συσκευές καθημερινής χρήσης. Η βασική ιδέα είναι να μπορούν laptop και κινητά να αναζητούν και να συσχετίζουν διαφορετικά είδη περιεχομένου χωρίς κάθε ερώτηση να χρειάζεται να φεύγει προς το cloud.
Ένας κοινός χώρος για κείμενο, εικόνα, βίντεο και ήχο
Το EmbeddingGemma 2 μετατρέπει κείμενο, εικόνες, βίντεο και ήχο σε embeddings μέσα σε έναν κοινό χώρο. Έτσι, μια αναζήτηση με λέξεις μπορεί να εντοπίσει μια εικόνα, ένα voice memo μπορεί να οδηγήσει σε συγκεκριμένο σημείο ενός βίντεο και διαφορετικά formats μπορούν να συνδεθούν στην ίδια ροή retrieval.
Αυτή η δυνατότητα είναι διαφορετική από μια απλή αναζήτηση αρχείων. Το σύστημα δεν χρειάζεται να ταιριάξει μόνο τις ίδιες λέξεις, αλλά να συγκρίνει αναπαραστάσεις περιεχομένου που ανήκουν σε διαφορετικά μέσα. Η Google το προορίζει για search, routing και Retrieval Augmented Generation, δηλαδή ροές στις οποίες ένα μοντέλο ανακτά πρώτα σχετικές πληροφορίες και στη συνέχεια τις χρησιμοποιεί για να απαντήσει.
Η έμφαση βρίσκεται στη συσκευή
Η DeepMind περιγράφει το EmbeddingGemma 2 ως ελαφρύ, ανοιχτό μοντέλο βελτιστοποιημένο για on-device χρήση. Η εταιρεία αναφέρει έκδοση περίπου 740 εκατομμυρίων παραμέτρων, μαζί με προαιρετικούς encoders για όραση και ήχο, ώστε οι developers να μπορούν να χρησιμοποιούν μόνο τα τμήματα που χρειάζονται.
Η τοπική εκτέλεση μπορεί να μειώσει την ανάγκη αποστολής προσωπικών φωτογραφιών, ηχογραφήσεων ή εγγράφων σε απομακρυσμένους servers. Δεν εξαφανίζει όμως αυτόματα το κόστος: η συσκευή πρέπει να διαθέτει αρκετή μνήμη, υπολογιστική ισχύ και ενέργεια για να φορτώσει το μοντέλο και να δημιουργήσει embeddings σε αποδεκτό χρόνο.
Τι σημαίνει το context των 8K tokens
Το μοντέλο διαθέτει context window 8.000 tokens. Σύμφωνα με την Google, αυτό επιτρέπει την επεξεργασία μεγάλων εγγράφων, βίντεο και εκτεταμένων ηχητικών αρχείων διάρκειας έως περίπου 5,5 λεπτών, ανάλογα με τον τρόπο κωδικοποίησης και τη ρύθμιση της εφαρμογής.
Το όριο είναι χρήσιμο για αναζήτηση μέσα σε σημειώσεις, απομαγνητοφωνήσεις ή σύντομα αποσπάσματα βίντεο, αλλά δεν πρέπει να συγχέεται με απεριόριστη κατανόηση αρχείων. Οι εφαρμογές θα χρειαστεί να τεμαχίζουν μεγαλύτερο περιεχόμενο, να αποθηκεύουν τα embeddings και να αξιολογούν αν οι ανακτήσεις παραμένουν σχετικές.
Το πλεονέκτημα για edge εφαρμογές
Για μια εφαρμογή σε laptop ή κινητό, η πολυτροπική αναζήτηση μπορεί να γίνει χαρακτηριστικό του ίδιου του λειτουργικού περιβάλλοντος: ο χρήστης θα αναζητά μια ιδέα, μια εικόνα ή μια φράση και θα παίρνει αποτελέσματα από διαφορετικές πηγές μαζί. Η δυνατότητα αυτή μπορεί να είναι ιδιαίτερα χρήσιμη σε προσωπικά αρχεία, εργαλεία πεδίου και εφαρμογές που λειτουργούν με ασταθή σύνδεση.
Το πρακτικό όφελος θα κριθεί από την ποιότητα των embeddings και από την αποδοτικότητα της υλοποίησης, όχι μόνο από τον αριθμό παραμέτρων. Οι developers πρέπει να μετρήσουν ακρίβεια, κατανάλωση μνήμης, χρόνο απόκρισης και επιπτώσεις στην μπαταρία σε πραγματικές συσκευές.
Ανοιχτό μοντέλο, μετρήσιμος συμβιβασμός
Η Google αναφέρει ότι το EmbeddingGemma 2 προσφέρει επιδόσεις σε εργασίες κώδικα, όρασης και ήχου και διαθέτει model card για την αξιολόγηση των δυνατοτήτων του. Η διάθεση μέσω των εργαλείων της Google, του Hugging Face και του Kaggle διευκολύνει τη δοκιμή και τη σύγκριση από ερευνητές και ομάδες ανάπτυξης.
Το σημαντικότερο στοιχείο είναι ότι η πολυτροπική αναζήτηση μετακινείται ένα βήμα πιο κοντά στις συσκευές όπου βρίσκονται τα δεδομένα. Αυτό μπορεί να βελτιώσει την ιδιωτικότητα και την καθυστέρηση, αλλά μόνο όταν συνοδεύεται από διαφανείς μετρήσεις και σωστό σχεδιασμό μνήμης. Η επιτυχία του μοντέλου θα φανεί τελικά στο αν οι developers μπορούν να προσφέρουν χρήσιμη αναζήτηση χωρίς να μεταφέρουν ολόκληρο το προσωπικό αρχείο στο cloud.
Πηγή: Google DeepMind