Η OpenAI και η Broadcom παρουσίασαν ένα νέο τσιπ που ονομάζεται Jalapeño, σχεδιασμένο ειδικά για την εκτέλεση μεγάλων γλωσσικών μοντέλων (LLM) σε κέντρα δεδομένων. Η ανάπτυξη του ολοκληρώθηκε σε μόλις εννέα μήνες και η πρώτη γενιά του αναμένεται να αναπτυχθεί έως το τέλος του έτους.
Το τσιπ που γεννήθηκε από τη συνεργασία OpenAI και Broadcom
Το Jalapeño ανήκει στην κατηγορία ASIC (Application-Specific Integrated Circuit), δηλαδή είναι ένα ολοκληρωμένο κύκλωμα σχεδιασμένο εξαρχής για έναν συγκεκριμένο σκοπό — στην προκειμένη περίπτωση, για την εκτέλεση συμπερασμών (inference) μεγάλων γλωσσικών μοντέλων. Η Broadcom δηλώνει ότι ο σχεδιασμός βασίστηκε σε «λεπτομερείς πληροφορίες» από συνομιλίες με ερευνητές της OpenAI και ότι η ανάπτυξή του καθοδηγήθηκε από τον οδικό χάρτη της OpenAI για μελλοντικά μοντέλα και προϊόντα.
Η OpenAI υποστηρίζει ότι «τα πρώτα τεστ δείχνουν ότι το Jalapeño θα προσφέρει σημαντικά καλύτερη απόδοση ανά watt σε σύγκριση με την τρέχουσα τεχνολογία αιχμής», αν και επισημαίνει ότι η μέτρηση των επιδόσεων δεν έχει ακόμη ολοκληρωθεί. Ένα λεπτομερές τεχνικό άρθρο αναμένεται να δημοσιευθεί τους επόμενους μήνες.
Η στρατηγική της κάθετης ολοκλήρωσης
Η κίνηση αυτή εντάσσεται στη στρατηγική της OpenAI να ελέγχει ολόκληρη τη στοίβα τεχνολογίας πίσω από τα μοντέλα και τα προϊόντα της, μειώνοντας την εξάρτηση από εξωτερικές εταιρείες όπως η Nvidia. Η κάθετη ολοκλήρωση αναμένεται να προσφέρει καλύτερη απόδοση και αποδοτικότητα, ενώ παράλληλα θα δώσει στην OpenAI μεγαλύτερη αυτονομία στην ανάπτυξη των μελλοντικών της μοντέλων.
Πέρα από τη στρατηγική σημασία, η κίνηση αντανακλά και την πίεση που ασκείται στην αγορά για περισσότερη υπολογιστική ισχύ. Η OpenAI και οι ανταγωνιστές της αναζητούν κάθε δυνατό τρόπο για να αποσπάσουν μεγαλύτερη χωρητικότητα εν μέσω της παγκόσμιας «στεγανότητας» υπολογιστικών πόρων, όπου οι εταιρείες ανταγωνίζονται για περιορισμένη χωρητικότητα κέντρων δεδομένων.
Η Broadcom ενισχύει τον ρόλο της στην αγορά τσιπ τεχνητής νοημοσύνης
Η Broadcom, ήδη επιτυχημένη κατασκευάστρια τσιπ για υποδομές υπολογιστών, έχει ενισχύσει σημαντικά τη δραστηριότητά της γύρω από την παροχή προσαρμοσμένων τσιπ για hyperscalers και ομάδες που αναπτύσσουν μοντέλα αιχμής κατά τη διάρκεια της τρέχουσας έκρηξης της τεχνητής νοημοσύνης. Η συνεργασία με την OpenAI αποτελεί μια ακόμη σημαντική επιβεβαίωση της θέσης της στην αγορά.
Τόσο η OpenAI όσο και η Broadcom δηλώνουν ότι τα τσιπ Jalapeño θα αναπτυχθούν σε κέντρα δεδομένων έως το τέλος του τρέχοντος έτους, σηματοδοτώντας την έναρξη μιας νέας εποχής στον σχεδιασμό εξειδικευμένων τσιπ για τεχνητή νοημοσύνη.