Η OpenAI παρουσίασε τον πρώτο της custom επεξεργαστή εξαγωγής συμπερασμάτων (inference), τον οποίο σχεδίασε και κατασκεύασε σε συνεργασία με την Broadcom. Το νέο τσιπ, με την ονομασία Jalapeño, έχει σχεδιαστεί ειδικά για τις μοναδικές ανάγκες των συστημάτων AI της εταιρείας και σηματοδοτεί μια στρατηγική στροφή προς τη μείωση της εξάρτησης από τις GPU της Nvidia.
Το τσιπ Jalapeño και η συνεργασία με την Broadcom
Η επίσημη ανακοίνωση της συνεργασίας με την Broadcom είχε γίνει τον Οκτώβριο, ωστόσο τα σχέδια της OpenAI για την ανάπτυξη custom τσιπ κυκλοφορούσαν εδώ και καιρό ως φήμες. Το Jalapeño είναι ένας επεξεργαστής εξαγωγής συμπερασμάτων, σχεδιασμένος να επιταχύνει τα μοντέλα τεχνητής νοημοσύνης της εταιρείας — από τα γλωσσικά μοντέλα GPT μέχρι και τα συστήματα πολυμέσων.
Τα πρώτα αποτελέσματα δοκιμών δείχνουν σημαντικά καλύτερη απόδοση ανά watt σε σύγκριση με τα υπάρχοντα κορυφαία τσιπ της αγοράς, σύμφωνα με την OpenAI. Εντυπωσιακό είναι και το γεγονός ότι τα ίδια τα μοντέλα AI της εταιρείας βοήθησαν στη σχεδίαση του τσιπ, δημιουργώντας έναν ενάρετο κύκλο όπου η τεχνητή νοημοσύνη σχεδιάζει το υλικό που θα την τροφοδοτήσει.
Η στρατηγική μείωσης εξάρτησης από την Nvidia
Η κίνηση αυτή εντάσσεται σε μια ευρύτερη τάση της βιομηχανίας τεχνολογίας, όπου μεγάλες εταιρείες αναπτύσσουν δικά τους τσιπ για να μειώσουν την εξάρτηση από την Nvidia, η οποία κυριαρχεί στην αγορά GPU για AI workloads. Τόσο η Google με τα τσιπ TPU όσο και η Amazon με τα Trainium έχουν ήδη αναπτύξει δικούς τους "AI accelerators" — εξειδικευμένο πυρίτιο για την επιτάχυνση φόρτων εργασίας μηχανικής μάθησης.
Ο πρόεδρος της OpenAI, Γκρεγκ Μπρόκμαν, εξήγησε τη φιλοσοφία της εταιρείας σε πρόσφατο podcast: «Έχουμε βαθιά κατανόηση του φόρτου εργασίας μας. Ψάχνουμε για συγκεκριμένες ανάγκες που δεν καλύπτονται επαρκώς και αναρωτιόμαστε πώς μπορούμε να χτίσουμε κάτι που θα επιταχύνει ό,τι είναι εφικτό».
Τι σημαίνει αυτό για το μέλλον της AI βιομηχανίας
Η είσοδος της OpenAI στην αγορά custom τσιπ αναμένεται να αναδιαμορφώσει το τοπίο της βιομηχανίας τεχνητής νοημοσύνης. Με τη δυνατότητα βελτιστοποίησης του συνδυασμού υλικού και λογισμικού (hardware-software co-design), η OpenAI μπορεί να επιτύχει σημαντικά πλεονεκτήματα στην απόδοση και την ενεργειακή κατανάλωση, στοιχεία κρίσιμα για την κλίμακα λειτουργίας της.
Η κίνηση αυτή έρχεται σε μια περίοδο όπου η ζήτηση για υπολογιστική ισχύ AI εκτοξεύεται και το κόστος των data centers αυξάνεται δραματικά. Η δυνατότητα σχεδίασης εξειδικευμένου υλικού θα μπορούσε να δώσει στην OpenAI σημαντικό ανταγωνιστικό πλεονέκτημα, μειώνοντας ταυτόχρονα το λειτουργικό κόστος και την εξάρτηση από εξωτερικούς προμηθευτές.