ΗΠΑ AI τσιπ "μαύρο άλογο" να σκοτώσει, το μεγαλύτερο τσιπ στην ιστορία

Σύμφωνα με μια σειρά εκθέσεων ξένων μέσων ενημέρωσης, πρόσφατα, η τεχνητή εκκίνηση των chip AI των ΗΠΑ, η CerebrasSystems ξεκίνησε το μεγαλύτερο chip ποτέ, το chip που ονομάζεται "TheCerebrasWaferScaleEngine". (εφεξής "WSE") διαθέτει 1,2 τρισεκατομμύρια τρανζίστορ.

Στην ιστορία των τσιπ, το 1971, ο πρώτος επεξεργαστής 4004 της Intel είχε μόνο 2.300 τρανζίστορ και ο πιο πρόσφατος προηγμένος επεξεργαστής μικροεπεξεργαστών είχε μόνο 32 δισεκατομμύρια τρανζίστορ. Η Samsung έχει επίσης κατασκευάσει ένα τσιπ μνήμης flash (τσιπ eUFS) με 2 τρισεκατομμύρια τρανζίστορ, αλλά δεν είναι κατάλληλο για υπολογιστές AI.

Το WSE, το μεγαλύτερο τσιπ ρεκόρ, γεννήθηκε για υπολογιστές AI.

Τα δεδομένα δείχνουν ότι το τσιπ των 42.225 τετραγωνικών χιλιοστών έχει 400.000 πυρήνες, οι οποίοι συνδέονται μεταξύ τους με ένα λεπτόκοκκο, δικτυωμένο δίκτυο επικοινωνίας εντός δικτύου, το οποίο παρέχει 100 PB συνολικού εύρους ζώνης ανά δευτερόλεπτο. Περισσότεροι πυρήνες, περισσότερη τοπική μνήμη και μια αρχιτεκτονική χαμηλού λανθάνοντος χρόνου, με υψηλό εύρος ζώνης δημιουργούν την καλύτερη αρχιτεκτονική για την επιτάχυνση της εργασίας του AI. Το WSE είναι 56,7 φορές μεγαλύτερο από τη μεγαλύτερη GPU και έχει 18GB on-chipsram.

Στην πραγματικότητα, τα περισσότερα από τα τσιπ σήμερα είναι ενσωματωμένα σε πολλαπλά τσιπ βασισμένα σε πυρίτιο 12 ιντσών. Αλλά το chip από την CerebrasSystems είναι ένα ξεχωριστό τσιπ στο οποίο τα τρανζίστορ είναι διασυνδεδεμένα σε ένα ενιαίο δισκίο κρυσταλλικού πυριτίου. Ο διασυνδεδεμένος σχεδιασμός επιτρέπει σε όλα τα τρανζίστορ να λειτουργούν σε υψηλές ταχύτητες στο σύνολό τους.

Αυτό το προϊόν είναι εξ ολοκλήρου εξειδικευμένο στην εκμάθηση ηλεκτρονικών υπολογιστών, περισσότερο από υπολογιστική ισχύ και εύρος ζώνης αποθήκευσης, λυπάμαι, το επίπεδο των ανθρώπων ή το νέο λεξιλόγιο - beat bytes (Petabytes, 1PB = 1024TB = 10 ^ 6GB = 2 ^ 50bit) εκείνη του μεγαλύτερου επεξεργαστή γραφικών της NVIDIA (GPU, υπολογιστική ισχύς κινητής υποδιαστολής, που χρησιμοποιείται συνήθως στην έρευνα που σχετίζεται με το AI) και το εύρος ζώνης αποθήκευσης είναι 1000 φορές.

Μια τέτοια ισχυρή ικανότητα προέρχεται από τα 1,2 τρισεκατομμύρια τρανζίστορ της στο τσιπ. Είναι γνωστό ότι ο επεξεργαστής 4004 της Intel είχε 2.300 τρανζίστορ το 1971. Σύμφωνα με το νόμο του Moore, "κάθε 18 μήνες, ο αριθμός των τρανζίστορ στο τσιπ διπλασιάζεται," Έως αυτό το έτος, θα πρέπει να υπάρχουν ακριβώς 1 τρισεκατομμύριο τρανζίστορ και ένα ακόμα τρανζίστορ, και η υπολογιστική ισχύς που μπορεί να πραγματοποιηθεί αυξάνεται κατά ένα σημείο. Δεύτερον, το σχεδιασμό της τσιπ αρχιτεκτονικής και το κύκλωμα διασύνδεσης chip και επικοινωνίας είναι επίσης πολύ προχωρημένο, καθιστώντας τη συνέργεια μεταξύ 1,2 τρισεκατομμυρίων τρανζίστορ πολύ σύγχρονη, καθυστερώντας το επίπεδο νανοδευτερόλεπτων. Κατά τη διάρκεια εκτέλεσης, αυτά τα 1,2 τρισεκατομμύρια τρανζίστορ είναι σαν το τρανζίστορ συγχρονίζεται.

Στον τομέα της τεχνητής νοημοσύνης, το μέγεθος του τσιπ είναι πολύ σημαντικό. Επειδή τα μεγάλα τσιπ επεξεργάζονται πληροφορίες ταχύτερα, ο χρόνος για τη δημιουργία απαντήσεων είναι μικρότερος. Μείωση του χρόνου παρατήρησης, ή "χρόνος εκπαίδευσης", επιτρέπει στους ερευνητές να δοκιμάσουν περισσότερες ιδέες, να χρησιμοποιήσουν περισσότερα δεδομένα και να λύσουν νέα προβλήματα. Το Google, το Facebook, το OpenAI, το Tencent, το Baidu και πολλοί άλλοι πιστεύουν ότι ο βασικός περιορισμός της ανάπτυξης της τεχνητής νοημοσύνης σήμερα είναι ότι χρειάζεται πολύς χρόνος για την εκπαίδευση του μοντέλου. Ως εκ τούτου, η μείωση του χρόνου κατάρτισης θα εξαλείψει μια σημαντική συμφόρηση στην πρόοδο της βιομηχανίας.

Φυσικά, οι κατασκευαστές τσιπ συνήθως δεν παράγουν μεγάλες μάρκες για κάποιο λόγο. Σε ένα ενιαίο δίσκο, ορισμένες ακαθαρσίες εμφανίζονται συνήθως κατά τη διαδικασία κατασκευής. Μια μικρή ακαθαρσία μπορεί να προκαλέσει αποτυχία τσιπ, και ακόμη και να σπάσει σοβαρά αρκετές μάρκες. Εάν κατασκευάζεται μόνο ένα τσιπ σε ένα μόνο δίσκο, η πιθανότητα να περιέχει ακαθαρσίες είναι 100% και οι ακαθαρσίες σίγουρα θα προκαλέσουν την αποτυχία του τσιπ. Αλλά ο σχεδιασμός chip των CerebrasSystems είναι περιθωριακός, διασφαλίζοντας ότι μία ή μικρή ποσότητα ακαθαρσιών δεν θα ακυρώσει ολόκληρο το τσιπ.

Ο CEOFeldman της Cerebras Systems δήλωσε σε δήλωσή του ότι το τσιπ WSE της εταιρείας έχει σχεδιαστεί για τεχνητή νοημοσύνη και περιέχει βασικές καινοτομίες που επιλύουν τεχνικές προκλήσεις που περιορίζουν το μέγεθος τσιπ για δεκαετίες, όπως η διασύνδεση *, η απόδοση και η ισχύς. Και συσκευασία. Κάθε αρχιτεκτονική απόφαση είναι να βελτιστοποιηθεί η απόδοση των έργων τεχνητής νοημοσύνης. Ως αποτέλεσμα, το τσιπ WSE παρέχει εκατοντάδες ή χιλιάδες φορές υπάρχουσες λύσεις ανάλογα με το φόρτο εργασίας, με μικρή ισχύ και χώρο. απόδοση ".

Αυτές οι βελτιώσεις επιδόσεων επιτυγχάνονται επιταχύνοντας όλα τα στοιχεία της εκπαίδευσης του νευρικού δικτύου. Το νευρωνικό δίκτυο είναι ένας βρόχος υπολογιστικής ανατροφοδότησης πολλαπλών επιπέδων. Όσο ταχύτερα εισέρχεται η είσοδος μέσω του βρόχου, τόσο ταχύτερα μαθαίνει ο βρόχος ή "τρένα". Ο τρόπος εισόδου μέσω του βρόχου γρηγορότερα είναι να επιταχυνθεί ο υπολογισμός και η επικοινωνία εντός του βρόχου.

Στην αρχιτεκτονική επικοινωνίας, η αρχιτεκτονική επικοινωνίας του συμπλέγματος διασπάται μέσω του εύρους ζώνης και της καθυστέρησης που προκαλείται από μέρος της κατανάλωσης ρεύματος στην παραδοσιακή τεχνολογία επικοινωνιών λόγω της χρήσης του επεξεργαστή ρελέ στο WSE. Χρησιμοποιώντας μια δισδιάστατη δομή συστοιχιών για τη σύνδεση 400.000 επεξεργαστών που βασίζονται σε WSE, η αρχιτεκτονική συμπλέγματος επιτυγχάνει χαμηλή καθυστέρηση και υψηλό εύρος ζώνης, με συνολικό εύρος ζώνης έως 100 παλμούς ανά δευτερόλεπτο (1017 bytes ανά δευτερόλεπτο). . Ακόμη και αν δεν έχει εγκατασταθεί κανένα πρόσθετο λογισμικό, μια τέτοια δομή συμπλέγματος μπορεί να υποστηρίξει τη σφαιρική επεξεργασία πληροφοριών και οι ληφθείσες πληροφορίες επεξεργάζονται από τον αντίστοιχο επεξεργαστή.

Για αυτό το προϊόν, η μαζική παραγωγή και η διάχυση της θερμότητας μπορεί να είναι οι κύριες προκλήσεις. Ωστόσο, η εμφάνιση του WSE, τα δικά του σημεία είναι αρκετά.

Ο κύριος αναλυτής του Linley Group, Linley Gwennap, δήλωσε σε μια δήλωση: "Η CerebrasSystems έχει σημειώσει μεγάλες προσπάθειες στην τεχνολογία πακέτων για πλαστικές συσκευασίες και η απόδοση επεξεργασίας σε ένα τσιπ πυριτίου υπερβαίνει κατά πολύ τη φαντασία του καθενός. Για την επίτευξη αυτού του στόχου, η εταιρεία έχει επιλύσει μια σειρά από μηχανικές προκλήσεις που έχουν μαστίσει τη βιομηχανία εδώ και δεκαετίες, συμπεριλαμβανομένης και της δυνατότητας επικοινωνίας υψηλής ταχύτητας σε κατάσταση λειτουργίας, επίλυσης κατασκευαστικών ελαττωμάτων, συσκευασίας μεγάλων τσιπ, συστήματα. Τα CerebrasSystems Η συγκέντρωση κορυφαίων μηχανικών από διαφορετικούς κλάδους, η δημιουργία νέων τεχνολογιών και η παράδοση ενός προϊόντος σε λίγα μόνο χρόνια είναι ένα εντυπωσιακό επίτευγμα.

Ο κύριος αναλυτής και ιδρυτής της Tirias, Jim McGregor, δήλωσε: "Μέχρι στιγμής, ο αναμορφωμένος επεξεργαστής γραφικών πληρούσε την τεράστια ζήτηση για τεχνητή νοημοσύνη για υπολογιστική ισχύ. Η σημερινή λύση θα έχει εκατοντάδες από αυτά τα αναδιαμορφωμένα γραφικά. Οι επεξεργαστές συνδέονται μαζί και χρειάζονται μήνες για να εγκαταστήσουν, να χρησιμοποιήσουν εκατοντάδες κιλοβάτ εξουσίας και να τροποποιήσουν εκτενώς το λογισμικό τεχνητής νοημοσύνης, ακόμη και μήνες για να επιτύχουν λειτουργικότητα. Αντίθετα, WSE με ένα τσιπ Το απόλυτο μέγεθος του τσιπ επιτρέπει περισσότερους υπολογισμούς, μνήμη υψηλότερης απόδοσης και μεγαλύτερο εύρος ζώνης. Τα τσιπ WSA αποφεύγουν τις χαλαρές συνδέσεις, την αργή μνήμη, τη βάση της κρυφής μνήμης και την ολοκλήρωση μέσω τεχνικών ενοποίησης πακέτων με πλατφόρμα. Οι παραδοσιακοί περιορισμοί επιδόσεων που ενυπάρχουν στις γραφικές κεντρικές μάρκες επεξεργαστών.

Ιδρύθηκε το 2016, η CerebrasSystems αποτελεί ένα μυστηριώδες και καίριο κλειδί στη βιομηχανία από την ίδρυσή της, εστιάζοντας στην παροχή δεδομένων προϊόντων για κατάρτιση σε κέντρο δεδομένων. Έχει ονομαστεί "οι πιο αναμενόμενες εταιρίες 100 chip" στον κόσμο " από τα CBInsights. Σύμφωνα με τα στοιχεία, η εταιρεία ολοκλήρωσε τη χρηματοδότηση Σειράς Α ύψους 25 εκατομμυρίων δολαρίων το 2016. Ο επενδυτής ήταν γνωστός επιχειρηματικός επενδυτής και έλαβε πολλούς γύρους χρηματοδότησης. Από τον Σεπτέμβριο του 2017, έλαβε συνολικά 112 εκατομμύρια δολάρια σε χρηματοδότηση, αξίας 860 εκατομμυρίων δολαρίων.

Το υπόβαθρο της ιδρυτικής ομάδας της εταιρείας είναι επίσης πολύ ισχυρό. Ο συνιδρυτής και διευθύνων σύμβουλος Andrew Feldman, ο οποίος ίδρυσε την εταιρεία τσιπ SeaMicro, αποκτήθηκε από την AMD το 2012 για 334 εκατομμύρια δολάρια. Μετά την απόκτηση της SeaMicro από την AMD, οι αρχικοί συμμαθητές εισήλθαν στην AMD για να συνεχίσουν τις εργασίες τους, οπότε όταν ο Andrew Feldman ανέλαβε την ηγεσία να συνεχίσει την επιχείρησή του, πολλοί παλιοί συνεργάτες επέλεξαν να ακολουθήσουν και τα περισσότερα από τα άλλα μεγάλα μέλη της ομάδας ήταν κυρίως με τον ιδρυτή Andrew Feldman.

Ένα από τα πράγματα που αξίζει να αναφερθεί είναι ο Gary Lauterbach. Στη δεκαετία του 1990, όταν η Sun ήταν στη μέση της ημέρας, ο Gary Lauterbach ήταν ο ανώτερος σχεδιαστής τσιπ της εταιρείας. Αργότερα, στη SeaMicro, ασχολήθηκε κυρίως με σχεδιασμό διακομιστή χαμηλής ισχύος. Μπορούμε να πούμε ότι η εταιρεία συσσώρευσε μεγάλο αριθμό χαμηλής κατανάλωσης ενέργειας στην αρχή της δημιουργίας. Ο βετεράνος του σχεδιασμού chip, αυτό είναι αναμφισβήτητα μια νίκη για το μέσο όρο της εκκίνησης.

Στη συνέχεια, το 2018, ένα άλλο βαρέων βαρών προσχώρησε στην Celebras Systems, και πρώην αντιπρόεδρος της αρχιτεκτονικής και του κέντρου δεδομένων CTO Dhiraj Mallick επίσημα διετέλεσε αντιπρόεδρος της μηχανικής και των επιχειρήσεων. Κατά τη διάρκεια της θητείας του στην Intel, το δεύτερο τρίμηνο του 2018 έσοδα αυξήθηκαν κατά 1 δισεκατομμύριο δολάρια από έτος σε έτος. Κατά το πρώτο εξάμηνο του 2018, τα έσοδα του κέντρου δεδομένων της εταιρείας αυξήθηκαν στα 10 δισεκατομμύρια δολάρια. Είναι μια αναγνωρισμένη τεχνολογία και επιχειρηματική ιδιοφυΐα. Είναι επίσης παλιός συνάδελφος του AndrewFeldman στη SeaMicro και AMD. Η εταιρεία διαθέτει 194 υπαλλήλους.

Η CerebrasSystems έχει πολύ δρόμο να προχωρήσει στο μέλλον, αλλά δεν είναι δύσκολο να φανταστεί κανείς ότι το AI φέρνει ένα κύμα αρχιτεκτονικής υπολογιστών και τεχνολογίας συσκευασίας τσιπ. Μπορούμε να περιμένουμε ότι θα δούμε πιο ενδιαφέροντα και ακόμη και απροσδόκητα τσιπ AI.