Intel Nervana Neural Network AI-processor annulleret til fordel for Habana Labs-løsninger?
I en ret forvirrende begivenhed har Intel besluttet at skrotte sine planer om at videreudvikle sin lovende Nervana Neural Network Processor til træningslinjen. Beslutningen kommer kun to måneder efter, at den stærkt forsinkede Nervana NNP-familie blev officielt lanceret. Selvom det ikke er bekræftet, er det forvirrende træk sandsynligvis resultatet af Intels nylige erhvervelse af Habana Labs.
Bare to måneder efter Intel købte Habana Labs for $ 2 mia, førstnævnte har sat sit eget Nervana Neural Network Processor-projekt til rådighed beregnet til kunstig intelligens træningslinje. I øvrigt er det ikke overraskende, at Intel skrottede det samme. Dette skyldes, at det var ret overflødigt og kontraproduktivt at fortsætte med at investere i to konkurrerende AI-orienterede produkter. Det var kun logisk, at en af de to chips, som er arkitektonisk meget forskellige, men beregnet til de samme markeder, ville blive droppet fra yderligere udvikling.
Intel skrot Nervana NNP-familie til fordel for Habana Labs-produkt, men vil respektere kundens forpligtelser:
Intel ser ud til at have besluttet at stoppe udviklingen af sin egen Nervana NNP-familie af AI-processorer. Imidlertid vil Intel NNP-I fortsætte lidt længere på grund af kundeforpligtelser. Alligevel vil Intel i sidste ende afbryde al udvikling til fordel for Habana-chips. Interessant nok meddelte Intel også 3. generation Movidius VPU'er, kodenavn Keem Bay. Virksomheden har bekræftet, at Movidius-køreplanen til synsbehandling forbliver uændret.
Selvom Intel er meget fornuftigt med overtagelsen af Habana Labs, betyder det ikke ophør med dets eget interne design til førstnævnte alternativ. I øvrigt er ingen af AI-chips fra nogen af virksomhederne blevet testet uafhængigt, og deres detaljerede specifikationer og benchmarks er åbent offentliggjort. Alligevel tilbyder de officielt frigivne specifikationer, funktioner og ydeevneegenskaber for Nervana NNP-familien af AI-processorer og dem, der er udviklet af Habana Labs, meget at sammenligne dem.
Intel Nervana-produkterne sælges underNNP-mærke mens Habana plejede at sælge underHL-serien. Både Nervana og Habana tilbyder et standardiseret PCIe-kort og et OAM mezzanin-modul. Kort sagt, begge produkter ser fysisk ud ens. Desuden har disse chips 32 GB HBM2-hukommelse. Intels Nervana-chips har lidt højere TDP'er og højere uret hukommelse, men interessant nok forbruger de lavere strøm under faktisk drift.
Intel Chips er baseret på Spring Crest Microarchitecture, mens Habana Labs 'chips er baseret på Gaudi Microarchitecture, og det er her forskellene bliver tydelige. Der mangler flere kritiske stykker information, som forhindrer detaljeret sammenligning. Det er dog helt indlysende, at Intels Nervana-design er meget mere kompleks. Spring Crest implementerer et ensartet 2D-net af 24 Tensor Processor Clusters (TPC'er), som hver klynge består af en On-Chip Router (OCR), styringen, MAC Processing Units (MPU) og hukommelsessystemet. Der er omkring to MPU'er pr. Klynge.
Nervana-systemet sikrer, at data forbliver lokaliseret, hvilket reducerer dataflytning og forbedrer genbrug. Derudover arbejdede Intel angiveligt også på en ICL-switch for at give mulighed for yderligere fleksibilitet ud over den parallelisme, der allerede var bagt direkte ind i arkitekturen. Der er ingen officielle skaleringsbenchmarks fra Habana, men præproduktionschips fra Nervana har angiveligt vist god skaleringsudnyttelse på tværs af 100'ere noder med meget lave latenstider, selv ved betydelige overførselsstørrelser.
Hvorfor skrottede Intel sine egne effektive, overlegne og meget skalerbare Nervana-chips til Habana Labs?
Selvom nøjagtige detaljer er lidt vanskelige at få fat i, ser familien Nervana ud til at være teknologisk overlegen sammenlignet med de alternativer, der er præsenteret af Habana Labs. Intel hævder, at den samlede Habana-arkitektur er en "strategisk fordel". Intels beslutning har muligvis at gøre med markedsdynamik omkring tilgængeligheden af HBM-hukommelse, da Habana Labs 'produkter også kan fungere med standard DDR4-grænseflader.
Eksperter hævder dog, at beslutningen om at opgive Nervana muligvis har at gøre med niveauet for softwareudvikling. Første generations Nervana NNP'er (Lake Crest) havde tidligere stødt på software-relaterede problemer på grund af brugen af datatypen Flexpoint, hvilket tvang Intel til at vælge bfloat16. Uanset årsagen vil Habana Labs 'erhvervelse give Intel mulighed for at vinde markedsandel på det voksende AI ASIC-marked, og beslutningen kan derfor også have været inspireret af økonomi.