Az OpenAI Jalapeno chipje az Nvidia rendszereket is felülmúlja

Úgy tűnik, hogy lassan véget ér az Nvidia egyeduralma az AI chipek piacán, de legalábbis a leggyorsabb megoldások már nem a nevükhöz köthetők, az OpenAI ugyanis bejelentette, hogy Jalapeno lapkájuk közel kétszer olyan gyors lett.

SzerzőManiac

Shoppingsite. A webshopmotor, amiben már benne van a következő lépésed is.

Az AI-óriás szeirnt ugyanis saját chipjük wattonként sokkal több AI-feladatot képes elvégezni úgy, hogy csökkenti a válaszidőket, több nyilvános modellnél javítja a minőséget, az Nvidia rendszereihez mérten pedig 1,9-szer nagyobb hatékonysággal működik.

Az OpenAI szerint chipjük teljesítménye a 700W-ot is elérheti, de tartós teljesítménymérés során végig 550W alatti értékeken maradt, teljesítményét pedig már nem csak saját mérések igazolják, mert beküldték a SemiAnalaysis nyilvános InferenceX benchmarkjába is, amely megerősítette a belsős számokat.

A chippel leginkább az volt az OpenAI terve - az Nvidia lenyomása mellett nyilván -, hogy elkerüljék az átviteli sebesség és a késleltetés közötti kompromisszumokat, figyelembe véve, hogy a felhasználói prompt feldolgozása inkább számításigényes feladat, míg a válasz generálása főként a memória sávszélességétől függ.