Úvodem připomeňme, kdo je Cerebras a proč je o této firmě vlastně řeč. AMD za éry Roryho Reada provedla akvizici společnost SeaMicro, jejíž portfolio stálo na tzv. mikroserverech, dense serverech, které zpočátku stavěla na Atomech od Intelu. Šéf SeaMicro, Andrew Feldman, v tom viděl velkou příležitost. Intel totiž prakticky ignoroval připomínky a žádosti svého významného partnera SeaMicro, co do požadavků na příští generace Atomů. Feldman vnímal akvizici ze strany AMD nejen jako příležitost použití jejích malých jader, ale také jako možnost ovlivnění jejich vývoje tak, aby lépe vyhovovala serverovým požadavkům.
Ačkoli měl Read s malými jádry i další plány (projekt Skybridge, řada APU pro notebooky, mini PC, SoC pro herní konzole aj.) a samotná malá jádra od AMD (první generace Bobcat) se ukázala být velmi úspěšná, manažersky to nezvládl. Tým vývoje malých jader utekl k Samsungu (což je paradoxní v tom ohledu, že zrovna Samsung není známý tím, že by inženýry platil příliš dobře a naopak si inženýři této společnosti stěžují, že mají platové podmínky nastaveny stejně jako třeba perzonalisté). Když vedení AMD pracně tým pro vývoj malých jader zrekonstruovalo (Jaguar z důvodu časové a perzonální nedostatečnosti nakonec nebyl novou architekturou, ale vylepšeným Bobcatem, přesto opět dopadl lépe než nová generace Atomů), nechal si Read Samsungem přetáhnout i tento - druhý - tým. Read záhy musel AMD opustit a novému vedení nezbylo než projekty postavené na malých jádrech zrušit, protože zkrátka další malá jádra neměl kdo vyvíjet.
Cerebras WSE-1
Činnost SeaMicro byla ukončena, Andrew Feldman odešel z AMD. Nikoli však ze světa IT ani z hledáčku médií. Myšlence koncentrace vysokého výpočetního výkonu na minimální ploše se věnoval dál. Pro realizaci těchto nápadů spoluzaložil firmu Cerebras, kterou vede i jako CEO.
- Cerebras představila největší procesor na světě: Bilion tranzistorů a TDP 16 kW 2019
V roce 2019 představila Cerebras WSE-1, 16nm čip o rozměrech waferu (ořezaného do pravoúhlé podoby). Řešení se stovkami tisíc jader a integrovanou SRAM o kapacitě 18 GB již cílilo na AI segment, byť šlo v první generaci spíše o ukázku toho, že takto koncipovaný procesor může v praxi fungovat. Výtěžnost se podařilo vyřešit elegantně, v návrhu je pár jader navíc a každé jádro může být vypnuto tak, aby jím procházející datové cesty bylo možné přesměrovat přes zdravá jádra. Tím (navzdory rozměrům) lze na zralých procesech dosahovat téměř 100% výtěžnosti. Větší problém byla tepelná roztažnost křemíku, která se při těchto rozměrech ukzala být nezanedbatelnou veličinou. I s tím si ale výrobce nakonec poradil.
Cerebras WSE-2
- 2,6 bilionu tranzistorů a 1 čip na 7nm wafer: Cerebras WSE-2 2021
Roku 2021 následoval 7nm WSE-2 s více než dvojnásobkem tranzistorů, jader, kapacitou i propustností cache a s celkově ~4× vyšším AI výkonem.
| | WSE-1 | WSE-2 | WSE-3 |
|---|
| Představeno | 2019 | 2021 | 2024 |
| Proces | 16 nm | 7 nm | 5 nm |
| Tranzistorů | 1,2 bilionu | 2,6 bilionu | 4 biliony |
| Počet AI jader | 400 000 | 850 000 | 900 000 |
| SRAM | 18 GB | 40 GB | 44 GB |
| Prop. SRAM | 9 PB/s | 20 PB/s | 21 PB/s |
| AI výkon (FP16/BF16) | 15 PFLOPS | 62 PFLOPS | 125 PFLOPS |
| Systém | CS-1 | CS-2 | CS-3 |
| Zaměření | důkaz konceptu wafer-scale procesoru | škálování, trénování velkých AI modelů | generativní AI, vyšší výkon na watt a inference |
Cerebras WSE-3

Čip Cerebras WSE-3 (Cerebras)
Se třetí generací představenou v roce 2024 se výroba posunula na 5nm proces, ale počet jader a kapacita SRAM se výrazně nezměnily. Cílem návrhu byly optimalizace - jak výkonnostní, tak energetické. Třetí generace při zachování TDP zdvojnásobila výkon a větší míře vstoupila na AI trhy.
1. Smysl
Na akci OpenAI vyvolalo ohlášené partnerství s AMD překvapení. Kombinace akcelerátorů Instinct MI455X od AMD a WSE-3 od Cerebras ale dává smysl, neboť nejsilnější stránky každého řešení jsou v odlišných prvcích, takže se obě architektury dobře doplňují - každá má své velmi silné stránky, podle kterých lze zátěž(e) rozdělit.
AMD Helios (Instinct MI455X) | Cerebras CS-3 (WSE-3) |
|---|
| zpracování promptu (prefill) | generování tokenů (decode) |
| velké kontexty | extrémně nízké latence |
Analytický web Fireside Alpha upozornil na vyjádření OpenAI vývojáře Jeffereyho Wanga, který testoval interní AI modely na systémech Cerebras:
„V OpenAI interně provozujeme některé modely na čipech Cerebras. Jejich největší předností je mimořádně rychlá inference. V praxi to znamená, že úlohy, na jejichž dokončení jsem dříve čekal i několik minut, jsou nyní hotové dříve, než se začnu věnovat jiné práci. To má výrazný dopad na moji produktivitu. Latence totiž představuje jednu z největších překážek při nasazování AI do reálných aplikací, a proto mě velmi těší, že se ultra rychlá inference stává dostupnou v praxi.“ --- Jeffereyho Wang, OpenAI |
WSE-3 lze tedy vedle Instinct MI455X používat jak pro rychlejší a efektivnější zpracování jedné zátěže (prefill na Instinctu, decode na WSE), tak pro rozdělení celých zátěží mezi systémy podle toho, co je prioritou (velikost kontextu na Instinct, minimalizace latencí na WSE).
2. Vztahy
Druhým důvodem, proč toto partnerství může fungovat, je samotná sktuečnost, že Feldman v AMD pracoval, zná řadu tamních inženýrů i lidi ze současného vedení. Může být proto jednodušší koordinovat plány do budoucna a v případě zájmu například připravit systém, který bude integrovat obě architektury v jednom racku, pokud by po takovém řešení byla poptávka.
3. Historie
AMD od éry Ryzenu, ale také ATI, jakožto původní grafická divize, mají velmi solidní historii úspěšných partnerství a akvizic. Jmenovat můžeme vývoj HBM s Hynixem, podíl na celé řadě generací grafických pamětí se Samsungem a Hynixem, třeba i historickou zkušenost, kdy se ATI dokázala využitím akvizice ArtX dostat na technologickou špičku v grafickém průmyslu a ještě získat zakázky na herní konzole (kde do té doby vůbec nefigurovala). O mnohém vypovídá i akvizice Xilinxu, jejíž IP bylo obratem integrováno do APU a akvizici společnosti Pensando AMD zúročila právě na systémech Helios, ve kterých se vyskytuje několik čipů této značky.