Cerebras Systems, americký startup, uvedl na trh největší čip integrující více než 1,2 bilionu tranzistorů o velikosti 46 225 čtverečních milimetrů. Nový čip Cerebras Wafer Scale Engine (WSE) je optimalizován pro AI a je 56,7krát větší než největší jednotka pro zpracování grafiky, která měří 815 čtverečních milimetrů a obsahuje 21,1 miliardy tranzistorů. Nový Cerebras Wafer Scale Engine (WSE) poskytuje 3 000krát vyšší rychlost paměti na čipu a je dodáván s 10 000krát větší šířkou pásma paměti. Větší velikost čipu zajišťuje rychlejší zpracování informací a může dokonce zkrátit čas potřebný k nahlédnutí, neboli „čas školení“, který vědcům umožňuje otestovat více nápadů, použít více dat a řešit nové problémy.
Cerebras WSE je navržen pro AI a obsahuje základní inovace, které posouvají nejmodernější řešení řešící desítky let staré technické výzvy s omezenou velikostí čipu - jako je konektivita napříč sítěmi, výtěžnost, dodávka energie a balení. WSE může urychlit výpočty a komunikaci, což zkracuje dobu tréninku. WSE má 56,7krát větší plochu křemíku než největší grafická procesorová jednotka. WSE také může poskytnout více jader, aby bylo možné provádět více výpočtů, a má více paměti blíže k jádrům, takže jádra mohou pracovat efektivně. Veškerá komunikace je udržována na samotném křemíku, protože jeho obrovské množství jader a paměť jsou uloženy na jednom čipu.
Čip Cerebras WSE obsahuje 46,225 mm2 křemíku a obsahuje 400 000 AI optimalizovaných, bez mezipaměti, bez režie, výpočetních jader a 18 gigabajtů místní, distribuované, super rychlé paměti SRAM. Čip je dodáván s 9 petabajty za sekundu šířky pásma paměti, kde jsou jádra spojena s jemně zrnitou, celohardwarovou síťovou komunikační sítí na čipu, která poskytuje celkovou šířku pásma 100 petabitů za sekundu. To znamená, že komunikační šířka pásma WSE s nízkou latencí je extrémně velká, což umožňuje skupinám jader spolupracovat s maximální efektivitou a šířka pásma paměti již není překážkou. Více lokální paměti, více jader a nízká latence s vysokou šířkou pásma dohromady tvoří optimální architekturu pro zrychlení práce AI.
Vlastnosti čipu Cerebras WSE:
- Zvýšená jádra: WSE integruje 400 000 výpočetních jader optimalizovaných pro AI nazývaných SLAC (Sparse Linear Algebra Cores), která jsou programovatelná, flexibilní a optimalizovaná pro řídkou lineární algebru, která je základem pro výpočet všech neurálních sítí. Funkce programovatelnosti SLAC zajišťuje, že jádra mohou snadno spouštět všechny algoritmy neuronových sítí v neustále se měnícím poli strojového učení. Jádra WSE obsahují technologii sparitního sklizně vynalezenou Cerebras, která urychluje výpočetní výkon na řídkých pracovních zátěžích (pracovní zátěže, které obsahují nuly), jako je hluboké učení.
- Vylepšená paměť: Cerebras WSE integruje více lokální paměti spolu s více jádry, což je více než jakýkoli čip, který umožňuje flexibilní, rychlý výpočet s nižší latencí a s menší energií. WSE je dodáván s 18 GB (gigabajty) paměti na čipu přístupnou jeho jádrem v jednom taktu. Tato kolekce jádrové lokální paměti umožňuje WSE dodávat agregát šířky pásma paměti 9 petabytů za sekundu, což je o 10 000 X větší šířka pásma paměti a 3 000 X