Wafer Scale Engine 3 heisst der aktuell grösste Computerchip der Welt, den der Entwickler Cerebras vorgestellt und der von
TSMC im 5nm-Verfahren gefertigt wird. Der Chip ist speziell auf das Training von KI-Modellen ausgelegt, 24 Billionen Parameter sollen möglich sein. Für diesen Zweck liefert er satte 125 Petaflops an KI-Rechenleistung. Der Vorgänger schaffte noch 75 Petaflops. Dafür sorgen insgesamt 900'000 KI-optimierte Kerne sowie 44 Gigabyte On-Chip-SRAM. Der Wafer Scale Engine 3 unterstützt zudem bis zu 1,2 Petabyte an externem Speicher.
Cerebras schickt seinen Chip auch gleich als Wettbewerber gegen den Nvidia H100 ins Rennen. Laut den Entwicklern verfügt er über eine Memory Bandwith von 21 Petabytes pro Sekunde, was 7000-mal schneller sein soll als der Datendurchsatz der Konkurrenz. Und auch der 44 Gigabyte On-Chip-Memory übersteigen die Kapazitäten des H100 um Längen.
Diese Ausstattung benötigt jedoch entsprechend viel Platz. Insgesamt hat der Wafer Scale 3 eine Fläche von 46’225 Quadratmillimetern. Die grösste GPU kommt hingegen aktuell auf 826 Quadratmillimeter. Gleichzeitigt verspricht der Hersteller aber, dass der Chip mehr Leistung auf diesem Raum bereitstellt als jedes andere System – bei gleicher Leistungsaufnahme wie beim Vorgänger und ähnlichen Kosten.
(sta)