Компанията за чипове Tenstorrent, ръководена от Джим Келър, пусна на пазара своя процесор Wormhole от следващо поколение за задачи с изкуствен интелект, който се очаква да предложи добра производителност на достъпна цена.В момента компанията предлага две допълнителни PCIe карти, които могат да поберат един или два Wormhole процесора, както и работни станции TT-LoudBox и TT-QuietBox за софтуерни разработчици. Всички днешни съобщения са насочени към разработчици, а не към тези, които използват Wormhole платки за търговски задачи.
„Винаги е удовлетворяващо да получаваме повече от нашите продукти в ръцете на разработчиците. Системите за разработка на версии, използващи нашите карти Wormhole™, могат да помогнат на разработчиците да мащабират и разработват многочипов софтуер за изкуствен интелект“, каза Джим Келер, главен изпълнителен директор на Tenstorrent.В допълнение към това пускане на пазара, ние сме развълнувани да видим напредъка, който постигаме с разгръщането и пускането в експлоатация на нашия продукт от второ поколение, Blackhole.
Всеки процесор Wormhole съдържа 72 Tensix ядра (пет от които поддържат RISC-V ядра в различни формати на данни) и 108 MB SRAM, осигурявайки 262 FP8 TFLOPS на 1 GHz с топлинна мощност от 160 W. Едночиповата карта Wormhole n150 е оборудвана с 12 GB GDDR6 видеопамет и има пропускателна способност от 288 GB/s.
Процесорите Wormhole осигуряват гъвкава мащабируемост, за да отговорят на разнообразните нужди на работните натоварвания. В стандартна конфигурация на работна станция с четири карти Wormhole n300, процесорите могат да бъдат комбинирани в едно устройство, което се появява в софтуера като унифицирана, широка Tensix основна мрежа. Тази конфигурация позволява на ускорителя да обработва едно и също натоварване, разделено между четирима разработчици или да изпълнява едновременно до осем различни модела на изкуствен интелект. Ключова характеристика на тази мащабируемост е, че може да работи локално без нужда от виртуализация. В среда на център за данни, процесорите Wormhole ще използват PCIe за разширение вътре в машината или Ethernet за външно разширение.
По отношение на производителността, едночиповата карта Wormhole n150 на Tenstorrent (72 Tensix ядра, честота 1 GHz, 108 MB SRAM, 12 GB GDDR6, честотна лента 288 GB/s) постигна 262 FP8 TFLOPS при 160W, докато двучиповата платка Wormhole n300 (128 Tensix ядра, честота 1 GHz, 192 MB SRAM, общо 24 GB GDDR6, честотна лента 576 GB/s) доставя до 466 FP8 TFLOPS при 300W.
За да поставим 300W от 466 FP8 TFLOPS в контекст, ще го сравним с това, което лидерът на пазара на изкуствен интелект, Nvidia, предлага при тази топлинна мощност. A100 на Nvidia не поддържа FP8, но поддържа INT8, с пикова производителност от 624 TOPS (1248 TOPS при sparse). За сравнение, H100 на Nvidia поддържа FP8 и достига пикова производителност от 1670 TFLOPS при 300W (3341 TFLOPS при sparse), което е значително различно от Wormhole n300 на Tenstorrent.
Има обаче един основен проблем. Wormhole n150 на Tenstorrent се продава на дребно за $999, докато n300 се продава за $1399. За сравнение, една графична карта Nvidia H100 се продава на дребно за $30 000, в зависимост от количеството. Разбира се, не знаем дали четири или осем процесора Wormhole могат действително да осигурят производителността на един H300, но техните TDP са съответно 600W и 1200W.
В допълнение към картите, Tenstorrent предлага предварително сглобени работни станции за разработчици, включително 4 n300 карти в по-достъпния Xeon-базиран TT-LoudBox с активно охлаждане и усъвършенствания TT-QuietBox с EPYC-базирана функция за течно охлаждане (Xiaolong).
Време на публикуване: 29 юли 2024 г.