Чип компания, ръководена от Jim Keller Tenstorrent, пусна своя процесор от следващо поколение за Wormhole за AI Workloys, който очаква да предложи добри показатели на достъпна цена.В момента компанията предлага две допълнителни PCIE карти, които могат да поберем един или два процесора на червейните дупки, както и работни станции TT-Loudbox и TT-Quietbox за разработчици на софтуер. Всички днешни съобщения са насочени към разработчиците, а не тези, които използват дъски за червеи за търговски натоварвания.
„Винаги е приятно да вкараме повече от нашите продукти в ръцете на разработчиците. Системите за разработка на освобождаване, използващи нашите карти Wormhole ™, могат да помогнат на разработчиците да мащабират и да разработят много чип софтуер за AI“, казва Джим Келер, изпълнителен директор на Tenstorrent.В допълнение към това стартиране, ние сме развълнувани да видим напредъка, който постигаме с лентата и захранването на нашия продукт от второ поколение, Blackhole. "
Всеки процесор на червейната дупка съдържа 72 ядра на Tensix (пет от които поддържат RISC-V ядра в различни формати на данни) и 108 MB SRAM, доставяйки 262 FP8 TFLOPS при 1 GHz с мощност на термичен дизайн 160W. Картата с едно чип Wormhole N150 е оборудвана с 12 GB GDDR6 видео памет и има честотна лента от 288 GB/s.
Процесорите на червеи осигуряват гъвкава мащабируемост, за да отговорят на разнообразните нужди на натоварванията. В стандартна настройка на работната станция с четири карти на Wormhole N300, процесорите могат да се комбинират в едно устройство, което се появява в софтуера като обединена, широка основна мрежа Tensix. Тази конфигурация позволява на ускорителя да обработва едно и също натоварване, разделяйки между четирима разработчици или да работи до осем различни AI модела едновременно. Основна характеристика на тази мащабируемост е, че тя може да работи локално, без да е необходимо виртуализация. В среда на центъра за данни, преработвателите на червеи ще използват PCIE за разширяване вътре в машината или Ethernet за външно разширяване.
По отношение на производителността, карта с едно чип N150 на Tenstorrent (72 ядра Tensix, 1 GHz честота, 108 MB SRAM, 12 GB GDDR6, 288 GB/S честотна лента) постигна 262 FP8 TFLOPS при 160W, докато двойният чип червей N300 GDDR6, 576 GB/S честотна лента) осигурява до 466 FP8 TFLOPS при 300W.
За да поставим 300W от 466 FP8 tflops в контекст, ние ще го сравним с това, което предлага лидерът на пазара на AI NVIDIA при тази мощност на термичния дизайн. A100 на NVIDIA не поддържа FP8, но поддържа INT8, с пикова характеристика от 624 върха (1,248 върхове, когато е оскъден). За сравнение, H100 на NVIDIA поддържа FP8 и достига пикови характеристики от 1,670 tflops при 300W (3,341 tflops при рядко), което е значително различно от червейната дупка на Tenstorrent N300.
Има обаче един основен проблем. Wormhole N150 на Tenstorrent се продава за 999 долара, докато N300 се продава за 1399 долара. За сравнение, една графична карта NVIDIA H100 се продава за 30 000 долара, в зависимост от количеството. Разбира се, ние не знаем дали четири или осем процесора на червеи всъщност могат да доставят производителността на един H300, но техните TDP са съответно 600W и 1200W.
В допълнение към картите, TenStorrent предлага предварително изградени работни станции за разработчици, включително 4 N300 карти в по-достъпната TT-Loudbox на базата на Xeon с активно охлаждане и усъвършенствания TT-кметбокс с EPYC-базирана функция за течно охлаждане).
Време за публикация: 29-2024 юли