Ang Tenstorrent, usa ka chip company nga gipangulohan ni Jim Keller, nagpagawas sa ilang next-generation Wormhole processor para sa AI workloads, nga gilauman niini nga magtanyag og maayong performance sa barato nga presyo.Ang kompanya karon nagtanyag og duha ka dugang nga PCIe cards nga maka-accommodate og usa o duha ka Wormhole processors, ingon man mga TT-LoudBox ug TT-QuietBox workstations para sa mga software developers. Ang tanan nga mga anunsyo karong adlawa gitumong sa mga developers, dili sa mga naggamit og Wormhole boards para sa komersyal nga workloads.
“Kanunay gyud nga makalipay nga mas daghan pa sa among mga produkto ang madala sa mga developer. Ang pagpagawas sa mga sistema sa pagpalambo gamit ang among mga Wormhole™ card makatabang sa mga developer nga molapad ug mopalambo sa multi-chip AI software,” matod ni Jim Keller, CEO sa Tenstorrent.Gawas pa niining paglusad, nalipay kami nga makita ang progreso nga among nahimo sa pagpagawas sa tape ug pagpaandar sa among ikaduhang henerasyon nga produkto, ang Blackhole.”
Ang matag Wormhole processor adunay 72 ka Tensix cores (lima niini ang nagsuporta sa RISC-V cores sa lain-laing mga format sa datos) ug 108 MB nga SRAM, nga naghatag og 262 ka FP8 TFLOPS sa 1 GHz nga adunay thermal design power nga 160W. Ang single-chip Wormhole n150 card adunay 12 GB GDDR6 video memory ug adunay bandwidth nga 288 GB/s.
Ang mga Wormhole processor naghatag og flexible scalability aron matubag ang lain-laing mga panginahanglan sa mga workload. Sa usa ka standard workstation setup nga adunay upat ka Wormhole n300 cards, ang mga processor mahimong ihiusa ngadto sa usa ka unit nga makita sa software isip usa ka nahiusa, lapad nga Tensix core network. Kini nga configuration nagtugot sa accelerator sa pagdumala sa parehas nga workload, pagbahin tali sa upat ka developers o pagpadagan hangtod sa walo ka lain-laing mga modelo sa AI sa dungan. Usa ka importanteng bahin niini nga scalability mao nga kini makadagan sa lokal nga paagi nga dili kinahanglan ang virtualization. Sa usa ka data center environment, ang mga Wormhole processor mogamit sa PCIe alang sa pagpalapad sulod sa makina, o Ethernet alang sa external expansion.
Sa performance, ang single-chip Wormhole n150 card sa Tenstorrent (72 Tensix cores, 1 GHz frequency, 108 MB SRAM, 12 GB GDDR6, 288 GB/s bandwidth) nakaabot og 262 FP8 TFLOPS sa 160W, samtang ang dual-chip Wormhole n300 board (128 Tensix cores, 1 GHz frequency, 192 MB SRAM, aggregated 24 GB GDDR6, 576 GB/s bandwidth) nakahatag og hangtod sa 466 FP8 TFLOPS sa 300W.
Aron masabtan ang 300W nga 466 ka FP8 TFLOPS, atong itandi kini sa gitanyag sa lider sa AI market nga Nvidia niining thermal design power. Ang A100 sa Nvidia wala mosuporta sa FP8, apan mosuporta kini sa INT8, nga adunay peak performance nga 624 TOPS (1,248 TOPS kon sparse). Kon itandi, ang H100 sa Nvidia mosuporta sa FP8 ug moabot sa peak performance nga 1,670 TFLOPS sa 300W (3,341 TFLOPS kon sparse), nga lahi kaayo sa Wormhole n300 sa Tenstorrent.
Apan, adunay usa ka dakong problema. Ang Wormhole n150 sa Tenstorrent gibaligya sa $999, samtang ang n300 gibaligya sa $1,399. Kon itandi, ang usa ka Nvidia H100 graphics card gibaligya sa $30,000, depende sa gidaghanon. Siyempre, wala kita mahibalo kon upat o walo ka Wormhole processors ang makahatag sa performance sa usa ka H300, apan ang ilang TDPs kay 600W ug 1200W matag usa.
Gawas sa mga kard, ang Tenstorrent nagtanyag og mga pre-built workstation para sa mga developer, lakip ang 4 ka n300 nga kard sa mas barato nga Xeon-based nga TT-LoudBox nga adunay active cooling, ug ang advanced nga TT-QuietBox nga adunay EPYC-based nga Xiaolong (liquid cooling function).
Oras sa pag-post: Hulyo-29-2024