Ang kompanya sa chip nga gipangulohan ni Jim Keller nga Tenstorrent nagpagawas sa iyang sunod nga henerasyon nga Wormhole processor alang sa mga workload sa AI, nga gilauman nga maghatag maayo nga performance sa barato nga presyo.Ang kompanya karon nagtanyag og duha ka dugang nga PCIe card nga maka-accommodate sa usa o duha ka Wormhole processor, ingon man TT-LoudBox ug TT-QuietBox workstations para sa software developers. Ang tanan nga mga pahibalo karon gitumong sa mga nag-develop, dili sa mga naggamit sa mga Wormhole board alang sa komersyal nga mga karga sa trabaho.
"Kanunay nga makapalipay nga makuha ang daghang mga produkto sa mga kamot sa mga developer. Ang pagpagawas sa mga sistema sa pagpalambo gamit ang among Wormhole™ nga mga kard makatabang sa mga developer sa pag-scale ug pagpalambo sa multi-chip AI software, ”miingon si Jim Keller, CEO sa Tenstorrent.Dugang pa sa kini nga paglansad, kami naghinam-hinam nga makita ang pag-uswag nga among gihimo gamit ang tape out ug power-up sa among ikaduhang henerasyon nga produkto, Blackhole.
Ang matag Wormhole processor adunay 72 ka Tensix cores (lima niini nagsuporta sa RISC-V cores sa lain-laing mga format sa datos) ug 108 MB sa SRAM, nga naghatud sa 262 FP8 TFLOPS sa 1 GHz nga adunay thermal design power nga 160W. Ang single-chip Wormhole n150 card nasangkapan sa 12 GB GDDR6 video memory ug adunay bandwidth nga 288 GB/s.
Ang mga wormhole processor naghatag og flexible scalability aron matubag ang lain-laing mga panginahanglan sa mga workloads. Sa usa ka standard nga setup sa workstation nga adunay upat ka Wormhole n300 nga mga kard, ang mga processor mahimong ikombinar sa usa ka yunit nga makita sa software isip usa ka hiniusa, lapad nga Tensix core network. Kini nga configuration nagtugot sa accelerator sa pagdumala sa sama nga workload, pagbahin tali sa upat ka mga developers o pagdagan ngadto sa walo ka lain-laing mga AI models dungan. Ang usa ka mahinungdanong bahin sa kini nga scalability mao nga kini makadagan sa lokal nga wala kinahanglana ang virtualization. Sa usa ka palibot sa data center, ang mga processor sa Wormhole mogamit sa PCIe alang sa pagpalapad sa sulod sa makina, o Ethernet alang sa eksternal nga pagpalapad.
Sa termino sa performance, ang Tenstorrent's single-chip Wormhole n150 card (72 Tensix cores, 1 GHz frequency, 108 MB SRAM, 12 GB GDDR6, 288 GB/s bandwidth) nakab-ot ang 262 FP8 TFLOPS sa 160W, samtang ang dual-chip Wormhole n300 (128 Tensix cores, 1 GHz frequency, 192 MB SRAM, aggregated 24 GB GDDR6, 576 GB/s bandwidth) naghatod sa 466 FP8 TFLOPS sa 300W.
Aron ibutang ang 300W sa 466 FP8 TFLOPS ngadto sa konteksto, atong itandi kini sa unsay gitanyag sa AI market leader Nvidia niining thermal design power. Ang Nvidia's A100 wala nagsuporta sa FP8, apan kini nagsuporta sa INT8, nga adunay kinatas-ang performance nga 624 TOPS (1,248 TOPS kung gamay). Sa pagtandi, ang Nvidia's H100 nagsuporta sa FP8 ug nakaabot sa peak performance sa 1,670 TFLOPS sa 300W (3,341 TFLOPS sa sparse), nga lahi kaayo sa Tenstorrent's Wormhole n300.
Apan, adunay usa ka dakong problema. Ang Tenstorrent's Wormhole n150 nagbaligya sa $999, samtang ang n300 gibaligya sa $1,399. Sa pagtandi, ang usa ka Nvidia H100 graphics card nagbaligya sa $30,000, depende sa gidaghanon. Siyempre, wala kami mahibal-an kung ang upat o walo nga mga processor sa Wormhole mahimo gyud nga maghatag sa pasundayag sa usa ka H300, apan ang ilang mga TDP 600W ug 1200W matag usa.
Dugang pa sa mga kard, ang Tenstorrent nagtanyag og pre-built workstations para sa mga developers, lakip ang 4 n300 cards sa mas barato nga Xeon-based TT-LoudBox nga adunay aktibong pagpabugnaw, ug ang advanced TT-QuietBox nga adunay EPYC-based Xiaolong) liquid cooling function).
Oras sa pag-post: Hul-29-2024