Khamphani ea li-chip e etelletsoeng pele ke Jim Keller, Tenstorrent, e lokollotse processor ea eona ea Wormhole ea moloko o latelang bakeng sa mesebetsi ea AI, eo e lebeletseng ho fana ka ts'ebetso e ntle ka theko e tlase.Khamphani hajoale e fana ka likarete tse peli tse eketsehileng tsa PCIe tse ka amohelang li-processor tse le 'ngoe kapa tse peli tsa Wormhole, hammoho le libaka tsa mosebetsi tsa TT-LoudBox le TT-QuietBox bakeng sa bahlahisi ba software. Liphatlalatso tsohle tsa kajeno li reretsoe bahlahisi, eseng ba sebelisang liboto tsa Wormhole bakeng sa mesebetsi ea khoebo.
“Kamehla hoa khotsofatsa ho fumana lihlahisoa tse ngata tsa rona matsohong a bahlahisi. Litsamaiso tsa nts'etsopele ea tokollo tse sebelisang likarete tsa rona tsa Wormhole™ li ka thusa bahlahisi ho holisa le ho nts'etsapele software ea AI ea li-chip tse ngata,” ho boletse Jim Keller, CEO oa Tenstorrent.Ho phaella ho qalo ena, re thabetse ho bona kgatelopele eo re e etsang ka ho tima le ho matlafatsa sehlahiswa sa rona sa moloko wa bobedi, Blackhole.
Prosesara e 'ngoe le e 'ngoe ea Wormhole e na le li-cores tse 72 tsa Tensix (tse hlano tsa tsona li tšehetsa li-cores tsa RISC-V ka mefuta e fapaneng ea data) le 108 MB ea SRAM, e fanang ka 262 FP8 TFLOPS ho 1 GHz ka matla a moralo oa mocheso oa 160W. Karete ea Wormhole n150 ea chip e le 'ngoe e na le memori ea video ea 12 GB GDDR6 'me e na le bandwidth ea 288 GB/s.
Li-processor tsa Wormhole li fana ka bokhoni ba ho atolosa bo tenyetsehang ho fihlela litlhoko tse fapaneng tsa mesebetsi. Sethaleng se tloaelehileng sa sebaka sa mosebetsi se nang le likarete tse 'ne tsa Wormhole n300, li-processor li ka kopanngoa ho ba yuniti e le 'ngoe e hlahang software e le netweke e kopaneng, e pharaletseng ea motheo ea Tensix. Sebopeho sena se lumella accelerator ho sebetsana le mosebetsi o tšoanang, ho aroloa pakeng tsa bahlahisi ba bane kapa ho tsamaisa mehlala e fapaneng ea AI e fihlang ho tse robeli ka nako e le 'ngoe. Tšobotsi ea bohlokoa ea bokhoni bona ba ho atolosa ke hore e ka sebetsa sebakeng sa heno ntle le tlhoko ea virtualization. Tikolohong ea setsi sa data, li-processor tsa Wormhole li tla sebelisa PCIe bakeng sa katoloso ka hare ho mochini, kapa Ethernet bakeng sa katoloso ea kantle.
Mabapi le tshebetso, karete ya Tenstorrent ya Wormhole n150 e nang le chip e le nngwe (di-cores tse 72 tsa Tensix, maqhubu a 1 GHz, 108 MB SRAM, 12 GB GDDR6, bandwidth ya 288 GB/s) e fihletse 262 FP8 TFLOPS ho 160W, ha boto ya Wormhole n300 e nang le di-chip tse pedi (di-cores tse 128 tsa Tensix, maqhubu a 1 GHz, 192 MB SRAM, e kopantsweng 24 GB GDDR6, bandwidth ya 576 GB/s) e fana ka TFLOPS tse fihlang ho 466 tsa FP8 ho 300W.
Ho kenya 300W ea 466 FP8 TFLOPS moelelong, re tla e bapisa le seo moetapele oa 'maraka oa AI Nvidia a se fanang ka matla ana a moralo oa mocheso. A100 ea Nvidia ha e tšehetse FP8, empa e tšehetsa INT8, ka ts'ebetso e phahameng ea 624 TOPS (1,248 TOPS ha e fokola). Ha ho bapisoa, H100 ea Nvidia e tšehetsa FP8 'me e fihlela ts'ebetso e phahameng ea 1,670 TFLOPS ho 300W (3,341 TFLOPS ha e fokola), e leng se fapaneng haholo le Wormhole n300 ea Tenstorrent.
Leha ho le jwalo, ho na le bothata bo le bong bo boholo. Wormhole n150 ya Tenstorrent e rekiswa ka $999, ha n300 e rekiswa ka $1,399. Ha ho bapiswa, karete e le nngwe ya ditshwantsho ya Nvidia H100 e rekiswa ka $30,000, ho itshetlehile ka bongata. Ehlile, ha re tsebe hore na diprosesa tse nne kapa tse robedi tsa Wormhole di ka fana ka tshebetso ya H300 e le nngwe, empa di-TDP tsa tsona ke 600W le 1200W ka ho latellana.
Ntle le likarete, Tenstorrent e fana ka libaka tsa mosebetsi tse hahiloeng esale pele bakeng sa bahlahisi, ho kenyeletsoa likarete tse 4 tsa n300 ka har'a TT-LoudBox e theko e tlaase e thehiloeng ho Xeon e nang le pholiso e sebetsang, le TT-QuietBox e tsoetseng pele e nang le ts'ebetso ea pholiso ea metsi e thehiloeng ho EPYC).
Nako ea poso: Phupu-29-2024