짐 켈러가 이끄는 텐스토렌트(Tenstorrent)가 전처리(Prefill)와 추론(Decode)을 단일 시스템에서 처리하는 '갤럭시 블랙홀(Galaxy Blackhole)' 서버를 공개하며 엔비디아 중심의 이종 컴퓨팅(Disaggregation) 트렌드에 정면으로 반기를 들었습니다. 동시에 영국 옥스퍼드대에서 스핀오프한 루마이(Lumai)는 3D 광학 행렬-벡터 곱셈 기술을 이용해 기존 실리콘 칩 대비 50배의 성능과 90%의 전력 절감을 달성한 광학 컴퓨터 상용화에 성공했습니다. 텐스토렌트의 블랙홀 칩은 32개가 탑재된 6U 서버에서 23 PFLOPS의 연산 성능을 제공하며, 복잡한 인프라 대신 표준 이더넷 기반의 스케일아웃을 강조하고 있습니다.
* 텐스토렌트 블랙홀 성능: 23 PFLOPS (Block FP8)
* 서버 구성: 32개 블랙홀 칩 탑재 (6U 랙마운트)
* 메모리 대역폭: 2.9 PB/s (SRAM), 16 TB/s (DRAM)
* 루마이 광학 성능: 실리콘 대비 50배 성능 향상, 90% 전력 절감
데이터센터의 복잡성을 낮추려는 텐스토렌트의 범용 전략과 루마이의 광학 혁신은 결국 '엔비디아 세금(Nvidia Tax)'에서 벗어나려는 빅테크들의 절박한 생존 본능이 하드웨어 아키텍처의 다변화를 이끌고 있음을 보여줍니다.
* 텐스토렌트 블랙홀 성능: 23 PFLOPS (Block FP8)
* 서버 구성: 32개 블랙홀 칩 탑재 (6U 랙마운트)
* 메모리 대역폭: 2.9 PB/s (SRAM), 16 TB/s (DRAM)
* 루마이 광학 성능: 실리콘 대비 50배 성능 향상, 90% 전력 절감
데이터센터의 복잡성을 낮추려는 텐스토렌트의 범용 전략과 루마이의 광학 혁신은 결국 '엔비디아 세금(Nvidia Tax)'에서 벗어나려는 빅테크들의 절박한 생존 본능이 하드웨어 아키텍처의 다변화를 이끌고 있음을 보여줍니다.
Tags
News