spedtrder's blog spedtrder's blog

제1장 새로운 메모리 패러다임의 서막: HBM은 왜 필요했는가고대역폭 메모리(High Bandwidth Memory, HBM)의 등장은 단순한 점진적 기술 개선이 아니었다. 이는 고성능 컴퓨팅(High-Performance Computing, HPC)의 발전을 가로막던 '메모리 장벽(Memory Wall)'을 극복하기 위한 필연적인 아키텍처 혁명이었다. HBM의 탄생 배경을 이해하기 위해서는 기존 메모리 기술인 GDDR(Graphics Double Data Rate)이 직면했던 근본적인 한계를 먼저 살펴봐야 한다.1.1 기존 메모리의 성능 천장: GDDR의 한계고성능 컴퓨팅, 특히 그래픽 처리 및 과학 연산 분야에서는 프로세서가 데이터를 처리하는 속도보다 메모리가 데이터를 공급하는 속도가 뒤처지는 병목 ..

작년 말 AI 확장 법칙(AI Scaling Laws) 기사 에서 , 여러 AI 확장 법칙들이 어떻게 AI 산업을 지속적으로 발전시켜 무어의 법칙을 뛰어넘는 모델 성능 향상과 그에 상응하는 단위 토큰 비용의 빠른 감소를 가능하게 했는지에 대해 논의했습니다. 이러한 확장 법칙은 학습 및 추론 최적화와 혁신에 의해 주도되지만, 무어의 법칙을 뛰어넘는 컴퓨팅 성능의 발전 또한 중요한 역할을 했습니다.이러한 맥락에서, AI 스케일링 법칙(AI Scaling Laws) 기사에서는 수십 년간 이어져 온 컴퓨팅 스케일링에 대한 논쟁을 재조명하며, 2000년대 후반 데나드 스케일링(Dennard Scaling)의 종말과 2010년대 후반 트랜지스터당 비용 감소라는 고전적인 무어의 법칙의 종말을 다뤘습니다. 그럼에도 불..

최근 화웨이가 공개한 AI 칩 Ascend 910C와 이를 기반으로 한 CloudMatrix384 시스템에 대한 기술 분석 자료가 공개되었습니다. 엔비디아의 아성에 도전하는 화웨이의 기술력은 과연 어느 수준까지 도달했을까요? Ascend 910C, H100 와 주요 스펙 비교먼저, AI 연산의 핵심인 NPU(신경망 처리 장치) 레벨에서 Ascend 910C의 주요 사양을 살펴보겠습니다. 비교 대상은 현재 AI 칩 시장의 절대 강자, 엔비디아의 H100입니다.항목화웨이 Ascend 910C엔비디아 H100 (비교)최대 연산 처리량 (FP16)752 TFLOPS989 TFLOPS (910C는 H100의 76% 수준)메모리 (HBM)128 GB (HBM2e)80 GB (910C가 160% 더 많음)메모리 대..

요약본 보고서는 화웨이의 Ascend 칩에 대한 미국의 수출 통제의 역사와 미래 효과를 분석합니다. 미국은 미중 기술 경쟁이 심화되는 가운데, 화웨이를 비롯한 중국 기술 기업들의 첨단 반도체 접근을 제한하기 위해 일련의 수출 통제 조치를 시행해 왔습니다. 이러한 통제는 중국의 인공지능(AI) 역량 발전을 억제하고 미국의 기술적 우위를 유지하는 것을 목표로 합니다. 본 보고서는 이러한 통제의 역사적 배경, 주요 내용, 그리고 화웨이, 중국 반도체 산업, 나아가 글로벌 반도체 시장에 미치는 영향을 상세히 분석합니다. 또한, 이러한 통제가 앞으로 어떻게 전개될지, 그리고 그 효과는 어떠할지에 대한 전망을 제시합니다. 핵심 결과는 미국의 수출 통제가 화웨이의 사업, 특히 스마트폰 부문에 상당한 타격을 입혔지만,..

마이크로소프트 데이터센터 동결 - 1.5GW 자체 건설 속도 둔화 및 리스 취소 에 대한 오해지난 몇 달 동안 마이크로소프트의 데이터센터 임대 활동 축소에 대한 우려를 제기하는 여러 기사가 보도되었는데, 그중에는 몇몇 데이터센터 임대 계약 취소 사례도 있었습니다. 저희는 마이크로소프트가 월가의 주요 뉴스가 보도되기 두 달 전인 12월 17일에 데이터센터 모델 고객들과 맺었던 여러 데이터센터 임대 계약을 해지했다는 소식을 전했습니다. 이 사건은 겉보기처럼 단순하지 않으며, 마이크로소프트의 행동에는 훨씬 더 미묘한 차이가 있습니다. 시장은 "2GW 규모의 임대 취소"에 집중해 왔는데, 이는 구속력이 없는 LOI(투자 의향서, Letter of Intent)에만 국한되며 확정 계약에는 적용되지 않습니다 . 이..