spedtrder's blog spedtrder's blog

제1장 새로운 메모리 패러다임의 서막: HBM은 왜 필요했는가고대역폭 메모리(High Bandwidth Memory, HBM)의 등장은 단순한 점진적 기술 개선이 아니었다. 이는 고성능 컴퓨팅(High-Performance Computing, HPC)의 발전을 가로막던 '메모리 장벽(Memory Wall)'을 극복하기 위한 필연적인 아키텍처 혁명이었다. HBM의 탄생 배경을 이해하기 위해서는 기존 메모리 기술인 GDDR(Graphics Double Data Rate)이 직면했던 근본적인 한계를 먼저 살펴봐야 한다.1.1 기존 메모리의 성능 천장: GDDR의 한계고성능 컴퓨팅, 특히 그래픽 처리 및 과학 연산 분야에서는 프로세서가 데이터를 처리하는 속도보다 메모리가 데이터를 공급하는 속도가 뒤처지는 병목 ..

최근 화웨이가 공개한 AI 칩 Ascend 910C와 이를 기반으로 한 CloudMatrix384 시스템에 대한 기술 분석 자료가 공개되었습니다. 엔비디아의 아성에 도전하는 화웨이의 기술력은 과연 어느 수준까지 도달했을까요? Ascend 910C, H100 와 주요 스펙 비교먼저, AI 연산의 핵심인 NPU(신경망 처리 장치) 레벨에서 Ascend 910C의 주요 사양을 살펴보겠습니다. 비교 대상은 현재 AI 칩 시장의 절대 강자, 엔비디아의 H100입니다.항목화웨이 Ascend 910C엔비디아 H100 (비교)최대 연산 처리량 (FP16)752 TFLOPS989 TFLOPS (910C는 H100의 76% 수준)메모리 (HBM)128 GB (HBM2e)80 GB (910C가 160% 더 많음)메모리 대..

AMD vs NVIDIA Inference Benchmark: Who Wins? – Performance & Cost Per Million Tokens (AMD vs Nvidia 추론 밴치마크: 누가 승자인가? - 백만 토큰 당 성능 & 비용 )AMD의 AI 서버가 엔비디아보다 총소유비용(TCO) 대비 더 나은 추론 성능을 달성할 수 있다는 주장은 오랫동안 이어져 왔습니다. 저희(SemiAnalysis)는 지난 6개월 동안 엔비디아와 AMD가 제공하는 추론 솔루션에 대한 포괄적인 분석 및 벤치마킹을 통해 이러한 주장을 조사하고 검증했습니다. 간단한 답을 얻을 것으로 예상했지만, 결과는 훨씬 더 미묘하고 놀라웠습니다. 채팅 애플리케이션, 문서 처리/검색, 추론 등 작업별로 성능이 다르게 나타납니다.GPU를..

🌐 TSMC 의 미국 내 신규 투자 계획 발표 내용💰 1650억 달러 규모의 투자 결정TSMC는 미국 내 첨단 반도체 운영 강화를 위해 추가로 1,000억 달러를 투자한다고 밝혔습니다. 이는 기존 650억 달러 계획에 더해진 것으로, 총 투자 규모는 1,650억 달러에 달합니다. 📈 이 자금은 애리조나주 피닉스 지역에 집중적으로 투입되며, 미국 역사상 가장 큰 단일 외국 직접 투자로 기록될 전망입니다. 이는 애플, 엔비디아, AMD, 브로드컴, 퀄컴 등 미국을 대표하는 AI 및 기술 혁신 기업을 포함한 고객 지원에 대한 TSMC 헌신적인 지원을 강조함을 의미합니다. 🏭 신규 시설의 구성이번 프로젝트는 단순한 제조 공장 설립을 넘어 연구개발(R&D)까지 포괄하는 종합적인 계획입니다. 구체적인 시설은..