수십 년 동안 전체 컴퓨팅 산업은 다음과 같은 단순한 패러다임을 중심으로 발전했습니다. 논리가 왕이다.CPU와 GPU는 시스템의 핵심이었습니다.메모리는 프로세서가 실제 작업을 수행하는 동안 일시적으로 데이터를 저장하는 역할을 하는 지원 구성 요소에 불과했습니다.그러나 오늘날 근본적인 혁명이 진행되고 있습니다. 논리 중심 컴퓨팅 시대가 끝나고 있으며, 메모리 중심 컴퓨팅 도착했습니다.

이러한 변화는 점진적인 것이 아니라 구조적입니다.AI, 대규모 언어 모델, 클라우드 컴퓨팅, 고성능 컴퓨팅을 통해 논리와 메모리 간의 힘의 균형이 완전히 역전되었습니다.메모리는 더 이상 주변 구성 요소가 아닙니다.그것은 되었다 핵심 병목 현상, 주요 성능 제한 요소 및 진정한 가치 중심 현대 컴퓨팅 시스템의

근본 원인: 기억의 벽

수년 동안 프로세서 성능은 메모리 대역폭 및 대기 시간보다 훨씬 빠른 속도로 향상되었습니다.이렇게 커지는 격차를 기억의 벽.기존 시스템에서는:

• 프로세서는 대부분의 시간 동안 데이터를 기다립니다.
• 데이터 이동은 계산보다 훨씬 더 많은 에너지를 소비합니다.
• 대역폭이 모델 크기 증가를 따라잡을 수 없음
• 지연 시간은 실제 추론 속도를 직접적으로 결정합니다.

AI 모델이 수십억에서 수조 개의 매개변수로 성장함에 따라 메모리 벽은 치명적이 되었습니다.시스템은 더 이상 로직과 메모리 사이에서 막대한 양의 데이터를 이동할 여유가 없습니다.유일한 해결책: 메모리를 중심으로 전체 아키텍처를 재구축.

논리 중심 vs. 메모리 중심: 패러다임의 차이

논리 중심 아키텍처
- CPU/GPU를 코어로 사용
- 외부 저장소로서의 메모리
- 데이터가 계산으로 이동
- 성능은 명령 속도에 따라 달라집니다.
- PC와 초기 클라우드 컴퓨팅의 지배

메모리 중심 아키텍처
- 시스템 코어로서의 메모리
- 계산이 데이터로 이동
- 대역폭과 대기 시간이 성능을 정의합니다.
- 데이터 이동에 중점을 둔 에너지 효율성
- AI와 차세대 컴퓨팅을 정의합니다.

차이점은 기술적인 세부 사항이 아니라 시스템 설계 철학을 완전히 뒤집은 것입니다.

메모리 중심 혁신의 세 가지 경로

1. 근거리 메모리 컴퓨팅(NMC)
컴퓨팅 엔진을 메모리 가까이에 배치하여 데이터 이동을 최소화합니다.대기 시간과 전력을 획기적으로 줄입니다.AI 가속기 및 DPU 인프라에 널리 채택되었습니다.

2. 인메모리 컴퓨팅(IMC)
메모리 셀 내에서 직접 계산을 수행하여 데이터 전송을 완전히 제거합니다.AI 추론, 에지 장치 및 저전력 시스템에 이상적입니다.장기적인 궁극적인 아키텍처로 간주됩니다.

3. 3D 메모리-로직 스태킹
하이브리드 본딩 및 TSV를 사용하여 프로세서 위에 메모리를 직접 스택합니다.컴퓨팅과 메모리 사이에 초고대역폭을 생성합니다.HBM, HBM3E 및 3D 스태킹은 최신 AI 칩의 기초입니다.

AI가 메모리 중심을 필연적으로 만드는 이유

대규모 언어 모델과 생성 AI에는 고유한 특성이 있습니다.

• 대규모 매개변수 세트에는 엄청난 메모리 용량이 필요합니다.
• 추론은 컴퓨팅 바인딩이 아닌 메모리 바인딩입니다.
• 대역폭은 처리량과 사용자 경험을 결정합니다.
• 전력 소비는 데이터 이동에 의해 좌우됩니다.

AI 시스템에서 프로세서는 종종 데이터를 기다리며 유휴 상태입니다.성능은 칩이 계산하는 속도에 따라 제한되지 않습니다. 메모리에 얼마나 빨리 접근할 수 있는지.

산업 구조조정: 가치가 메모리로 이동

이러한 아키텍처 변화는 업계의 힘을 다시 쓰고 있습니다.

• 메모리 제조사, 전략적 가격 결정력 확보
• 시스템 설계는 메모리 토폴로지를 우선시합니다.
• 메모리 연결에 패키징이 중요해짐
• 기억과 상호연결 속에 새로운 거인이 등장하다

메모리 아키텍처를 제어하는 사람이 컴퓨팅의 미래를 제어합니다.

결론: 미래는 메모리 중심이다

논리 중심 컴퓨팅의 시대는 끝났습니다.우리는 새로운 시대에 들어섰습니다. 메모리는 성능을 정의하고, 메모리는 확장성을 제한하며, 메모리는 시스템 값을 결정합니다..

논리 중심에서 메모리 중심 아키텍처로의 전환은 단순한 기술적 추세가 아닙니다. 이는 반세기 만에 컴퓨팅 분야에서 가장 근본적인 변화입니다.향후 10년 동안, 기억은 우주의 중심이 될 것이다.