삼성도 열심히 연구 중인 차세대 반도체, PIM과 LLW DRAM

PIM

PIM은 "Processing-in-Memory"의 약자로, 지속적인 성능 향상을 필요로 하는 AI 응용 프로그램들, 특히 모바일 기기, 데이터 센터 및 고성능 컴퓨팅(HPC)과 같은 분야에서 컴퓨팅 성능을 향상시키기 위한 혁신적인 반도체 메모리 아키텍처입니다.

 

PIM 기술 개념

 

PIM의 핵심 개념은 기억 장치 코어 내에 직접 처리 기능을 통합하는 것으로, 이를 통해 기억과 프로세서 간의 데이터 이동을 크게 줄일 수 있습니다. 데이터가 저장된 곳 근처에서 처리가 이루어지기 때문에 PIM은 상당한 속도 및 에너지 효율 개선을 제공하며, 현대 컴퓨팅 시스템에서 발생하는 메모리 병목현상에 대응할 수 있습니다.

 

PIM은 미래의 반도체 메모리 아키텍처로 간주되며, 인공 지능(AI)에 대한 연구를 위한 반도체 디자인 연구에 사용됩니다. PIM을 통해 기억 장치가 일부 계산 작업을 수행할 수 있게 되어 기억 중심의 처리 환경을 만들 수 있을 것으로 예상됩니다. 이러한 접근 방식은 컴퓨팅 시스템이 데이터와 계산을 처리하는 방식을 변화시켜 다양한 AI 관련 작업에서 향상된 효율성과 성능을 제공할 수 있습니다.

 

PIM의 장점

데이터 이동 감소

전통적인 폰 노이만 구조에서는 메모리와 프로세서가 분리되어 있어 데이터 이동이 빈번히 발생합니다. PIM은 데이터 처리를 메모리 내에서 직접 수행하므로 데이터 이동이 줄어들고, 이로 인해 대기 시간이 최소화됩니다.

낮은 대기 시간

PIM은 데이터를 메모리 내에서 처리하므로 외부 메모리로 데이터를 가져오는 데 걸리는 시간을 줄일 수 있어 접근 대기 시간이 크게 감소합니다.

 

HBM, HBM-PIM

 

에너지 효율 개선

PIM은 데이터 이동을 최소화하고 프로세서-메모리 간의 빈번한 통신을 줄이므로 에너지 효율적인 컴퓨팅이 가능해집니다. 이는 총 전력 소비를 줄일 수 있습니다.

병렬성 강화

PIM은 여러 처리 유닛이 동시에 다른 메모리 위치에 있는 데이터를 처리할 수 있도록 하므로 병렬 처리 기능이 향상됩니다. 이로 인해 병렬화 가능한 작업에서 더 빠른 연산이 가능해집니다.

인공 지능 및 고성능 컴퓨팅(HPC) 응용

PIM은 고성능 메모리 대역폭과 낮은 대기 시간이 필요한 인공 지능(AI) 및 HPC 응용에 큰 이점을 제공할 수 있습니다. 데이터와 계산을 더 가까운 위치에서 처리함으로써 AI 모델 훈련 및 추론, 데이터 분석 및 시뮬레이션 등이 가속화될 수 있습니다.

 

---

 

LLW DRAM

Low Latency Wide IO DRAM이라고 불립니다.
LLW DRAM은 낮은 대기시간을 가지면서도 넓은 IO(입출력) 기능을 제공하는 DRAM 기술을 의미합니다. 이 기술은 데이터 네트워킹 및 다른 응용 분야에서 사용되며, 고성능 컴퓨팅과 데이터 지능을 향상시키기 위해 개발되고 있습니다.

 

LLW DRAM이 필요한 이유는 저지연과 빠른 읽기/쓰기 속도를 필요로 하는 메모리 집적 애플리케이션에서 다른 대안인 DRAM이 없는 SSD보다 훨씬 성능이 우수하기 때문입니다.

DRAM (Dynamic Random Access Memory)은 컴퓨터에서 사용되는 고속 메모리로, 데이터를 빠르게 저장하고 액세스하는 데에 주로 사용됩니다. 전통적인 메모리 시스템인 SSD(고체 상태 드라이브)에서는 DRAM이 데이터 액세스를 가속화하고 전체적인 성능을 향상시키기 위한 캐시로 사용됩니다. SSD에 캐시로서의 DRAM이 존재함으로써 읽기와 쓰기 작업이 빨라지고, 지연 시간이 감소하여 데이터 처리 속도가 향상됩니다.

반면, DRAM이 없는 SSD인 DRAM-less SSD는 이러한 캐시 기능이 없기 때문에 데이터 액세스 속도가 느리고, 읽기와 쓰기 작업의 지연 시간이 상대적으로 높아집니다. 그래서 DRAM-less SSD는 특정 응용 프로그램에서는 여전히 유용할 수 있지만, 저지연과 빠른 데이터 액세스가 중요한 작업에는 적합하지 않을 수 있습니다.

이러한 상황에서 LLW DRAM이 필요한 것입니다. 저지연 와이드 IO 다이내믹 랜덤 액세스 메모리(LLW DRAM)는 데이터 액세스 시간을 줄이고 데이터 전송 속도를 개선하기 위한 제품으로 개발되고 있습니다. LLW DRAM은 저지연과 와이드 IO 특성을 갖추어 빠른 데이터 처리와 더 효율적인 데이터 네트워킹 애플리케이션을 가능하게 합니다.

 

DRAM 구조

인공지능, 빅데이터 분석, 고성능 컴퓨팅 등 데이터 집적적인 작업에서는 데이터에 빠르게 액세스하고 처리하는 능력이 중요합니다. LLW DRAM은 데이터 액세스 시간을 크게 개선함으로써 전체 시스템 성능을 향상시킬 수 있습니다.

또한, LLW DRAM의 와이드 IO 기능은 메모리와 시스템의 다른 구성 요소 간에 더 높은 대역폭을 제공하여 대량의 데이터를 빠르고 효율적으로 전송할 수 있도록 합니다.

 

---

 

삼성반도체, 연구 개발 진행 중

PIM 기술에 대한 연구와 개발을 진행 중이며, 이를 HBM (High Bandwidth Memory) 아키텍처에 통합하고 있습니다. 이러한 통합을 통해 고성능 컴퓨팅과 AI 발전을 위한 효과적인 솔루션을 제공하고자 합니다. PIM과 HBM의 연결을 통해 모바일 컴퓨팅, 데이터 센터 및 HPC와 같은 AI 응용 프로그램들의 성장을 촉진하고자 합니다.

 

그리고 데이터 지능을 향상시키기 위해 DRAM 솔루션에 대한 연구와 개발을 진행하고 있습니다. 현재, 삼성반도체는 저지연 와이드 IO 제품인 LLW (Low Latency Wide IO) DRAM을 연구하고 있습니다. LLW DRAM은 낮은 대기시간과 넓은 IO 기능을 특징으로 하며, 이로 인해 데이터 처리 속도가 높아질 수 있습니다. 이러한 기술은 고성능 데이터 네트워킹과 데이터 지능 응용 분야에서 효과적으로 사용될 것으로 기대됩니다.