안녕하세요^^ 베네모아 입니다. 오늘은 AI 차세대 반도체 PIM에 대해 핵심만 간단히 정리해보려고 합니다. 하이닉스가 선도하고 있는 HBM 반도체의 경우 메모리 내 저장된 데이터를 기존보다 더 빠르게 빼내고 전송할 수 있다는 장점을 지니고 있는데요. HBM 이후 반도체 시장 선두주자로 각광받고 있는 반도체 중 하나가 바로 PIM 입니다.
메모리 차세대 반도체 PIM 이란 무엇인가?
국내외 여러 반도체 업체들이 HBM 이후의 핵심 메모리 반도체 자리를 PIM이 차지할 것으로 기대하고 지속적인 투자 및 개발 등 노력을 이어가고 있습니다.
이미 제목에도 언급했듯이 PIM은 ‘Processing In Memory’의 약자이며 한글 뜻 그대로 해석할 경우 ‘프로세싱이 가능한 메모리’라고 풀이할 수 있으며 이는 즉 연산 기능이 탑재된 메모리를 뜻합니다. 왜냐하면 기존에는 CPU, GPU 같은 프로세서가 연산을 주로 하고, 메모리 자체는 연산된 결과값을 저장하는 수단에 불과했습니다.
하지만 PIM의 경우 계산 능력이 탑재되어 있기 때문에 프로세서에 몰리던 계산 부하 일부를 덜어줄 수 있는 똘똘한 맞후임 역할을 하게 되는 것이죠. 즉, PIM을 한마디로 정의하자면 ‘똑똑한 메모리 반도체’라고 할 수 있겠습니다.
PIM 반도체가 차세대 메모리 핵심으로 각광받는 이유
AI 반도체가 AI를 학습시키기 위해서는 대량의 데이터 처리 능력이 필요하며 이것이 바로 HBM이 현재의 위상을 펼치고 있는 이유 중 하나이죠. CPU/GPU가 메모리 반도체로부터 다량의 데이터를 불러와야 하는데 이 과정에서 데이터가 몰리는 병목현상이 발생하게 되고 이를 효과적으로 처리해주는 것이 바로 HBM 입니다.
하지만 HBM의 경우 연산 능력이 없기 때문에 프로세서(CPU 혹은 GPU)가 모든 연산 업무의 부담을 가지고 있는데요. 메모리 반도체가 간단한 연산 업무 정도를 해준다면 프로세서의 부담이 줄고 더 높은 효율을 얻어낼 수 있지 않을까 하는 발상에서 나온 것이 바로 PIM 입니다. 이것이 최적화 및 상용화 된다면 AI 학습 시간이 대폭 줄어드는 효과가 발생하게 되고 많은 기업에서 관심을 가지는 이유입니다.
PIM의 구조는 어떻게 될까요?
PIM은 여전히 연구, 개발 단계이기 때문에 (기업 마다 구현 방식이 제각각) 확정된 최적화 구조는 없으나 현재 가장 널리 알려진 것은 바로 HBM 기반의 HBM – PIM 구조입니다. 바로 아래 이미지와 같이 HBM 적층 통로(DRAM가운데 TSV 공법)으로 하단에 PIM이 포함된 Logic die를 삽입하여 연산 기능을 추가하고 프로세서에 결과값을 전달하는 방식인데요.
아직 상용화 된 구조는 아니므로 참고하는 차원에서 아래 내용을 읽어주세요!
DRAM 적층 공간 중앙에 TSV 공법을 통해 데이터가 다량 이동하게 되며 그 경로에 있는 PIM 로직 다이(Logic die)가 일부 할당된 연산 작업을 처리하고 이를 HOST 프로세서 (CPU / GPU)에게 전달하게 되죠.
지금까지 AI 차세대 반도체 PIM의 핵심 내용들에 대해 간단히 정리해봤습니다. 부디 도움이 됐기를 바라며 추가적으로 궁금한 부분 또는 수정이 필요한 내용은 댓글로 남겨주시면 감사하겠습니다~ 그럼 PIM 반도체의 1등 기업은 누가 될지 다들 예측해보는 시간 가지시길 바라며 본 글을 마치도록 하겠습니다.