'HBM'인 무엇일까? AI에 GPU와 HBM이 필요한 이유. SK하이닉스의 전문성

 

 

 

 

 D램 ▶ HBM ▶ GPU ▶ AI까지 

 

✅D램은 메모리 반도체 종류 중 하나이다. 휘발성 메모리로 시간이 지나거나 혹은 전원이 꺼지면 저장된 데이터를 사라진다(휘방성 메모리). *저장된 데이터가 반영구적으로 저장되는 곳은 HDD(하드디스크)나 SSD(솔리드 스테이드 드라이브)이다.

 D램은 '커패시터'가 전기의 흐름인 전하로 데이터를 저장한다. 커패시터에 전하가 있으면 '1', 없으면 '0'이 된다. '트랜지스터'가 커패시터에 저장된 전하를 읽으며 데이터를 제어한다.

 즉, 컴퓨터나 핸드폰에서 램 용량이 16기가나 32기가를 의미하는 건 디램의 용량을 의미한다.
디램의 용량이 클수록 한 번에 처리하고 저장할 수 있는 데이터의 양이 많아지기 때문에 프로그램을 동시에 실행하거나 큰 파일을 다룰 때 빠르게 처리가 가능하다. 램 용량이 부족하면 일시적으로 HDD나 SSD를 사용하는데 이 과정이 느리기 때문에 버벅거릴 수 있다.

삼성전자

✅그리고 이런 D램을 수직으로 높게 쌓아 올린 것이 'HBM(High Bandwidth Memory)'이다. 기존의 디램은 수평으로 배열된다. 전송속도가 빠르지만 전력 소모가 크고 메모리를 늘리려면 물리적 공간이 많이 필요했다. 그러나 이를 적층하면 CPU와 가까이 배치가 가능하여 전송속도는 빠르게, 전력 소모는 줄일 수 있다는 장점이 있다. 이것이 'HBM'이다.
 

✅'HBM'이 주목받는 이유는 'GPU'에 필요하기 때문이다.

 

 'CPU'는 컴퓨터의 뇌와 같다. 1+1과 같은 연산을 1,000번 하라고 요청했을 때 단일 코어 CPU는 천재 한 명이 빠르게 계산하는 것이다. *CPU 듀얼코어면 칩 하나의 코어가 2개가 있어서 천재 2명이 있는 것과 같음

 반면, 'GPU'는 1,000명이 1+1을 한 번에 계산하는 것과 같다. 즉, 단순 병렬 계산에 강하다. 

 GPU는 작은 연산을 빠르게 처리할 수 있는 코어들이 모여있고, 이 코어들의 그룹을 'SM(스트리밍 멀티프로세서)'이라고 칭한다. 다량의 연산을 빠르게 처리하기 위해선 빠른 데이터 처리가 필요하다. 그래서 'HBM'이 필요하다.

 더군다나 AI는 수많은 대규모 연산을 동시에 처리해야 하는데 이때 CPU보다 GPU가 효율적이다. 따라서 AI엔 GPU가 유리하며, GPU의 대량의 데이터를 빠르게 처리하기 위해선 HBM이 필요하다.

 그리고 이 분야를 계속해서 파고들은 SK하이닉스는 HBM의 강자가 돼 엔비디아에 납품하고 있다. SK하이닉스가 고공행진하게 된 이유다.