기다림은 힘들다. 우리는 누군가의 전화 또는 이메일을 기다리기도 하고, 대학 입학 시험 결과를 기다리기도 한다. 졸업 후 입사 시험 결과를 기다리기도 한다. 기다림은 가슴 설레는 순간을 만들고 잠 못 이루는 밤을 지내게도 한다.

그런데 요즘 그 중에서도 기다리기 제일 어려운 게 인터넷에서 시간을 보낼 때가 아닌가 싶다. 더욱이 탐색기를 이용해 정보를 찾을 때, 유뷰브를 이용해서 동영상을 클릭해서 화면이 실행되는 것을 기다리기 쉽지가 않다. 이럴 때, 내 컴퓨터와 스마트폰이 점점 더 느려지는 것처럼 느껴진다. 우리는 마우스를 클릭하는 그 순간 바로 정보가 쏟아지고, 동영상이 플레이되기를 원한다. 우리가 참고 기다릴 수 있는 시간은 1000 분의 1 초인 1 밀리 초 순간이다.

1밀리초 밖에 기다리지 못하는 서비스가 더 있다. 스마트폰이나 클라우드 컴퓨터가 빅데이터를 이용해서 인공지능 서비스를 한다고 한다면 그 서비스도 1 밀리 초 이내에 실행되어야 한다. 인공지능을 이용해 실시간으로 통역을 하려면 바로 통역이 되어 우리 귀에 들려야 한다. 그 시간 차이가 1 밀리초 이내여야 실시간 통역으로 느낄 것이다. 인공지능 알고리즘을 장착한 자율주행자동차는 카메라에 찍힌 사물을 판단하고 위험성이 있으면 바로 브레이크를 동작시켜야 한다. 그렇지 않으면 자동차는 한참 전진해서 이미 사고를 일으킬 수 있다. 

현재 비트코인은 블록체인을 이용해서 거래 원장을 암호화하고, 체인으로 연결하고, 분산 저장하는데, 이 작업을 '채굴'이라고 한다. 그런데 이 시간이 10여분 걸린다. 이 시간 지연도 기다리기 어렵다. 미래에는 불록체인을 이용한 데이터 분산 저장도 1밀리초 이내에 이뤄져야 한다. 이러한 작업들은 인간의 감각 기준으로 보면 거의 실시간으로 시간 지연 없이 이뤄져야 하는 작업이다. 그래야 진정한 실시간 분산 저장 시대가 된다. 

인내심이 부족한 인간을 위한 컴퓨터

이렇게 짧은 시간 내에 인공지능 판단을 내리는데, 가장 큰 시간 걸림돌이 'GPU'(Graphic Processing Unit)로 불리는 프로세서와 반도체 메모리 사이에 데이터를 주고 받는데 걸리는 시간이다. 딥러닝 인공지능 알고리즘에는 병렬 데이터 계산에 많은 시간이 걸린다.

이 시간을 줄이기 위해 가장 먼저 해야하는 컴퓨터 설계가, 바로 GPU와 반도체 메모리인 D램과 낸드플래시를 최대한 가까이 설치하는 것이다. 그래서 엔비디아에서 나오는 인공지능 서버 모듈은 GPU 와 메모리를 3차원적으로 만들기도 한다.

다음으로는 GPU와 메모리 사이에 통신선의 개수를 늘리는 것이다. 일종의 병렬 처리 속도를 높이는 것이다. 마지막으로 가장 중요한 것이 시간 지연(latency)인데 메모리와 데이터를 주고 받을 때, 바로 첫 데이터를 받는 데 걸리는 시간을 줄이는 것이 핵심이다. 그래서 반도체 메모리 기능을 볼 때 가장 중요한 스펙 중 하나가 시간 지연이다. 

컴퓨터내의 메모리 계층적 구조, 출처: 마이크론.

인간 본성에 따라 발전하는 반도체 메모리

컴퓨터 구조에서 D램은 시간 지연이 아주 짧은 반도체 메모리다. 그래서 GPU와 가장 가까이 설치된다. 대신 가격이 비싸다. 반면 낸드플래시 메모리는 시간 지연이 D램에 비해서 상당히 길다. 대신 가격이 싸고, 저장 용량이 매우 크다. 이처럼 컴퓨터의 메모리 구조는 저장 용량, 데이터 통신 대역폭, 시간 지연, 전력 소모, 비용을 고려해서 계층적으로 설계하게 된다. 그 중에서 인공지능 시대가 되면서 시간 지연이 중요한 설계 변수가 됐다.

이러한 추세를 반영해 인텔에선 새로운 메모리인 크로스 포인트(X-point) 메모리를 시장에 소개했다. 결국 D램과 낸드플래시 사이에 틈새를 노린 새로운 반도체 메모리다. 낸드플래시 메모리보다 시간 지연이 월등히 짧은 메모리다. 비휘발성 메모리이며, D램보다 저장 용량이 10배 크고, NAND 낸드 플래시보다 1000배 빠르고, 수명도 길다고 알려져 있다. 이러한 뛰어난 성능으로 인해서 인공지능, 머신러닝, 클라우드 컴퓨팅 등 데이터 센터를 위한 스토리지 및 컴퓨터 구조를 변화시킬 수 있는 가능성을 제시되고 있다. 참을성 부족한 인간의 인내심이 4차 산업혁명 시대를 맞아 새로운 반도체 메모리 시장 경쟁을 발생시키고 있다.

3차원 X-point 반도체 메모리 구조, 출처: KAIST.

3차원 X-point 반도체 메모리 내부의 단면 사진, 출처: Techinsight.

[김정호 카이스트 전기 및 전자공학과 교수]

김정호 교수.