당신이 모르는 램값 폭등의 진짜 이유, 코스피 5000의 이면을 해부하다
최근 나는, 동생의 컴퓨터가 오래되어
새로운 사양으로 업그레이드를 해주기로 했다.
AI의 시대에 알맞게 AI와 함께 컴퓨터 견적을 맞추는
스마트한 일상을 보내고 있었다.
그런데 이게 웬걸,
내가 맞춘 컴퓨터의 RAM카드의 가격이 아주 비싸서
여기서 사지 말라는 거 아닌가??
해당 업체가 마치 폭리를 취하는 악덕 판매소인 것처럼..
AI의 발전과 맞물려,
이른바 '칩플레이션'으로 불리우는
작금의 반도체 대란이
AI에게는 업데이트 되지 않은 소식이라는게 놀라웠다.
2026년 1월, 코스피가 사상 처음으로 5,000선을 돌파했다. 대한민국의 자본 시장이 한 단계 레벨 업했다는 환호 뒤에는, 코스피 5000을 견인한 하이닉스와 삼성전자의 반도체 호황이 자리 잡고 있다.
하지만 이 거대한 축제 이면에,
나같은 겜돌이들을 비롯한 일반 소비자들은
천정부지 없이 폭등해버린 반도체 가격에
눈물을 아니 흘릴 수 없었다.
과연 무슨 일이 있었을까?ㅠ
이게 무슨 뒷북이냐 싶겠지만 지금 이 사설은 예측이 아니며, 그저 결과를 놓고 보는 '회고'에 불과하다는 점을 밝히며..
처음 시작은 '알파고' 이야기를 꺼내는게 좋을 것 같다.
딥러닝 모델로 알려진 알파고가 나오기 전에는,
바둑은 알고리즘의 정복영역이 아니었다.
그러나 딥러닝은 이를 완전히 새로운 방식으로 접근했다. 가령 모델이라 함은 f(x)라 정의할 수 있다.
임의의 데이터셋에 대하여
$ax^2+bx+c=f(x)$
처럼
차수와 계수를 끊임없이 조절하며 가장 부합하는 함수를 찾는 기법, 즉 '커브 피팅(Curve Fitting)'가 그 해답이었다.
이 과정을 전산적으로 표현한다면?
바로 '행렬곱'으로 표현할 수 있다.
행렬은 행렬이고, 함수는 함수지..
나는 머리가 나빠서,
행렬로 f(x)를 다루는게 처음에는 이해가 안되었다.
행렬을 이용하여 연립방정식의 해를 구하는 방법을 배우기 전까지 말이다.
어쨌든,
이렇게 차수와 계수를 늘림은 차원과 원소의 수치를 조절한다는 것을 의미한다. 학습데이터라 불리우는 이 행렬(벡터 스페이스)은 모델이 된다.
이제 이렇게 '학습된' f(x)는 임의의 데이터에 대하여
얼마나 핏(Fit)한지 아닌지를 통해 모델의 점수를 평가할 수 있다.
즉, 점수가 높은 값들로 하여금(Reward를 많이 받은 쪽) 점점 최대한 데이터셋에 근사할 수 있는 f(x)를 결정 할 수 있게 되는 것이다.
이러한 귀납적 방법은 바둑이라는 정복 불가능의 영역에 대한 실마리를 보았다. 참고로 기존 전산에서 컴퓨팅의 패러다임은 '연역적'이었다.
이 원리를 통해, 바둑돌의 착수 순서와 위치에 따른 승률의 상관관계를 벡터스페이스 상에 학습시켜두면, 그 학습량의 규모에 따라 '거의 모든 수'에 대한 승률을 알고 따라갈 수 있는 모델이 되는 것이다.
이 모델이 바로 <알파고>
이 정복 불가능해 보였던 바둑을 벡터스페이스로 옮기는 것에 성공했다. 이른바 '특이점(Singularity)'의 공포를 몰고온 시절이었다.
더욱 깊어지기 전에 다시 본론으로 돌아가서,
그래서 이게 'GPU와 무슨 상관이냐' 싶을 수가 있다.
지금 인공지능과 관련된 것은 모두가 이 '행렬곱'과 연관이 있다. 또한, 이는 CPU로 불가능 한 것은 아니라는 뜻이다.
이와 같은 행렬들의 곱을 처리한다고 하면
CPU(중앙 처리 장치)는 'ae + bg + cf + dh'와 같이 각 단계가 복잡하지는 않더라도, 전체 연산을 완성하기 위해서는 CPU 특유의 길고 지루한 연산을 '직렬'로 반복해야 한다. 이게 바로 CPU로 행렬곱을 처리하면서 발생하는 '병목'지점이다.
반면 GPU(그래픽 처리 장치)는 본래 그리드로 된 화면 위에서 각 좌표의 픽셀 색상을 동시에 처리하기 위한 도구였다.
태생부터 이른바 벡터 계산에 최적화되어 있었다.
무수히 쏟아지는 행렬곱을 한 번에 병렬로 처리하기에
CPU보다 압도적으로 효과적이었다.
이렇기에 벡터 스페이스 처리에 최적화된 연산도구가
CPU가 아닌 GPU가 된 것이다.
다음으로 LLM(Large Language Model)에 대해 이야기 할 필요가 있다.ChatGPT, Gemini, Claude와 같은 오늘날 인공지능이라 하면 LLM모델을 통칭하는 것이나 마찬가지기 때문이다.(엄밀히, LLM은 인공지능의 영역이지만 완전한 AI로 보기는 어렵기는 하다.)
당연하게도 LLM이전에 LM(Language Model)은 있었다.바로 언어모델이다.
기존에는 간단했다.
'안녕하세요' 라고 물으면 '반갑습니다' 라고 답하는
정해진(static한) 대로 답을 하는 모델이 있었다.
여기서 조금 더 나아간게,
형태소 분석을 통한 단어들의 tokenizing, 이를 활용하여 벡터로 정규화한 BoW, 여기서 코사인 유사도를 이용하여 유사한 문장을 찾는 식으로 LM을 구현 가능하다.
유사한 문장을 찾는다는 것은, 거기에 대응되는 값을 찾는다는 뜻이며 이는 정의된 범주 내에서의 의미론적 해석으로 볼 수 있다.정의역 내에서 가장 적절한 대응값으로 연결해주는 방식이며 과거의 챗봇이 이러한 형태였다.
LLM은 이 벡터스페이스의 스케일을 아주 거대하게 천문학적으로 키운것이다. 단어들간의 위상을 벡터로 정의해두고, 알파고에서 착수순서에 따라 확률순서를 예측하듯, 다음 단어의 순서를 예측하는 모델을 만들었다.
바로 Transformer 모델이다.
이것으로 무엇을 하냐? 문장의 빈칸채우기를 하는, Text completion을 수행한다.
그러다가 누군가가 아이디어를 냈다.
이거 스케일을 엄청 거대하게 키우면, 문장완성을 잘하게 되는거 아니야?
그래서, GPT라는게 등장한다.
GPT란, Generative Pretrained 'Transformer'
Transformer모델인데, 미리 학습되어져 있는 녀석이다. 그리고 이 모델을 쓰면 결과가 '생성되는 것 처럼' 결론을 도출해내더라, 그것이 바로 GPT다.
그런데 또 어떤 똑똑한 양반이
'그럼, 사람들간의 대화를 학습시키면 질문에 답변을 하는 모델도 완성할 수 있지 않을까?' 수~~~많은 대화를 학습시키면 질문에 대한 답변도 하는 녀석이 되지 않을까? 했던게 바로 '대화형 모델', ChatGPT이다.
[참고] 창의성이라는 이름의 낯설음
이 과정에서 '하이퍼 파라미터'라는 개념이 개입한다.
Text Completion에서 무조건 확률이 가장 높은 다음 단어만 예측하게 두면 너무 당연하고 재미없는 소리만 나오게 된다.
이때 Temperature 값을 조절하여 확률적으로 낮은(낯선) 단어가 배치되도록 유도하면 인간이 보기엔 굉장히 낯설고 새로운 문장이 탄생한다. 우리는 이를 두고 "AI가 창의성을 발명했다"며 환호했지만, 기술적 회고 시점에서는 이 역시 정교한 확률 조절의 산물로 보인다.
놀랍게도 파라미터의 사이즈를 키우고, 스케일을 키울때마다 LLM이 똑똑해지더라는 것이다.
스케일링의 황금기가 온것이다.
어느정도로 똑똑해지나 하니,거의 모든 것에 합리적으로 대답하는 수준까지 이르렀다는 것이다.
이는 바꿔말하면 컴퓨터는 결국 API 호출로 이루어지는데, 답변을 단순 텍스트를 넘어서 명령어(Command)로 제출하게 되고 해당 값을 트리거하게되면 명령실행까지 가능하고 결론적으로 '전산적으로' AI가 사고 및 행동을 할 수 있게 된 것이다.
이 시절이 오기까지, 수많은 빅테크의 투자가 있었는데
자본을 태우면 태울수록 모델이 똑똑해지는, 새로운 시대가 열린것이다.
이를 두고 오픈AI의 CEO인 샘 올트먼은 '맨해튼 프로젝트'급이라며 호들갑을 떨기도 했다.
아무튼 이 스케일링 과정에서 파라미터의 크기를 늘려갔는데, 7B(Billion) -> 16B -> ... -> 70B에 이르러 창발성이 폭발했다.
지금 보면 이정도 규모도 애기수준이지만, 이때까지만 해도 스케일링 곡선이 '우상향' 하는 것처럼 보였다.
(또한, 지금와서야 느끼는 점이지만 이 곡선은 실제로는 시그모이드 곡선이었고 지금은 어떤 고지 단계(plateau)에 임박한 것으로 보고되고 있다.)
어찌되었던 이러한 스케일링은 천문학적인 수요를 발생시켰고 GPU의 수요는 넘쳐나게 되었다.
단숨에 젠슨 황은 세계 10대 부자가 되었다.
AI가 발전함에 따라, 자연히 GPU의 수요가 늘어난 것이다. 아직까지는 GPU이야기만 하고있다.
그래서 RAM값 폭등이랑 이게 무슨 상관이야?
이제 잠시 GPU의 이야기를 하겠다.
GPU(Graphics Processing Unit)은 본디 'Processing', 즉, 연산하는 영역이다.
그렇기에 연산부와 메모리는 끊임없이 데이터를 주고 받아야 한다.
비유하자면 이런거다.
우리가 수학계산을 할때, 머릿속으로 '계산'하는 부분이 있고 노트위에 '적는' 부분이 있다. 머릿속의 역할이 '연산'이고 노트의 역할이 '기억->메모리'의 역할이다.
그런데 여기서 치명적인 문제가 발생하게 된다.
GPU에서 아무리 연산을 빨리 끝내도, 메모리로 데이터를 보내고 다시 가져오는 채널(통로)에서 병목이 생긴다는 점이다.
또한 채널의 전송 속도를 아무리 늘려봤자 메모리 측에서 그 속도를 받아주지 못하면 무용지물이었다.
어떻게 해결할 수 있을까?
채널을 없애버리는 것은 어떨까?
드라마 카지노에서 최민식이 초반 어떻게 성공했는가.
'마, 뭘 저렇게 쓰리 쿠션을 해? 우린 그냥 캐시로 줘도 돼'
그런데, 채널을 없앤다고 해도, GPU인접에 지금의 집적도로는 '고사양 메모리'를 배치할만한 물리적 공간이 나오지 않았다.
여기서 또다른 똑똑이가 해결책을 냈다.바로 HBM(High Bandwidth Memory) - 고대역폭 메모리로 말이다.
HBM은 이것을 어떻게 해결했냐면, 집적도를 높인 것이 아니라, 위 아래로 타워처럼 쌓는 방식을 했던 것이다.
GPU의 입장에서 보면 현재의 물리적 제약을 해결해주는 아주 좋은 해법이 되었던 것이다.
즉 이러한 배경속에서
AI에 대한 빅테크의 투자가 늘어나고 ->
GPU에 대한 수요가 증가하고 ->
HBM과 같은 메모리의 수요도 함께 증가하게 된다.
다만 HBM은 기존, '수익성 낮은 비싼 삽질'이라는 인식이 있었다. 비유하자면 페라리를 뽑는 것이다.
작금의 흐름속에서 HBM의 수요는 적당히 증가한게 아니라 '아주 많이, 천문학적으로' 증가한 것이다.
그럼 전세계의 반도체 공정은 어떻게 되겠는가?
큰 지각변동이 발생하게 된다.
원래의 반도체 공정들은 페라리를 생산하는 곳이 아닌
일반 아반떼를 생산하는 공정이었다.
나같은 겜돌이 서민들이 소비하는 DRAM, NAND와 같은 반도체를 만들던 곳이라는 말이다.
그런데 이제 기업 입장에서는
나같은 소비자들의 코묻은 돈 벌겠다고 공장 돌리는 것 보다 없어서 못 파는 페라리(HBM)에 집중하는 것이 훨씬 이득이다.
물 들어왔을 때 노 젓는다고,
당장 HBM 생산공정으로 전환하게 된것이다.
어렵게 생각할 것 없이 이는 누가 시켜서라기 보다는
애덤스미스가 말한 수요와 공급의 곡선, 보이지 않는 손
그 손이 HBM을 만들도록 요구하였다고 보면 될 것 같다.
다른 나라 이야기가 아닌게 코스피 5000을 견인했던 하이닉스, 삼성의 그 압도적인 실적 배경에는 바로 이 'HBM' 판매가 있었다.
그럼 이제 무슨일이 벌어지는가?
AI의 수요가 증가했다고, 나같은 겜돌이들의 수요가 감소하는가? 전혀 아니다. 동일하다.
공급은 기하급수적으로 떨어졌으나, 수요는 동일했다.
그럼 어떻게 될지는 뻔하다. '칩플레이션', 이른바 메모리 가격 폭등의 시대가 오게 되는 것이다.
결론,
지금 DDR5 메모리의 가격은 기존 출시가 대비 5~10배정도 폭등하게 된 것이다.
[E.o.F😛]
댓글 0