아키텍처의 전환을 말하면서 왜 또 메모리인가?
[유안타증권 반도체 백길현] ■ AI 아키텍처 전환 & 중국 Ⅰ. Computing 방식의 진화 - AI 전용 칩에 대한 관심이 빠르게 확대되고 있음에도 불구하고, 상용화 단계에서는 시장 성숙도가 낮은 편. 그럼에도 불구하고, Customized Chipset에 대한 높은 수요는 중장기적으로 지속될 가능성이 높을 것으로 전망. 기업들이 외부 칩셋 공급자에 전적으로 의존하지 않고, 자사의 모델과 서비스에 최적화된 연산 구조를 확보하려는 ‘연산 주권(Compute Ownership)’ 확보 의지가 지속될 것으로 예상하기 때문. HPC, Mobile, Edge/IoT 등 다양한 연산 계층에 따라 구조와 성능 요건이 크게 달라지고 있다는 점을 주목. Ⅱ. Computing 회로의 아키텍처 전환 - DeepSeek는 AI가 스스로 사고의 경로를 설계하고 피드백을 통해 추론 구조를 재구성할 수 있다는 '자기학습(Self-Learning)' 아키텍처의 실현 가능성을 입증하며, 업계에서 'AI의 6번째 감각(Sixth Sense)'이라 불리는 직관(Intuition) 개념을 기술적으로 구체화. - ‘추론기와 학습기의 통합’, ‘온디바이스’, ‘파인튜닝’, ‘다층 메모리 구조’, ‘이질적 연산 자원의 통합’ 등 하드웨어적 뒷받침 없이는 구현이 어려울 것이며, 향후 AI 칩셋 설계, 메모리 계층 구조, 그리고 시스템 아키텍처 전반에 걸쳐 새로운 전략 좌표로 작용할 것 - 초거대 모델의 학습과 추론 과정에서 발생하는 진정한 병목은 연산기 내부가 아니라, 데이터가 이동하는 경로, 즉 연산–메모리–I/O 간 연결 구조에서 발생. AI 칩의 기술 경쟁력은 ‘계산을 잘하는 칩’이 아니라 ‘데이터를 잘 흐르게 만드는 시스템’에서 갈리고, 이러한 변화 속에서 AI 반도체의 회로 구조는 세 가지 핵심 축을 중심으로 진화 중. Ⅲ. 중국 반도체 산업, 그리고 한국 - 중국 IC Big Fund 3기는 선별적 투자와 기술 중심 자립화를 명확한 기조로 내세우고 있음. 2025년 하반기 지나면서 중국 메모리 반도체 산업은 또 한 번의 설비 투자 확대 사이클에 진입할 것으로 전망. CXMT의 IPO 가능성이 제기되는 점도 고려해야 한다는 판단. - 향후 첨단 반도체 공정으로의 진입에서 가장 결정적인 제약 요인인 EUV는 5년 이상의 장기 시계열로 봤을 때 중국 반도체 산업의 진화 경로를 좌우할 구조적 변수로 작용할 가능성이 클 것. 중국은 중단기적으로는 Multi-Patterning 스텝 증가와 소재 공정 정밀화, 검사/계측 장비 수요 확대 등을 통해 기술 공백을 메우려는 시도를 이어갈 것으로 전망. - 중장기적 관점에서 한국 반도체 산업은 선단공정 경쟁력을 바탕으로 글로벌 공급망 내 핵심 지위를 유지할 것으로 전망한다. ‘AI 서비스 및 Physical AI’를 포함한 시장 성장 → AI 아키텍처 전환’에 따라 메모리 반도체의 구조적 수혜가 지속될 것으로 기대하기 때문. - 메모리 반도체 업종에 대한 비중 확대 의견을 유지하며, Top Pick으로는 SK하이닉스를 유지한다. 고부가 제품 중심의 시장 수요 변화에 가장 전략적으로 대응하고 있는 역량이 차별화 요인이라는 점을 지속 주목.
2024년을 기점으로 AI가 산업 구조를 재편한다는 담론은 이제 하나의 상식처럼 받아들여지고 있다. 챗GPT로 촉발된 생성형 AI 전쟁은 기술 기업뿐 아니라 반도체 산업 전체에 지각변동을 몰고 왔고, 시장은 이에 대한 투자 논리를 찾기에 바쁘다. 그러나 이런 격동 속에서도 여전히 논리적 비약과 구조적 왜곡이 반복되고 있다. 최근 유안타증권이 발표한 'AI 아키텍처 전환과 메모리 반도체 수혜' 보고서가 대표적 사례다. 이 보고서는 AI 반도체 아키텍처의 진화를 자세히 분석하면서도, 결론은 다소 뜬금없게도 "SK하이닉스 비중 확대"로 귀결된다. 이 칼럼은 바로 그 논리의 비약을 짚어본다.
■ AI 아키텍처 전환은 무엇을 의미하는가
보고서 전반부는 충분히 흥미롭고 논리적이다. AI 연산은 더 이상 단순한 계산이 아니라, 연산-메모리-I/O 간 데이터 흐름 최적화의 문제다. 초거대 언어모델이 등장하고, 디지털 트윈·자율주행·로봇 등 물리 기반 AI까지 아우르면서, 병목 현상은 '계산 속도'가 아니라 '데이터 이동 구조'에서 발생한다. 이는 곧 GPU 중심의 연산기 구조를 넘어서, 메모리와 연산 자원을 통합하거나 커스터마이징하는 새로운 시스템 구조로의 전환을 의미한다.
대표적인 예로는 엔비디아의 Grace Hopper 슈퍼칩, 테슬라의 Dojo, 구글의 TPU, 아마존의 Trainium 등이 있다. 이들은 단순히 고성능 칩이 아니라, 각자의 AI 모델과 워크로드에 최적화된 연산-메모리 구조를 자체 설계함으로써 'Compute Ownership(연산 주권)'을 실현하고 있다. 이처럼 AI 아키텍처 전환은 설계 주권의 전쟁이며, 칩의 종류보다 시스템 설계 능력이 본질이다.
■ 그런데 왜 결론이 또 메모리인가?
이제 문제는 후반부다. 이렇게까지 구조적인 연산 흐름의 전환을 강조해놓고, 보고서는 돌연 '한국은 메모리 강국이므로 SK하이닉스에 주목해야 한다'는 결론을 내린다. 물론 HBM(고대역폭 메모리)이 AI 연산 병목 해소에 중요한 역할을 하며, SK하이닉스가 HBM3e 공급 확대를 통해 수혜를 입을 가능성은 존재한다. 그러나 이건 어디까지나 "일부 부품 공급자로서의 참여"이지, 아키텍처 전환의 주도권을 쥐었다는 의미는 아니다.
보고서는 'AI의 병목이 메모리로 옮겨갔기 때문에 메모리가 핵심이다'라고 말하지만, 진짜 핵심은 병목이 "해결되는 방식"에 있다. 병목은 단순히 DRAM 용량이 늘어나서 해결되는 것이 아니라, 연산기와 메모리의 통합 설계, 인터커넥트 최적화, 그리고 소프트웨어-하드웨어 협업 구조 안에서 해소된다. 다시 말해 메모리는 구조적 전환의 일부이지, 주체는 아니다.
■ 한국 반도체 산업은 어떻게 대응해야 하는가
그렇다면 한국 반도체 산업의 위치는 어디일까. 결론부터 말하자면, HBM 시장에서의 선점은 분명한 경쟁력이며, 이를 기반으로 AI 수요 수혜를 입을 가능성은 높다. 하지만 이 구조를 지속가능하게 만들려면, 단순 부품 납품을 넘어서 'AI 시스템 설계 생태계'로의 확장이 필수다. 퀄컴이 NPU, ARM이 AI SoC를 설계하듯이, 메모리 중심 기업도 연산 구조 설계에 참여하거나, 적어도 연산-메모리 통합 아키텍처에 대한 주도권을 확보해야 한다.
지금과 같은 공급 체계에서는 여전히 시스템 반도체는 미국, 메모리는 한국·대만이라는 이분법이 유지된다. 이 구조에서는 AI 시대가 도래하더라도 한국은 주체가 아니라 '참여자'로 남게 된다. 설계-패키징-연산 최적화-전력 관리까지, 새로운 아키텍처 전환의 핵심 축에 직접 뛰어드는 전략이 필요한 이유다.
■ 맺음말: "AI 아키텍처 전환"이라는 프레임을 소비하지 말고, 설계하라
리서치 보고서의 목적은 종목 추천일 수 있다. 그러나 AI 아키텍처 전환이라는 중대한 담론을 단지 메모리 반도체 수요 확대의 서브텍스트로 소비하는 것은 전략적 오류다. 진정한 구조적 전환은 "데이터를 빠르게 흐르게 하는 설계"를 누가 하느냐에 달려 있다. 시스템 반도체 강국이 아닌 한, AI 시대는 또 한 번의 기회를 놓치는 시대로 전락할 수 있다. 지금이야말로 프레임을 소비할 때가 아니라, 직접 설계할 때다.