FMS, 기존 명칭은 Flash Memory Summit, 매년 8월 미국 캘리포니아주 산타클라라 컨벤션 센터에서 열리는 세계 최대 규모의 메모리 및 스토리지 산업 전문 글로벌 컨퍼런스입니다. 하지만 2024년 1월 리브랜딩을 감행합니다. 바로 Future of Memory and Storage (FMS). 18년을 써온 이름을 바꾼건 AI 시대 메모리가 가진 위상 변화에 대한 예고편이었습니다. 플래시를 넘어 메모리와 스토리지 산업 전반을 다루겠다는 것이었죠.

그 당시의 상황을 되짚어볼 필요가 있습니다. GPU 수요가 정점을 지나는 것 아니냐는 논쟁이 있었고, 학습보다 추론이 시장을 끌게 된다는 전망이 있었으며, 하이퍼스케일러의 자체 칩이 엔비디아를 위협할 것이라는 이야기가 나오던 무렵입니다. 대부분의 시장 참여자는 이 전망들에 고개를 끄덕였지만, 나중 일로 치부했습니다. 메모리가 AI 인프라의 진짜 병목이 된다는 이야기는 희망사항처럼 들렸죠.

2년이 지난 지금, 당시의 내러티브는 대부분 현실이 되었습니다. 추론 워크로드가 인프라 투자의 방향을 결정하고 있고, 빅테크의 자체 개발 칩은 실제 배치 단계에 들어섰으며, 메모리는 15년 만의 공급 부족과 기록적인 계약가격 상승을 겪는 중입니다. 그만큼 FMS 행사의 위상도 훌쩍 높아졌습니다.

지난 8월 4일부터 6일까지 산타클라라 컨벤션센터에서 열린 FMS 2026에서 확인한 것은, 단순히 메모리월을 넘을 수 있느냐를 넘어 어떤 방식으로 극복하고 있느냐에 대한 답이었습니다. 스무 번째를 맞은 이 행사에는 사흘간 3,500명 이상이 다녀갔고, 350명 넘는 발표자가 세션을 채웠습니다. 이번 Dispatch에서는 현장에서 확인한 일곱 개의 메시지를 정리하고, 반도체 투자자라면 눈여겨 봐야할 인사이트를 짚어보고자 합니다.

모두가 KV cache를 언급합니다

세션을 옮겨 다니며 가장 먼저 확인한 것은 발표 주체를 불문하고 설명의 출발점이 거의 같았다는 점입니다. 메모리 업체든 컨트롤러 업체든 시스템 업체든, 자사 제품의 존재 이유를 KV (Key Value) cache에서 끌어왔습니다.

KV cache는 추론 과정에서 이전 토큰들의 계산 결과를 담아두는 단기 기억입니다. 모델이 답을 만들 때마다 앞선 문맥을 처음부터 다시 계산하지 않으려면 이 값을 어딘가에 들고 있어야 하는데, 컨텍스트가 길어지고 대화가 여러 턴 쌓이고 에이전트가 여러 단계의 작업을 연쇄로 돌릴수록 이 캐시가 급격히 커집니다.

여기서 중요한 것은 이 문제가 GPU를 더 사는 방식으로 깔끔하게 풀리지 않는다는 점입니다. HBM은 가속기 패키지에 본딩되어 나오기 때문에 메모리만 따로 늘릴 수가 없습니다. 메모리를 늘리려면 가속기를 더 붙여야 하고, 그 순간 연산 자원은 남는데 메모리 때문에 GPU를 사는 상황이 됩니다. 실제로 통상적인 구성에서 HBM 용량은 모델 가중치와 KV cache, 그리고 작업 공간이 나눠 쓰는데, 이 중 어느 하나가 커지면 나머지가 밀려납니다.

Read more

온탕의 온도는 보통 38~40°C입니다. 대부분의 사람이 15분 이상 몸을 담그기 어려운 정도의 열기죠. 그런데 엔비디아가 최근 공개한 차세대 AI 서버 루빈 세대는, 그 핫텁보다 뜨거운 45°C의 냉각수로 칩을 식힙니다. 상식적으로는 뜨거운 물로 뜨거운 칩을 식힌다는 게 앞뒤가 맞지 않아 보이지만 이러한 역설이 7월부터 하이퍼스케일러에 배치되기 시작한 엔비디아 루빈에게 기대 이상의 에너지 효율 도약을 안겨주었습니다.

이유는 단순합니다. 냉각수 온도를 높일수록, 그 물을 다시 식히는 데 드는 에너지가 줄어들기 때문입니다. 냉각수가 45°C까지 견딜 수 있으면, 상당수 기후에서는 별도의 칠러(chiller) 없이 바깥 공기와 드라이쿨러만으로 열을 버릴 수 있습니다.

엔비디아의 데이터센터 냉각·인프라 담당 디렉터 알리 헤이다리(Ali Heydari)의 표현을 빌리면, 엔비디아 DSX 레퍼런스 디자인은 물 소비가 사실상 제로이고, 대개 1년 중 1% 정도의 극한 기간에만 칠러를 돌리면 되는 자기 완결성 시스템입니다.

몇 년 전만 해도 액체냉각은 슈퍼컴퓨터나 초고밀도 HPC 클러스터에서나 쓰던 특수 기술이었습니다. 지금은 가장 앞선 AI 서버 설계의 기본값이 되어 있습니다. 그리고 그 변화의 한복판에서, 한때 액체냉각의 미래로 불리던 침지냉각(immersion cooling)의 자리가 오히려 애매해지는 흥미로운 역전이 벌어지고 있습니다. 이번 호는 그 변화의 전모를 따라가 봅니다.

서밋에서 루빈까지, 8년의 성숙 곡선

이야기는 2018년 오크리지 국립연구소의 슈퍼컴퓨터 서밋(Summit)에서 출발합니다. 콜드플레이트인 냉판을 통해 물이나 글리콜을 순환시켜 칩을 직접 식히는 Direct Liquid Cooling (DLC)은 이 무렵부터 이미 HPC 세계의 표준이었습니다.

서밋과 그 뒤를 이은 프론티어(Frontier) 같은 엑사스케일 머신들은 모두 수랭식 랙 위에서 돌아갔습니다. 반면 서버 전체를 비전도성 유체에 통째로 담그는 침지냉각은 한참 뒤처져 있었습니다. 2021년 ASHRAE가 액체냉각 백서에서 누액 위험과 표준 부재를 경고할 때만 해도, 침지냉각은 금융권 서버나 통신 장비처럼 틈새 시장에 머물러 있었습니다.

Read more

추론 (Inference)

요즘 반도체 시장에서 메모리와 함께 가장 핫한 단어 중 하나입니다. 엔비디아의 그록(Groq) 인수, 세레브라스의 성공적인 IPO, 그리고 엔비디아에 도전장을 낸 기업들의 펀딩 레이스까지, 2025년 시장의 중심 용어가 ASIC이었다면 2026년 현재 AI 트렌드를 이끌어가는 흐름은 오픈소스, 풀스택, 그리고 에이전트 및 추론 수요인 것입니다.

그런데 우리는 이 추론에 대해 얼마나 알고 있을까요? 특히 비전문가의 입장에서 추론 수요는 도대체 무엇을 의미하며 어떤 지점에서 가장 효용성을 발휘하는 것인지 아직도 직관적이지 않은 느낌이 있습니다. GPU보다 몇 배 빠르다는 벤치마크 숫자는 넘쳐나지만, 그 속도가 어떤 기능을 가능하게 하는지, 그리고 왜 어떤 기업에는 맞고 어떤 기업에는 맞지 않는지는 잘 설명되지 않습니다.

그래서 오늘 뉴스레터에서는 하나의 대표적인 실제 도입 사례를 거울삼아 이 질문에 접근해 보려 합니다. 바로 금융 리서치 플랫폼 알파센스(AlphaSense)가 2025년 세레브라스(Cerebras)의 칩을 도입한 사례입니다.

투자 자료를 검토해 본 사람이라면 알 것입니다. 수백 건의 공시, 실적 발표 내용, 애널리스트 리포트를 하나씩 열어보며 필요한 문장을 찾아내는 작업이 얼마나 지난한지 말입니다. 알파센스는 4주에서 6주가 소요되는 이 과정을 단 20분 안에 끝낼 수 있다고 강조합니다. 5억 건에 달하는 문서를 상대로 애널리스트가 실시간으로 후속 질문을 던지고, 시스템은 초 단위로 답을 돌려줍니다.

이러한 서비스의 질적 변화는 상당 부분 소프트웨어가 아니라 하드웨어의 개선에서 비롯되었다는 점이 흥미롭습니다. 알파센스는 2025년 3월 세레브라스와 파트너십을 맺고 자사 추론 워크로드의 핵심을 이 회사의 칩으로 옮깁니다. 회사 발표에 따르면 추론 속도는 약 10배 빨라졌고, 같은 시간에 처리하는 문서량은 100배 가량 늘었습니다. 흥미로운 점은, 오픈AI가 같은 칩을 도입한 것은 그로부터 1년이나 지난 뒤였다는 사실입니다. 이 시차 안에 추론 칩 시장의 작동 원리가 압축되어 있습니다.

왜 알파센스였나: 워크로드 수요, 그리고 타이밍

알파센스는 공시, 실적 트랜스크립트, 셀사이드 리서치, 전문가 콜을 아우르는 금융 리서치 플랫폼으로, 블룸버그와 CapitalIQ를 이은 차세대 서비스로 떠오르는 곳입니다. 2025년 말 ARR $500Mn을 돌파하며 전년 대비 73% 성장했고 지난달에는 비상장 기업가치가 $7.5Bn을 넘어섰습니다.

이 서비스를 쓰는 사람들은 애널리스트, 뱅커, 시장 전문가처럼 정보를 읽고 종합하는 데 하루의 상당 시간을 쓰는 전문가들입니다. 바로 이 고객들의 데이터 사용 및 분석 업무 성격이 세레브라스의 장점과 잘 맞아떨어진 것입니다.

알파센스가 2025년 초 주목한 것은 단순 검색을 넘어선 “에이전틱(agentic)” 리서치로의 전환이었습니다. AI 에이전트가 스스로 여러 단계의 리서치를 수행하고 수백만 건의 문서를 교차 분석해 애널리스트 수준의 결론을 만들어내는 방향이죠. 2025년 2월 오픈AI가 ‘딥리서치’를 출시하며 처음 대중화시킨 기능합니다.

Read more

이제 웨이모(Waymo) 서비스는 실리콘밸리를 일컫는 Bay Area 지역 어디에서도 이용할 수 있는 서비스가 되었습니다. 샌프란시스코에서 산호세 전역으로 서비스 범위를 넓히며 ‘고속도로’ 주행도 더이상 웨이모에게 장벽이 되지 못합니다.

문제는 따로 있습니다. 집에서 웨이모 서비스를 이용하고자 앱을 열면 차량 도착 예정 시간이 30분으로 찍힙니다. 물론 유동인구가 많지 않은 산호세 남쪽 주거지역이란 특수성은 있습니다. 샌프란시스코 공항에서 차량을 호출하면 15분 정도 웨이팅 시간이 뜨기는 합니다.

이 한 장면이 2026년 웨이모의 상황을 압축해서 보여줍니다. 첫 3번 승차 20% 할인 쿠폰까지 뿌리며 이용객들을 끌어들이려 하지만, 아직까지 운행 차량의 수는 도심 지역을 커버하기에는 턱없이 부족합니다. 수요는 확인했는데 공급이 그 수요를 따라가지 못하는 상황, 이 비대칭은 더 이상 소프트웨어의 영역이 아닙니다.

미국에서는 이미 일상 서비스가 되어가고 있는 로보택시 서비스, 2026년 웨이모가 직면한 과제는 과연 무엇인지 이번 뉴스레터를 통해 풀어보고자 합니다.

2026년 웨이모의 현 주소

2026년 상반기 현재 웨이모는 상용 자율주행 서비스에서 가장 앞서 있는 사업자입니다. 2026년 1월에는 마이애미에서 일반 승객 탑승을 시작했고, 3월 말 기준 미국 10개 도시에서 주당 50만 회를 넘는 완전자율주행 승차를 제공했다고 공식적으로 밝혔습니다. 6월 말 기준 웨이모 앱 직접 서비스 도시는 댈러스·휴스턴·로스앤젤레스·마이애미·내슈빌·올랜도·피닉스·샌안토니오·샌프란시스코 베이 지역이며, 오스틴과 애틀랜타는 우버 앱을 통해 호출이 가능합니다. 직접 앱 9개 도시와 우버 연동 2개 도시 구조가 형성된 셈입니다.

Read more

그리고 머피는 세 번째를 지목했습니다. 연결, 인터커넥트입니다. 이유는 단순합니다. 컴퓨팅 성능이 좋아지는 속도가 그 컴퓨팅들을 서로 잇는 네트워크가 좋아지는 속도를 앞질러 버렸기 때문입니다. 칩은 빨라졌는데, 칩과 칩 사이가 그 속도를 못 따라갑니다. 수만 개의 가속기가 데이터를 기다리며 놀고 있다면, GPU를 아무리 더 사들여도 소용이 없습니다.

그 한복판에 60년간 인터커넥트의 핵심이 된 소재 하나가 있습니다. 구리입니다. 컴퓨팅의 거의 모든 신호를 실어 나른 기본 배선재였죠. 그런데 AI 클러스터가 요구하는 데이터 속도에서, 구리는 물리 법칙의 벽에 부딪힐 것이라는 전망은 일찌감치 제기되었습니다. 속도를 올릴수록 신호가 갈 수 있는 거리가 짧아집니다. 어느 지점을 넘으면 같은 랙 안에서조차 안정적인 연결을 만들지 못합니다. 더 빠른 모델, 더 큰 클러스터를 원할수록 문제는 보다 심각해집니다.

그래서 2026년, 구리를 대신할 기술들이 한꺼번에 경주마에 올라탄 원년이 되었습니다. 데이터를 빛으로 바꿔 보내는 실리콘 포토닉스(silicon photonics), 광 전환 단계를 건너뛰고 테라헤르츠(THz) 전파를 와이어에 직접 싣는 방식, 그리고 마이크로LED와 유리 기판까지. 2026년은 이 중 몇 가지가 로드맵 슬라이드에서 실제 출하 제품으로 넘어온 해입니다.

이번 프라이머가 던지려는 진짜 질문은 “어느 기술이 이기느냐”가 아닙니다. 엔비디아도, 브로드컴도, 마벨도 같은 스위치 제품군 안에 여러 방식을 동시에 실어 출하하고 있습니다. 가장 많은 이해관계가 걸려 있는 회사들조차 여러 대안들을 테스트하고 있다는 뜻이죠. 그러니 우리가 봐야 할 것은 승자 한 명이 아니라, 이 전환이 누구의 매출로 흘러 들어가는가입니다.

병목이 옮겨가면, 자금도 옮겨갑니다. 이번 편은 그 자금들이 향하는 좌표를 그려보는 작업입니다.

왜 지금인가: 구리의 벽

구리가 데이터를 나르는 방식은 전선에 전압을 거는 것입니다. 이미 광범위하게 검증된 방식이지만, 주파수와 거리가 올라갈수록 신호가 비선형적으로 망가진다는 단점이 있습니다. 매트 머피가 컴퓨텍스에서 제시한 숫자가 그 윤곽을 가장 선명하게 보여줍니다. 구리는 레인(lane)당 100Gb/s에서 약 5m를 갑니다. 200Gb/s로 올리면 그 거리가 2.5m로 줄고, 400Gb/s에 도달하면 같은 랙 안에서조차 신뢰할 수 있는 연결을 만들지 못합니다.

Read more

요즘 반도체·AI 대화의 거의 전부는 메모리입니다. DRAM 슈퍼사이클, 분기 사상 최고 실적, 마이크론의 1조 달러 시총 등극까지.

그 사이 올해 초까지 헤드라인을 쥐고 있던 휴머노이드 로봇은 잠시 쉬어가는 모양새입니다. 하지만 트랙은 돌고 있습니다. 가장 가시적인 신호는 중국 유니트리 로보틱스(Unitree Robotics)의 상장입니다.

• 상하이 증권거래소가 2026년 3월 20일 STAR Market 상장 신청을 수락했고, 조달 목표는 약 6억 달러입니다. 본토 상장 휴머노이드 순수 종목으로는 UBTech에 이어 두 번째이자, 이익을 내고 있는 회사 기준으로는 사실상 첫 사례입니다.

• 2025년 매출은 전년 대비 335% 증가, 휴머노이드의 매출 비중은 2023년 1.9%에서 2025년 51.5%로 성장했고, 같은 해 휴머노이드 5,500대를 출하해 글로벌 1위를 주장합니다.

이번 주 미국의 투자은행 윌리엄 블레어(William Blair)는 Race to Infinite Labor: The Humanoid Hypothesis라는 43페이지짜리 산업 리포트를 내놓았습니다. 시장의 시선이 메모리로 쏠린 사이, 자본·기술·정책은 휴머노이드 쪽에서도 꾸준히 움직이고 있다는 것을 정리해 주는 자료입니다.

이번 호는 그래서 휴머노이드 로봇 분야에 대한 가벼운 온도 점검을 겸한 정리입니다. 거창한 재평가나 예측은 빼고, 리포트가 짚어주는 두 개의 핵심 초크포인트, 그리고 이러한 병목들이 풀려가는 앞으로 몇 년간의 시간표를 정리해 보고자 합니다.

빅픽처: want가 아니라 need

본론으로 들어가기 전에 리포트의 출발점을 한 번 짚어두는 것이 좋겠습니다. 윌리엄블레어가 이 보고서에 붙인 부제목, ”무한 노동을 향한 경쟁 (Race to Infinite Labor)”에는 분명한 입장이 담겨 있습니다. 휴머노이드는 “있으면 좋은 것(want)”이 아니라 “있어야 하는 것(need)”이라는 주장이죠.

논리는 단순합니다. 경제 산출은 결국 에너지·노동·자본·생산성 네 가지로 단순화되는데, 지금 이 네 변수가 동시에 압박을 받고 있다는 것입니다.

• 에너지는 데이터센터 수요와 그리드 병목 탓에 빠르게 늘리기 어렵습니다. 변압기와 개폐기, 그리드 인터커넥트 모두 수년의 리드타임을 겪고 있죠.

• OECD 노년 부양비가 1980년 약 19%에서 현재 31%로, 2060년에는 50% 가까이로 올라가는 구조적 흐름 속에서 노동 가능 인력은 급속히 줄어들 것으로 예상됩니다. 미국 인구조사국 추계로 2034년이면 노년층이 아동 수를 처음으로 넘어섭니다. 중국은 더 가팔라서, 지난 5년(2020~2024) 평균 출산율이 1.08, 2024년에는 1.01에 그쳤습니다.

Read more

Space is a warfighting domain

ACT4Aero 3일차, 로런스 리버모어 국립연구소의 한 물리학자가 청중을 향해 강조한 문장입니다.

이 말을 공개적으로, 공식적인 녹화가 가능한 세션에서 해야 하는 시대가 되었습니다. 불과 몇 년 전만 해도 상상하기 힘들었던 표현입니다.

미국 전쟁부가 미래의 전쟁을 어떻게 인식하고 있는지를 단적으로 보여주는 선언입니다. 트럼프 정부가 그린란드를 바라보는 시각과도 본질적으로 일맥상통합니다. 잠재적 위협을 상정하고, 확장과 자강을 끊임없이 밀어붙이는 것. 이번 ACT4Aero의 세션은 미국 군사 엘리트들의 시선이 이미 우주 궤도와 그 너머까지 뻗어 있음을 확인시켜 주었습니다.

1편에서는 기술이 전장에 도달하지 못하는 제도적 병목과 피지컬AI의 본질적 한계를 다뤘습니다. 2편에서는 3일차의 두 핵심 세션을 전달합니다. 하나는 최근 스페이스X의 참전으로 뜨거워진 우주 궤도 위의 데이터센터라는 새로운 인프라, 다른 하나는 2030년 우주 전투 환경을 전제로 한 자율 시스템의 현주소입니다.

1️⃣ 궤도 위의 데이터센터: 공상과학이 아닌 비즈니스

In-Orbit Cloud Computing

궤도 데이터센터(Orbital Data Center, ODC)라는 개념을 처음 접하면 공상과학처럼 들립니다. 아마존 규모의 서버 팜을 로켓에 실어 올리는 그림이 떠오르죠. 이번 세션의 패널리스트들은 그 이미지를 정면으로 부정하는 것에서 시작했습니다.

패널은 이 분야의 핵심 플레이어들로 구성되었습니다.

• 보이저 테크놀로지(Voyager Technologies) 산하 레오클라우드(LeoCloud) 창업자 데니스 가텐스(Dennis Gatens)는 현재 국제우주정거장(ISS)에서 최초의 우주 클라우드 서비스를 운영 중입니다.

• 소피아 스페이스(Sophia Space)의 공동창업자 롭 디멜리오(Rob DeMillo)는 1미터 x 1미터 크기의 ‘타일’ 모듈에 4개의 서버를 탑재하는 방식으로 궤도 데이터센터를 구축하고 있습니다.

• 엔비디아의 DJ 부시(DJ Bush)는 전통적 임베디드 플랫폼부터 대형 ODC 아키텍처까지 전 스펙트럼을 지원하는 포지션을 담당합니다.

• 최근 유니콘에 등극하며 화제가 된 스타클라우드(StarCloud)의 필립 존스턴(Philip Johnston)은 우주 최초로 엔비디아 H100 GPU를 탑재한 위성을 발사한 경험을 공유했습니다.

• 구글 선캐처 프로젝트 산하 플래닛랩(Planet Lab)의 위성 설계팀 리더 키루티카 박사 (Dr. Kiruthika) 또한 세계 최대 지구관측 위성군 운영자의 관점에서 참여했습니다.

아마존 클라우드를 로켓에 싣는 것이 아니다

Read more

스튜디오를 이끄는 제이슨 한스버거(Jason Hansberger) 대령은 현역 수송기 조종사 출신으로, 국방장관실 펠로십을 거쳐 오토데스크(Autodesk)에서 디지털 트윈과 시뮬레이션 기술을 경험한 인물입니다. 학자가 아닌 현역 군 장성이 대학 안에서 기술 전환의 교두보를 운영하는 구조입니다.

해당 AI 스튜디오가 매년 주관하는 비공개 행사가 바로 ACT4Aero(AI and Compute Technologies for Aerospace Conference)입니다. 올해 3월 31일부터 4월 2일까지 3일간, 스탠포드 공과 대학에서 두 번째 행사가 열렸습니다.

• 공군연구소(AFRL), 특수작전사령부(SOCOM), DARPA, 우주군(Space Force), 공군시험센터(AFTC)가 후원 기관으로 이름을 올렸고

• 에드워즈 공군기지의 테스트 파일럿과 시험 엔지니어, DARPA·NNSA의 기술 책임자, Physical Intelligence·Northrop Grumman의 AI 연구진, 그리고 In-Q-Tel·Hanover 같은 국가안보 전문 투자사의 다양한 전문가들이 참여하였습니다.

학계, 정책 리더, 투자자라는 세 그룹을 한 자리에 모아 기술이 자금과 계약으로 이어지는 경로를 단축시키겠다는 것이 행사의 명시적 목표입니다.

이 행사가 더욱 주목받는 이유는 그 타이밍에 있습니다. 우크라이나 전쟁과 중동 분쟁을 거치면서, 현대전의 양상이 드론과 정밀 공중타격 중심으로 재편되고 있다는 사실은 더 이상 가설이 아닙니다. 저비용 무인기가 수십억 달러짜리 전통 자산을 무력화하는 장면이 매일 전장에서 반복되고 있죠. 이런 환경에서 미국이 기술 우위를 유지하려면, 개별 무기체계의 성능이 아니라 기술을 구상에서 실전까지 전달하는 파이프라인 자체의 속도가 결정적입니다. ACT4Aero는 바로 이 파이프라인의 병목을 다루는 자리입니다.

CapitalEDGE는 이번 ACT4Aero에 직접 참석했습니다. 미국 국방 기술 생태계가 가장 기저 단위에서 어떻게 움직이고 있는지, 그 현장의 논의를 두 편에 걸쳐 전달하고자 합니다.

이번 내용은 전문적인 내용이 많기 때문에 일반 독자를 위한 1) 메세지 중심 서머리, 그리고 딥테크-우주항공 산업에 관심이 많은 독자를 위한 2) 상세 버전 두 가지로 정리하여 보내드립니다.

핵심 아이디어

세션 1. 기술이 전장에 도달하지 못하는 이유

Read more

GTC 시리즈 세 번째 글입니다. 이번에는 두 가지를 다룹니다. 전반부에서는 OEM·반도체·자율주행·피지컬 AI 등 하드웨어 생태계의 움직임을, 후반부에서는 GTC 기간 올인(All-In) 팟캐스트에 출연한 젠슨의 인터뷰에서 핵심 메시지를 다시 정리합니다.

젠슨은 올인 인터뷰에서도 강조했지만, 엔비디아의 전략은 GTC를 통해 2~3년 뒤의 로드맵을 꾸준히 공개하는 방식으로 진행됩니다. 이번에 발표된 내용 상당수는 이미 2024년 GTC에서 예고한 것들의 실행입니다.

• 2년 반 전 다이나모(Dynamo)를 AI 팩토리의 운영체제로 소개했고, 분산형 추론 (Disaggregated Inference)의 개념을 제시했으며, 이기종 컴퓨트의 필요성을 설파했습니다. 그리고 2026년 GTC에서 그것들이 제품으로 나왔습니다.

• 같은 논리로, 이번에 공개된 파인만 아키텍처, 키버(Kyber) 랙, 로사(Rosa) CPU, 그리고 피지컬 AI 풀스택은 2028년까지의 로드맵입니다. 2년 뒤 GTC에서 이것들이 출하 제품으로 돌아올 겁니다.

이 점에서 GTC의 발표 내용을 단순히 “올해의 뉴스”가 아니라 “2년 뒤의 현실”로 읽는 관점이 필요합니다.

델, HPE, 레노버 — 엔비디아가 랙을 직접 만드는 시대의 OEM

Read more

GTC의 진짜 이야기는 생태계에서 나옵니다. 엔비디아가 무대 위에서 무엇을 발표했느냐보다, 하이퍼스케일러·OEM·ISV·반도체 공급업체·서비스 기업들이 그 발표에 어떻게 반응했느냐가 시장의 방향을 더 정확하게 보여줍니다.

이번 GTC에 참가한 주요 기술 기업들은 저마다 구체적인 베팅을 했습니다. 규모에 건 곳이 있고, 소버린(sovereignty)에 건 곳이 있고, 에이전트 플랫폼 레이어에 건 곳이 있고, 피지컬 AI에 건 곳이 있습니다. 이 움직임들을 종합하면, 업계의 관심이 트레이닝 경제학에서 인퍼런스 경제학으로, 칩 경쟁에서 스택 경쟁으로 뚜렷하게 이동했다는 그림이 나옵니다.

오늘은 키노트에서 공개된 기술적 디테일을 좀 더 깊이 들여다보고, 생태계의 움직임이 무엇을 의미하는지 정리해 보고자 합니다.

일곱 개의 칩, 다섯 개의 랙, 하나의 AI 팩토리

젠슨은 3월 16일 키노트에서 베라 루빈 플랫폼을 공개했습니다. 일곱 개의 신규 칩이 모두 양산에 돌입했고, 다섯 가지 랙 스케일 시스템으로 조합됩니다.

• 루빈 GPU

• 베라 CPU

• NVLink 6 스위치

• 커넥트X-9(ConnectX-9)

• SuperNIC, 블루필드-4(BlueField-4) DPU

• 스펙트럼-6 이더넷 스위치

• 그록 3 LPU

랙도 용도별로 명확하게 나뉩니다. GPU 컴퓨트를 위한 베라 루빈 NVL72, 에이전틱 오케스트레이션을 위한 베라 CPU 랙, 초저지연 디코드를 위한 그록 3 LPX, 컨텍스트 메모리 스토리지를 위한 블루필드-4 STX, 이더넷 스파인 네트워킹을 위한 스펙트럼-6 SPX. 반도체 회사가 이렇게 많은 목적별 칩을 동시에 설계하고, 동시에 양산에 넣고, 하나의 플랫폼으로 묶어서 출하한 건 전례가 없는 일입니다.

무대 위에 올라온 하드웨어도 눈길을 끌었습니다. 전량 액체 냉각에, 45도 온수로 냉각하는 구조입니다. 케이블이 사라진 컴퓨트 트레이는 설치 시간을 이틀에서 두 시간으로 줄였고, 6세대 NVLink 스위칭 시스템이 탑재됐습니다. 엔비디아는 이 랙을 주당 수천 대 생산 가능하며, 월간 멀티 기가와트 규모의 AI 팩토리를 출하할 수 있다고 밝혔습니다.

NVL72는 72개의 루빈 GPU와 36개의 베라 CPU를 NVLink 6으로 연결한 구성입니다. 블랙웰 대비 와트당 인퍼런스 처리량 10배, 토큰당 비용 10분의 1. 대형 MoE(Mixture of Experts) 모델을 이전 세대의 4분의 1 GPU 수로 처리한다는 주장입니다. 사티아 나델라가 이미 마이크로소프트 애저(Azure)에서 베라 루빈이 가동 중이라고 확인했고, 엔비디아의 공급망이 주간 수천 대 규모로 생산 가능하다는 점도 언급됐습니다.

다만 부품을 출하하는 것과 하이퍼스케일 환경에서 이것들이 실제로 함께 작동하는 것은 다른 문제입니다. 이 효율 수치들이 상용화 단계에서 재현된다면, AI 팩토리의 경제성 자체가 바뀌는 이정표가 됩니다. 하지만 여전히 검증은 필요합니다. 젠슨이 다음 실적 발표나 컴퓨텍스 무대에서 앤트로픽, 메타, 오픈AI 같은 고객을 무대에 세워 프로덕션 규모에서의 성능을 확인시켜 줄 가능성도 점쳐지는 이유입니다.

그록, 토큰 팩토리의 경제학

Read more

GTC(GPU Technology Conference)는 오랜 역사를 가진 행사입니다. 하지만 지금의 위상은 불과 3년 전과는 완전히 다릅니다. AI 산업이 폭발적으로 성장하면서 GTC는 글로벌 AI 발전의 방향을 가늠하는 가장 중요한 행사로 올라섰습니다. 엔비디아의 본사가 위치한 산호세는 주말부터 차량 통제가 이뤄질 정도로 붐볐고, 올해 참가자 수는 3만 명을 넘어선 것으로 알려졌습니다.

실리콘밸리는 이와 같은 초대형 컨퍼런스에 최적인 곳은 아닙니다. 물가는 비싸고, 평소에도 괜찮은 호텔을 찾기가 어려운데, 이런 행사가 겹치면 가격은 천정부지로 치솟습니다. CES 같은 행사가 괜히 라스베가스에서 열리는 게 아니죠.

그럼에도 사람들이 흥분하는 데는 이유가 있습니다. 세쿼이아캐피탈의 파트너 알프레드 린이 프리게임 쇼 호스트를 맡고, 오픈AI와 앤트로픽 등 AI 업계에서 가장 영향력 있는 기업가들이 총출동하는 행사입니다. 1,000개의 세션에 2,000명의 연사, 450개 이상의 스폰서. ‘AI 세상은 엔비디아를 중심으로 돌아간다’는 명제를 가장 직관적으로 보여주는 자리죠.

올해로 2년째 GTC에 참가합니다. 세션도 듣고 전시장도 둘러볼 예정입니다. 이번에는 뉴스레터를 통해 좀 더 생동감 있는 이야기들을 전하고자 합니다. 오늘은 그 첫 번째로, 오늘 열린 젠슨 황의 키노트와 GTC 2026의 최대 관전 포인트를 짚어보고자 합니다.

“최소 1조 달러” — 숫자가 말해주는 것

Read more

2026년 3월의 시선으로 다시 읽기

[편집자 주] 본 글은 2025년 7월, 삼성전자 파운드리 사업부가 최악의 위기론을 딛고 테슬라 칩 생산 수주 뉴스가 나온 직후 내부 검토용으로 작성했던 메모입니다. 당시 언론들은 하나같이 고객사 이탈과 적자 누적을 근거로 ‘삼성 파운드리 위기론’을 연일 대서특필하던 시기였습니다.

그러나 불과 8개월이 지난 2026년 3월 현재, 삼성 파운드리는 2025년 4분기 흑자 전환에 성공하고, 2026년 연간 영업이익 2조원을 목표로 하는 ‘상전벽해’ 수준의 반전을 이뤄냈습니다.

시장의 소음에 휩쓸리지 않고, 산업의 구조적 패턴과 역사적 선례를 통해 어떻게 이러한 반전을 미리 예측할 수 있을지 시간을 다시 8개월 전으로 돌려보고자 합니다.

삼성 파운드리의 위기는 이제 새삼스럽지 않은 이야기가 되었습니다. 3나노 GAA 공정의 수율 부진, 퀄컴과 구글의 이탈, 2025년 상반기에만 35억 달러를 넘긴 적자. 업계의 시선은 냉혹하고, “TSMC 독주 체제”라는 내러티브는 갈수록 굳어지는 분위기입니다.

그런데 이 서사, 삼성에게는 그다지 낯선 이야기가 아닙니다. 왜냐하면 오징어게임의 성기훈처럼 삼성은 이미 이 게임을 한 번 해봤기 때문입니다.

2025년 7월, 테슬라가 삼성과 8년간 165억 달러 규모의 AI 칩 위탁생산 계약을 체결했습니다. 삼성의 텍사스 테일러(Taylor) 팹에서 테슬라의 차세대 자율주행·AI 칩을 생산하겠다는 내용이죠. 수율 문제로 고객사가 줄줄이 떠나는 와중에 이 규모의 장기 계약이 성사된 것 자체가 시장에는 상당한 서프라이즈였습니다.

하지만 반도체 역사에서 이와 동일한 각본이 한 번 실현된 적이 있습니다. 2007년, 기술적으로 열세였던 삼성 파운드리에 전략적 베팅을 걸어 결과적으로 글로벌 2위 파운드리로 이끌어낸 고객사가 있었습니다. 바로 애플입니다.

테슬라와 삼성의 파트너십을 이해하려면, 먼저 18년 전 애플이 왜, 어떻게 삼성을 선택했는지부터 짚어봐야 합니다. 놀라울 정도로 닮은 두 거래의 구조와 맥락이 글로벌 파운드리 시장에 대한 흥미로운 이야기를 전하고 있기 때문입니다.

2007년: 아무도 관심이 없던 삼성 파운드리

지금이야 삼성 파운드리가 TSMC에 이은 업계 2위로 자리매김했지만, 2000년대 후반의 현실은 전혀 달랐습니다. 2005년에서 2009년 사이 삼성의 위탁생산 매출은 한 해 4억 달러를 넘긴 적이 없었습니다. 같은 시기 TSMC의 매출이 100억 달러에 육박했다는 점을 감안하면, 삼성은 파운드리 시장에서 사실상 존재감이 없던 셈입니다. 대만의 UMC, 그리고 갓 출범한 글로벌파운드리가 오히려 삼성보다 점유율이 높았죠.

이 상황에서 애플은 아이폰 첫 커스텀 실리콘의 생산을 삼성에 맡겼습니다. 오리지널 아이폰의 S5L8900 시스템온칩(SoC)은 삼성 LSI 사업부가 애플의 사양에 맞춰 설계하고, 삼성의 90나노미터 공정에서 제조되었습니다. 당시 TSMC는 이미 65나노 공정을 양산하고 있었고, 집적도와 전력 효율 모두에서 한 세대 앞선 기술을 보유하고 있었습니다. 업계 관점에서 보면 명백히 비합리적인 선택이었죠.

애플이 열세였던 삼성 파운드리를 선택한 이유

Read more

이번 CES 2026, 한 국내 미디어사의 초청으로 참관할 수 있었습니다. 또한 국내 대기업의 임원단 도슨트로 참여하며 모빌리티와 로보틱스의 핵심이 된 LVCC 웨스트관을 심도있게 살펴볼 기회도 있었습니다.

어떤 제품들이 등장했고 각 기업들이 어떤 메세지를 제시하였는지는 이미 많은 리서치 기관에서 다뤄졌고 언론을 통해서도 다양한 뉴스가 대서특필되며 화제를 모았죠.

그래서 오늘 뉴스레터에서는 별도 세션을 위해 준비했던 ‘투자자가 바라본 CES 2026’이란 제목의 자료를 공유하고자 합니다. 텍스트보다는 컨텍스트를 통해 무엇을 봐야하고 왜 중요했으며 큰 흐름은 어떻게 바뀌고 있는지를 짚어보는 용도로 활용되었으면 하는 바람입니다.

올해 CES를 정의하는 세 가지 키워드는 1) AI-fication (AI화), 2) Generative Robotics (생성형 로보틱스), 그리고 3) Great Inter-Consolidation (대통합과 대결합의 시대)입니다. 이 세 가지 축은 단순히 기술 트렌드가 아니라 산업 구조의 근본적 재편을 의미하죠. 좀 더 거시적인 트렌드를 의미하는 각 키워드가 왜 중요하고, 어떤 기업들이 유리한 포지션에 있으며, 어디에 리스크가 도사리고 있는지 살펴보고자 하였습니다.

Read more