2025년의 AI, 하드웨어가 다시 주인공이 되다
매년 8월 마지막 주 스탠포드 대학에서 열리는 핫칩스(Hot Chips) 컨퍼런스는 반도체 업계의 바로미터와 같습니다. 세계 최고 수준의 칩 아키텍처가 공개되는 이 무대에서, 2025년도 예외 없이 다양한 신제품이 공개되고 아키텍처 및 기술 경쟁이 펼쳐졌죠. 수천 명의 엔지니어들이 스탠포드 캠퍼스에 모여 차세대 프로세서, AI 가속기, 광 인터커넥트의 미래에 대한 심도 있는 논의를 진행하였습니다.
특히 올해는 한국 기업들의 적극적인 참여가 돋보였습니다. 리벨리온은 AMD, 엔비디아, 마벨과 함께 플래티넘 스폰서로 이름을 올렸으며 오픈엣지, 하이퍼엑셀과 같은 기업들도 관계자들이 참여, 존재감을 드러냈습니다. 컨퍼런스 규모 역시 역대급이었는데, 방대한 세션과 전시로 채워진 3일간의 일정은 업계가 얼마나 뜨거운 관심을 보이고 있는지를 보여주었습니다.
작년 기조 연설을 오픈AI가 맡았는데 올해는 다시 구글이 기조 연설을 진행하였습니다. 구글 딥마인드의 노암 사지어(Noam Shazeer)는 AI 시대의 무게중심이 "모델"에서 다시 "하드웨어"로 이동하고 있다는 크고 묵직한 메세지를 던졌습니다. 지난 수년간 거대 언어모델 등 알고리즘 혁신이 AI 발전을 이끌어왔다면, 이제는 메모리 대역폭, 스토리지 용량, 인터커넥트 속도 같은 물리적 제약이 새로운 한계로 떠오르고 있다는 것입니다.
단순히 GPU 연산 성능을 높이는 것만으로는 컴퓨팅 경쟁에서 우위를 점하기 쉽지 않다는 것이 이번 핫칩스 2025가 던진 화두였습니다. 데이터 이동과 처리의 병목을 해소하는 시스템 전체의 혁신이 필요한 시점이 가까이 왔다는 것이죠. 실제로 이번 핫칩스에서는 "메모리가 거의 전부다"라는 선언이 여러 세션에서 반복되며, 고대역폭 메모리·스토리지 기술과 초저지연 네트워크 구조가 주인공으로 떠올랐습니다.
그래서 오늘 TechEDGE 뉴스레터에서는 핫칩스 2025에서 공개된 혁신들을 하나씩 다뤄보았습니다. 다소 어려운 내용들도 많지만 관심이 있는 분야라면 챗GPT와 퍼플렉시티를 벗삼아 AI 인프라와 실리콘의 최신 동향을 찬찬히 탐험해보시길 추천드립니다.