엔비디아의 위험한 사업 — 정점의 독점이 감수하는 것들
엔비디아의 위험한 사업 — 정점의 독점이 감수하는 것들
시가총액 5조 달러라는 정점에서 엔비디아가 마주한 것은 경쟁의 부재인가, 아니면 자신의 성공이 불러들인 구조적 취약성인가 — 그리고 그 위험은 언제, 어떤 경로로 현실이 되는가?
도입 — 정점에서 쓰는 위험 보고서
벤 톰슨(Ben Thompson)이 스트래터처리(Stratechery)에 “Nvidia’s Risky Business”를 실었다. 흥미로운 것은 시점이다. 엔비디아가 세계 최고 시가총액 기업의 자리를 지키고 AI 반도체의 8할을 공급하는 정점의 순간에, 정작 화두는 ‘이 회사는 얼마나 위험한가’였다. 글의 상당 부분은 페이월 뒤에 있어 내부 수치를 그대로 옮길 수는 없지만, 공개된 도입부와 이를 인용한 독자들 덕에 논지의 골격은 드러난다. 벤은 놀랍게도 19세기 철도 금융에서 이야기를 연다. 제이 쿡 앤드 컴퍼니(Jay Cooke & Company)의 파산이 1873년 공황을 촉발하고, 전국적 철도 도산과 다년간의 불황·장기 디플레이션으로 이어졌으며, 40년 뒤 유럽을 화약고로 만든 금융적 조건과도 무관하지 않았다는 서술이다. 여기에 “1870년대 금액을 오늘의 크기로 환산하려면 1,200을 곱하라”는 환산 계수가 붙는다.
이 역사적 도입이 곧바로 논쟁을 불렀다. 해커뉴스에 걸린 178개의 댓글 스레드에서, 어떤 이는 “철도 파산이 1차 세계대전을 일으켰다”는 비약에서 읽기를 멈췄다고 했고, 다른 이는 그것을 ‘눈을 가늘게 뜨면 보이는’ 은유로 옹호했다. 정작 본론은 은유가 아니라 구조다. 인프라 붐은 수요 자체가 아니라 ‘매년 더 많아지리라는 기대’에서 무너진다는 것. 이 글은 벤의 논지를 해커뉴스 토론으로 재구성하고 공개된 산업 지식으로 보강하되, 확인하지 못한 페이월 내부의 수치는 단정하지 않는다. 팩트에는 출처를 달고, 나머지는 분석으로 표시한다.
현상 — 가장 큰 고객들이 스스로 실리콘을 굽기 시작했다
엔비디아 위험의 첫 번째 축은 경쟁사가 아니라 고객이다. AI 반도체의 초과이익이 워낙 크다 보니, 그 이익을 지불하던 하이퍼스케일러들이 직접 칩을 설계하기 시작했다. 구글의 TPU는 이 흐름의 원형이다. 2015년경부터 자사 데이터센터용으로 굽던 텐서 처리 장치는 세대를 거듭해 이제 대규모 학습·추론을 감당하고, 구글은 이를 팔지 않고 클라우드(GCP)에서만 빌려주는 전략으로 자사 인프라를 강화해 왔다. 아마존은 학습용 Trainium과 추론용 Inferentia로 라인을 나눴다가, 해커뉴스 토론에서 한 이용자가 짚었듯 이제 Trainium 하나로 학습과 추론을 함께 소화하는 방향으로 통합했다. 마이크로소프트와 오픈AI 역시 자체 칩을 준비 중이라는 것은 업계의 공공연한 방향이다. 요컨대 엔비디아의 최대 매출처가 동시에 엔비디아의 잠재적 대체재를 만들고 있다.
이 자체 실리콘이 GPU를 곧바로 밀어내지는 못한다. 기술적 트레이드오프가 분명하기 때문이다. 해커뉴스 토론에서 한 참가자는 TPU가 시스톨릭 어레이(systolic array) 구조라 확장성과 유연성에 고유한 제약이 있고, 특정 세대까지는 학습용과 추론용 아키텍처를 재사용하지 못해 별도 ASIC이 필요했다고 지적했다. 반면 엔비디아의 CUDA 코어는 같은 하드웨어로 학습·추론·연구·엣지를 두루 소화한다. 또 다른 참가자는 TPU의 진짜 강점이 칩 자체가 아니라 수천 개를 잇는 고대역폭 광 인터커넥트와 냉각을 포함한 랙 수준의 코디자인에 있다고 설명하며, 그래서 ‘개인용 TPU’는 당분간 나오기 어렵다고 봤다. 실제로 구글이 TPU를 PCIe 카드나 개발 보드로 팔지 않고 클라우드 안에만 가두는 선택이, 로컬 개발 생태계의 성장을 막아 엔비디아의 방어막이 되어 준다는 관찰도 나왔다 — TPU가 개인 책상 위로 내려오는 날이 엔비디아 지배가 흔들리는 날이라는 것이다.
수요의 성격에 관한 근본적 논쟁도 여기에 얽힌다. 한쪽에서는 추론 효율이 좋아질수록 쓰임새가 폭발해 오히려 칩 수요가 늘어나는 제번스의 역설(Jevons paradox)을 든다. 56k 모뎀이 광대역이 되었을 때 우리는 같은 양을 더 빨리 쓴 게 아니라 4K 스트리밍으로 훨씬 더 많은 대역폭을 썼다는 비유다. 다른 쪽에서는 모델 효율이 18개월마다 크게 개선되어 동일 품질 출력에 드는 연산이 급감해 왔다고 지적한다. 5년 뒤 추론량이 100배가 되어도 칩 수요는 2배에 그칠 수 있다는 것이다. 여기에 로컬 추론 변수가 겹친다. 통합 메모리를 얹은 소비자용 SoC가 충분히 강력해지면 “모든 것을 데이터센터에서 돌려야 한다”는 전제가 약해진다. 다만 한 참가자는 128GB 메모리를 단 5,000달러대 장비도 30B 활성 파라미터급 MoE 모델을 초당 18토큰 정도로만 돌린다며, 메모리 가격까지 치솟는 지금 로컬이 클라우드를 대체하려면 5년 이상이 걸릴 것이라고 냉정하게 못 박았다.
심층 — CUDA 해자는 얼마나 견고하며, 붕괴는 어디서 오나
두 번째 축은 소프트웨어 락인, 즉 CUDA 해자다. 이 해자가 얼마나 견고한가를 두고 해커뉴스는 가장 길고 격렬하게 갈렸다. 회의론자들은 CUDA C/C++가 “상상 가능한 최악의 개발 환경 중 하나”라고 비판한다. C++의 온갖 함정을 그대로 지고 가면서 GPU 연산이 C++인 척하지만 실제로는 다르게 동작한다는 것이다. 여기에 LLM이 코드 번역을 잘하게 된 지금, CUDA를 다른 아키텍처로 옮기는 일이 쉬워져 엔비디아의 최대 강점(AI)이 자기 해자를 허무는 것 아니냐는 질문이 반복해서 제기됐다. AMD의 ROCm, 애플의 Metal, 인텔의 스택, 오픈AI의 Triton, 그리고 tinygrad·ZLUDA 같은 대체재가 이미 존재한다는 점도 덧붙는다.
그러나 이 해자를 실제로 다뤄 본 사람들의 반박은 더 구조적이다. 한 참가자는 CUDA가 셸링 포인트(Schelling point)가 되어 버렸다고 설명했다. 지금 모델을 학습시키려 하면 최고 성능은 거의 확실히 CUDA에서 나오고, 기본 행렬곱부터 특정 신경망 구조까지 극도로 최적화된 구현이 상자에서 바로 나오며, PyTorch·Transformers 같은 상위 계층과 우연히 발견한 낯선 최적화 저장소까지 전부 CUDA에서 최적으로 돈다는 것이다. 그래서 “그냥 대체 소프트웨어를 짜면 된다”는 말은 쉽지만, 실제로는 생태계 전체를 옮기고 동등한 성능을 내야 하는 훨씬 큰 과제가 된다. 여기에 다중 노드 네트워킹을 사실상 플러그앤플레이로 만들어 주는 NCCL을 진짜 해자로 꼽는 목소리도 있었다. 또한 흔히 ‘CUDA’라 부르는 것에는 cuDNN·cuBLAS·CUTLASS 같은 방대한 커널 묶음이 포함되며, 초창기 연구자들은 커널을 직접 짜기보다 엔비디아가 준 것을 감싸 썼다는 지적은, 왜 단순 코드 번역으로 CUDA를 대체할 수 없는지를 설명한다. 엔비디아가 준 커널을 손으로 다시 구현하는 일은 기계적 번역이 아니기 때문이다.
전환 비용의 크기도 종종 과소평가된다. 한 참가자는 보잉 737맥스의 조종사 재교육 비용이 결국 약 50억 달러였고, 2008년 기준 리눅스 커널을 처음부터 다시 쓰는 데만 14억 달러가 든다고 추산됐다는 비교를 들며, 2023년 무렵까지는 애초에 CUDA 킬러를 만들 만한 돈이 걸려 있지 않았다고 정리했다. 마이크로소프트의 .NET, 애플의 iOS SDK처럼 플랫폼 전환에 성공한 사례가 반례로 나왔지만, 그것들은 모두 ‘같은 벤더가 자기 제품을 갈아탄’ 경우여서 사용자에게 선택지가 없었을 뿐, 저항하는 경쟁자의 표준을 새 진입자가 밀어내는 상황과는 다르다는 반론이 이어졌다.
여기서 벤의 진짜 논지가 드러난다. 한 독자의 정리를 빌리면, 대부분의 투자 명제에서 1차 가정(“연산 수요는 계속 크다”)은 대개 맞지만, 실패는 2차 가정(“그 수요가 매년 더 커진다”)에서 온다. 수요가 사라져서가 아니라 매년 더 늘지 않게 되는 것만으로도 투자 서사가 뒤집힐 수 있다는 것이다. 인텔이 2010년 데스크톱·서버를 장악하고도, 시스코가 그 10년 전에 그러고도, 시장의 조건을 더는 좌우하지 못하게 된 전례가 제시됐다. 아무도 엔비디아가 곧 망한다고 말하지 않는다. 다만 최근처럼 돈을 찍어내듯 벌지는 못할 수 있다는 것 — 그리고 마진이 클수록 경쟁자의 동기와 고객의 대체 탐색도 커진다는, 베이조스의 오래된 격언(“당신의 마진이 나의 기회다”)이 여기에 그대로 겹친다.
전망 — 중국·집중·밸류에이션, 그리고 헤지의 방향
세 번째 축은 엔비디아 밖의 위험이다. 첫째는 지정학이다. 엔비디아의 최첨단 칩은 전량이 타이완에서 제조되고, 그 타이완은 중국이라는 지정학 리스크를 안고 있다. 미국의 수출 규제는 첨단 GPU의 중국 판매를 제약해 왔고, 그 결과 중국은 자체 풀스택을 구축하는 방향으로 밀려났다. 해커뉴스에서는 중국이 미국 기업에 의존하지 않는 완결된 스택을 만들 것이며, 중국발 모델들이 이미 최신·최고 사양이 아니어도 강력한 모델을 만들 수 있음을 보여 주었다는 관찰이 나왔다 — 이는 유럽과 여타 국가가 ‘유일한 선택지라서’ 엔비디아를 살지, ‘안보 때문에’ 다른 길을 갈지를 두고 갈라서게 만든다.
둘째는 집중과 밸류에이션이다. 한 참가자는 VWRA 같은 글로벌 인덱스 펀드에서 엔비디아 한 종목이 약 5%를 차지한다는 사실을 들며, 이것이 엔비디아가 세계 경제의 5%라고 믿지 않는 한 시장이 심하게 편중되어 있다는 신호라고 했다(다른 이는 그 수치를 ‘현재 상장된 대형사들의 할인된 미래 이익 파이의 4.7%‘로 더 정밀하게 옮겼다). 매출 집중도 위험이다. 소수 하이퍼스케일러의 자본지출에 의존하는 구조에서, 한 참가자는 각 하이퍼스케일러가 최근 1년간 인프라에 막대한 자본을 쏟아부었고 이를 감당하려 부채를 지기 시작했으며 일부는 사상 처음 잉여현금흐름이 마이너스로 돌아섰다고 주장했다(이 수치는 검증되지 않은 댓글 주장이므로 그대로 사실로 받지는 말자). 구조는 도트컴 시절 ‘숨은 지갑 경매’에 비유됐다. 지갑 안 금액을 모른 채 값을 부르고, 낙찰받으면 이기지만, 떨어져도 부른 값을 물어야 하는 게임 — 하이퍼스케일러 경쟁이 꼭 그렇다는 것이다.
그렇다면 엔지니어와 실무자는 무엇을 봐야 하나. 엔비디아는 이 위험들을 스스로 알고 헤지하고 있다. 로보틱스(Omniverse·젯슨), 네트워킹(멜라녹스 인수), 그리고 로컬 추론용 DGX/RTX 계열 통합 메모리 제품이 그것이다. 한 참가자의 표현이 정확하다 — 엔비디아는 ‘군대에 삽을 파는’ 동시에 ‘월마트에도 삽을 파는’ 법을 안다. 다만 소비자용 제품을 늘릴수록 마진이 훨씬 높은 데이터센터 물량이 줄어드는 내부 상충도 있다. 현실적 시나리오는 셋으로 갈린다. 낙관: 제번스의 역설이 이겨 추론 폭증이 효율 개선을 압도하고, 로보틱스·월드모델이 새 조 단위 시장을 연다. 비관: 2차 수요가 꺾이고 순환적 조정이 오며, 커스텀 실리콘과 로컬 추론이 마진을 갉는다. 그 사이의 현실: 엔비디아는 여전히 지배적이되 ‘돈을 찍어내는’ 국면이 끝나고, 성숙한 과점 기업으로 재평가된다. 실무자에게 시사점은 분명하다. CUDA에 대한 종속을 자산이자 위험으로 동시에 인식하고, 이식성(ROCm·Triton·PyTorch 추상)에 최소한의 보험을 들어 두는 것이다.
결론 — 위험은 실패의 예언이 아니라 타이밍의 문제다
리드의 질문으로 돌아가자. 엔비디아가 정점에서 마주한 것은 경쟁의 부재가 아니라, 자신의 초과이익이 불러들인 구조적 취약성이다. 고객이 실리콘을 굽고, 소프트웨어 해자를 LLM이 갉고, 매출이 소수에게 쏠리고, 첨단 제조가 한 섬에 걸려 있으며, 밸류에이션이 세계 인덱스를 왜곡할 만큼 커졌다. 이 위험들은 동시에 커지고 있다는 점에서 특히 무겁다. 다만 어느 것도 ‘엔비디아가 곧 망한다’는 예언은 아니다. 해커뉴스의 한 논객이 가장 명료하게 정리했듯, AI가 장기적으로 거대하다는 데 틀린 사람들이 무너지는 게 아니라, A와 B 사이의 폭풍을 견디지 못할 위치에 스스로를 놓은 사람들이 무너진다. 곧, 이것은 방향의 문제가 아니라 타이밍의 문제다.
그래서 남는 질문은 “엔비디아가 위험한가”가 아니라 “그 위험이 언제, 어떤 경로로 현실이 되는가”다. 2차 수요가 꺾이는 첫 신호는 아마도 하이퍼스케일러의 자본지출 가이던스와 신주 발행, 그리고 커스텀 실리콘 채택률에서 먼저 나타날 것이다. 확신이 서지 않는다면, 해커뉴스의 한 참가자가 던진 제안이 가장 정직하다 — 수요가 포화하거나 모델 개선이 하드웨어 우위를 잡아먹거나 엔비디아가 타이밍을 잘못 짚었다고 진짜로 믿는다면, 글로 논쟁하지 말고 공매도하라. 나머지 우리에게 필요한 것은, 정점의 서사에 올라타면서도 그 정점이 감수하는 것들의 목록을 잊지 않는 균형 감각이다.
출처: