어린아이도 이해가능한 AI 반도체 트렌드



2025년 1월 27일, 중국의 AI 스타트업 딥시크는 R1 모델을 공개하며 전 세계 주식 시장에 거대한 충격을 주었습니다. 약 80억이라는 금액을 투입해 기존 생성형 AI 소프트웨어들과 비슷한 성능을 보여주었기 때문입니다. 딥시크는 미국의 대중국 제재로 인해 상대적으로 저렴한 H800 엔비디아 칩을 활용했다고 밝혀습니다. 이 소식으로 엔비디아의 시가총액은 단 며칠만에 6,127억 달러(880조 3,273억원)가 증발했습니다. 엔비디아의 비싼 최신 칩들은 필요가 없어진 것일까요?

AI 반도체칩 트렌드는 크게 두 갈래로 나뉩니다. 첫째, 교육과 추론이 둘 다 가능한 범용성 칩인가? 범용성 칩이 바로 엔비디아가 90% 이상 독점하고 있는 GPU(Graphic Processing Units) 칩입니다. 엔비디아의 칩은 제품 가격은 비싸지만, 기업이 원한다면 언제든 새로운 기술 개발에 생성형 AI 기술을 접목할 수 있습니다.

예를 들어, 이번달에는 신약을 개발하는데 해당 데이터 센터를 활용하고, 다음달에는 클라우드 기술을 개발하는데 같은 데이터 센터를 사용할 수 있습니다. 또한, 교육도 가능하고 추론도 가능하니 추가적인 데이터 센터를 지을 필요가 전혀 없습니다.

둘째, 교육과 추론을 각각 설치하는 특화용 칩인가? 최근 아마존이 애플에 납품하기로 한 ASIC 타입의 반도체가 여기에 속합니다. 보통은 NPU(Neural Processing Units)라 부릅니다. GPU 대비 구매가격이 16%에 불과해 저렴하고 교육된 답변을 빠르고 정확하게 제공합니다. 하지만 교육용, 추론용 각각 구매해야만 하고 클라우드 서비스를 위해서 설계한다면 오직 그 역할만 할 수 있습니다.

범용이냐 특화냐 구분은 AI 칩뿐만 아니라 소프트웨어도 적용됩니다. 예를 들어, 딥시크는 수학적 문제 해결, 논리적 추론(교육된 데이터를 정확히 답변하는 것)에서 강점을 보입니다. 하지만 Chat-GPT처럼 범용적인 역할(창의적 사고, 분야 융합, 사고 정리, 영감 제공)은 제대로 수행하지 못합니다. 일단 정치적인 이유로 국가 원수에 관해 검색하지 못하게 막는 것부터 문제가 있죠.

저는 이 두 갈래를 고객에게 설명할 때 늘 달리기 선수에 비유합니다. 범용 진영은 올라운더(All-rounder) 선수로 단거리부터 장거리까지 다 잘하는 선수라고 할 수 있습니다. 반면에 특화 진영은 단거리 달리기 선수라고 할 수 있습니다. 한 편, 생성형 AI 분야는 범용성을 좀 더 강조하는 경향이 있습니다. 왜냐하면 그 기술을 최고로 끌어 올려 AGI(Artificial General Intelligence, 인공 일반 지능)를 만드는 것이 목표이기 때문입니다.

결론적으로 최소한 우리 모두가 원하는 ‘인간처럼 구동하는’ 인공지능 기술이 탄생하기 전까지 엔비디아 칩의 수요는 앞으로도 견고할 가능성이 높습니다. 다만, 하드웨어 개발은 언젠가 한계에 부딪힌다는 사실을 늘 기억해야 합니다. 엔비디아도 결국 ‘플랫폼 회사’가 되고 싶어하는 이유이기도 합니다.

#엔비디아 #ai반도체 #npu #gpu #금융교육 #기업분석컨설팅 #산업분석컨설팅 #더달란트서울 #더달란트컨설팅그룹