계산력 경쟁에서 알고리즘 혁신으로: DeepSeek이 이끄는 AI 새로운 패러다임

저자: BadBot, IOBC Capital

어젯밤, DeepSeek는 Hugging Face에서 V3 버전 업데이트------DeepSeek-V3-0324를 발표했습니다. 모델 파라미터는 6850억으로, 코드 능력, UI 디자인, 추론 능력 등이 크게 향상되었습니다.

방금 끝난 2025 GTC 회의에서, 황仁勋은 DeepSeek에 대해 높은 평가를 하였으며, 시장이 이전에 DeepSeek의 효율적인 모델이 엔비디아 칩에 대한 수요를 줄일 것이라는 이해가 잘못되었다고 강조했습니다. 앞으로의 컴퓨팅 수요는 더 많아질 것이지 줄어들지 않을 것입니다.

DeepSeek는 알고리즘 혁신의 스타 제품으로, 엔비디아의 컴퓨팅 공급과 어떤 관계가 있는지 먼저 컴퓨팅 파워와 알고리즘이 산업 발전에 미치는 의미에 대해 논의하고자 합니다.

컴퓨팅 파워와 알고리즘의 공생 진화

AI 분야에서 컴퓨팅 파워의 향상은 더 복잡한 알고리즘이 실행될 수 있는 기반을 제공하여 모델이 더 많은 데이터를 처리하고 더 복잡한 패턴을 학습할 수 있게 합니다. 반면 알고리즘의 최적화는 컴퓨팅 파워를 더 효율적으로 활용하여 계산 자원의 사용 효율성을 높입니다.

컴퓨팅 파워와 알고리즘의 공생 관계는 AI 산업의 판도를 재편하고 있습니다:

기술 경로 분화: OpenAI와 같은 회사는 초대형 컴퓨팅 클러스터 구축을 추구하는 반면, DeepSeek와 같은 회사는 알고리즘 효율성 최적화에 집중하여 서로 다른 기술 흐름을 형성하고 있습니다.

산업 체인 재구성: 엔비디아는 CUDA 생태계를 통해 AI 컴퓨팅의 주도자가 되었고, 클라우드 서비스 제공자는 유연한 컴퓨팅 서비스를 통해 배포 장벽을 낮추고 있습니다.

자원 배치 조정: 기업은 하드웨어 인프라 투자와 효율적인 알고리즘 개발 간의 균형을 찾고 있습니다.

오픈 소스 커뮤니티의 부상: DeepSeek, LLaMA와 같은 오픈 소스 모델은 알고리즘 혁신과 컴퓨팅 최적화 결과를 공유할 수 있게 하여 기술의 반복과 확산을 가속화하고 있습니다.

DeepSeek의 기술 혁신

DeepSeek의 폭발적인 인기는 기술 혁신과 밀접한 관련이 있습니다. 저는 일반적인 언어로 설명하여 대부분의 사람들이 이해할 수 있도록 하겠습니다.

모델 아키텍처 최적화

DeepSeek는 Transformer+MOE(전문가 혼합)의 조합 아키텍처를 채택하고, 다중 헤드 잠재 주의 메커니즘(Multi-Head Latent Attention, MLA)을 도입했습니다. 이 아키텍처는 마치 슈퍼 팀과 같아서, Transformer는 일반 작업을 처리하고, MOE는 팀 내 전문가 그룹처럼 각 전문가가 자신의 전문 분야를 가지고 있으며, 특정 문제에 직면했을 때 가장 잘하는 전문가가 처리하여 모델의 효율성과 정확성을 크게 향상시킵니다. MLA 메커니즘은 모델이 정보를 처리할 때 다양한 중요한 세부 사항에 더 유연하게 주의를 기울일 수 있게 하여 모델의 성능을 더욱 향상시킵니다.

훈련 방법 혁신

DeepSeek는 FP8 혼합 정밀도 훈련 프레임워크를 제안했습니다. 이 프레임워크는 마치 스마트한 자원 배분기처럼 훈련 과정의 다양한 단계에서 요구에 따라 적절한 계산 정밀도를 동적으로 선택할 수 있습니다. 높은 정밀도가 필요한 경우에는 높은 정밀도를 사용하여 모델의 정확성을 보장하고, 낮은 정밀도를 수용할 수 있는 경우에는 정밀도를 낮추어 계산 자원을 절약하고 훈련 속도를 높이며 메모리 사용량을 줄입니다.

추론 효율성 향상

추론 단계에서 DeepSeek는 다중 토큰 예측(Multi-token Prediction, MTP) 기술을 도입했습니다. 전통적인 추론 방법은 단계별로 진행되며, 각 단계에서 하나의 토큰만 예측합니다. 그러나 MTP 기술은 한 번에 여러 토큰을 예측할 수 있어 추론 속도를 크게 향상시키고, 추론 비용도 낮춥니다.

강화 학습 알고리즘 혁신

DeepSeek의 새로운 강화 학습 알고리즘 GRPO(Generalized Reward-Penalized Optimization)는 모델 훈련 과정을 최적화합니다. 강화 학습은 모델에 코치를 배치하는 것과 같아서, 코치는 보상과 처벌을 통해 모델이 더 나은 행동을 학습하도록 안내합니다. 전통적인 강화 학습 알고리즘은 이 과정에서 많은 계산 자원을 소모할 수 있지만, DeepSeek의 새로운 알고리즘은 더 효율적이며, 모델 성능 향상을 보장하면서 불필요한 계산을 줄여 성능과 비용의 균형을 이룹니다.

이러한 혁신은 고립된 기술 포인트가 아니라, 훈련에서 추론까지의 전체 체인을 통해 컴퓨팅 요구를 줄이는 완전한 기술 체계를 형성합니다. 일반 소비자용 그래픽 카드도 이제 강력한 AI 모델을 실행할 수 있어 AI 응용 프로그램의 장벽을 크게 낮추고, 더 많은 개발자와 기업이 AI 혁신에 참여할 수 있게 합니다.

엔비디아에 미치는 영향

많은 사람들은 DeepSeek가 Cuda 계층을 우회하여 엔비디아에 대한 의존성을 벗어났다고 생각합니다. 실제로 DeepSeek는 엔비디아의 PTX(Parallel Thread Execution) 계층을 통해 알고리즘 최적화를 직접 수행합니다. PTX는 고급 CUDA 코드와 실제 GPU 명령어 사이의 중간 표현 언어로, 이 계층을 조작함으로써 DeepSeek는 더 세밀한 성능 조정을 이룰 수 있습니다.

이것은 엔비디아에 대한 영향이 양면적입니다. 한편으로, DeepSeek는 사실 엔비디아의 하드웨어 및 CUDA 생태계와 더 깊은 결속을 가지게 되었고, AI 응용 프로그램의 장벽이 낮아짐에 따라 전체 시장 규모가 확대될 수 있습니다. 다른 한편으로, DeepSeek의 알고리즘 최적화는 고급 칩에 대한 시장 수요 구조를 변화시킬 수 있으며, 원래 H100과 같은 GPU에서만 실행될 수 있었던 AI 모델이 이제는 A100 또는 소비자용 그래픽 카드에서도 효율적으로 실행될 수 있습니다.

중국 AI 산업에 대한 의미

DeepSeek의 알고리즘 최적화는 중국 AI 산업에 기술 돌파구를 제공합니다. 고급 칩이 제한된 상황에서 "소프트웨어로 하드웨어를 보완하는" 사고는 최고급 수입 칩에 대한 의존도를 줄여줍니다.

상류에서는 효율적인 알고리즘이 컴퓨팅 요구 압력을 낮추어, 컴퓨팅 서비스 제공자가 소프트웨어 최적화를 통해 하드웨어 사용 주기를 연장하고 투자 수익률을 높일 수 있게 합니다. 하류에서는 최적화된 오픈 소스 모델이 AI 응용 프로그램 개발 장벽을 낮추어, 많은 중소기업이 대량의 컴퓨팅 자원 없이도 DeepSeek 모델을 기반으로 경쟁력 있는 응용 프로그램을 개발할 수 있게 하여 더 많은 수직 분야 AI 솔루션의 출현을 촉진할 것입니다.

Web3+AI에 대한 심오한 영향

탈중앙화 AI 인프라

DeepSeek의 알고리즘 최적화는 Web3 AI 인프라에 새로운 동력을 제공합니다. 혁신적인 아키텍처, 효율적인 알고리즘 및 낮은 컴퓨팅 요구는 탈중앙화된 AI 추론을 가능하게 합니다. MoE 아키텍처는 본래 분산 배포에 적합하며, 서로 다른 노드는 서로 다른 전문가 네트워크를 보유할 수 있어 단일 노드가 전체 모델을 저장할 필요가 없으며, 이는 단일 노드의 저장 및 계산 요구를 크게 줄여 모델의 유연성과 효율성을 높입니다.

FP8 훈련 프레임워크는 고급 계산 자원에 대한 요구를 더욱 낮추어, 더 많은 계산 자원이 노드 네트워크에 참여할 수 있게 합니다. 이는 탈중앙화 AI 계산에 참여하는 장벽을 낮출 뿐만 아니라, 전체 네트워크의 계산 능력과 효율성을 높입니다.

다중 에이전트 시스템

스마트 거래 전략 최적화: 실시간 시장 데이터 분석 에이전트, 단기 가격 변동 예측 에이전트, 체인 상 거래 실행 에이전트, 거래 결과 감독 에이전트 등의 협동 작용을 통해 사용자가 더 높은 수익을 얻을 수 있도록 돕습니다.

스마트 계약의 자동화 실행: 스마트 계약 모니터링 에이전트, 스마트 계약 실행 에이전트, 실행 결과 감독 에이전트 등이 협동 작용하여 더 복잡한 비즈니스 논리의 자동화를 실현합니다.

개인화된 투자 포트폴리오 관리: AI는 사용자의 위험 선호도, 투자 목표 및 재정 상태에 따라 실시간으로 최상의 스테이킹 또는 유동성 제공 기회를 찾도록 돕습니다.

"우리는 아주 짧은 미래만 볼 수 있지만, 그곳에 해야 할 일이 많다는 것을 발견할 수 있습니다." DeepSeek는 컴퓨팅 제약 속에서 알고리즘 혁신을 통해 돌파구를 찾고, 중국 AI 산업에 차별화된 발전 경로를 열어주고 있습니다. 응용 프로그램 장벽을 낮추고, Web3와 AI의 융합을 촉진하며, 고급 칩 의존도를 줄이고, 금융 혁신에 힘을 실어주는 이러한 영향은 디지털 경제의 판도를 재편하고 있습니다. 미래의 AI 발전은 더 이상 단순한 컴퓨팅 경쟁이 아니라, 컴퓨팅과 알고리즘의 협동 최적화 경쟁이 될 것입니다. 이 새로운 경로에서 DeepSeek와 같은 혁신자들은 중국의 지혜로 게임 규칙을 재정의하고 있습니다.