AI의 오펜하이머 순간, IO.NET이 어떻게 탈중앙화 인공지능 컴퓨팅 시장을 혁신하는가

저자: Raghav Agarwal, Roy Lu, LongHash Ventures

편집: Elvin, ChainCatcher

AI

인류는 AI 오펜하이머 순간에 있습니다.

일론 머스크는 "기술이 발전함에 따라 AI가 권력자의 이익뿐만 아니라 사람들의 이익을 위해 봉사하도록 하는 것이 중요하다. 사람들이 소유한 AI는 앞으로 나아갈 길을 제공합니다."라고 지적했습니다.

암호화폐와의 교차점에서 AI는 스스로 민주화될 수 있습니다. 오픈 소스 모델에서 시작하여, 사람들의 AI가 사람들을 위해 봉사합니다. Web3 x AI의 목표는 고귀하지만, 실제 채택은 사용 가능성과 기존 AI 소프트웨어 스택과의 호환성에 달려 있습니다. 이것이 IO.NET의 독특한 접근 방식과 기술 스택이 작용하는 곳입니다.

IO.NET의 탈중앙화 Ray 프레임워크는 웹3 및 더 넓은 범위에 허가 없이 AI 컴퓨팅 시장을 출시하기 위한 트로이 목마입니다.

IO.NET은 GPU의 풍부함을 가져오는 데 앞장서고 있습니다. 다른 범용 컴퓨팅 집합체와 달리, IO.NET은 Ray 프레임워크를 재작성하여 탈중앙화 컴퓨팅과 업계 최고의 AI 스택을 연결합니다. 이 접근 방식은 웹3 내외에서 더 넓은 채택을 위한 길을 열어줍니다.

AI 민족주의 배경에서의 컴퓨팅 능력 경쟁

인공지능 스택 내에서 자원에 대한 경쟁이 치열해지고 있습니다. 지난 몇 년 동안 인공지능 모델이 대량으로 등장했습니다. Llama 3가 출시된 지 몇 시간 만에 Mistral과 OpenAI는 그들의 최첨단 인공지능 모델의 새로운 버전을 발표했습니다.

인공지능 스택 내에서 자원 경쟁이 진행되고 있는 세 가지 수준은: 1) 훈련 데이터, 2) 고급 알고리즘, 3) 컴퓨팅 유닛입니다. 컴퓨팅 파워는 인공지능 모델이 훈련 데이터와 모델 크기를 확장하여 성능을 향상시키도록 합니다. OpenAI의 변환기 기반 언어 모델에 대한 경험적 연구에 따르면, 훈련에 사용되는 컴퓨팅 양을 증가시키면 성능이 안정적으로 향상됩니다.

지난 20년 동안 컴퓨팅 사용량이 급증했습니다. Epoch.ai의 140개 모델 분석에 따르면, 2010년 이후 이정표가 되는 시스템의 훈련 컴퓨팅은 매년 4.2배 증가했습니다. 최신 OpenAI 모델인 GPT-4는 GPT-3의 66배에 해당하는 컴퓨팅 양이 필요하며, 약 120만 배에 달합니다.

AI 민족주의의 뚜렷함

미국, 중국 및 기타 국가의 막대한 투자 총액은 약 400억 달러에 달합니다. 대부분의 자금은 GPU 및 인공지능 칩 공장 생산에 집중될 것입니다. OpenAI의 CEO인 샘 올트먼은 "컴퓨팅이 미래의 통화가 될 것"이라고 강조하며, 글로벌 인공지능 칩 제조를 강화하기 위해 최대 7조 달러의 자금을 모금할 계획입니다.

긴 꼬리 컴퓨팅 자원을 집합하는 것은 시장을 크게 혼란시킬 수 있습니다. AWS, Azure 및 GCP와 같은 중앙 집중식 클라우드 서비스 제공업체가 직면한 도전 과제에는 긴 대기 시간, 제한된 GPU 유연성 및 번거로운 장기 계약이 포함되며, 특히 소규모 기업과 스타트업에 더 큰 어려움을 줍니다.

데이터 센터, 암호화폐 채굴자 및 소비자급 GPU의 미활용 하드웨어는 수요를 충족할 수 있습니다. 2022년 DeepMind의 연구에 따르면, 더 많은 데이터에서 더 작은 모델을 훈련하는 것이 최신의 가장 강력한 GPU를 사용하는 것보다 일반적으로 더 효과적이며, 이는 접근 가능한 GPU를 사용하여 더 효과적인 인공지능 훈련으로의 전환을 나타냅니다.

IO.NET은 인공지능 컴퓨팅 시장을 구조적으로 전복시킵니다

IO.NET은 글로벌 인공지능 컴퓨팅 시장을 구조적으로 전복시킵니다. IO.NET의 글로벌 분산 인공지능 훈련, 추론 및 미세 조정의 엔드 투 엔드 플랫폼은 긴 꼬리 GPU를 집합하여 저렴한 고성능 훈련을 가능하게 합니다.

GPU 시장:

IO.NET은 전 세계 데이터 센터, 채굴자 및 소비자로부터 GPU를 집합합니다. 인공지능 스타트업은 클러스터 위치, 하드웨어 유형, 머신 러닝 스택(Tensorflow, PyTorch, Kubernetes)을 지정하고 즉시 Solana에서 결제하여 몇 분 안에 탈중앙화된 GPU 클러스터를 배포할 수 있습니다.

클러스터:

적합한 병렬 인프라가 없는 GPU는 전원선이 없는 원자로와 같습니다. 존재하지만 사용할 수 없습니다. OpenAI 블로그에서 강조한 바와 같이, 하드웨어와 알고리즘의 병렬성 제한은 각 모델의 컴퓨팅 효율성에 상당한 영향을 미치며, 모델의 크기와 훈련 중 유용성을 제한합니다.

IO.NET은 Ray 프레임워크를 활용하여 수천 개의 GPU 클러스터를 하나의 통합된 전체로 변환합니다. 이 혁신은 IO.NET이 지리적 위치 분산의 영향을 받지 않고 GPU 클러스터를 구성할 수 있게 하여, 컴퓨팅 시장의 주요 문제를 해결합니다.

Ray 프레임워크의 두드러짐

오픈 소스 통합 컴퓨팅 프레임워크인 Ray는 인공지능 및 Python 작업 부하의 확장을 간소화합니다. Ray는 Uber, Spotify, LinkedIn 및 Netflix와 같은 업계 리더들에 의해 채택되어 그들의 제품 및 서비스에 인공지능 통합을 촉진했습니다. 마이크로소프트는 고객에게 Azure에서 Ray를 배포할 수 있는 기회를 제공하며, Google Kubernetes Engine (GKE)은 Kubeflow 및 Ray를 지원하여 오픈 소스 머신 러닝 소프트웨어의 배포를 간소화합니다.

Ahmad는 2023년 Ray 정상 회담에서 탈중앙화 Ray 프레임워크에 대한 그의 작업을 발표했습니다.

탈중앙화 Ray - 글로벌 추론을 위한 Ray 확장 (비디오 링크: https://youtu.be/ie-EAlGfTHA?)

우리는 처음에 Tory에서 핀테크 고성장 스타트업의 COO로 일할 때 그를 만났습니다. 우리는 그가 수십 년의 경험을 가진 고위 운영자라는 것을 알았고, 스타트업을 효과적으로 확장할 수 있는 능력을 가지고 있었습니다. Ahmad와 Tory와 대화한 후, 우리는 즉시 이것이 탈중앙화 인공지능 컴퓨팅을 웹3 및 더 넓은 범위로 가져오는 꿈의 팀이라는 것을 깨달았습니다.

Ahmad의 창의적 결실인 IO.NET은 실제 응용 프로그램에서의 통찰의 순간에 태어났습니다. 초저지연 고빈도 거래를 위한 알고리즘인 Dark Tick을 개발하는 데는 많은 GPU 자원이 필요했습니다. 비용 문제를 해결하기 위해 Ahmad는 암호화폐 채굴자로부터 GPU를 집합하는 탈중앙화된 Ray 프레임워크 버전을 개발하여, 더 넓은 인공지능 컴퓨팅 도전 과제를 해결할 수 있는 탄력적인 인프라를 우연히 구축했습니다.

발전 모멘텀:

토큰 인센티브를 활용하여, 2024년 중반까지 IO.NET은 10만 개 이상의 GPU와 2만 개의 클러스터 준비 GPU를 온라인에 배포했으며, 여기에는 많은 NVIDIA H100 및 A100이 포함됩니다. Krea.ai는 io.net의 탈중앙화 클라우드 서비스인 IO Cloud를 활용하여 그들의 인공지능 모델 추론을 추진하고 있습니다. IO.NET은 최근 NavyAI, Synesis One, RapidNode, Ultiverse, Aethir, Flock.io, LeonardoAI, Synthetic AI 등 여러 프로젝트와 협력한다고 발표했습니다.

IO.NET은 전 세계 분산 GPU 네트워크에 의존함으로써:

• 중앙 집중식 클라우드 서비스 제공업체와 비교하여, 추론을 최종 사용자에 더 가깝게 허용함으로써 고객의 추론 시간을 줄입니다.
• 고도로 통합된 네트워크 백본을 통해 여러 데이터 센터를 연결하여 자원을 지역적으로 조직함으로써 탄력성을 높입니다.
• 컴퓨팅 자원의 비용과 접근 시간을 줄입니다.
• 기업이 동적으로 자원의 규모를 확장하고 축소할 수 있도록 합니다.
• GPU 제공자가 하드웨어 투자에서 더 나은 수익을 얻을 수 있도록 합니다.

IO.NET은 탈중앙화 Ray 프레임워크를 통해 혁신의 최전선에 서 있습니다. Ray Core와 Ray Serve를 활용하여, 그들의 분산 GPU 클러스터는 탈중앙화 GPU에서 효율적으로 작업을 조정합니다.

결론

오픈 소스 인공지능 모델을 추진하는 것은 원래의 인터넷 협력 정신에 대한 인식이며, 사람들은 허가 없이 HTTP와 SMTP에 접근할 수 있습니다.

크라우드소싱 GPU 네트워크의 출현은 허가 없이 접근할 수 있는 정신의 자연스러운 진화입니다. 긴 꼬리 GPU를 크라우드소싱함으로써, IO.NET은 귀중한 컴퓨팅 자원으로 가는 문을 열고, 권력이 소수에게 집중되는 것을 방지하는 공정하고 투명한 시장을 창출하고 있습니다.

우리는 IO.NET이 탈중앙화된 Ray 클러스터 기술을 통해 인공지능 컴퓨팅이 통화가 되는 비전을 실현할 것이라고 믿습니다. "부자"와 "가난한 자"로 나뉘는 이 세계에서, IO.NET은 결국 "인터넷을 다시 열어줄 것"입니다.