AIのオッペンハイマーの瞬間、IO.NETがどのように分散型人工知能計算市場を革新するか

著者：Raghav Agarwal、Roy Lu，LongHash Ventures

編纂：Elvin,ChainCatcher

AI

人類はAIオッペンハイマーの瞬間に直面しています。

イーロン・マスクは指摘しています：「技術が進歩するにつれて、AIが権力者の利益だけでなく、人民の利益に役立つことを確保することが重要です。人民が所有するAIは前進の道を提供します。」

暗号通貨との交差点において、AIは自身の民主化を実現できます。オープンソースモデルから始まり、人民のためのAIが人民によって提供されます。Web3 x AIの目標は高尚ですが、その実際の採用は利用可能性と既存のAIソフトウェアスタックとの互換性に依存します。これがIO.NETの独自のアプローチと技術スタックが機能する場所です。

IO.NETの分散型Rayフレームワークは、web3およびそれ以上の範囲に無許可のAI計算市場を導入するためのトロイの木馬です。

IO.NETはGPUの豊富さをもたらすことにおいて先頭に立っています。他の汎用計算アグリゲーターとは異なり、IO.NETはRayフレームワークを再構築することで、分散型計算と業界をリードするAIスタックを橋渡ししています。このアプローチは、web3内外でのより広範な採用への道を開きます。

AIナショナリズムの背景における計算能力競争

AIスタック内でのリソース競争は激化しています。過去数年で、AIモデルが大量に登場しました。Llama 3のリリースから数時間以内に、MistralとOpenAIは最先端のAIモデルの新バージョンを発表しました。

AIスタック内で進行中のリソース競争の三つのレベルは：1) トレーニングデータ、2) 先進的なアルゴリズム、3) 計算ユニットです。計算能力は、AIモデルがトレーニングデータとモデルサイズを拡張することで性能を向上させることを可能にします。OpenAIによるトランスフォーマーベースの言語モデルに関する経験的研究によれば、トレーニングに使用する計算量を増やすにつれて、性能は安定して向上します。

過去20年間で、計算使用量は急増しました。Epoch.aiによる140のモデルの分析は、2010年以来、画期的なシステムのトレーニング計算が毎年4.2倍増加していることを示しています。最新のOpenAIモデル、GPT-4が必要とする計算量はGPT-3の66倍、約GPTの120万倍です。

AIナショナリズムの明白さ

アメリカ、中国、その他の国々の巨額の投資は、合計約400億ドルです。ほとんどの資金はGPUとAIチップ工場の生産に集中します。OpenAIのCEOサム・アルトマンは、世界のAIチップ製造を強化するために最大7兆ドルの資金を調達する計画を立てており、「計算は未来の通貨になる」と強調しています。

長尾計算リソースの集約は、市場を大きく混乱させる可能性があります。AWS、Azure、GCPなどの集中型クラウドサービスプロバイダーが直面する課題には、長時間の待機、限られたGPUの柔軟性、特に小規模な実体やスタートアップにとって困難な長期契約が含まれます。

データセンター、暗号通貨マイナー、消費者向けGPUの未活用ハードウェアが需要を満たすことができます。2022年のDeepMindの研究では、より多くのデータで小さなモデルをトレーニングすることが、最新かつ最強のGPUを使用するよりも一般的に効果的であることが示されており、アクセス可能なGPUを使用したより効果的なAIトレーニングへの移行を示唆しています。

IO.NETはAI計算市場を構造的に覆しています

IO.NETは世界のAI計算市場を構造的に覆しています。IO.NETのグローバル分散型AIトレーニング、推論、微調整のエンドツーエンドプラットフォームは、長尾GPUを集約し、安価な高性能トレーニングを解放します。

GPU市場：

IO.NETは、世界中のデータセンター、マイナー、消費者からGPUを集約します。AIスタートアップは、クラスターの位置、ハードウェアの種類、機械学習スタック（Tensorflow、PyTorch、Kubernetes）を指定するだけで、数分以内に分散型GPUクラスターを展開し、即座にSolanaで支払うことができます。

クラスター：

適応した並列インフラストラクチャのないGPUは、電源ケーブルのない原子炉のようなもので、存在していても使用できません。OpenAIのブログが強調するように、ハードウェアとアルゴリズムの並列性の制限は、各モデルの計算効率に大きな影響を与え、モデルのサイズとトレーニング中の有用性を制限します。

IO.NETはRayフレームワークを利用して、数千のGPUクラスターを一つの統一体に変換します。この革新により、IO.NETは地理的に分散した影響を受けずにGPUクラスターを構築でき、計算市場の大きな課題を解決します。

Rayフレームワークの際立ち

オープンソースの統一計算フレームワークとして、RayはAIとPythonのワークロードの拡張を簡素化します。RayはUber、Spotify、LinkedIn、Netflixなどの業界リーダーによって採用され、彼らの製品やサービスへのAIの統合を促進しています。マイクロソフトは顧客にAzure上でRayを展開する機会を提供し、Google Kubernetes Engine (GKE)はKubeflowとRayをサポートすることでオープンソースの機械学習ソフトウェアの展開を簡素化しています。

Ahmadは2023年Rayサミットで去中心化Rayフレームワークに関する彼の作業を展示しました

去中心化Ray - グローバル推論のためにRayを拡張する（動画リンク：https://youtu.be/ie-EAlGfTHA?）

私たちは最初にToryでフィンテックの急成長スタートアップのCOOを務めていたときに彼に出会い、彼が数十年の経験を持つシニアオペレーターであり、スタートアップを効果的なレベルに拡大できることを知っていました。AhmadとToryと話した後、私たちはすぐに、去中心化AI計算をweb3およびそれ以上の範囲に持ち込む夢のチームであることを認識しました。

Ahmadの創造的な結晶、IO.NETは、実際のアプリケーションにおける啓示の瞬間に誕生しました。超低遅延の高頻度取引のためのアルゴリズムであるDark Tickを開発するには、大量のGPUリソースが必要です。コストの問題に対処するために、Ahmadは暗号通貨マイナーからGPUを集約する去中心化Rayフレームワークのバージョンを開発し、より広範なAI計算の課題を解決する弾力的なインフラストラクチャを偶然にも構築しました。

成長の勢い：

トークンインセンティブを活用することで、2024年中頃までにIO.NETは10万以上のGPUと2万のクラスター準備が整ったGPUを立ち上げました。Krea.aiは、io.netの去中心化クラウドサービスであるIO Cloudを利用して、彼らのAIモデル推論を推進しています。IO.NETは最近、NavyAI、Synesis One、RapidNode、Ultiverse、Aethir、Flock.io、LeonardoAI、Synthetic AIなどの複数のプロジェクトとの提携を発表しました。

グローバルに分散したGPUネットワークに依存することで、IO.NETは：

• 集中型クラウドサービスプロバイダーと比較して、推論をエンドユーザーに近づけることで顧客の推論時間を短縮
• 高度に統合されたネットワークバックボーンを通じて複数のデータセンターを接続し、リソースを地域に整理することで弾力性を向上
• 計算リソースのコストとアクセス時間を削減
• 企業がリソースの規模を動的に拡大および縮小できるようにする
• GPU提供者がハードウェア投資からより良いリターンを得られるようにする

IO.NETは去中心化Rayフレームワークを通じて革新の最前線に立っています。Ray CoreとRay Serveを活用し、彼らの分散型GPUクラスターは去中心化GPU上で効率的にタスクを編成します。

結論

オープンソースのAIモデルを推進することは、元のインターネットの協力精神への認識であり、人々が許可なしにHTTPとSMTPにアクセスできることを意味します。

クラウドソーシングGPUネットワークの出現は、無許可の精神の自然な進化です。長尾GPUをクラウドソーシングすることで、IO.NETは貴重な計算リソースへの扉を開き、公平で透明な市場を創造し、権力が少数の手に集中するのを防いでいます。

私たちは、IO.NETが去中心化のRayクラスター技術を通じてAI計算を通貨として実現するビジョンを持っていると信じています。この「富人」と「貧人」で構成される世界で、IO.NETは最終的に「インターネットを再び開放する」ことになるでしょう。