OpenAIの初代投資家ヴィノード・コスラへのインタビュー：AIに関する7つの重要な質問

著者：Lynn Yang，シリコンバレー発

先週のある夕方、私は夕食を食べながらSpotifyでポッドキャストを聞いていました。

ゲストはOpenAIの初期投資家であり、シリコンバレーのトップテクノロジーベンチャーキャピタルKhosla Venturesの創設者、ヴィノード・コスラです。

明らかに、毎日OpenAIの初期投資家の考えを深く理解する機会があるわけではありません。

そこで、コスラの核心的な見解を整理して、皆さんと共有したいと思います。以下はコスラによるAIに関する7つの核心的な見解です：

（一）

関連背景：ホストがコスラに、OpenAIの初期投資家として、日常生活で主に使用しているAIのユースケースについて尋ねました。

コスラ：主に2つ、ChatGPTとテスラの自動運転です。

テスラについて言えば、私が「行け」と言った回数は本当に驚くべきものです。完全な自動運転のように感じました。数日前の夜、私は午前3時に着陸しました。その時、私は「疲れすぎている、私は安全なドライバーではない」と思いました。だから、私はただ「家に帰って」と言いました。その体験は本当に素晴らしかったです。

これらがAIの私にとっての主な用途です。そして、この2つの用途は、私は1日に何度も使用します。

ChatGPTについては、春の庭を計画するために使っています。

私はChatGPTに「9a地域で育つ植物が欲しい」と言いました（アメリカ農務省の植物耐寒区分で9a区に適した植物を指します）。私はそれらを層に分けているので、各地域の高さが欲しいです。

それから私は「春に花が咲く花、初夏に花が咲く花、晩夏に花が咲く花、秋に花が咲く花が欲しい」とも言いました。

これは実際にはデザインに似た作業です。私はChatGPTに20株の植物を配置してもらい、彼は水やりの量、気候区、高さ、日陰の区域、半日陰の区域、明るい影の区域など、すべての情報を提供してくれました。

だから、ChatGPTは驚くべきことをしました。これらのことは本来、私に3〜4時間かかるはずでした。だから、はい、庭は私自身がデザインしたもので、デザイナーを雇っていません。そして、私はあなたに保証できます：今、私の庭は花が咲いていて、あなたは信じられないかもしれません。

（二）

関連背景：ホストがコスラに、OpenAIの初期投資家として、AppleがAI戦略を発表し、OpenAIと協力することについてどう思うか、またこの協力が今後数年でAIスタートアップエコシステムにどのような影響を与えるかを尋ねました。

コスラ：私はAppleがAIのために何かをする必要があると思います。結局、Siriの評判は悪化し始めています。

まず、Appleの賢いアプローチは、オープンにしてユーザーが任意のLLMにアクセスできるようにすることです。しかし、Appleは確かにiOSに埋め込む形を選択しました。これにより、イーロン・マスクは不安を感じ、Appleデバイスを禁止すると主張しました。

だから、私はこの問題がより重要であると思います。Appleは実際に非常に重要なものを示しています：私たちはコンピュータとどのように対話するのか？

私は、時間が経つにつれて、Siriは人間の真のインターフェースの始まりに進化すると思います。この観点から、これは大ニュースだと思います。なぜなら、私たちはこの始まりを見ているからです。これは興奮をもたらします。

OpenAIの観点から見ると、この協力はOpenAIが競争の中での最適な位置を明確に定義したものです------ユーザーと直接対話することです。実際、多くの人々がこのビジネスを望んでいます。

一方で、私は確かにAppleが慎重に考慮すべきだと思います------1〜2年後、Appleが考える最良のAIはどこにあるのか？

したがって、多くの面で、AppleとOpenAIの協力は、OpenAIに関する検証であり、人類が機械とどのように対話するかに関する非常に重要なマイルストーンです。

（三）

関連背景：ホストがコスラに、Appleのケースが小さなモデルが多くのことをできることを示していると尋ねました。では、大きなモデルの将来の位置付けは何ですか？また、もし誰もが小さなモデルを望むなら、将来はこうなるのでしょうか：あなたは多くの人と話すことができ、ある人はIQ50、ある人はIQ100、ある人はIQ10,000です。そして重要なのは、あなたがどこにお金を使いたいかです。IQ10,000の人に質問するためにお金を使いたいのか、それともIQが70かもしれないがあなたのメールの内容を知っている人に質問するためにお金を使いたいのか？ここでは、製品処理の方向性のバランスとモデル計算のコストが関わっています。あなたは将来、こうした競技会になると思いますか？

コスラ：小さなモデルと大きなモデルは異なり、互いに置き換えることはできません。

さらに、私はIQの仮定の未来には同意しないかもしれません。実際、私が考えることは、将来的に計算コストが非常に安くなるということです。

私は賭けます：1年後、計算コストは今日の1/5から1/10になるでしょう。したがって、私たちのすべてのスタートアップに対するアドバイスは、計算コストを無視することです。なぜなら、あなたが行うあらゆる仮定、ソフトウェアの最適化に費やすあらゆるドルは、1年以内に無価値になるからです。

理由は、すべての大きなモデルの所有者が計算コストを下げようとしているからです。そして、OpenAI、Google、クラウドコンピューティング企業のエンジニアたちが高価なAIチップのコストを下げるために努力しているため、計算はすぐに非常に安くなるでしょう。

だから、それを忘れて、GoogleのGeminiやOpenAIの間の競争のようなさまざまな大きなモデルに依存し、コストを無関係な程度まで下げてください。実際、現在の10％またはそれ以下に下げれば、問題ありません。

さらに、現在、大きなモデルが他の大きなモデルよりも優れているためには、そのトレーニングコストが1桁高くなければなりません。これが私がオープンソースモデルが実行不可能だと考える理由です。なぜなら、トレーニングコストが高すぎるからです。しかし、一度トレーニングを受ければ、できるだけ広く使用されたいと思うでしょう。なぜなら、以下の2つの理由からです：

第一に、あなたは最大の利益を得たいと思っており、最もコストの低いモデルが最大の利益を得るでしょう。

第二に、しかしより重要なのは、次世代モデルをトレーニングするための大量のデータがあるからです。

したがって、さまざまな理由から、あなたは使用率を最大化したいと思います。もしあなたが長期的なゲームをしているなら、私はAIモデルのゲームはほとんどが5年の時間範囲で行われると思います。一年の時間範囲ではありません。この時間範囲内で、コストは下がります。

今日、NVIDIAは各人からかなりの税金を徴収していますが、各モデルはさまざまなタイプのGPUまたは計算上で動作し、彼らは最大のデータ生成を必要とします。だから、私は信じています：今後数年で、収入はモデル会社の重要な指標ではないでしょう。

もちろん、あなたは負担できないお金を失いたくはありません。しかし、あなたは多くのお金を稼ぎたくはありません。なぜなら、あなたは大量のユーザーを獲得しようとしており、ユーザーの使用から大量のデータを得て、より良いモデルになるために学ぼうとしているからです。

私は確かに知能の面で、モデルにはまだ多くのことが得られると思います。推論、確率思考、あるいは何らかのパターンマッチングなど、これらのモデルはまだ大きな余地があります。

したがって、私はほぼ毎年驚くべき進歩を見ていると思います。ある会社が他の会社よりも優れた実行をしているのが主な違いです：OpenAIは実行面で非常に優れており、Googleは優れた技術を持っていますが、実行が不十分です。

（四）

関連背景：ホストがコスラに、もし5年の時間範囲を考慮するなら、現在、テクノロジー界の一部の人々は本当にAIの価値がすべて既存の大企業に入ると信じています。しかし、それでも商品化されています。だから、あなたは5年後の展望をどう思いますか？また、あなたがより関心を持っているAIのテーマは何ですか？どのテーマが既存の大企業に取り上げられていないのでしょうか？

コスラ：だから、私は信じていません。もしあなたが基盤モデルを構築し、OpenAIやGoogleと競争しようとしているなら、それは良い位置ではありません。

なぜなら、大規模なLLMは、非常に大きなクラスターで動作できる大規模な参加者に属し、彼らは専有コンテンツ/データに対して支払うことができる人々です。たとえば、Redditに支払うか、すべての科学論文にアクセスできる会社に支払うかです。

したがって、最大のプレーヤーは確かに優位性を持っています。

しかし一方で、最近私たちはSymbolicaというシンボリックロジック会社に投資を発表しました。彼らはモデルを作成するために非常に異なるアプローチを採用しています。それは大量のデータにも、大量の計算にも依存していません。これは実際には高リスク・高リターンの投資です。もしSymbolicaが成功すれば、それは劇的です。

したがって、私はモデルのレイヤーでも他の方法があると思います。もし私がMITの友人であるジョシュ・テナンバウムに電話をかければ、彼は最大の貢献は確率プログラミングだと言うでしょう。なぜなら、人間の思考は確率的であり、パターンマッチングとは異なるからです。これは重要な要素です。

したがって、私は基盤技術がまだ完成していないと思います。私たちはますますTransformerモデルを利用していますが、他のモデルも開発されるべきです。ただし、誰もがTransformerモデル以外のものに投資することを恐れています。しかし、私たちはそうではありません。

ご存知のように、私は非常に難解な事柄に集中しています。実際、Symbolicaは範疇論と呼ばれる理論であり、ほとんどの数学者はそれを聞いたことがありません。

したがって、私たちは約15〜18ヶ月前に大きな賭けをしました。私はクラウドコンピューティングへの投資が愚かだと思います。なぜなら、人々はGPUを購入してクラウドコンピューティングを構築しますが、彼らはAmazonに負け、Amazonの規模と効率に負け、Microsoftにも負けます。

これらの2社はカスタムチップを製造しているため、彼らは数年以内にNVIDIA税を支払う必要がありません。はい、AMDもあります。チップ分野にはまだ多くのことがあります。しかし、次のレベル、アプリケーションレベルには巨大な機会があります。

（五）

関連背景：以下の内容で、コスラは彼が考えるAIアプリケーションの巨大な機会が具体的にどのような機会であるかを語り、多くの事例を挙げました。

コスラ：私の重要な予測の一つは、将来的にはほぼすべての専門知識が無料になるということです。

したがって、この論理に従えば、初級の医師、教師、構造エンジニア、あるいは腫瘍学者について話している場合でも、ここには数百、あるいは数千の専門分野があり、それぞれの分野で非常に成功した会社が生まれるでしょう。

最近、私たちは構造エンジニアを構築する会社にも投資しました。もちろん、私たちはDevinのような非常に人気のあるものにも投資しました。誰もがDevinを知っており、彼らはAIプログラマーを構築しています。彼らはプログラマーのためにCopilotのようなツールを作っているのではなく、プログラマーそのものを作っています。しかし、私たちは最近、構造エンジニアを構築する会社にも投資しました。彼らはHedralと呼ばれています。

一つの奇妙なことは、今、どれだけの構造エンジニアがいるのでしょうか？私たちは構造工学にどれだけのお金を使っているのでしょうか？あなたが建物の構造を構造エンジニアに渡すと、2ヶ月後に何かと変更を得ることができます。しかし、あなたはAI構造エンジニアから5つの変更を5時間以内に得ることができ、建設プロジェクトで数ヶ月の時間を節約できます。したがって、これは非常に良いニッチな例です。しかし、これは数百億ドルのニッチ市場になる可能性があります。

したがって、私の見解は：……