專訪 OpenAI 第一位投資者維諾德.科斯拉:有關 AI 的 7 個重要問題
作者:Lynn Yang,矽發布
上週的某個傍晚,我在吃晚飯的時候聽了 Spotify 裡的一個播客。
到場嘉賓是 OpenAI 的第一位投資者、矽谷頂級技術風投 Khosla Ventures 的創始人維諾德·科斯拉。
顯然,不是每一天都有機會深入了解 OpenAI 第一位投資者的想法。
所以我把科斯拉的核心觀點整理了出來,分享給大家。以下是科斯拉有關 AI 的 7 個核心觀點:
(一)
相關背景:主持人問科斯拉,作為 OpenAI 的第一位投資者,他在日常生活中主要使用哪些 AI 用例。
科斯拉:主要是兩個,ChatGPT 和特斯拉的自動駕駛。
關於特斯拉,我說走就走的次數,真是驚人。感覺就像是完全的自動駕駛。你知道前幾天晚上,我是凌晨 3 點降落。當時我想:我太累了,我不會是一個安全的司機。所以我只是說了一句:接我回家。那種體驗真是太棒了。
這些都是 AI 對我的主要用途。而且這兩個用途,我一天要用很多次。
關於 ChatGPT,我在用它來計劃我的春季花園。
我就對 ChatGPT 說:我想要在 9a 區域生長的植物(指:在美國農業部的植物耐寒區劃分中適合在9a區種植的植物)。我想要每一個區域的高度,因為我正在把它們分層。
然後我還說:我想要有一些春天開花的花,一些初夏開花的花,一些在晚夏開花的花,一些在秋天開花的花。
這其實是一個類似設計的工作。我讓 ChatGPT 幫我布置了 20 株植物,它給了我所有這些信息,包括:澆水量、氣候區、高度、沒有日照的區域、半陰的區域、明亮陰影的區域。
所以,ChatGPT 做了驚人的事。這些事情本來會花我 3-4 個小時。所以是的,花園都是我自己設計的,我不聘請設計師。而且我可以向你保證:現在我的花園正在開花,你可能不會相信。
(二)
相關背景:主持人問科斯拉作為 OpenAI 的第一位投資者,他如何看待蘋果宣布 AI 戰略並與 OpenAI 合作,以及這種合作未來幾年會對 AI 創業生態圈產生什麼影響?
科斯拉:我認為蘋果需要為 AI 做點什麼,畢竟 Siri 的聲譽已經開始惡化。
首先,蘋果的聰明做法是:保持開放,讓用戶能夠訪問任何的 LLM。但是蘋果公司,確實也選擇了嵌入和內置在 IOS 中的方式,這足以讓伊隆·馬斯克感到不安,為此他聲稱要禁止蘋果設備。
所以我認為,這件事情更加重要的是,蘋果其實是展示了一些非常重要的東西:我們如何與計算機交互?
我認為,隨時間的推移,Siri 將演變成為人類真實界面的開始。從這個角度,我認為這是一個大新聞,因為我們正在看到這一開端。這令人興奮。
而從 OpenAI 的角度,這次合作其實已經清楚地確定了 OpenAI 在競爭中的最佳位置------與用戶直接交互。事實上,很多人都想要這個生意。
另一方面我確實認為,蘋果公司應該是慎重考慮過------在 1-2 年之後,蘋果認為最好的 AI 將會在哪裡?
因此在許多方面,蘋果與 OpenAI 的合作,是一個有關 OpenAI 的驗證,也是有關人類如何與機器交互的非常重要的里程碑。
(三)
相關背景:主持人問科斯拉,蘋果公司的案例說明了一個小模型可以做很多事。那么大模型在未來的定位是什麼?以及如果每個人都想要小模型,未來會不會變成這樣一個樣子:你可以和很多人交談,有的人智商 50,有的人智商 100,有的人智商 1 萬。然後關鍵是,你想把錢花在哪裡,是想把錢花在去問一個智商 1 萬的人一個問題,還是去問一個智商可能只有 70、但知道你電子郵件內容的人?這裡,涉及到了產品處理方向的平衡,以及為模型計算的成本。你覺得未來是不是這樣一個競技比賽?
科斯拉:小模型和大模型不同,並且不能互相取代。
此外,我可能不同意智商假設的未來。事實上,我認為會發生的事情是:未來計算成本將變得非常低廉。
我打賭:在一年之後,計算成本將會是今天的 1/5 到 1/10。因此,我對我們所有初創公司的建議是:忽略你的計算成本,因為你做出的任何假設,你在優化軟件上花的任何美元,都將在一年之內,變得一文不值。
原因是:每個大模型的所有者,都在試圖降低計算成本。而隨著 OpenAI、谷歌和雲計算公司的工程師們努力降低昂貴的 AI 晶片成本,計算很快就會變得非常便宜。
所以忘掉它,並依靠市場上各種大模型,如谷歌的 Gemini 和 OpenAI 之間的競爭,把成本降低到無關緊要的程度。其實,只要降到目前的 10% 或者更少,就無所謂了。
此外,目前一個大模型要優於其他大模型,其訓練成本,就要高出一個數量級。這就是我認為開源模型不可行的原因,因為訓練成本太高。但一旦你接受了培訓,你就會想要盡可能地被廣泛使用,因為出於下面兩個原因:
第一,你希望從中獲得最大收益,而成本最低的模型,將獲得最大收益。
第二,但更加重要的是,有大量的數據可以供你訓練下一代模型。
因此,出於種種原因,你想要最大限度地提高使用率。如果你玩的是長期遊戲,我認為:AI 模型的遊戲,大多是在 5 年的時間範圍內進行的,而不是在一年的時間範圍之內。在這個時間範圍裡,成本會下降。
今天,英偉達公司從每個人身上提取了相當不錯的稅收,但是每個模型都將在多種類型的 GPU 或計算上運行,並且他們需要最多的數據生成。所以我相信:在接下來的幾年裡,收入將不是模型公司的重要指標。
當然,你不想失去太多你負擔不起的錢。但你不想賺很多錢,因為你試圖獲得大量用戶使用,你試圖從用戶使用中獲得大量數據,並學習成為一個更好的模型。
我確實認為在智力方面,模型還有很多東西可以獲得,無論是在推理,概率思維,還是某種模式匹配等等,這些模型還有很大餘地可以變得更好。
所以我認為,幾乎每一年都會看到驚人的進步。一些公司比其他公司執行得更好,這是公司和公司之間的主要區別:OpenAI 在執行方面非常出色,谷歌有出色的技術,但執行得不夠清晰。
(四)
相關背景:主持人問科斯拉,如果考慮五年的時間範圍,現在,有些科技界的人士真的相信 AI 的價值會全部進入到現有大公司。但即便如此,它也被商品化了。所以你認為,五年的前景會如何?以及你更關注的 AI 主題是什麼,哪些主題是沒有涉及到現有大公司的?
科斯拉:所以我不相信,如果你正在構建基礎模型並試圖與 OpenAI 和谷歌競爭,那會是一個好位置。
因為大型的 LLM,將屬於可以在非常大的集群上運行的大型參與者,他們是可以為專有內容/數據付費的人,無論它是為 Reddit 付費,還是為一個可以訪問每一篇科學文章的公司。
所以最大的玩家,確實有優勢。
但是另一方面,最近我們宣布投資符號邏輯公司 Symbolica。他們採用了一種非常不同的方法來做模型。它不依賴於大量數據,也不依賴於大量的計算。這其實是一筆高風險、高上升空間的投資。如果 Symbolica 成功了,那麼就是戲劇性的。
所以我認為,即便是在模型層,也還有其他方法。如果我打電話給我在麻省理工的朋友喬希·特南鮑姆,他會說最大的貢獻是概率編程。因為人類的思維是概率性的,與模式匹配不一樣。這是一個重要因素。
因此我認為基礎技術還遠遠沒有完成。我們正在越來越多地利用 Transformer 模型,但還有其他模型有待開發。只是每個人都害怕投資 Transformer 模型以外的東西。而我們沒有。
你知道的,我非常專注於深奧的事物。事實上,Symbolica 是一種被稱為是範疇論的理論,大多數的數學家都沒聽說過。
所以,我們大概是在15、18個月前就下了很大的賭注。我認為投資雲計算是愚蠢的,因為人們購買 GPU 來構建雲計算,但他們會輸給亞馬遜,會輸給亞馬遜的規模和效率,還有微軟。
這兩家公司都在做定制芯片,這樣他們就不必在幾年之內支付英偉達稅。是的,還有 AMD,晶片領域還有很多事要做。但是在下一個層次,在應用程序層次,這裡有巨大的機會。
(五)
相關背景:在下面的內容裡,科斯拉講到了他心目中的 AI 應用的巨大機會具體是指哪些機會,並列舉了很多案例。
科斯拉:我的一個重要預測是:在未來,幾乎所有的專業知識都將會是免費的。
所以按此邏輯,無論你是在談論初級的保健醫生、教師、結構工程師,還是腫瘤學家。這裡有數百個甚至是數千個的專業領域,每一個領域,都將會產生一個非常成功的公司。
最近,我們還投資了一個建造結構工程師的公司。當然,我們投資了像 Devin 這樣非常受歡迎的東西。每個人都知道 Devin,他們正在打造一個 AI 程序員,他們不是在為程序員打造像 Copilot 這樣的工具,他們是在打造一個程序員。但是,我們剛剛還投資了一個打造結構工程師的公司,他們叫 Hedral。
一個事情很奇怪,現在有多少的結構工程師?我們在結構工程上花了多少錢?你把一個建築結構交給結構工程師,兩個月後,你會得到一些東西和一個變化。但是,你可以在 5 小時內,從 AI 結構工程師那裡得到 5 種變化,並在建築項目中節省幾個月的時間。所以這是一個很好的利基例子。但這可能是一個數百億美元的利基市場。
所以,我的觀點是:……