甲小姐對話凱文·凱利：關於 AI，我從未寫進書裡的判斷

作者：甲小姐 八度 編輯：田思奇

Slower than it looks（AI比看起來要慢），LLMs tend average（大語言模型趨於人類的平均智慧水平），Not replacing humans（AI並非要取代人類），New, not substitutions（AI在創造新品，不是替代品），Cloud first, then AI（先雲，後AI），Must change your org（AI將重塑組織），Just beginning（一切才剛剛開始）……這七個預測不是完備的。你能給我們一些從未在其他地方提到過的猜測嗎？"我問KK。

摘掉眼鏡的 KK 停頓了至少 30 秒，接著反問了我幾個漫長的回合，直到突然打斷了我。

"那我的預測就來了。我的預測是，10年後，訓練數據將不再重要 (In 10 years now, training data won't be important) 。KK說。

凱文·凱利（ Kevin Kelly ），被科技擁趸稱為" KK "，以絡腮鬍子和斑白髮絲成為一個時代符號。他寫出《失控》、《科技想要什麼》、《5000天後的世界》等書，被譽為"矽谷精神之父"，在 30 年前就預見到了雲計算、虛擬現實、物聯網等趨勢。2024年6月16日，他來到蘇州，參與蘇州科技商學院和上海交通大學上海高級金融學院共同舉辦的科技大講堂。上述對話發生在他講課後會議室裡的獨家採訪，原本20分鐘的採訪被他延續至將近一小時。

本文甲小姐深度對話凱文·凱利，從近況談到 AI 創新和人的本質。除了個別細節判斷的不同 ， KK 和「甲子光年」有類似的觀點： AI 改變世界的"進度條"才剛剛開始。

1.近況："那佔據了我所有的時間"

你必須有 1000 小時。可能我已經訓練了800小時了，但還不到 1000 小時。

甲小姐： 新聞來來去去，全世界對AI的態度已經發生了很多變化，特別是人們對AI 2.0、AGI或大模型的看法。最近一段時間，你傾注了多少時間跟蹤前沿AI進展？

凱文·凱利：那佔據了我所有的時間，我所做的就是持續閱讀人工智慧方面的文章。

甲小姐：你最喜歡誰的文章？

凱文·凱利：就像你說的，每天都有，可能每小時都有新文章，關於語言模型的一些新發現。

就在上週有一篇論文，來自Anthropic，關於特徵的權重以及如何操縱它們，這和 AI 黑盒的概念有關。他們說我們實際上可以看到背後的一點點機制，這很有趣。

甲小姐：你平常會用Midjourney，Pika，Runway等AI應用嗎？

凱文·凱利：我每天用AI畫一張畫，持續一年了。

甲小姐：你現在是AI行業的原住民了？

凱文·凱利： 還在半路上。你必須有 1000 小時。可能我已經訓練了800小時了，但還不到1000小時。

甲小姐：你在科技領域是一個哲學思考者。在最近AI的浪潮中你的科技哲學是否有迭代或改變？

凱文·凱利： 這是一個很好的問題。我的科技哲學觀並沒有改變，如果出現一些新的現象，我會認為它是在不斷證實和強化我的哲學。

到目前為止，我還沒有看到任何可能改變我對技術看法的事件出現。所以我的科技理論就像在進化一般，我在 AI 看到的一切現象都沒有改變我的底層科技哲學觀。

2. AI 觀："我真正擔心的事：人工智慧武器化

OpenAI 做出的最好和最差的決定分別是什麼？

甲小姐： 在你的官網頁面的最上方有一行小字：OVER THE LONG TERM , THE FUTURE IS DECIDED BY OPTIMISTS（從長遠來看，未來由樂觀主義者決定）。最近AI的一系列進展和快速迭代的浪潮，以及你剛才提到了百年人類身份認同危機，會讓你有擔憂嗎？

凱文·凱利： 總的來說，我不是特別擔心。有些事情我的確很在意，但我相信我們會解決。但還有些問題我們還不知道如何解決。比如氣候變化，我們知道應該怎麼做，但在AI領域存在一些我們不知道如何解決的問題，而這些問題有可能在未來會給我們帶來困擾，比如AI的武器化：我們應該允許出現一個機器人士兵嗎？AI可以有殺人的能力嗎？這是我們不知道的，而且這真的很難決定。所以這是我真正 擔心 的事：人工智慧武器化。

當然，我也很關心 AI 是開源還是閉源的，它是公開的還是只屬於公司所擁有。我的想法是，它應該是公開的。

甲小姐：你認為AI應該開源？

凱文·凱利：是的，應該對公眾開放源代碼，這是另一個我很關心的事。

甲小姐：你仍然是樂觀主義者。

凱文·凱利：我非常樂觀。我相信我們會最終解決這些AI相關問題，只是現在我們還不知道怎麼做。也就是說，結果是確定的，只是路徑還不清晰，所以我非常樂觀。當然，也有一些人擔心的事情我並不擔心，就像我並不擔心失業。另外，我也不擔心人工智慧會對我們構成威脅。

甲小姐：你在世界各地都有粉絲，也一定認識很多偉大的科學家朋友。他們是否同意你對於AI的觀點，還是持反對意見的更多？

凱文·凱利： 這個話題確實很有趣，現在有一個巨大的分歧。關於超級AI有兩個陣營，有一些非常優秀的科學家感到擔憂，另外一批優秀的科學家則並不擔心，這很有趣。我在不擔心 AI 的陣營裡。

甲小姐：迄今為止，OpenAI做出的最好和最差的決定分別是什麼？

凱文·凱利：最差的決定是 OpenAI 並沒有開放 的大模型，這是一個很糟糕的決定，還有另一個最差的決定是（曾經）解雇創始人Sam（薩姆·奧爾特曼）。

最好的決定是OpenAI始終保持著快速發展、快速迭代，並且不斷創新，越來越快地發展使得它能夠重新雇用Sam，還有它很堅定，強調在發展中不用過於認真謹慎，而是真正嘗試快速成長。

3.邊界：" AI 擅長爬山（ Hill climbing )，而不是造山（ Hill making ）"

你可以在 Midjourney 或 Dall - E 畫一位著名的宇航員騎馬，但你不能讓馬騎著宇航員，因為這在學習範圍以外。

甲小姐： 你提到了兩種類型的創造力，類型1和類型2，你畫了一張很好玩的圖，說AI擅長爬山，而不是造山，這兩者的區別是什麼？

凱文·凱利：大語言模型的創造力其實只有一種創造力，就是在已知的範圍內運作。他們在填補和探索我所知道的空間內的一切。他們並沒有發明全新的領域。

突破基本上是在創造新領域，而不是在現有限制內尋找解決方案( So breakthroughs basically are making up new territories rather than exploiting of finding solutions within an existing term )。

他們現在做的主要是在我們所知道的範圍內尋找答案。你可以在 idjourney 或 Dall - E 畫一位著名的宇航員騎馬，但你不能讓馬騎著宇航員，因為 在學習範圍以外。

甲小姐：你是Scaling law（規模法則）的擁趸嗎？

凱文·凱利：確實有一些，為了讓「甲子光年」的用戶便於理解，我先解釋一下。Scaling law是在說存在一個數學比例關係，可以描述模型變得有多大，損失因素，以及它距離最佳性能還有多遠。

我們不知道這是否是無限延伸的。我可以永遠擴張嗎？曲線是否最終歸於平緩？到目前為止，我認為證據表明它將趨於一條直線。這和互聯網不同。

當然證據並非來自 Scaling law 本身， Scaling law 本身是一個假設。

甲小姐：最近有一種觀點在AI行業非常流行------一切都與數據集有關，假以時日，AI效果和算法或者其他一些方法關係不大，只有數據集是重要的。

凱文·凱利：有一篇論文說數據的質量和影響比算法更大。我相信這是非常可能的。

我預測我們會看到一家 AI 公司會宣傳 AI 是基於訓練數據的。所以會有人說，我們沒有接受過什麼算法訓練，我們只用最好的數據訓練。我們用高質量的書籍和其他高質量的材料來訓練它。我們用Reddit訓練。

這就像教育。如果你有一個孩子，你會如何教育他們？你打算讓他們讀什麼？你是讓他們看推特還是讓他們讀經典？有人說我們的人工智慧只讀經典。他們閱讀最高質量的書籍，閱讀最高質量的科學期刊。他們沒有閱讀 Reddit 、 Twitter 或微博。他們在讀好東西。他們接受了最好的訓練。會有一些人用這種策劃訓練數據的想法作為賣點，非常精心的策劃。昨天 Getty Images 宣布將發布一個 AI 圖像生成器，只在 Getty 圖庫裡訓練。

4.猜想："10年後，訓練數據將不再重要 ( In 10 years now , training data won't be important )"

10 年後我們不需要數百萬個數據就能擁有推理能力。

甲小姐： 你的知名度很大程度上來自你預言家的身份，但你剛才在螢幕上亮出了大字：No predictions （沒有預測） 。但你又提到了七個判斷： Slower than it looks（AI比看起來要慢） LLMs tend average（大語言模型趨於人類的平均智慧水平） Not replacing humans（AI並非要取代人類） New, not substitutions（AI在創造新品，不是替代品） Cloud first, then AI（先雲，後AI） Must change your org（AI將重塑組織） Just beginning（一切才剛剛開始）

判斷 不是 完備 你能給我們一些你從未在其他地方提到過的猜測嗎

凱文·凱利：（停頓很久）一般來說，如果我有想法，我肯定會告訴別人。我們先繼續對話，然後我會努力想出一個。

（繼續停頓）關於人工智慧，我對中國的人工智慧了解不多。你顯然也在讀論文，你認為中國目前在人工智慧方面正在發生什麼？

甲小姐： 我認為中國和美國的相似之處比人們想像的要大得多。

凱文·凱利：相似之處？怎麼說？

甲小姐：比如人才。中國有很多年輕人才，他們是學生或在創業公司。他們與我在美國或其他一些國家遇到的年輕人才非常相似，因為AI如此尖銳，如此新穎。

我的專業是數學。當我們比較 AI 和數學時，歷史的長度是不一樣的。我周圍的很多朋友認為人工智慧太複雜了，難以理解。但 AI 的歷史只有半個多世紀，如果你只是想了解概述、歷史、學科分類，讀兩三本書足以讓你建立對 AI 的基礎概覽，從學科本身，大家起點類似。中國可能沒有馬斯克或奧爾特曼這種大牌，但當你環顧年輕人才，整體基礎非常相似。

第二個維度是數據。也許中國可能有一些優勢。

凱文·凱利：誰有權訪問數據？一家年輕的初創公司，他們可以訪問這些數據嗎？

甲小姐：我想我們才剛剛開始。政府在試圖建立基本的基礎設施，讓人們以良好的方式獲得他們想要的數據。

凱文·凱利：那是怎樣的好方式？

甲小姐：數據市場。你知道，數據已經寫入基本政策，成為要素，就像資本、勞動力、技術、土地，它們在中國被稱為"生產要素"。

凱文·凱利：你們的企業家訪問數據沒有任何難度？

甲小姐：不是沒有難度。但他們可以像在其他國家，也許更容易，也必須面對許多挑戰，但我認為最大的挑戰不是政策，不是權限，而是數據集。不同語言的數據集不同。

凱文·凱利： 那我的預測就來了。我的預測是，10 年後，數據將不再重要。

現在所有大語言模型都需要擴展大量的數據方法，但其他類型的認知、智力是它們沒有的。就像一個人類幼兒在看到 12 個例子後就能區分貓和狗，幼兒不需要 12 00萬個數據才能知道。

我認為 10 年後我們不需要數百萬個數據就能擁有推理的能力。這對初創企業來說是一個巨大的優勢，因為他們不需要擁有所有這些數據。這是我的推測。

5.本質："意識讓人類與眾不同，但是我們也會把意識給 AI "

我們會和 AI 一起發現作為人類的意義是什麼。

甲小姐： 你能給我一些關於你對人類及人工智慧本質的見解嗎？

凱文·凱利： 問題是我們也不知道人類的本質是什麼 要找出答案的方法 就是 製造人工智慧。我們會成功的。

我們曾意識到，哦，原來創造力是讓我們與眾不同的原因------但現在我們改變了主意，因為人工智慧也有創造力；然後我們會說，好吧，現在我們認為意識是讓我們與眾不同的原因，但是我們 會把意識給 AI ……

甲小姐：這個"給予"的過程會一直繼續到哪裡？

凱文·凱利： 在技術和AI的推動下，我們將不斷重新定義自己。更重要的問題不是我們是誰，而是我們想成為誰。我們希望人類成為什麼？這是一個更有力的問題。

因為我們可以有一點點選擇。這是令人興奮的，對我來說，這是AI 的終極魅力 它照亮了 我們是誰 的迷霧 ，也激勵著我們該成為什麼樣的人。

甲小姐：加速計算正在觸及科學的無人區，這條道路的極限是什麼？

凱文·凱利：就像我們沒有關於智能的理論，我們也沒有關於人類的理論。

我們不能預測AI要去的地方，因為我們對AI沒有理論。我們也沒有理論說，如果你做這個，你就有了預測；如果你做這個，那麼這將會發生；如果你算上所有這些計算，你就會得到這個……我們現在沒有任何這樣的理論。這很不尋常。

在物理學裡我們有理論------如果你做了一個足夠大的對撞機，你會找到那個粒子。我們在智能領域沒有這種理論。但令人興奮的是，我們會和 AI 一起發現作為人類的意義是什麼。

甲小姐：我喜歡你的回答。

凱文·凱利：我喜歡你的問題。

右：凱文·凱利，左：甲子光年創始人\&CEO 張一甲（圖片來源：「甲子光年」拍攝）