原文標題：《 ZKML --- Towards a Future of Verifiable AI》

作者：Avant Blockchain Capital

編譯：倩雯， ChainCatcher

背景介紹

在過去的幾個月裡，人工智慧行業出現眾多突破性進展。GPT4和穩定擴散等模型正在改變人們生產軟體、互聯網以及與之互動的方式。

儘管這些新的人工智慧模型表現出傑出的性能，但一些人擔心人工智慧的不可預測性和對齊問題。例如，線上服務的世界中缺乏透明度，大部分的後台工作由人工智慧模型運行。要驗證這些模型的行為是否符合預期，將會是很大的挑戰。此外，用戶隱私也值得關注，提供給模型API的所有數據都可以被用來改進人工智慧或者被黑客利用。

ZKML可能是這些問題的全新解決方案。通過向機器學習模型輸入可驗證和不可信任的屬性，區塊鏈和ZK技術可以形成能夠實現人工智慧對齊的框架。

什麼是ZKML？

本文中的零知識機器學習（ZKML）是指使用zkSNARK（一種零知識證明）來證明機器學習推理的正確性，而不透露模型的輸入或模型參數。根據信息是否私有，ZKML的用例可以分為以下類型：

公共模式+私人數據：

• 具有隱私性的機器學習：ZKML可以用來訓練和評估敏感數據上的機器學習模型，而不向其他人透露數據。這對於醫療診斷和金融欺詐檢測等應用非常重要。我們還看到一些公司在生物識別數據認證上使用ZKML，以建立非機器人證明（proof of humanity）服務。
• 證明：在一個大多數線上內容由人工智慧生成的世界裡，密碼學可以作為一種來源保證內容真實。人們正在嘗試使用ZKML來對抗深度造假問題。

私人模式+公共數據

• 模型的真實性：ZKML可以用來確保機器學習模型的一致性。這對用戶來說很重要，可以確保模型提供者沒有偷懶使用成本較低的模型或被黑客攻擊。
• 去中心化的Kaggle：ZKML允許數據科學競賽的參與者在公共測試數據上證明模型的準確性，而無需透露訓練時的模型權重。

公共模型+公共數據

• 去中心化推理：這種方法主要是利用ZKML的簡潔性，將複雜的人工智慧計算壓縮到類似於ZK rollup的鏈上證明。這種方法可以將模型服務的成本分配給多個節點。

由於zkSNARK將成為加密貨幣世界一項非常重要的技術，ZKML也有可能改變加密貨幣世界的格局。通過向智能合約加入人工智慧功能，ZKML可以解鎖更複雜的鏈上應用。這種整合在ZKML社區內被描述為"為區塊鏈裝上雙眼"。

技術瓶頸

但ZK-ML也面臨幾大技術挑戰，當下亟待解決。

• 量化：ZKP在場上工作，但神經網絡是在浮點上訓練的。這意味著為了使神經網絡模型對zk/區塊鏈友好，需要將其轉換為具有完整計算軌跡的定點算術表示。這可能會犧牲模型的性能，因為參數的精度較低。
• 跨語言翻譯：神經網絡人工智慧模型使用python和cpp書寫，而ZKP電路使用rust語言。所以我們需要翻譯層來將模型轉換成基於ZKP的運行時間。通常這種類型的翻譯層需要基於特定模型，很難設計一個通用的翻譯層。
• ZKP的計算成本：基本上ZKP的成本會比原來的ML計算高很多。根據 ++Modulus Labs的一個實驗++，對於一個擁有2000萬個參數的模型，生成證明需要1-5分鐘以上，內存消耗約為20-60GB，具體情況取決於ZK證明系統的情況。

發展現狀

即使面臨上述挑戰，我們已經看到ZKML在加密貨幣社區引起關注，一些偉大的團隊正在該領域探索。

基礎設施

模型編譯器

由於ZKML的主要瓶頸是將人工智慧模型轉換為ZK電路，一些團隊正在研究ZK模型編譯器等基礎設施層。從一年前的邏輯回歸模型或簡單的CNN模型開始，該領域已經快速發展至更複雜的模型。

• ++EZKL++項目現在支持高達100mm參數的模型。它使用ONNX格式和halo2 ZKP系統。該庫還支持只提交模型的一部分。
• ++ZKML++庫已經支持GPT2、Bert和擴散模型的ZKP。

ZKVM

ZKML編譯器也屬於零知識虛擬機的普遍範疇之內。

• Risc Zero是一個使用開源RiscV指令集的zkVM，所以它可以支持C++和Rust的ZKP。該++zkDTP++項目展示了如何將決策樹ML模型轉換為rust並在Risc Zero上運行。
• 我們也看到一些團隊正在嘗試用 Startnet(++Giza++ ) 和 Aleo (++zero gravity++)和將AI模型引入鏈上。

應用

除了基礎設施方面的舉措外，其他團隊也開始探索ZKML的應用。

DeFi ：

• DeFi的一個用例是人工智慧驅動的金庫，其機制由人工智慧模型而非一成不變的策略來確定。這些策略可以吸收鏈上和鏈下數據來預測市場趨勢並執行交易。ZKML保證了鏈上模型的一致性。這可以使整個過程自動和無信任。Mondulus Labs正在建立 ++RockyBot++。該團隊訓練了一個鏈上人工智慧模型來預測ETH價格，並建立了一個智能合約來自動與該模型進行交易。
• 其他潛在的DeFi用例包括AI驅動的DEX和借貸協議。預言機還可以利用ZKML提供由鏈外數據產生的新型數據源。

遊戲：

• Modulus Labs推出基於ZKML的國際象棋遊戲LeeLa，在該遊戲中所有的用戶一起與一個受ZK驗證、由人工智慧模型驅動的機器人對弈。人工智慧可以為現有的完全鏈上遊戲帶來更多的互動功能。

NFT/ 創造者經濟：

• ++EIP-7007++：該EIP提供了一個接口，可以使用ZKML來驗證人工智慧為NFT生成的內容是否確實來自使用一定輸入（提示）的模型。該標準可以賦能人工智慧生成的NFT集合，甚至為新類型的創作者經濟注入動力。

身份：

• ++Wordcoin++項目正在提供一個基於用戶生物識別信息的非機器人證明解決方案。該團隊正在探索使用ZKML，讓用戶以無權限的方式生成IRIS（國際修復信息系統）代碼。當生成IRIS碼的算法升級後，用戶可以下載模型並自行生成證明，而不需要前往對象請求代理站。

採用的關鍵

考慮到人工智慧模型零知識證明的高成本。我們認為ZKML的採用可以從一些信任成本高的加密貨幣原生用例開始。

值得考慮的另一市場是數據隱私非常重要的行業，如醫療保健。儘管存在聯合學習和安全MPC等其他解決方案，但ZKML擁有區塊鏈可擴展激勵網絡的優勢。

更廣泛地大規模採用ZKML可能會是由於人們對現有大型人工智慧供應商失去信任。是否會發生一些事件，從而提高整個行業的意識，促使用戶考慮可驗證的人工智慧技術？

總結

ZKML仍然處於早期階段，仍有許多挑戰需要克服。但隨著ZK技術的改進，我們認為人們很快就會發現幾個具有強大產品市場適應性的ZKML用例。這些用例在開始時可能看起來十分小眾。但隨著中心化人工智慧取得越來越多的發展，滲透到每個行業甚至人類生活中，人們可能會發現ZKML的更大價值。

如果你正在建立ZKML應用程序或基礎設施，請在推特上聯繫 ++@alanwwu++ ++。++我們將樂於與您交談。

網站： ++https://avant.fund++

推特： ++https://twitter.com/avantfund++