ManusがAGIの夜明けをもたらし、AIの安全に新たな変局が訪れる。

ManusはGAIAベンチマークでSOTA（State-of-the-Art）の成績を収め、Open AIの同レベルの大規模モデルを超える性能を示しました。言い換えれば、Manusは契約条項の分解、戦略の予測、提案の生成、さらには法務と財務チームの調整を含む複雑なタスクを独立して完了することができます。従来のシステムと比較して、Manusの利点はその動的な目標分解能力、クロスモーダル推論能力、そして記憶強化学習能力にあります。大規模なタスクを数百の実行可能なサブタスクに分解し、さまざまな種類のデータを処理し、強化学習を利用して自らの意思決定効率を向上させ、エラー率を低下させることができます。

技術の進展の速さに驚く一方で、Manusは再びAIの進化の道筋についての意見の相違を引き起こしました：未来は果たしてAGIが支配するのか、それともMASが協調して主導するのか？

これはManusの設計理念から始まります。そこには二つの可能性が含まれています：

一つはAGIの道です。単体の知能レベルを持続的に向上させ、人間の総合的な意思決定能力に近づけることです。

もう一つはMASの道です。スーパーコーディネーターとして、数千の垂直分野のエージェントを指揮して協力して戦うことです。

表面的には、異なる道の相違について議論していますが、実際にはAIの発展における根本的な矛盾について議論しています：効率と安全性はどのようにバランスを取るべきか？単体の知能がAGIに近づくほど、その意思決定のブラックボックス化リスクは高まります。一方で、多エージェントの協調はリスクを分散させることができますが、通信遅延によって重要な意思決定のウィンドウを逃す可能性があります。

Manusの進化は、AIの発展における固有のリスクを無意識のうちに拡大しています。例えば、データプライバシーのブラックホール：医療シーンでは、Manusは患者のゲノムデータにリアルタイムでアクセスする必要があります。金融交渉では、企業の未公開の財務情報に触れる可能性があります。アルゴリズムの偏見の罠では、採用交渉においてManusは特定の人種の候補者に対して平均以下の給与提案を行うことがあります。法律契約のレビューでは、新興産業の条項に対する誤判定率がほぼ半分に達します。さらに、対抗攻撃の脆弱性では、ハッカーが特定の音声周波数を埋め込むことで、Manusが交渉中に相手の価格範囲を誤判定させることがあります。

私たちはAIシステムの恐ろしい痛点に直面せざるを得ません：より知能が高いシステムほど、攻撃面も広がります。

しかし、安全性は常にweb3で繰り返し言及されている言葉であり、V神の不可能な三角形（ブロックチェーンネットワークは安全性、分散化、スケーラビリティを同時に実現できない）フレームワークの下でさまざまな暗号方式が派生しています：

1. ゼロトラストセキュリティモデル（Zero Trust Security Model）： ゼロトラストセキュリティモデルの核心理念は「誰も信頼せず、常に検証する」ということです。つまり、デバイスが内部ネットワークにあるかどうかに関わらず、デフォルトで信頼されるべきではありません。このモデルは、システムの安全性を確保するために、すべてのアクセス要求に対して厳格な認証と承認を強調します。

2. 分散型アイデンティティ（Decentralized Identity, DID）： DIDは、実体が集中型のレジストリなしで、検証可能かつ持続的な方法で識別を取得できる一連の識別子標準です。これは新しい分散型デジタルアイデンティティモデルを実現し、自己主権アイデンティティとしばしば関連付けられ、Web3の重要な構成要素です。

3. 全同態暗号（Fully Homomorphic Encryption, FHE）： これは、データを解読することなく暗号化データに対して任意の計算を実行できる高度な暗号技術です。つまり、第三者は暗号文に対して操作を行うことができ、得られた結果は解読後に平文に対して同じ操作を行った結果と一致します。この特性は、原データを公開せずに計算を行う必要があるシーン、例えばクラウドコンピューティングやデータアウトソーシングにおいて重要です。

ゼロトラストセキュリティモデルとDIDは、複数のブルマーケットで一定数のプロジェクトが取り組んでおり、彼らは成功を収めるか、暗号の波に埋もれるかしています。そして、最も若い暗号方式である全同態暗号（Fully Homomorphic Encryption, FHE）は、AI時代の安全問題を解決するための大きな武器でもあります。全同態暗号（FHE）は、暗号化データ上で計算を行うことを可能にする技術です。

どう解決するか？

まず、データのレベルです。ユーザーが入力したすべての情報（生体情報、音声トーンを含む）は暗号化された状態で処理され、Manus自身も原データを解読できません。例えば、医療診断のケースでは、患者のゲノムデータは全過程で暗号文形式で分析に参加し、生物情報の漏洩を避けます。

アルゴリズムのレベルでは、FHEを通じて実現された「暗号化モデルのトレーニング」により、開発者でさえAIの意思決定の道筋を覗くことができません。

協調のレベルでは、複数のエージェントの通信は閾値暗号を使用し、単一のノードが攻撃されても全体のデータ漏洩には至りません。サプライチェーンの攻防演習においても、攻撃者が複数のエージェントに浸透した場合でも、完全なビジネスビューを取得することはできません。

技術的制約により、web3の安全性は大部分のユーザーとは直接の関係がないかもしれませんが、間接的な利益関係は無数に存在します。この暗い森の中で、武装を怠れば、「韭菜」の身分から逃れる日は永遠に訪れないでしょう。

uPortは2017年にイーサリアムメインネットでリリースされ、最も早くメインネットでリリースされた分散型アイデンティティ（DID）プロジェクトかもしれません。
ゼロトラストセキュリティモデルに関しては、NKNが2019年にそのメインネットをリリースしました。
Mind Networkは最初のメインネット上のFHEプロジェクトであり、ZAMA、Google、DeepSeekなどとの協力を通じて最初に成功を収めました。

uPortとNKNは、私が聞いたことのないプロジェクトであり、安全性のプロジェクトは本当に投機家たちに注目されていないようです。Mind Networkがこの呪いから逃れ、安全分野のリーダーになることができるのか、私たちは注目していきましょう。

未来はすでに来ています。AIが人間の知能に近づくほど、非人間的な防御システムが必要です。ネットワーク情報セキュリティの価値は、現在の問題を解決するだけでなく、強力なAI時代への道を開くことにあります。このAGIへの険しい道のりにおいて、ネットワーク情報セキュリティは選択肢ではなく、生存の必需品です。