Vitalikの新しい記事：深層偽造時代における情報安全をどう確保するか？

原文タイトル：《Ask security questions》
原文著者：Vitalik
原文翻訳：Luccy，BlockBeats

編者按：

2月4日、ある多国籍企業の財務担当者がビデオ電話会議で2500万ドルを騙し取られました。詐欺師は深層偽造技術を利用して、その企業の最高財務責任者になりすましました。最初、この従業員は、英国の最高財務責任者からのメッセージがフィッシングメールであると疑いました。なぜなら、秘密の取引が必要だと述べていたからです。しかし、ビデオ通話の後、この従業員は最初の疑念を解消しました。なぜなら、出席していた他の人々は彼が知っている同僚のように見え、聞こえたからです。しかし、実際には全員が深層偽造されたエンターテインメント製品でした。

これに対して、Vitalikは暗号化がすべての問題を解決するわけではないと考えています。彼は、人間が本来得意とする記憶に基づいた情報を利用して、安全な質問を設定することは、他の保護層に加えてワークフローに組み込む価値があると指摘しています。しかし、彼はまた、安全な質問は有用であるものの、現在はまだ人間的ではないとも述べています。BlockBeatsは原文を以下のように翻訳しました：

特にHudson Jameson、OfficerCIA、samczsunのフィードバックとレビューに感謝します。

最近一週間、ある企業が財務担当者が偽の最高財務責任者に騙されて2500万ドルを送金したという記事が流布されています。これは非常にリアルな深層偽造（Deepfake）ビデオ通話を通じて実施されたようです。

最近、深層偽造技術（AIによって生成された偽の音声やビデオ）が暗号通貨の分野や他の分野でますます頻繁に現れています。過去数ヶ月間、私の深層偽造ビデオがさまざまな詐欺やドージコインの販売に利用されました。深層偽造の品質は急速に向上しており、2020年の深層偽造ビデオは非常にひどかったですが、最近数ヶ月ではますます区別が難しくなっています。私を知っている人は、私がドージコインを販売しているビデオが偽物であることを認識できます。なぜなら、ビデオの中の私は「let's f***ing go」と言っているからです。私は「LFG」を「looking for group」の意味でしか使わないのですが、私の声を数回しか聞いたことがない人は簡単に騙されるかもしれません。

私は安全専門家にこの2500万ドルの盗難について言及しましたが、彼らは一致して、これは企業運営の安全性が複数のレベルで異常で恥ずかしい失敗を示していると考えています。標準的な手続きでは、これほどの金額の送金を承認する前に、複数のレベルの署名が必要です。しかし、2024年現在、一人の音声やビデオストリームは、その人の身元を確認する安全な方法ではなくなっています。

これにより、次の疑問が生じます：安全な身元確認方法とは何でしょうか？

単に暗号化方法に依存するだけでは問題は解決しない

人々の身元を安全に確認できることは、さまざまな状況においてさまざまな人々にとって重要です：個人はマルチシグやソーシャルリカバリウォレットを復元する必要があり、企業は商取引を承認する必要があり、個人は個人的な目的のための大きな取引（例えば、スタートアップへの投資、住宅の購入、送金）を承認する必要があります。暗号通貨や法定通貨を使用する場合でも、緊急時に家族が互いに確認する必要がある場合でも、良い解決策が必要です。これにより、今後の深層偽造ビデオ時代に対応できるようになります。

暗号通貨の世界では、この問題に対する回答の一つとして「ENS / 人間証明プロファイル / 公共PGP鍵のアドレスの暗号署名を提供することで自分を確認できる」というものをよく耳にします。この回答は魅力的ですが、取引を署名する際に他の人を関与させることが有用である理由を完全に無視しています。仮にあなたが個人のマルチシグウォレットを持つユーザーを代表しており、いくつかの共同署名者の承認が必要な取引を送信しているとします。彼らはどのような状況で承認するでしょうか？彼らがあなたが本当に送金したい人であると確信したときです。もし彼らが取引者があなたの鍵を盗んだハッカーである、あるいは誘拐犯であると判断した場合、彼らは取引を承認しません。企業環境では、通常、より多くの防御層がありますが、それでも攻撃者はマネージャーになりすますことができ、最終的なリクエストだけでなく、承認プロセスの初期段階にも関与する可能性があります。彼らは、誤ったアドレスを提供することで進行中の正当なリクエストをハイジャックすることさえできます。

したがって、多くのケースでは、他の署名者があなたの鍵で署名して「あなたがあなたである」ことを確認することは、全体の目的を台無しにします：それは全体の契約を1対1のマルチシグに変えてしまい、あなたの単一の鍵を制御するだけで資金を盗むことができるのです！

これが、私たちが実際に意味のある答えを導き出した理由です：安全な質問。

安全な質問

誰かがあなたにメッセージを送り、あなたの友人の一人であると主張したとします。彼らはあなたが以前見たことのないアカウントからメッセージを送り、すべてのデバイスを失ったと主張しています。彼らが本物であることをどうやって確認しますか？

明白な答えがあります：彼らだけが知っていることを尋ねることです。これらのことは以下に関連しているべきです：

· あなたが知っていること

· あなたが彼らに覚えていてほしいこと

· インターネットが知らないこと

· 推測が難しいこと

· 理想的には、企業や政府のデータベースを侵害した人々さえ知らないこと

自然に、彼らに共通の経験について尋ねることができます。例えば：

· 私たちが最後に会ったとき、どのレストランで夕食を食べましたか？あなたは何を食べましたか？

· 私たちの友人の誰が古代の政治家についてのジョークを言ったことがありますか？その政治家は誰ですか？

· 最近見た映画で、あなたは嫌いでしたか？

· 先週、あなたは私に誰かと話してみるように提案しました。彼らは私たちのXXXの研究を手伝ってくれるかもしれませんか？

最近、私の身元を確認するために使用された安全な質問の実際の例

あなたの質問は独特であるほど良いです。人々が数秒考えなければならない、あるいは答えを忘れてしまうかもしれない質問が最適ですが、もし尋ねた相手が忘れたと主張した場合は、必ず3つの質問を再度尋ねてください。「微細」な詳細（誰かが好きまたは嫌いなもの、具体的なジョークなど）を尋ねることは、「マクロ」な詳細を尋ねるよりも通常は良いです。なぜなら、前者は通常、第三者が偶然に掘り出すことが難しいからです。例えば、たとえ一人がInstagramに夕食の写真を投稿したとしても、現代のLLMはそれを迅速にキャッチし、リアルタイムで位置を提供できるかもしれません。あなたの質問が推測される可能性がある場合、つまり合理的な選択肢がいくつかしかない場合は、エントロピーを増やすために別の質問を追加してください。

安全な質問が退屈であれば、人々は通常、安全な実践への参加をやめてしまいます。したがって、安全な質問を面白くするべきです。それらは、ポジティブな共有経験を記憶する方法となり、実際にそれらの経験を持つ動機にもなります。

安全な質問の補足

完璧な単一の安全戦略は存在しないため、常に複数の技術を組み合わせることが最善です。

· 事前に合意したパスワード：一緒にいるときに意図的に共通のパスワードを合意し、後でお互いの身元を確認するために使用します。

· 緊急キーを合意することも考慮すべきです：あなたが無意識に文の中に挿入できる単語で、相手にあなたが脅迫されているか、危険にさらされていることを示唆します。この単語は、使用する際に自然に感じられるほど一般的であるべきですが、無意識にあなたの話の中に挿入されないほど珍しいものであるべきです。

· 誰かがあなたにETHアドレスを送信する際には、複数のチャネルで確認を求めます（例えば、SignalやTwitterのダイレクトメッセージ、企業のウェブサイト、あるいは共通の知人を通じて）。

· 中間者攻撃を防ぐ：Signalの「安全な数字」、Telegramの絵文字などの機能は理解し、警戒する価値があります。

· 日次制限と遅延：重要で不可逆的な操作に対して単純に遅延を課します。これは、ポリシーレベルで（署名者と事前に合意して、署名前にN時間または数日待つ）、またはコードレベルで（スマートコントラクトコードに制限と遅延を課す）で行うことができます。

潜在的な高度な攻撃は、攻撃者が承認プロセスの複数のステップで幹部や受益者になりすますことです。安全な質問と遅延はこの状況を防ぐことができ、両方を同時に使用するのが最善です。

安全な質問は有用です。なぜなら、多くの他の技術とは異なり、それらが失敗する理由は不親切だからではなく、人間的でないからです。安全な質問は、人間が本来得意とする記憶に基づいています。私は何年も安全な質問を使用しており、これは実際には非常に自然で気まずくない習慣であり、他の保護層に加えてワークフローに組み込む価値があります。

上記の「個人対個人」の安全な質問は、「企業対個人」の安全な質問とは非常に異なるユースケースであることに注意してください。例えば、他の国に行ったために何度もクレジットカードが停止された後、銀行に電話してクレジットカードを再活性化し、40分の音楽待機の後、銀行の従業員が現れ、あなたの名前、生年月日、最近の3件の取引を尋ねる場合です。個人が知っている答えの種類は、企業が知っている答えの種類とは非常に異なります。したがって、これらの2つの状況を別々に考慮する価値があります。

すべての人の状況は独特であり、したがって、あなたが身元を確認する必要がある人との間で共有される独特の情報の種類は異なります。通常、人々の状況に基づいて技術を調整する方が、技術に人々を適応させるよりも良いです。一つの技術が完璧である必要はなく、理想的なアプローチは複数の技術を同時に組み合わせ、あなたに最も適した技術を選択することです。ポスト深層偽造（post-deepfake）時代において、私たちは現在容易に偽造できるコンテンツと、依然として偽造が難しいコンテンツの新しい現実に適応するために戦略を調整する必要がありますが、これを実現すれば、安全を保つことは完全に可能です。