Manus가 AGI의 여명이 처음으로 나타났고, AI 안전에 또 다른 변화가 생겼다

Manus는 GAIA 벤치마크에서 SOTA(최첨단) 성과를 달성하여 Open AI의 동급 대모델을 초월하는 성능을 보여주었습니다. 다시 말해, Manus는 계약 조건 분해, 전략 예측, 솔루션 생성 등 복잡한 작업을 독립적으로 수행할 수 있으며, 법무 및 재무 팀을 조정할 수도 있습니다. 전통적인 시스템과 비교할 때, Manus의 장점은 동적 목표 분해 능력, 크로스 모달 추론 능력 및 기억 강화 학습 능력에 있습니다. Manus는 대규모 작업을 수백 개의 실행 가능한 하위 작업으로 분해하고, 다양한 유형의 데이터를 처리하며, 강화 학습을 통해 지속적으로 의사 결정 효율성을 향상시키고 오류율을 낮출 수 있습니다.

기술 발전의 속도에 감탄하면서, Manus는 AI 진화 경로에 대한 업계 내 분열을 다시 불러일으켰습니다: 미래는 AGI가 지배할 것인가, 아니면 MAS가 협력하여 주도할 것인가?

이는 Manus의 설계 철학에서 시작됩니다. 두 가지 가능성을 내포하고 있습니다:

하나는 AGI 경로입니다. 단일 지능 수준을 지속적으로 향상시켜 인간의 종합적인 의사 결정 능력에 근접하게 만드는 것입니다.

또 다른 하나는 MAS 경로입니다. 수천 개의 수직 분야 에이전트를 지휘하여 협력하는 슈퍼 조정자로서의 역할입니다.

표면적으로 우리는 서로 다른 경로의 분열에 대해 논의하고 있지만, 실제로는 AI 발전의 근본적인 모순에 대해 논의하고 있습니다: 효율성과 안전성을 어떻게 균형 잡을 것인가? 단일 지능이 AGI에 가까워질수록 의사 결정의 블랙박스화 위험이 높아집니다. 반면 다중 에이전트 협력은 위험을 분산시킬 수 있지만 통신 지연으로 인해 중요한 의사 결정 창을 놓칠 수 있습니다.

Manus의 진화는 AI 발전의 고유한 위험을 무의식적으로 확대했습니다. 예를 들어 데이터 프라이버시 블랙홀: 의료 상황에서 Manus는 환자의 유전체 데이터에 실시간으로 접근해야 합니다. 금융 협상 시 기업의 미공개 재무 정보에 접근할 수 있습니다. 알고리즘 편향 함정에서는 채용 협상 중 Manus가 특정 인종 후보자에게 평균 이하의 급여 제안을 할 수 있습니다. 법률 계약 검토 시 신흥 산업 조항에 대한 오판율은 거의 절반에 달합니다. 또 다른 예로는 공격 공격 취약점이 있습니다. 해커가 특정 음성 주파수를 삽입하여 Manus가 협상 중 상대방의 가격 범위를 잘못 판단하게 만들 수 있습니다.

우리는 AI 시스템의 무서운 고통점을 직면해야 합니다: 더 스마트한 시스템일수록 공격 표면이 넓어집니다.

그러나 안전은 항상 웹3에서 언급되는 용어로, 비탈릭 부테린의 불가능한 삼각형(블록체인 네트워크는 동시에 보안성, 탈중앙화 및 확장성을 실현할 수 없음) 프레임워크 하에서도 여러 가지 암호화 방식이 파생되었습니다:

1. 제로 트러스트 보안 모델(Zero Trust Security Model): 제로 트러스트 보안 모델의 핵심 개념은 "아무도 신뢰하지 않고 항상 검증한다"는 것입니다. 즉, 장치가 내부 네트워크에 있든 없든 기본적으로 신뢰해서는 안 됩니다. 이 모델은 시스템 보안을 보장하기 위해 모든 접근 요청에 대해 엄격한 신원 확인 및 권한 부여를 강조합니다.

2. 탈중앙화 신원(Decentralized Identity, DID): DID는 엔터티가 중앙 집중식 등록부 없이 검증 가능하고 지속 가능한 방식으로 식별을 받을 수 있도록 하는 식별자 표준입니다. 이는 새로운 탈중앙화 디지털 신원 모델을 실현하며, 자주 자주권 신원과 함께 언급되며, 웹3의 중요한 구성 요소입니다.

3. 전동형 동형 암호화(Fully Homomorphic Encryption, FHE): 이는 암호화된 데이터의 해독 없이 임의의 계산을 수행할 수 있는 고급 암호화 기술입니다. 이는 제3자가 암호문에 대해 작업을 수행할 수 있으며, 해독 후 얻은 결과가 평문에 대해 동일한 작업을 수행한 결과와 일치함을 의미합니다. 이 특성은 원본 데이터를 노출하지 않고 계산을 수행해야 하는 상황, 예를 들어 클라우드 컴퓨팅 및 데이터 아웃소싱에 중요합니다.

제로 트러스트 보안 모델과 DID는 여러 차례의 상승장에서 일정 수의 프로젝트가 도전했으며, 그들은 성과를 거두거나 암호화 물결 속에 묻혔습니다. 가장 젊은 암호화 방식인 전동형 동형 암호화(FHE) 또한 AI 시대의 보안 문제를 해결하는 강력한 무기입니다. 전동형 동형 암호화(FHE)는 암호화된 데이터에서 계산을 수행할 수 있는 기술입니다.

어떻게 해결할까요?

첫째, 데이터 측면입니다. 사용자가 입력한 모든 정보(생체 특성, 음성 톤 포함)는 암호화된 상태에서 처리되며, Manus 자신도 원본 데이터를 해독할 수 없습니다. 예를 들어, 의료 진단 사례에서 환자의 유전체 데이터는 암호문 형태로 분석에 참여하여 생물 정보 유출을 방지합니다.

알고리즘 측면에서는 FHE를 통해 구현된 "암호화 모델 훈련"으로 인해 개발자조차 AI의 의사 결정 경로를 엿볼 수 없습니다.

협력 측면에서는 여러 에이전트 간의 통신에 문턱 암호화를 사용하여 단일 노드가 해킹되더라도 전체 데이터 유출이 발생하지 않습니다. 공급망 공격 방어 훈련 중에도 공격자가 여러 에이전트에 침투하더라도 전체 비즈니스 뷰를 얻을 수 없습니다.

기술적 제한으로 인해 웹3 보안은 대부분의 사용자와 직접적인 관련이 없을 수 있지만, 간접적인 이익 관계가 얽혀 있습니다. 이 어두운 숲에서 무장하지 않으면 "채소" 신분에서 벗어날 수 없는 날이 올 것입니다.

uPort는 2017년 이더리움 메인넷에서 출시되어 아마도 메인넷에서 가장 먼저 출시된 탈중앙화 신원(DID) 프로젝트일 것입니다.
제로 트러스트 보안 모델 측면에서 NKN은 2019년에 메인넷을 출시했습니다.
Mind Network는 첫 번째 메인넷에서 FHE 프로젝트를 시작했으며, ZAMA, Google, DeepSeek와의 협력을 통해 선도적으로 진행했습니다.

uPort와 NKN은 필자가 들어본 적이 없는 프로젝트로, 안전 프로젝트가 정말로 투기자들의 관심을 받지 않는 것 같습니다. Mind Network가 이 저주에서 벗어나 보안 분야의 선두주자가 될 수 있을지 지켜보겠습니다.

미래는 이미 도래했습니다. AI가 인간의 지능에 가까워질수록 비인간적인 방어 시스템이 필요합니다. 네트워크 정보 보안의 가치는 현재 문제를 해결하는 것뿐만 아니라 강력한 AI 시대를 위한 길을 닦는 데 있습니다. AGI로 가는 이 험난한 길에서 네트워크 정보 보안은 선택 사항이 아니라 생존의 필수품입니다.