왜 다시 “AI 위협론”에 대해 이야기하는 것은 기우인가?

저자：Jerry, ThePrimediaDAO

AI가 인류에 위협이 된다는 것은 영원한 주제이며, 이는 핵무기 위협이나 지구 생태 위기와 같습니다. 따라서 우리는 먼저 주제를 정리해야 합니다. "다시 이야기하기"가 핵심 키워드입니다.

이전의 「AI 위협론」은 인류 사상가와 실천가의 깊은 고민이었지만, 지금 다시 이야기하는 「AI 위협론」은 기우에 불과합니다. 왜냐하면 AI가 발전하는 동시에 인류도 진화하고 있기 때문입니다. ------ 인류는 이미 AI를 관리하는 방향으로 진화할 가능성과 실행 가능성을 갖추고 있습니다.

또한, 정책으로 GPT-5와 같은 대형 AI 연구를 중단시키는 방법은 일시적인 해결책일 뿐이며, 당장의 급한 문제를 해결할 수 있을 뿐입니다. 정책으로 AI 위협을 해소할 수 있다면, 정책으로 핵무기 위협이나 지구 생태 위기도 해소할 수 있을 것입니다……

이제 우리는 왜 이전의 「AI 위협론」이 인류 사상가와 실천가의 깊은 고민이었고, 지금 다시 이야기하는 「AI 위협론」이 기우인지 분석해 보겠습니다.

현대의 위대한 과학자 호킹은 생전에 인류에게 경고했습니다. AI는 인류가 대부분의 문제를 해결하는 데 도움을 줄 수 있지만, 동시에 통제를 잃고 인류의 생존을 위협할 수 있습니다. 오늘날 세계 최고의 기술 산업자 마스크는 미국 의회에 가서 AI 발전이 인류에 잠재적인 위협이 될 수 있음을 경고했습니다.

AI 발전의 초기 단계에서 우리는 호킹의 우려를 이해하지 못할 수도 있습니다. 그러나 AI와 "슈퍼 두뇌"는 실제로 급격히 발전하고 있으며, 양자 컴퓨팅 능력은 "슈퍼 두뇌"의 전체 계산 능력을 향상시킬 것입니다. 지능형 네트워크 노드는 결국 인류의 신경망 노드를 초월할 것이며, 화성 식민지 계획에서 AI를 공학적으로 사용하는 것을 목표로 하는 마스크는 이를 가장 깊이 이해하고 있습니다. 따라서 그의 우려는 결코 근거 없는 것이 아닙니다.

몇 년 전, 우리는 AI에 대한 걱정으로 가득 차 있었습니다. 2019년, 1982년에 개봉된 영화 《블레이드 러너》가 현실과 기묘하게 융합되었습니다. "복제인간"이 피비린내 나는 반란을 일으키고 "창조주"에 반격을 가하는 이야기는 2019년 11월부터 시작되었습니다.

현실 세계에서 유전자 공학과 지능형 알고리즘은 계속 진화하고 있습니다. 2019년, 미국과 이탈리아는 협력하여 한 사람을 복제하려고 했습니다. 인공지능 Pluribus는 포커에서 인간을 이기며 인공지능이 2인 세계에서 다인 세계로 확장하고 있음을 나타냈습니다. 기계는 사회화되고 있습니다……

우리가 걱정하는 것은 진화할 필요가 없는 "복제인간"의 반격입니다. 하나의 실험 실패나 한 기술 광인의 복수는 인류 문명을 파괴할 수 있습니다…… 비록 우리가 블록체인이 지능형 네트워크에 "사회 질서"를 구축하고 인류의 디지털 거버넌스를 도울 수 있다는 것을 인식하고 있더라도 말입니다.

하지만 그 당시 우리는 인류의 디지털 진화에 대한 인식이 형성되지 않았습니다. 그때 우리는 「AI 위협론」을 가진 친구들과 마찬가지로 "기술이 선을 향하길" 바랄 수밖에 없었습니다.

암호화 세계에서의 실천과 탐험을 바탕으로, 우리는 블록체인/Web3의 탈중앙화, 토큰 인센티브 메커니즘 및 DAO 조직 거버넌스를 통해 디지털 거버넌스의 가능성과 실행 가능성을 갖추게 되었습니다. 그리고 메타버스는 인류의 디지털 생존과 발전을 위한 적합한 장면입니다. AI와 블록체인/Web3가 메타버스에서 만날 때, 이는 인류 디지털 사회의 구성 요소일 뿐입니다.

우리는 「AI+블록체인/Web3=문명이 멈춘다」는 공식을 제시한 적이 있습니다. 인류는 디지털 진화를 완료해야만 지구 생태 위기를 해소하고 별과 바다를 정복할 가능성을 가질 수 있습니다. 이는 또 다른 새로운 명제이며, ThePrimediaDAO는 앞으로 식견 있는 친구들과 함께 연구하고 창조할 것입니다.

「왜 다시 이야기하는 「AI 위협론」이 기우인가」와 블록체인이 인류의 AI 거버넌스를 도울 수 있다는 주장은 결코 우리가 일시적인 열정으로 만들어낸 자극적인 것이 아닙니다. 더 많은 정보를 원하신다면 다음 기사를 참고하시기 바랍니다:

《DeSoc 맥락에서 DID의 가치 발견과 정신 분석(하)》

간단히 요약하자면: 이번 AI 발전에 대해 정책으로 「AI 위협」을 막으려는 것은 헛된 꿈이며, 현재 세계의 상업계와 기술계 엘리트들이 「대형 인공지능 연구 중단」에 서명하고 안전 프로토콜을 수립, 시행하며 검토 및 감독 메커니즘을 실행하는 것은 전혀 신뢰할 수 없습니다. ------ 차라리 디지털 세계 체계 질서의 건설성과 거버넌스의 규칙화에 마음을 두는 것이 낫습니다.

사토시 나카모토의 비트코인을 통해 우리는 한 창을 열어 디지털 세계의 여명을 엿볼 수 있었습니다. 암호화 세계의 초기 건설자들의 노력으로, 암호 경제를 통해 디지털 문명 시대로 나아가는 과정은 막을 수 없는 흐름입니다.

AI는 그 중요한 요소가 될 것이지만, 기우에 불과합니다. AI는 디지털 문명의 질서 속에서 당신과 게임을 하고 공존할 것입니다. 인류의 미래를 파괴할 것은 AI가 아니라, 인류 자신입니다.