a16z Crypto 최신 연구: AI와 블록체인의 융합 아래, 네 가지 새로운 비즈니스 모델

원본 비디오: Web3 with a16z, AI \& Crypto

저자: Dan Boneh (스탠포드 대학교 교수, a16z crypto 고급 연구 고문), 암호학, 컴퓨터 보안 및 기계 학습 연구에 집중; Ali Yahya (a16z crypto 일반 파트너), Google Brain에서 근무했으며 Google 머신러닝 라이브러리 TensorFlow의 핵심 기여자 중 한 명.

정리 \& 편집: 치안원, ChainCatcher

스티븐 킹은 《다이아몬드 시대》라는 공상과학 소설을 썼는데, 그 안에는 사람들의 삶에서 멘토 역할을 하는 인공지능 장치가 등장한다. 당신이 태어날 때, 당신은 당신을 매우 잘 이해하는 인공지능과 연결된다. 그것은 당신의 취향을 알고, 당신의 삶을 따라가며, 결정을 내리는 데 도움을 주고, 올바른 방향으로 안내한다. 이것은 매우 매력적으로 들리지만, 당신은 절대 그런 기술이 중개업체의 거대 손에 들어가기를 원하지 않는다. 왜냐하면 그렇게 되면 그 회사는 큰 통제권을 가지게 되고, 일련의 프라이버시 및 주권 문제를 야기할 수 있기 때문이다.

우리는 이 기술이 진정으로 나의 것이 되기를 바라며, 그래서 블록체인을 통해 이를 실현할 수 있다는 비전이 탄생했다. 당신은 스마트 계약에 인공지능을 삽입할 수 있다. 제로 지식 증명의 힘을 통해 데이터의 비밀을 유지할 수 있다. 향후 수십 년 동안 이 기술은 점점 더 스마트해질 것이다. 당신은 원하는 어떤 일이든 할 수 있으며, 원하는 방식으로 그것을 변경할 수 있다.

그렇다면 블록체인과 인공지능의 관계는 무엇인가? 인공지능은 우리를 어떤 세계로 이끌 것인가? 현재 인공지능의 상태와 도전 과제는 무엇인가? 블록체인은 이 과정에서 어떤 역할을 할 것인가?

AI와 블록체인: 상호 대립

인공지능의 발전, 즉 《다이아몬드 시대》에서 묘사된 이러한 모습은 사실 오래전부터 존재해왔지만, 최근에 비약적인 발전을 겪었다.

첫째, 인공지능은 상당히 자상향적이고 집중된 기술이다. 반면 암호화 기술은 하향식, 분산 협력의 기술이다. 여러 측면에서 암호화폐는 분산 시스템을 구축하는 방법을 연구하는 학문으로, 이러한 시스템은 인간의 대규모 협력을 가능하게 하며, 진정한 의미의 중앙 통제자가 존재하지 않는다. 이러한 관점에서 볼 때, 두 기술이 하나로 합쳐질 수 있는 자연스러운 방식이다.

인공지능은 지속 가능한 혁신으로, 기존 기술 회사의 비즈니스 모델을 강화하고, 그들이 자상향적인 결정을 내리도록 돕는다. 이와 관련된 가장 좋은 예는 구글이다. 구글은 수십억 사용자와 수십억 페이지 조회수 중에서 사용자에게 보여줄 콘텐츠를 결정할 수 있다. 반면 암호화폐는 본질적으로 파괴적인 혁신으로, 그 비즈니스 모델은 대형 기술 회사의 비즈니스 모델과 근본적으로 상반된다. 따라서 이는 권력자에 의해 이끌리는 운동이 아니라, 주변의 반란자들에 의해 이끌리는 운동이다.

따라서 인공지능은 프라이버시 보호와 밀접한 관련이 있을 수 있으며, 두 가지는 서로 촉진하고 상호작용할 수 있다. 인공지능은 다양한 인센티브 메커니즘을 구축하여 사용자의 프라이버시를 점점 줄여가고 있으며, 기업은 우리의 모든 데이터를 얻고자 한다. 반면, 점점 더 많은 데이터를 기반으로 훈련된 인공지능 모델은 더욱 효과적이게 된다. 한편, 인공지능은 완벽하지 않으며, 모델은 편향을 가질 수 있고, 이러한 편향은 불공정한 결과를 초래할 수 있다. 따라서 현재 알고리즘 공정성에 관한 많은 논문이 존재한다.

나는 우리가 인공지능의 길로 나아가고 있다고 생각한다. 이 길에서는 모든 사람의 데이터가 이러한 거대한 모델 훈련에 통합되어 모델을 최적화하게 된다. 반면 암호화폐는 개인의 프라이버시를 증가시키고, 사용자가 데이터 주권을 통제할 수 있도록 한다. 따라서 암호화 기술은 인공지능과 대립하는 기술이라고 할 수 있으며, 이는 우리가 풍부한 콘텐츠에서 인간 또는 인공지능이 생성한 콘텐츠를 구별하는 데 도움을 줄 수 있다. 인공지능이 생성한 콘텐츠가 넘쳐나는 세상에서, 암호화 기술은 인간 콘텐츠를 유지하고 보존하는 중요한 도구가 될 것이다.

암호화폐는 완전한 자유의 서부와 같다. 왜냐하면 권한이 전혀 없고, 누구나 참여할 수 있기 때문이다. 당신은 그 중 일부 참여자가 악의적일 것이라고 가정해야 한다. 따라서 이제는 불성실한 참여자로부터 성실한 참여자를 걸러내는 도구가 더 필요하다. 머신러닝과 인공지능은 이러한 스마트 도구로서 실제로 큰 도움이 된다.

예를 들어, 어떤 프로젝트는 머신러닝을 사용하여 지갑에 제출된 의심스러운 거래를 식별한다. 이렇게 하면 사용자의 거래가 표시되고 블록체인에 제출된다. 이는 사용자가 실수로 모든 자금을 공격자에게 제출하거나, 나중에 후회할 일을 하지 않도록 잘 방지할 수 있다. 머신러닝은 또한 어떤 거래가 mev가 있을 가능성이 있는지를 미리 판단하는 도구로 사용될 수 있다.

LLM 모델이 가짜 데이터나 악의적 활동을 감지하는 데 사용될 수 있는 것처럼, 반대로 이러한 모델은 가짜 데이터를 생성하는 데도 사용될 수 있다. 가장 전형적인 예는 딥페이크이다. 당신은 누군가가 결코 말하지 않은 말을 하게 만드는 비디오를 만들 수 있다. 그러나 블록체인은 실제로 이 문제를 완화하는 데 도움을 줄 수 있다.

예를 들어, 블록체인에는 타임스탬프가 있어 특정 날짜에 당신이 어떤 말을 했는지를 보여준다. 누군가 비디오를 위조했다면, 당신은 타임스탬프를 이용해 부인할 수 있다. 모든 이러한 데이터, 즉 진정한 데이터는 블록체인에 기록되어 있으며, 이 딥페이크 비디오가 실제로 가짜임을 증명하는 데 사용될 수 있다. 그래서 나는 블록체인이 위조를 방지하는 데 도움이 될 수 있다고 생각한다.
우리는 또한 신뢰할 수 있는 하드웨어에 의존할 수 있다. 카메라와 우리의 스마트폰 같은 장치들은 촬영한 이미지와 비디오에 서명을 하여 기준으로 삼는다. 이를 C2PA라고 하며, 카메라가 데이터를 어떻게 서명하는지를 규정한다. 사실, 현재 소니의 한 카메라는 사진과 비디오를 촬영한 후, 비디오에 C2PA 서명을 생성할 수 있다. 이는 매우 복잡한 주제이며, 여기서 더 이상 자세히 설명하지 않겠다.

일반적으로 신문은 사진을 게재할 때 카메라로 촬영한 이미지를 그대로 게재하지 않는다. 그들은 이미지를 자르고, 사진에 대해 일부 권한 처리를 한다. 일단 당신이 이미지를 편집하기 시작하면, 수신자, 최종 독자, 브라우저의 사용자가 보는 것은 원본 이미지가 아니며, C2PA 서명 검증을 할 수 없다.

문제는 사용자가 그들이 보는 이미지가 실제로 C2PA 카메라에 의해 올바르게 서명된 것인지 확인하는 방법이다. 이것이 바로 ZK 기술이 활용될 수 있는 부분이다. 당신은 편집된 이미지가 실제로 올바르게 서명된 이미지에 대해 다운샘플링 및 그레이스케일로 변환된 결과임을 증명할 수 있다. 이렇게 하면 우리는 간단한 zk 증명을 통해 C2PA 서명을 대체하고, 이러한 이미지와 일대일로 대응할 수 있다. 이제 독자는 여전히 그들이 보는 것이 진짜 이미지임을 확인할 수 있다. 따라서 zk 기술은 이러한 정보에 맞서 싸우는 데 사용될 수 있다.

블록체인이 어떻게 돌파구를 마련할까?

인공지능은 본질적으로 중앙집중화된 기술이다. 그것은 상당히 규모의 경제에 의존하며, 단일 데이터 센터에서 운영되는 것이 더 효율적이다. 또한 데이터, 머신러닝 모델, 머신러닝 인재 등은 일반적으로 소수의 기술 회사에 의해 통제된다.
그렇다면 어떻게 돌파구를 마련할 수 있을까? 암호화폐는 ZKML과 같은 기술을 사용하여 인공지능의 분산화를 도울 수 있다. 이는 데이터 센터, 데이터베이스, 머신러닝 모델 자체에 적용될 수 있다. 예를 들어, 계산 측면에서 제로 지식 증명을 사용하면 사용자는 실제로 추론하거나 모델을 훈련하는 과정이 올바르다는 것을 증명할 수 있다.

이렇게 하면 이 과정을 대규모 커뮤니티에 아웃소싱할 수 있다. 이러한 분산 프로세스에서는 GPU를 가진 누구나 네트워크에 계산 능력을 기여할 수 있으며, 대형 데이터 센터에 모든 GPU를 집중할 필요가 없다.

경제학적 관점에서 이것이 의미가 있는지는 불확실하다. 그러나 적절한 인센티브를 통해 롱테일 효과를 실현할 수 있다. 당신은 모든 가능한 GPU 능력을 활용할 수 있다. 모든 사람들이 모델 훈련이나 추론을 위해 계산 능력을 기여하게 되면, 이는 모든 것을 통제하는 대형 기술 회사를 대체할 수 있다. 이를 실현하기 위해서는 여러 중요한 기술 문제를 해결해야 한다. 사실, 엔비디아라는 회사가 분산 GPU 컴퓨팅 시장을 구축하고 있으며, 주로 머신러닝 모델 훈련에 사용된다. 이 시장에서는 누구나 자신의 GPU 계산 능력을 기여할 수 있다. 반면, 누구나 네트워크에 존재하는 어떤 계산을 이용하여 그들의 대형 머신러닝 모델을 훈련할 수 있다. 이는 openai, 구글, 메타 등 중앙집중식 대형 기술 회사의 대안이 될 것이다.

다음과 같은 상황을 상상해보자: 앨리스는 보호하고 싶은 모델이 있다. 그녀는 모델을 암호화된 형태로 밥에게 보내고 싶어 한다. 밥은 이제 암호화된 모델을 받고, 이 암호화된 모델에서 자신의 데이터를 실행해야 한다. 어떻게 해야 할까? 그것은 이른바 동형암호 계산을 이용하여 암호화된 데이터를 처리해야 한다. 사용자가 암호화된 모델과 평문 데이터를 가지고 있다면, 평문 데이터에서 암호화된 모델을 실행하고 암호화된 결과를 수신할 수 있다. 당신은 암호화된 결과를 앨리스에게 다시 보내고, 그녀는 이를 복호화하여 평문 결과를 볼 수 있다.

이것은 실제로 이미 존재하는 기술이다. 문제는 현재 기술이 중형 모델에 대해서는 매우 효과적이지만, 더 큰 모델로 확장할 수 있을지 여부이다. 이는 상당한 도전 과제로, 더 많은 회사의 노력이 필요하다.

현황, 도전 과제 및 인센티브 메커니즘

나는 계산의 분산화를 실현하기 위해 첫 번째로 검증 문제가 있다고 생각한다. 당신은 ZK를 사용하여 이 문제를 해결할 수 있지만, 현재 이러한 기술은 작은 모델만 처리할 수 있다. 우리가 직면한 도전은 이러한 암호화 원리가 초대형 모델의 훈련이나 추론 요구를 충족할 수 있는 성능을 갖추지 못했다는 것이다. 따라서 증명 과정의 성능을 향상시키기 위한 많은 작업이 진행되고 있으며, 이를 통해 점점 더 큰 작업량을 효율적으로 증명할 수 있다.
동시에 일부 회사는 암호화 기술뿐만 아니라 다른 기술도 사용하고 있다. 그들은 더 많은 독립적인 사람들이 작업을 수행하도록 하여 게임 이론적 특성을 활용하는 방법을 채택하고 있다. 이는 암호학에 의존하지 않는 게임 이론적 낙관적 접근 방식이지만, 여전히 분산 인공지능 또는 인공지능 생태계 구축이라는 더 큰 목표와 일치한다. 이는 openai와 같은 회사들이 제시한 목표이다.

두 번째 큰 문제는 분산 시스템 문제이다. 예를 들어, 어떻게 대규모 커뮤니티를 조정하여 그들이 네트워크에 GPU를 기여하도록 할 수 있을까? 이는 많은 도전 과제가 있으며, 머신러닝 작업량을 합리적인 방식으로 분해하고, 다양한 작업량을 네트워크의 다른 노드에 할당하며, 모든 작업을 효율적으로 완료하는 방법이 포함된다.

현재 기술은 기본적으로 중형 모델에 적용될 수 있지만, GPT-3나 GPT-4와 같은 대형 모델에는 적용될 수 없다. 물론 우리는 다른 방법도 있다. 예를 들어, 여러 사람이 훈련을 진행한 후 결과를 비교하여 게임 이론적 인센티브 메커니즘을 생성할 수 있다. 사람들을 속이지 않도록 유도하는 것이다. 누군가 속이면, 다른 사람들은 그들이 계산한 훈련 결과가 올바르지 않다고 불평할 수 있다. 이렇게 되면 속인 사람은 보상을 받지 못하게 된다.
우리는 또한 커뮤니티 내에서 데이터 출처를 분산시켜 대형 머신러닝 모델을 훈련할 수 있다. 마찬가지로, 우리는 모든 데이터를 수집한 후 스스로 모델을 훈련할 수 있으며, 중앙 집중식 기관이 이를 담당하지 않도록 할 수 있다. 이는 시장을 생성함으로써 실현될 수 있다. 이는 우리가 방금 설명한 계산 시장과 유사하다.

우리는 또한 인센티브의 관점에서 바라볼 수 있으며, 사람들이 특정 대규모 데이터 세트에 새로운 데이터를 기여하도록 장려하고, 이를 통해 모델을 훈련할 수 있다. 이 과정에서의 어려움은 검증 문제와 유사하다. 당신은 사람들이 기여한 데이터가 실제로 좋은 데이터임을 검증해야 한다. 이 데이터는 중복 데이터도 아니고, 무작위로 생성된 쓰레기 데이터도 아니며, 어떤 방식으로든 생성된 비현실적인 데이터도 아니다.

또한 데이터가 어떤 방식으로든 모델을 전복하지 않도록 해야 하며, 그렇지 않으면 모델 성능이 실제로 점점 나빠질 것이다. 아마도 우리는 기술 솔루션과 사회적 솔루션의 결합에 의존해야 할 것이다. 이 경우, 커뮤니티 구성원이 얻을 수 있는 사이트 지표를 통해 신뢰성을 구축할 수 있으며, 이로 인해 그들이 기여하는 데이터가 원래보다 더 신뢰할 수 있게 된다.

그렇지 않으면 데이터 분포를 실제로 커버하는 데 매우 오랜 시간이 걸릴 것이다. 머신러닝의 큰 도전 중 하나는 모델이 실제로 훈련 데이터 세트가 도달할 수 있는 분포 범위만을 커버할 수 있다는 것이다. 만약 어떤 입력이 훈련 데이터의 분포 범위를 훨씬 초과한다면, 당신의 모델은 실제로 완전히 예측할 수 없는 방식으로 작동할 수 있다. 모델이 경계 상황, 블랙 스완 데이터 포인트 또는 현실 세계에서 마주칠 수 있는 데이터 입력에서 뛰어난 성능을 발휘하기 위해서는 가능한 한 포괄적인 데이터 세트가 필요하다.

따라서 만약 당신이 데이터 세트를 제공하는 열린 분산 시장이 있다면, 당신은 세상에 있는 독특한 데이터를 가진 누구나 네트워크에 이러한 데이터를 제공할 수 있게 할 수 있다. 이는 더 나은 방법이다. 왜냐하면 만약 당신이 중앙 집중식 회사의 신분으로 이 일을 하려고 한다면, 당신은 누가 이러한 데이터를 소유하고 있는지 전혀 알 수 없기 때문이다. 따라서 이러한 사람들이 자발적으로 이러한 데이터를 제공하도록 유도하는 인센티브 메커니즘을 창출할 수 있다면, 당신은 실제로 훨씬 더 나은 롱테일 데이터 커버리지를 얻을 수 있다고 생각한다.

그래서 우리는 당신이 제공하는 데이터가 진짜임을 보장하는 어떤 메커니즘이 필요하다. 한 가지 방법은 신뢰할 수 있는 하드웨어에 의존하여 센서 자체에 신뢰할 수 있는 하드웨어를 내장하는 것이다. 우리는 하드웨어가 올바르게 서명한 데이터만 신뢰한다. 그렇지 않으면 우리는 데이터의 진위를 식별하기 위한 다른 메커니즘이 필요하다.
현재 머신러닝에는 두 가지 중요한 트렌드가 있다. 첫째, 머신러닝 모델의 성능 측정 방법이 지속적으로 개선되고 있지만 여전히 초기 단계에 있으며, 실제로 다른 모델의 성능을 판단하기 어렵다. 두 번째 트렌드는 우리는 모델의 작동 원리를 설명하는 데 점점 더 능숙해지고 있다는 것이다.

따라서 이 두 가지를 바탕으로, 언젠가는 데이터 세트가 머신러닝 모델 성능에 미치는 영향을 이해할 수 있을 것이다. 만약 우리가 제3자가 기여한 데이터 세트가 머신러닝 모델 성능에 도움이 되는지를 이해할 수 있다면, 우리는 이러한 기여에 보상을 제공하고, 해당 시장의 존재에 동기를 부여할 수 있다.
상상해보라. 만약 당신이 사람들이 훈련된 모델을 기여하여 특정 유형의 문제를 해결할 수 있는 열린 시장을 만들 수 있다면, 또는 특정 테스트가 포함된 스마트 계약을 생성하고, 누군가 zkml을 사용하여 모델을 제공하고 해당 모델이 그 테스트를 해결할 수 있음을 증명할 수 있다면, 이는 해결책이 될 것이다. 당신은 이제 사람들이 특정 문제를 해결할 수 있는 머신러닝 모델을 기여할 때 시장이 동기를 부여받는 데 필요한 도구를 갖추게 된다.

AI와 암호화가 어떻게 비즈니스 모델을 형성할까?

나는 암호화폐와 인공지능의 교차 뒤에 있는 비전이, 인공지능이라는 새로운 기술이 얻는 가치를 더 많은 사람들에게 분배할 수 있는 프로토콜을 만들 수 있다는 것이라고 생각한다. 모든 사람이 기여할 수 있고, 모든 사람이 이 새로운 기술이 가져오는 혜택을 공유할 수 있다.

따라서 이익을 얻는 사람은 계산 능력을 기여하는 사람, 데이터를 기여하는 사람, 또는 네트워크에 새로운 머신러닝 모델을 기여하는 사람이다. 이렇게 하면 더 나은 머신러닝 모델을 훈련하고, 더 중요한 문제를 해결할 수 있다.

네트워크의 수요 측도 이익을 얻을 수 있다. 그들은 이 네트워크를 자신의 머신러닝 모델을 훈련하는 인프라로 사용할 수 있다. 아마 그들의 모델은 다음 세대의 채팅 도구와 같은 흥미로운 것을 기여할 수 있다. 이러한 모델에서 이들 회사는 자신의 비즈니스 모델을 가지므로, 그들 스스로 가치 획득을 촉진할 수 있다.

이 네트워크를 구축하는 사람들도 마찬가지로 이익을 얻을 것이다. 예를 들어, 네트워크를 위해 토큰을 생성하고, 이 토큰을 커뮤니티에 분배할 수 있다. 모든 이들은 이 분산 네트워크의 집단 소유권을 가지며, 데이터와 모델을 계산하는 데 사용되며, 이 네트워크를 통해 이루어지는 모든 경제 활동의 일부 가치를 얻을 수 있다.

당신은 이 네트워크를 통해 이루어지는 모든 거래, 모든 데이터 비용이나 모델 비용을 지불하는 방식에서 일정한 수수료가 부과될 수 있으며, 이 수수료는 전체 네트워크가 통제하는 금고로 들어갈 수 있다고 상상할 수 있다. 그리고 토큰 보유자들은 이 네트워크를 공동으로 소유하게 된다. 본질적으로 이것이 네트워크 자체의 비즈니스 모델이다.

인공지능이 코드 보안을 촉진한다

많은 청중들이 협동 파일럿(co-pilot)에 대해 들어본 적이 있을 것이다. 이는 코드를 생성하는 도구이다. 당신은 이러한 협동 생성 도구를 사용하여 Solidity 계약이나 암호학 코드를 작성해볼 수 있다. 내가 강조하고 싶은 것은, 이렇게 하는 것이 매우 위험하다는 것이다. 왜냐하면 많은 경우, 당신이 실행하려고 할 때, 이러한 시스템은 실제로 실행 가능하지만 안전하지 않은 코드를 생성하기 때문이다.

실제로 우리는 최근에 이 문제에 대한 논문을 작성했으며, 그 논문에서는 만약 당신이 협동 파일럿에게 간단한 암호화 함수를 작성하도록 요청한다면, 제공된 암호화 기능은 올바르지만, 잘못된 작업 패턴을 사용하여 결국 안전하지 않은 암호화 패턴을 얻게 된다고 지적했다.

당신은 왜 이런 일이 발생하는지 물을 수 있다. 그 이유 중 하나는 이러한 모델이 기본적으로 기존 코드를 기반으로 훈련되었기 때문이다. 그들은 GitHub 저장소에서 훈련되었으며, 많은 GitHub 저장소는 실제로 다양한 공격에 취약하다. 따라서 이러한 모델이 학습한 코드는 정상적으로 작동하지만 안전하지 않다. 이는 품질이 낮은 쓰레기가 쓰레기를 생산하는 것과 같다. 따라서 나는 사람들이 이러한 생성 모델을 사용하여 코드를 생성할 때 반드시 조심하고, 코드가 실제로 해야 할 일을 제대로 수행하고 안전하게 수행하는지 확인해야 한다고 생각한다.

당신은 인공지능 모델을 사용하여 다른 도구와 결합하여 코드를 생성하고, 전체 과정에서 오류가 발생하지 않도록 할 수 있다. 예를 들어, 한 가지 아이디어는 LLM 모델을 사용하여 형식 검증 시스템을 위한 사양을 생성하도록 요구하는 것이다. LLM에게 형식 검증 도구를 위한 사양을 생성하도록 요구한 다음, 동일한 LLM 인스턴스에게 사양에 맞는 프로그램을 생성하도록 요구한다. 그런 다음 형식 검증 도구를 사용하여 프로그램이 실제로 사양을 준수하는지 확인한다. 만약 결함이 발생하면, 도구는 이를 포착할 것이다. 이러한 오류는 LLM에게 피드백으로 제공될 수 있으며, 이상적으로는 LLM이 작업을 수정하고 또 다른 올바른 코드 버전을 생성할 수 있기를 바란다.

결국, 당신이 이 과정을 반복하면, 이상적으로는 이 반환값을 완전히 충족하고 형식적으로 검증된 코드를 얻게 될 것이다. 그리고 인간이 이 회귀를 읽을 수 있기 때문에, 당신은 이 회귀를 통해 내가 작성하고자 했던 프로그램이 무엇인지 볼 수 있다. 실제로 많은 사람들이 LLM이 소프트웨어 결함을 찾는 능력을 평가하려고 시도하고 있다. 예를 들어, 스마트 계약, C 및 C++와 같은 분야에서 말이다.

그렇다면 우리는 LLM이 생성한 코드가 인간이 생성한 코드보다 버그를 포함할 가능성이 더 낮은 수준에 도달할 수 있을까? 예를 들어, 우리가 자율주행에 대해 논의할 때, 우리가 염두에 두는 것은 그것이 인간 운전사보다 사고를 덜 일으킨다는 것이다. 나는 이러한 추세가 점점 더 강해질 것이며, 인공지능 기술이 기존 도구 체인에 통합되는 정도도 점점 높아질 것이라고 생각한다.

당신은 이를 형식 검증 도구 체인에 통합할 수 있으며, 앞서 언급한 메모리 관리 문제를 검사하는 도구와 같은 다른 도구에도 통합할 수 있다. 당신은 또한 이를 단위 테스트 및 통합 테스트 도구 체인에 통합할 수 있으며, 이렇게 하면 LLM은 진공 상태에서만 작동하지 않게 된다. 그것은 다른 도구로부터 실시간 피드백을 받을 수 있으며, 이러한 도구는 그것을 실제 상황과 연결시킨다.

나는 세계의 모든 데이터를 기반으로 훈련된 초대형 머신러닝 모델과 이러한 다른 도구들을 결합하여, 계산 프로그램이 인간 프로그래머보다 더 뛰어날 수 있을 것이라고 생각한다. 그들이 여전히 실수를 할 수 있지만, 그들은 아마도 초인일 것이다. 이는 소프트웨어 공학의 중요한 순간이 될 것이다.

인공지능과 사회적 그래프

또 다른 가능성은 우리가 분산된 소셜 네트워크를 구축할 수 있을지도 모른다는 것이다. 그 행동은 실제로 웨이보와 매우 유사하지만, 사회적 그래프는 완전히 체인 상에 존재한다. 이는 거의 공공 제품과 같으며, 누구나 그 위에 구축할 수 있다. 사용자로서, 당신은 사회적 그래프에서 자신의 정체성을 통제할 수 있다. 당신은 자신의 데이터, 누가 당신을 팔로우할 수 있는지, 당신이 누구를 팔로우할 수 있는지를 통제할 수 있다. 또한, 많은 회사들이 사회적 그래프에 포털을 구축하여 사용자에게 Twitter, Instagram, TikTok 또는 그들이 만들고자 하는 다른 경험을 제공하고 있다.

하지만 이 모든 것은 동일한 사회적 그래프를 기반으로 하며, 아무도 그것을 소유하지 않으며, 수십억 달러의 가치를 지닌 기술 회사가 중간에서 완전히 통제하지 않는다.

이는 흥미로운 세계이다. 왜냐하면 이는 더 활기찬 생태계를 의미하며, 사람들이 공동으로 구축한 생태계가 존재할 수 있기 때문이다. 각 사용자는 플랫폼에서 보는 것과 하는 일에 대해 더 많은 통제를 할 수 있다.

하지만 동시에 사용자는 노이즈에서 신호를 필터링해야 한다. 예를 들어, 합리적인 추천 알고리즘을 수립하여 모든 콘텐츠를 필터링하고, 당신이 실제로 보고 싶은 뉴스 소스를 보여줘야 한다. 이는 서비스 제공자로 구성된 경쟁 환경을 위한 문을 열 것이다. 당신은 알고리즘을 사용할 수 있으며, 인공지능 기반 알고리즘을 사용하여 콘텐츠를 큐레이션할 수 있다. 사용자로서, 당신은 특정 알고리즘을 사용할지 여부를 결정할 수 있다. 아마도 Twitter가 구축한 알고리즘이거나, 다른 알고리즘일 수 있다. 그러나 마찬가지로, 당신은 "머신러닝"과 같은 도구가 노이즈를 필터링하고, 모든 쓰레기 정보를 해석하는 데 도움을 줄 필요가 있다. 이 세상에서는 생성 모델이 세상의 모든 쓰레기 정보를 생성할 수 있다.

인간 증명이 왜 중요한가?

매우 관련된 질문은, 인공지능이 위조한 콘텐츠가 넘쳐나는 세상에서, 당신이 실제로 인간임을 어떻게 증명할 수 있는가 하는 것이다.

생체 인식 기술은 하나의 가능한 방향이다. 그 중 하나의 프로젝트는 월드 코인(World Coin)이라는 것으로, 망막 스캔을 생체 인식 정보로 사용하여 당신이 실제로 살아 있는 사람인지 확인한다. 이 시스템은 안전한 하드웨어를 가지고 있어 변조하기 어렵고, 따라서 다른 쪽에서 나타나는 증명, 즉 당신의 실제 생체 인식 정보를 숨기는 제로 지식 증명은 이러한 방식으로 위조하기 어렵다.

인터넷에서는 아무도 당신이 로봇인지 모른다. 따라서 나는 이것이 인간 증명 프로젝트가 매우 중요해지는 이유라고 생각한다. 왜냐하면 당신이 로봇과 상호작용하고 있는지, 인간과 상호작용하고 있는지를 아는 것이 매우 중요해질 것이기 때문이다. 만약 당신에게 인간의 증거가 없다면, 당신은 어떤 주소가 한 개인에게 속하는지, 아니면 여러 개인에게 속하는지, 또는 만 개의 주소가 실제로 한 개인에게 속하는지, 아니면 단지 만 개의 다른 사람인 척하는지를 판단할 수 없다.

이는 거버넌스에서 매우 중요하다. 만약 거버넌스 시스템의 각 참여자가 실제로 인간임을 증명할 수 있고, 그들이 인간임을 독특한 방식으로 증명할 수 있다면, 즉 그들은 단 한 세트의 눈동자만 가지고 있다면, 거버넌스 시스템은 더욱 공정해질 것이며, 그렇게 되면 재벌화(어떤 스마트 계약에 잠겨 있는 최대 금액의 선호에 기반한)되지 않을 것이다.

인공지능과 예술

인공지능 모델은 우리가 미디어가 무한히 풍부한 세상에 살게 될 것임을 의미한다. 이러한 세상에서 특정 미디어를 중심으로 한 커뮤니티나 특정 미디어를 둘러싼 내러티브는 점점 더 중요해질 것이다.

예를 들어, Sound.xyz는 아티스트와 뮤지션이 음악을 업로드하고, NFT를 판매하여 커뮤니티와 직접 연결할 수 있는 분산 음악 스트리밍 플랫폼을 구축하고 있다. 예를 들어, sound.xyz 웹사이트에서 트랙에 대한 댓글을 달 수 있으며, 이렇게 하면 이 곡을 재생하는 다른 사람들이 댓글을 볼 수 있다. 이는 이전의 SoundCloud 기능과 유사하다. NFT 구매는 아티스트를 지원하고, 아티스트가 지속 가능한 방식으로 더 많은 음악 작품을 창작하도록 돕는 것이다. 하지만 이 모든 것의 아름다움은, 실제로 아티스트에게 커뮤니티와 상호작용할 수 있는 진정한 플랫폼을 제공한다는 것이다. 아티스트는 모두의 아티스트이다.

암호화폐가 여기서 역할을 하므로, 당신은 음악을 중심으로 커뮤니티를 형성할 수 있으며, 만약 음악이 단순히 머신러닝 모델에 의해 생성되었다면, 인간 요소가 없다면 이 커뮤니티는 존재하지 않을 것이다.

우리가 접하게 될 많은 음악은 완전히 인공지능에 의해 생성될 것이며, 예술, 음악 및 기타 유형의 미디어를 둘러싼 이야기를 만드는 도구가 매우 중요해질 것이다. 이는 우리가 진정으로 관심을 가지고, 투자하고, 시간을 들여 접하고자 하는 미디어와 일반 미디어를 구별하는 데 도움이 될 것이다.

이 두 가지 사이에는 어떤 시너지 효과가 발생할 수 있다. 예를 들어, 많은 음악이 인공지능에 의해 강화되거나 생성될 것이다. 그러나 인간 요소가 참여한다면, 즉 창작자가 인공지능 도구를 사용하여 새로운 음악을 창작하고, 그들만의 음색, 그들만의 아티스트 페이지, 그들만의 커뮤니티 및 그들만의 추종자를 가진다면,

이제 이 두 세계 사이에 시너지 효과가 발생하며, 모두가 최고의 음악을 소유하게 된다. 왜냐하면 인공지능이 모두에게 강력한 능력을 부여했기 때문이다. 그러나 동시에, 모두는 인간 요소와 이야기를 소유하게 된다. 이러한 요소와 이야기는 암호화 기술을 통해 조정되고 실현되어, 모든 이들을 하나의 플랫폼에 모을 수 있게 된다.

콘텐츠 생성 측면에서, 이는 확실히 새로운 세계이다. 그렇다면 우리는 어떻게 인간이 생성한 예술과 기계가 생성한 예술을 구별할 수 있을까?

이는 실제로 집단 예술을 위한 문을 열며, 전체 커뮤니티의 창작 과정을 통해 생성된 예술을 의미한다. 이미 몇몇 프로젝트가 이를 수행하고 있으며, 이러한 프로젝트에서는 커뮤니티가 투표 프로세스를 통해 체인에 영향을 미치고, 머신러닝 모델의 제안에 따라 예술 작품을 생성한다. 아마도 당신이 생성하는 것은 하나의 예술 작품이 아니라 만 개의 예술 작품일 것이다. 그런 다음 또 다른 머신러닝 모델을 사용하여, 이 모델은 커뮤니티의 피드백에 따라 훈련되며, 이 만 개의 작품 중에서 가장 좋은 작품을 선택할 수 있다.