저자：Oasis 中文

Oasis Labs는 유명한 기술 회사 Meta와 파트너십을 체결했다고 발표했으며, Oasis Labs는 Meta 제품의 공정성을 평가하는 플랫폼을 출시하여 사용자 개인 정보를 보호하고 포용성과 공정성을 실현하는 선도적인 이니셔티브를 추진할 것입니다.

최근 Meta는 Instagram 플랫폼을 기반으로 한 조사에서 사용자에게 자발적으로 자신의 인종 또는 민족 정보를 공유하도록 요청했습니다. Meta의 중요한 기술 파트너로서 Oasis Labs는 사용자 개인 정보를 보호할 수 있는 안전한 다자간 계산(SMPC)을 사용하는 플랫폼을 구축했습니다.

이 협력 프로젝트는 인공지능 모델의 공정성 측정을 향상시키고, 이를 통해 전 세계 개인의 삶에 긍정적인 영향을 미치며, 사회 전체에 혜택을 줄 것입니다. Oasis Labs가 출시한 이 선도적인 플랫폼은 이니셔티브에서 중요한 역할을 하며, 인공지능 분야에서 인공지능 모델이 공정한지 여부를 판단하고 적절한 완화를 허용하는 중요한 단계가 될 것입니다.

협력에 대한 흥미로운 내용을 함께 살펴보겠습니다.

협력 세부 사항: Oasis Labs 플랫폼이 AI 모델의 공정성을 어떻게 평가할 것인가

Meta 소속의 책임 있는 인공지능(Responsible AI), Instagram Equity 및 민권(Civil Rights) 팀은 Instagram 플랫폼 사용자에게 조사를 실시하고 있으며, 이 조사에서 사용자는 자발적으로 자신의 인종/민족 정보를 공유해야 합니다.

이 조사에서 제3자 조사 기관은 데이터를 수집하고 비밀 공유 방식을 통해 데이터를 제3자 협력자에게 전송합니다. 이렇게 하면 제3자 협력자나 Meta 모두 사용자 특정 조사 응답을 알 수 없습니다.

그런 다음 제3자 협력자는 인공지능 모델의 암호화된 예측 데이터를 사용하여 측정 결과를 계산합니다. 이 데이터는 Meta에 의해 암호화되어 공유되며, 각 제3자 협력자로부터의 종합적이고 비식별화된 데이터 결과는 Meta에 의해 다시 통합되어 전체 공정성 측정 결과로 만들어집니다.

Oasis Labs가 출시한 플랫폼에서 사용되는 암호화 기술은 Meta가 편견과 공정성을 측정할 수 있게 하며, 민감한 데이터를 제공하는 개인에게 높은 수준의 개인 정보 보호를 제공합니다.

링크 클릭하여 해당 플랫폼에 대한 더 많은 정보를 확인하세요.

공동 비전: 인공지능 모델의 글로벌 포용성과 공정성으로 수백만 명에게 혜택을 주다

책임 있는 인공지능(Responsible AI) 및 책임 있는 데이터 사용 측면에서 Meta와 Oasis 두 팀은 공동의 비전을 가지고 있습니다. Oasis Labs가 출시한 플랫폼에서 채택한 암호화 기술은 사용 규모에 관계없이 전례 없는 혁신이며, 이는 새로운 여정의 시작이 될 것입니다.

Meta 책임 있는 인공지능(Responsible AI) 이사 Esteban Arcaute는 다음과 같이 말했습니다:

우리는 Meta의 AI가 인류와 사회에 혜택을 주기를 원하며, 이를 위해서는 내부 및 외부의 다양한 팀 간의 심도 있는 소통과 협력이 필요합니다. Oasis Labs와 협력하여 개발한 안전한 다자간 계산 방법은 개인 정보를 중심으로 한 접근 방식으로, 공정성 측면에서 중요한 측정을 수행할 수 있으며, 성숙한 개인 정보 보호 방법을 채택하여 사람들의 개인 정보를 최우선으로 두고 있습니다.

협력이 이루어진 후, Oasis Labs는 Meta와 함께 더 복잡한 편견 연구에 대한 추가적인 개인 정보 보호 방법을 탐색할 것입니다. 우리는 개인 정보 보호와 같은 개념이 전 세계 수십억 사람들에게 도달하기를 원하기 때문에, 블록체인 네트워크를 기반으로 한 새로운 Web3 기술의 새로운 용도를 탐색하기 위해 더욱 깊이 있는 협력을 원합니다. 우리의 목표는 조사 데이터의 수집 및 데이터 계산 측정에서 더 나은 글로벌 접근성, 감사 가능성 및 투명성을 제공하는 것입니다.

Oasis Labs 창립자 Dawn Song 교수는 다음과 같이 말했습니다:

우리는 Meta의 기술 파트너가 되어 AI 모델의 공정성을 평가하고 최첨단 암호화 기술을 사용하여 사용자의 개인 정보를 보호하는 이 혁신적인 계획에 참여하게 되어 기쁩니다. 이는 이러한 기술이 현실 세계에서 대규모로 AI 모델의 공정성을 측정하는 전례 없는 사용입니다. 우리는 Meta와 협력하여 책임 있는 인공지능(Responsible AI) 및 책임 있는 데이터 사용을 구축하여 더 공정하고 포용적인 사회를 만드는 것을 기대합니다.

Oasis Labs의 연구 작업 및 발전 사명

모든 발전 비전에서 책임 있는 데이터 사용과 소유권은 Oasis Labs의 최우선 과제입니다.

우리는 Web3 세계에서 어떤 실체도 사용자 데이터를 소유하거나 당연하게 여길 수 없다는 것을 이해하고 있으며, 우리는 개인 정보 보호를 실현하고 데이터 소유권과 통제권이 개인에게 있도록 하는 기술을 개발하고 있습니다.

블록체인, 개인 정보 계산 및 개인 정보 보호 기술을 활용하여, 우리의 비전은 개인 정보 보호, 데이터 거버넌스 및 책임 있는 데이터 사용을 촉진하는 관련 플랫폼 및 제품 시리즈를 구축하는 것입니다. Oasis의 기술은 개발자가 개인 정보 보호 데이터 저장, 거버넌스 및 계산을 더 쉽게 통합할 수 있도록 집중하고 있습니다.

탈중앙화 및 Web3의 힘은 전 세계 사람들에게 도달할 수 있습니다. 데이터 개인 정보 보호와 결합될 때, 이는 기업이 전 세계 사용자에게 접근할 수 있게 하여, 개인 정보 보호를 전제로 민감한 데이터를 얻고 사용하여 더 나은 제품을 구축하고 더 공정한 환경을 촉진할 수 있게 합니다.