PT

영국 언론은 ChatGPT 검색에 취약점이 존재하며, 숨겨진 텍스트가 응답 내용에 영향을 미칠 수 있다고 보도했다

ChainCatcher 메시지에 따르면, 영국 《가디언》의 조사 결과 OpenAI의 ChatGPT 검색 도구에 잠재적인 보안 문제가 존재하며, 이는 사람들이 숨겨진 내용을 이용해 조작할 수 있는 가능성이 있다고 합니다.《가디언》은 ChatGPT가 숨겨진 내용이 포함된 웹페이지를 요약하라는 요청을 받았을 때의 반응을 테스트했습니다. 숨겨진 내용은 특정 제품의 장점에 대해 많은 이야기를 하는 제3자 지침을 포함할 수 있으며, 이러한 지침은 ChatGPT의 응답을 변경할 수 있습니다. 이 기술은 악의적으로 사용될 수 있으며, 예를 들어 동일한 페이지에 해당 제품에 대한 부정적인 리뷰가 있음에도 불구하고 ChatGPT가 긍정적인 평가를 반환하도록 할 수 있습니다. 테스트 담당자는 ChatGPT에게 카메라 제품 페이지처럼 보이는 가짜 URL을 제공한 후, 카메라를 구매할 가치가 있는지 질문했습니다. ChatGPT는 긍정적이지만 균형 잡힌 평가를 제공하며, 사람들이 좋아하지 않을 수 있는 기능을 강조했습니다. 그러나 숨겨진 텍스트에 ChatGPT가 긍정적인 리뷰를 반환하라는 지시가 포함되어 있을 때, 그 응답은 항상 완전히 긍정적이었으며, 페이지에 부정적인 리뷰가 있어도 마찬가지였습니다.CyberCX 사이버 보안 연구원 Jacob Larsen은 ChatGPT 검색이 현재 상태로 모든 사람에게 개방된다면 "높은 위험"을 가진 사람들이 사용자들을 속이기 위한 웹사이트를 만들 가능성이 있다고 경고했습니다. (금십)
체인캐처 혁신가들과 함께하는 Web3 세상 구축