ChainCatcher 메시지, AI 안전 및 연구 회사 Anthropic이 지금까지 가장 스마트한 모델인 Claude 3.7 Sonnet을 출시했다고 발표했습니다. 이 모델의 독특한 점은 추론 능력과 실시간으로 답변을 제공하는 전통적인 모드를 결합한 이른바 혼합 모드에 있습니다.또한, Anthropic은 에이전트 코딩 도구 Claude Code를 출시할 예정입니다. Claude Code는 제한된 연구 미리보기 버전으로 제공되어 개발자가 자신의 터미널에서 Claude에게 대량의 엔지니어링 작업을 직접 위임할 수 있게 합니다.

ChainCatcher 메시지, GMGN.Ai는 소셜 미디어 플랫폼에 보안 경고를 발표하며 다음과 같이 전했습니다: "GMGN 공식 iOS 앱이 App Store 심사를 받고 있으며, 현재 App Store에 있는 iOS 버전 앱은 해적판으로, 심각한 보안 문제가 있으니 다운로드 및 설치를 삼가해 주시기 바랍니다. 모든 업데이트 및 앱 다운로드는 공식 채널 정보를 기준으로 해 주십시오."또한, 현재 GMGN APP iOS 버전의 개발자 계정 심사가 통과되었으며, 예상으로는 일주일 내에 Testflight 버전이 출시될 예정입니다. App Store 버전은 계속해서 심사를 기다려야 합니다.전해진 바에 따르면, GMGN.AI는 MEME 토큰을 빠르게 발견하고 거래하는 데 집중하는 도구로, 사용자가 스마트 자금을 따라 거래 효율성을 높일 수 있도록 돕는 것을 목표로 하고 있습니다.

ChainCatcher 메시지, 이더리움 창시자 비탈릭 부테린이 발표한 장문 《d/acc: one year later》에서 지난해 제안된 d/acc(탈중앙화 가속) 개념의 발전을 회고합니다. 이 글은 세 가지 주요 주제를 중심으로 논의합니다: AI 안전 규제, d/acc에서 암호화폐의 역할, 그리고 공공 제품 자금 조달.비탈릭은 AI 안전을 위해 두 가지 전략을 제시합니다: 첫째, 책임 제도를 구축하여 AI 사용자, 배포자 및 개발자에게 합리적인 법적 책임을 부여하는 것입니다; 둘째, 산업급 하드웨어 수준에서 글로벌 "소프트 정지" 메커니즘을 설정하여 필요 시 전 세계 계산 능력을 90-99% 줄일 수 있도록 합니다. 비탈릭은 d/acc와 암호화폐 간의 세 가지 관계를 언급합니다: 가치관 확장, 초기 채택자 커뮤니티, 그리고 기술 상호 보완성. 특히 암호화폐 커뮤니티가 예측 시장, 제로 지식 증명 등 분야에서 기여한 점을 강조합니다. 글에서는 이차 자금 조달, 소급적 공공 제품 자금 조달 및 심층 자금 조달을 포함한 혁신적인 메커니즘도 언급하며, 탈중앙화 자금 조달이 오픈 소스 프로젝트 발전에 미치는 중요성을 강조합니다. 비탈릭은 현재 기술의 빠른 발전과 글로벌 협력 감소라는 도전에 직면해 있지만, AI, 생명공학 등 새로운 도구가 인류에게 이러한 도전에 대응할 수 있는 능력을 제공한다고 생각합니다.

ChainCatcher 메시지에 따르면, AXIOS는 OpenAI가 월요일에 CEO Sam Altman이 이사회 안전 및 보안 위원회를 떠날 것이라고 발표했다고 보도했습니다. 이 위원회는 이제 독립 이사회 구성원으로만 구성됩니다.OpenAI는 이 위원회가 Zico Kolter가 의장을 맡을 것이라고 밝혔습니다. 위원회는 주요 모델에 대한 브리핑을 듣고 전체 이사회와 함께 새로운 모델의 출시를 연기할 권한을 가집니다. 이들은 새로운 위원회가 최근의 o1 "딸기" 모델의 안전성을 검토했으며, 이 모델이 회사의 내부 평가에서 "중간 위험"으로 평가되었다고 언급했습니다. OpenAI는 투명성을 높이고 외부 단체와의 협력을 강화하며 점점 더 많은 제품 팀에서 안전 관행을 통일하기 위해 위원회의 권고를 수용하기 위해 노력하고 있다고 밝혔습니다.

ChainCatcher 메시지, 미 동부 시간 5월 14일(지난 화요일), OpenAI 수석 과학자 일리야 수츠케버(Ilya Sutskever)가 공식적으로 퇴사한다고 발표했습니다. 같은 날, OpenAI 슈퍼 정렬 팀의 책임자 중 한 명인 잔 레이크(Jan Leike)도 퇴사한다고 발표했습니다.지난 금요일, OpenAI는 수츠케버와 잔 레이크가 공동으로 이끌던 "슈퍼 인공지능 정렬 팀"이 해체되었다고 확인했습니다. 5월 18일 새벽, 잔 레이크는 소셜 플랫폼 X에서 13개의 트윗을 연달아 올리며 퇴사의 진짜 이유와 더 많은 내부 정보를 폭로했습니다.요약하자면, 첫째는 계산 자원이 부족하고, 둘째는 OpenAI가 안전을 충분히 중시하지 않는다는 것입니다. 잔 레이크는 새로운 세대 AI 모델을 준비하는 작업에 더 많은 자원과 노력을 투입해야 한다고 말했지만, 현재의 발전 경로로는 목표를 순조롭게 달성할 수 없다고 밝혔습니다. 그의 팀은 지난 몇 달 동안 엄청난 도전에 직면했으며, 때로는 충분한 계산 자원을 확보하기 어려웠습니다.잔 레이크의 폭로에 대해, 5월 18일 올트먼도 긴급히 글을 올려 응답했습니다: "저는 잔 레이크가 OpenAI의 AI 슈퍼 정렬 연구와 안전 문화에 기여한 것에 대해 매우 감사하게 생각하며, 그가 회사를 떠나는 것에 대해 매우 유감스럽게 생각합니다. 그는 우리가 아직 해야 할 일이 많다고 지적했으며, 우리는 이에 동의하고 이러한 작업을 추진하기 위해 노력하고 있습니다. 앞으로 며칠 내에 이 문제에 대해 더 자세한 글을 작성할 것입니다."

ChainCatcher 메시지, OpenAI 안전 책임자 Jan Leike가 소셜 플랫폼에서 OpenAI를 떠난다고 발표했습니다. 이는 이번 주 수요일 OpenAI 공동 창립자이자 수석 과학자 Ilya Sutskever가 사임한 이후 또 다른 고위 간부의 사임입니다.

ChainCatcher 메시지, 인공지능 보안 플랫폼 Rug.AI가 110만 달러의 Pre-Seed 라운드 자금을 완료했다고 발표했습니다. No Limit Holdings가 주도하고, Mask Network, Builder Capital, Formless Capital, Prismatic Capital, Roshun Patel, Pentoshi, Avi Felman, MacnBTC 및 Andrej Radonjic와 같은 기관 및 엔젤 투자자들이 참여했습니다.Rug.AI는 인공지능을 기반으로 하여 엔드 투 엔드 체인 상 보안 솔루션을 제공하는 데 전념하고 있습니다.

ChainCatcher 메시지에 따르면, ChatGPT 개발 회사 OpenAI는 자사의 공식 웹사이트에 《AI 안전성을 보장하는 우리의 접근 방식》이라는 제목의 기사를 발표하여 AI 모델의 안전성을 보장하기 위한 배포 방법을 소개했습니다.기사에 따르면, AI 도구는 오늘날 인류에게 많은 이점을 제공합니다. OpenAI는 또한 모든 기술과 마찬가지로 이러한 도구가 실제 위험을 초래한다는 것을 인식하고 있으며, 따라서 회사는 시스템의 모든 수준에서 안전 장치를 구축하기 위해 노력하고 있습니다.OpenAI는 새로운 시스템을 출시하기 전에 철저한 테스트를 수행하고, 외부 전문가를 고용하여 피드백을 제공받으며, 인공지능 피드백 강화 학습 등의 기술을 통해 모델의 행동을 개선하고, 광범위한 안전 및 모니터링 시스템을 구축합니다.또한 OpenAI는 강력한 인공지능 시스템이 엄격한 안전 평가를 받아야 한다고 생각합니다. 이러한 관행을 채택하기 위해 규제가 필요하며, 우리는 정부와 협력하여 이러한 규제의 최선의 형태를 마련하기 위해 적극적으로 노력하고 있습니다.동시에 사회는 점점 더 강력해지는 AI에 적응하고 조정할 시간을 가져야 하며, OpenAI는 아동 보호, 개인 정보 존중, 사실 정확성 향상을 ChatGPT 안전 작업의 주요 초점으로 삼고, 효과적인 완화 조치 및 기술을 연구하는 데 더 많은 시간과 자원을 투자하며, 현실 세계의 다양한 사용 사례를 대상으로 테스트를 진행할 것입니다.（출처 링크）