Chainbase 오픈소스 암호화 분야 대모델 Theia-Llama-3.1-8B

ChainCatcher 메시지, 전체 체인 데이터 네트워크 Chainbase가 HuggingFace에서 암호화 분야를 위해 제작한 대형 언어 모델 Theia-Llama-3.1-8B를 오픈 소스한다고 발표했습니다.

Chainbase 팀은 CoinMarketCap 상위 2000개 프로젝트의 다양한 자료를 수록한 최초의 전문 Web3 데이터 세트를 독창적으로 구축했습니다. 데이터 세트는 수동 및 알고리즘 필터링을 거쳐 훈련 데이터의 정확성, 다양성 및 전문성을 보장합니다. 이 데이터 세트를 기반으로 팀은 LoRA 기술을 사용하여 모델을 효율적으로 미세 조정하고 DeepSpeed와 같은 도구를 활용하여 훈련 과정을 가속화했습니다. 모델은 Q8 GGUF 형식으로 양자화되어 메모리 사용량을 대폭 줄이고 추론 속도를 향상시켰습니다.

전해진 바에 따르면, Theia-Llama-3.1-8B는 Chainbase의 암호화 분야 대형 모델에 대한 초기 시도이며, 이 모델은 Chainbase DEMO 인터랙티브 애플리케이션 TheiaChat에 성공적으로 적용되어 현재 일일 활성 사용자 수가 30만을 초과합니다.