Chainbase オープンソース暗号分野大モデル Theia-Llama-3.1-8B

ChainCatcher のメッセージ、全チェーンデータネットワーク Chainbase は、HuggingFace で暗号分野向けに開発された大規模言語モデル Theia-Llama-3.1-8B をオープンソースとして発表しました。

Chainbase チームは、CoinMarketCap の上位 2000 プロジェクトに関するさまざまな資料を収集した初の専門的な Web3 データセットを独自に構築しました。データセットは手動およびアルゴリズムによるフィルタリングを経て、トレーニングデータの正確性、多様性、専門性が確保されています。このデータセットに基づき、チームは LoRA 技術を用いてモデルを効率的に微調整し、DeepSpeed などのツールを利用してトレーニングプロセスを加速しました。モデルは Q8 GGUF 形式に量子化され、メモリ使用量が大幅に削減され、推論速度が向上しました。

報告によると、Theia-Llama-3.1-8B は Chainbase における暗号分野の大規模モデルの初期の試みであり、このモデルは Chainbase DEMO インタラクティブアプリケーション TheiaChat に成功裏に適用されており、現在のデイリーアクティブユーザーは 30 万人を超えています。