SLMの開発
限られた計算資源とメモリで、特定の業務に役立つ小型言語モデルをどう作るか。データ選定、アーキテクチャ、学習方法を探究します。
小型モデル、追加学習、エージェント設計、信頼性を研究テーマとしています。ここでは研究の方向性を紹介しており、公表済みの成果を示すものではありません。
限られた計算資源とメモリで、特定の業務に役立つ小型言語モデルをどう作るか。データ選定、アーキテクチャ、学習方法を探究します。
検索やプロンプトの改善より追加学習が有効なのはどのような条件か。データ品質、パラメータ効率の高い手法、未学習データでの評価を検討します。
コンテキスト、ツール、人の承認をどう組み合わせるか。制約を持つワークフロー、ハーネスの設計、失敗時の処理を検討します。
導入前に失敗を発見するための評価とは何か。業務単位のテスト、根拠の確認、再現性、回帰テストを研究します。
現在公開しているのは、設計の考え方を示す説明用の資料です。実測による研究成果はまだ掲載していません。
架空の購入依頼を通じて、検索、限定的なツール権限、承認、評価の考え方を示します。
解説付きワークフローを読む改善したい業務、調整したいモデル、次の段階へ進めたい試作品についてご相談ください。
プロジェクトのご相談