[マウムジギ 開発日誌 #21] データ混合比率の最適化と4次ファインチューニングへの突入

5月21日と22日、マウムジギチームは大規模データの生成と**4次ファインチューニング（fine_tuning_4）**の準備に突入しました。

感情対話と日常対話の綱引き

3次ファインチューニングモデルをテストしている時、致命的な問題を発見しました。

「haiku_predデータセットで学習させると、回答が感情カウンセリングに偏りすぎているようです。日常対話の能力を維持するにはどう学習させればいいですか？」

私たちが目標とするのは「温かい共感を伝えるカウンセラー」ですが、ユーザーが「今日の天気は？」といった日常的な質問を投げた時にも過度に深刻に答えてしまう**過学習（Overfitting）**の兆候が見られました。これを解決するために、感情データと日常データを適切な比率で混ぜて学習させる実験を企画しました。

10,000件のv6感情データセット生成

最高のデータセットを作るために、Anthropic アプリケーションプログラミングインターフェース(API)のバッチモードを使用して、なんと10,000件に達する感情対話データセットを生成しました。APIがバックグラウンドで処理され進行状況が分からないハプニングもありましたが、追加スクリプトで不足分を満たし完成させました。

感情 vs 日常の黄金比を探す（fine_tuning_4）

「Emotion_train_dataset_v6.jsonlが完成しました。では、7:3比率、2:1比率、5:5比率のデータセットを作ってください。」 「今回の学習はデータセットの混合比率基準で進行します。」

4次ファインチューニングは、人工知能(AI)の「日常性」と「専門性（カウンセリング）」を最も完璧に調和させるデータ比率を検証する舞台となりました！