[마음지기 캡스톤 개발일지 #22] 4차 파인튜닝의 완성! 챗봇 아키텍처 설계와 최종 보고서

5월의 마지막 주(27일~30일), 저희는 대망의 4차 파인튜닝(fine_tuning_4) 결과를 갈무리하고 시스템의 뼈대를 굳히는 작업에 매진했습니다.

최종 체크포인트 4400과 그래프 분석

"Qwen35-9B_mixed_7_3/checkpoints/checkpoint-4400/adapter_config.json" "fine_tuning_4/results/figures/eval/06_common_vs_daily.png"

일상 대화와 감성 대화를 혼합하여 학습시킨 4차 파인튜닝 모델이 드디어 학습을 마치고 최적의 가중치인 checkpoint-4400을 뱉어냈습니다.

이전 파인튜닝에서는 일상적인 대화(Common)를 건넸을 때도 모델이 과도하게 심각한 감성 상담(Daily) 모드로 대답하는 오버피팅 문제가 있었죠. 이를 해결하기 위해 데이터 혼합 비율을 실험한 결과, 마침내 모델이 일상적인 대화와 진지한 위기 상담을 완벽하게 구분해서 대응하는 '눈치 있는' 챗봇으로 거듭났습니다!

모든 평가 지표를 matplotlib 그래프(01_loss_curves.png, 04_pareto_efficiency.png 등)로 시각화하여 모델 간 성능 차이를 한눈에 증명해 냈습니다.

챗봇 시스템 아키텍처 설계와 최종 보고서

"chatbot_architecture.html 생성 완료" "fine_tuning_4의 수행 결과를 보고서(.docx)로 작성해 주세요. Base vs Fine-tuned 비교 시 예시가 따로 작성되게 해 주세요."

성능 검증이 끝난 모델을 실제 앱으로 서비스하기 위해 chatbot_architecture.html이라는 이름으로 전체 시스템 아키텍처와 지식그래프(Knowledge Graph) 통합 방안을 설계했습니다.

그리고 5월 30일, 대망의 파인튜닝 프로젝트 1단계를 성공적으로 마무리하는 fine_tuning_4_보고서.docx를 AI의 도움을 받아 자동으로 생성했습니다. 보고서에는 오리지널 베이스 모델과 우리가 파인튜닝한 모델의 실제 응답 텍스트 비교가 적나라하게 담겨 있어, 그동안의 고생이 헛되지 않았음을 증명해 주었습니다.

이로써 마음지기 프로젝트의 숨 가빴던 5월 개발 일지가 모두 마무리되었습니다. 6월에는 또 어떤 새로운 챌린지가 기다리고 있을까요?