[마음지기 캡스톤 개발일지 #20] 3차 파인튜닝 완료 및 백엔드 기능(DB, 게시판) 고도화

5월 19일과 20일 이틀 동안은 3차 파인튜닝(fine_tuning_3)의 평가 자동화와 더불어, 실제 앱(App) 서비스 구축을 위한 백엔드/프론트엔드 기능 고도화 작업이 병렬로 진행되었습니다.

3차 파인튜닝 (fine_tuning_3) 마무리와 자동화 스크립트

이전 파인튜닝에서 얻은 인사이트를 바탕으로, 지식그래프와 온톨로지 개념을 의식하며 세팅했던 3차 파인튜닝의 학습이 완료되었습니다.

"fine_tuning_3 폴더의 실험 모델들 중 Best Eval을 가진 체크포인트를 선별하여 adapter 폴더 내 파일을 교체하고 결과를 보고해 줘." "fine_tuning_3에서도 추론과 평가를 병렬로 진행하는 run_test_20_30.sh 파일을 작성해 주세요."

이전처럼 사람이 일일이 폴더를 뒤지며 체크포인트를 복사하는 대신, AI에게 스크립트를 짜도록 지시하여 가장 성능이 좋은 모델 가중치(Best Checkpoint)를 자동으로 추출해 adapter 폴더에 세팅했습니다. 그리고 병렬 추론 스크립트인 run_test_20_30.sh를 실행하여 4개의 Alias 모델에 대한 평가를 백그라운드 서버에 던져두었습니다.

백엔드/프론트엔드: 챗봇 DB 저장과 게시판 기능 완성

모델이 서버에서 열심히 추론을 돌리는 동안, 로컬 환경에서는 mental-health DB와 앱 연동 작업에 박차를 가했습니다.

"seed_data.sql 정보 요약. users의 pw가 무엇이지? Test1234! 인가? 현재 내가 이 sql을 적용하려던 db가 뭐였지?"

지난번 401 Unauthorized 에러로 골치를 썩였던 로그인 문제를 뚫어내기 위해 seed_data.sql을 뜯어보며 비밀번호 해싱과 유저 데이터를 철저히 검증했습니다.

그 결과, 5월 20일 오후 뜻깊은 Git 커밋(Commit) 하나를 남길 수 있었습니다. feat: 챗봇 DB 저장, 게시판 페이지네이션, 감정일기 필터 추가

드디어 저희가 파인튜닝한 LLM 챗봇의 대화 기록이 DB에 정식으로 저장되기 시작했습니다! 더불어 사용자들끼리 소통할 수 있는 커뮤니티 게시판의 페이지네이션(Pagination) 기능과, 매일매일의 기분을 기록하는 감정일기 필터 기능까지 성공적으로 프론트엔드에 얹혔습니다.

눈에 보이지 않던 거대한 파인튜닝 모델이 비로소 모바일 앱이라는 예쁜 그릇에 담기기 시작한 감격스러운 순간이었습니다.