[마음지기 캡스톤 개발일지 #19] 파인튜닝 보고서 자동화와 백엔드 DB 연동 트러블슈팅

제가 이전에 "5월 13일이 마음지기 5월 개발의 마지막일 것"이라고 착각했던 것을 정정합니다! 5월 17일, 어마어마한 양의 백엔드 연동 테스트와 보고서 작업이 몰아쳤습니다.

AI를 활용한 파인튜닝 결과 보고서 자동화

2차 파인튜닝(fine_tuning_2)의 방대한 결과 그래프(common, daily 데이터셋 비교 등)를 하나씩 사람이 분석해서 쓰기에는 시간이 너무 부족했습니다.

"모델들의 추론 결과를 비교하는 보고서를 작성하기 위한 프롬프트를 만들어주세요. 프롬프트 자체를 report_prompt.md로 저장하고, 이에 따라 보고서 작성을 수행해 줘." "내가 바란 보고서는 .md 형식이 아닌 .docx 형식을 희망했습니다."

AI에게 결과 지표를 해석하게 하고, 보고서 초안을 자동으로 작성하는 프롬프트 엔지니어링을 시도했습니다. 결과적으로 AI가 각 모델의 장단점과 Alpha 값에 따른 차이를 분석해 훌륭한 워드(.docx) 보고서 초안을 뽑아주었습니다.

백엔드 DB 연동과 401 Unauthorized의 늪

보고서가 마무리되자마자 프론트엔드와 백엔드의 시스템 안정성을 테스트하기 위해 backup.sql 데이터를 로컬 PostgreSQL DB에 밀어 넣는 작업을 시작했습니다.

"backup.sql에 데이터를 넣고 싶습니다. 목적: Frontend, Backend 작동 및 시스템 안정성 테스트." "backend, frontend 구동 후 접속 성공했으나 메뉴들을 선택해도 반응이 없음" "이메일 또는 비밀번호가 틀렸어요... INFO: 127.0.0.1:54446 - POST /auth/login 401 Unauthorized"

DB 덤프를 성공적으로 밀어 넣고 웹에 접속까지는 성공했지만, 로그인이 되지 않는 401 Unauthorized 에러 지옥에 빠졌습니다. debug_login.py를 만들고 uvicorn 서버를 껐다 켜며 수십 번의 트러블슈팅을 진행했습니다. 비밀번호 해싱 방식이 달랐던 건지, DB 마이그레이션이 꼬인 건지 로그를 뒤지며 밤을 새우다시피 했습니다.

지식그래프(Knowledge Graph)의 도입 고민

"우리 프로젝트의 목적은 효율적으로 자살예방 챗봇을 만드는 것입니다. 요즘 하네스, 온톨로지, 지식그래프 등을 사용하는 기법이 떠오르는데, LLM 하나만 집중하는 것보다 더 나은 안정성을 가진 챗봇을 만들 수 있을 것 같습니다."

밤늦은 시간, 단순 LLM 파인튜닝의 한계를 극복하기 위해 온톨로지와 지식그래프(Knowledge Graph)를 융합하는 방안을 새롭게 고민하며 chatbot_design_prompt.md를 설계하기 시작했습니다. 5월 중순을 넘어가며 프로젝트의 스케일이 점점 더 거대해지고 있습니다!