본문으로 건너뛰기

"트러블슈팅" 태그로 연결된 4개 게시물개의 게시물이 있습니다.

모든 태그 보기

[마음지기 캡스톤 개발일지 #19] 파인튜닝 보고서 자동화와 백엔드 DB 연동 트러블슈팅

· 약 2분
Jihwan Park (jaybee)
AI & Robotics Engineer

사진 01

제가 이전에 "5월 13일이 마음지기 5월 개발의 마지막일 것"이라고 착각했던 것을 정정합니다! 5월 17일, 어마어마한 양의 백엔드 연동 테스트와 보고서 작업이 몰아쳤습니다.

[마음지기 캡스톤 개발일지 #12] 70B 초대형 모델 파인튜닝과 GPU 메모리(OOM) 사투

· 약 2분
Jihwan Park (jaybee)
AI & Robotics Engineer

사진 01

5월 3일, 그동안 8B 모델로 충분히 감을 잡은 저희 팀은 드디어 진정한 성능의 끝판왕, 70B(700억 개 매개변수) 초대형 모델의 파인튜닝에 도전했습니다. Llama 3.3 70B와 DeepSeek-R1 70B 두 가지 모델을 대상으로 학습을 시도했는데, 예상대로 엄청난 하드웨어 자원의 장벽에 부딪히고 말았습니다.

[마음지기 캡스톤 개발일지 #10] API 제한 해제와 데이터 합성의 재개

· 약 2분
Jihwan Park (jaybee)
AI & Robotics Engineer

사진 01

4월 14일, 요금 폭탄 사태 이후 잠시 중단되었던 합성 데이터(v5) 생성 작업을 다시 재개한 날입니다. API 요금 한도를 상향(제한 해제)하고 시스템을 돌렸지만, 이번에도 역시 순탄하게 넘어가진 않았습니다.

[마음지기 캡스톤 개발일지 #9] Llama 3.1 파인튜닝 에러 사투와 6주차 중간발표

· 약 2분
Jihwan Park (jaybee)
AI & Robotics Engineer

사진 01

4월 9일, 어제 야심 차게 완성한 Colab 노트북을 이용해 드디어 인공지능 모델(Llama 3.1)의 첫 학습(파인튜닝)을 시도했습니다. 하지만 현실은 역시 호락호락하지 않았고 수많은 에러와 마주해야 했습니다. 동시에 캡스톤 디자인 6주차 중간발표 자료까지 만들어야 했던 험난한 하루였습니다.