[Registro de Desarrollo Maeumjigi #16] Error Fatal, 2do Fine-Tuning y App React Native

El 8 de mayo preparábamos la presentación de los resultados. Sin embargo, descubrí un error masivo.

Error Fatal en los Hiperparámetros de LoRA

"Las respuestas del modelo son más cortas. Creo que es porque establecer r de LoRA a 8 y alfa a 16 redujo demasiado las características..." "Espera, ¿era a/r? Pensé que era r/a...???"

Comprendí mal la ecuación, configurándola de una manera que suprimió severamente o amplificó excesivamente las actualizaciones de peso. Con razón las respuestas eran anormalmente cortas.

2da Ronda de Fine-Tuning (fine_tuning_2)

No podíamos simplemente avanzar. Inmediatamente creé una carpeta fine_tuning_2 para una segunda ronda de fine-tuning.

"Entrenar con rank=16, alpha=16, y en MIG-1 con rank=16, a=8." "Extraiga las 2000 entradas más largas de Daily_train_dataset."

Para evitar respuestas cortas, extrajimos solo los 2000 conjuntos de datos más largos y dividimos nuestros recursos de GPU para ejecutar entrenamiento en paralelo.

Desarrollo Frontend (App)

Mientras los modelos entrenaban, comencé a desarrollar la aplicación frontend.

"Necesito mostrar un código QR para ejecutar maeum-app... pero cuando escribo npx go start, solo obtengo un error."

Creé el proyecto usando React Native (Expo) y, después de algunos errores tipográficos, logré mostrar el código QR de Expo. Fue un día emocionante construyendo tanto el cerebro (IA) como la cara de la aplicación.