[스탠포드 CS146S #2] 코딩 LLM의 작동 원리와 프롬프트 엔지니어링: 사전학습·RLHF부터 '스위스 치즈 모델'과 검증의 미학까지
· 약 10분

미국 스탠포드 대학교의 최신 소프트웨어 공학 강좌인 CS146S: 현대 소프트웨어 개발자 (The Modern Software Developer) 2강 심층 기술 해설에 오신 것을 환영합니다.
1강에서는 개발자가 단순한 문법 타이피스트에서 벗어나 여러 AI 에이전트를 조율하는 '오케스트라 지휘자'로 진화해야 한다는 거시적 아키텍처 전환을 다루었습니다. 이번 **2강(Week 1)**에서는 소프트웨어 혁명의 심장부라 할 수 있는 **코딩 대형 언어 모델(Coding LLMs)**의 내부 연산 원리와, 이 거대한 모델을 정밀하게 제어하는 소프트웨어 엔지니어링 기법인 **프롬프트 엔지니어링(Prompt Engineering)**을 정면으로 파헤칩니다.
안드레 카파시(Andrej Karpathy)의 'Deep Dive into LLMs', OpenAI의 'How OpenAI Uses Codex', 그리고 Google Cloud와 DAIR.AI의 최신 프롬프트 가이드를 관통하는 핵심 이론을 바탕으로, LLM이 어떻게 프로그래밍 언어를 학습하는지, 왜 AI 코드는 그럴싸하면서도 치명적인 구멍을 갖는지(스위스 치즈 모델), 그리고 이를 방어하기 위한 '신뢰하되 검증하라(Trust but Verify)' 아키텍처를 완벽하게 정리합니다.
