파인튜닝
Fine-tuning
다 만들어진 모델을 특정 일에 맞게 「추가 훈련」시키는 것. 기성복 수선에 가깝다.
쉽게 말하면
파인튜닝(미세 조정)은 다 만들어진 모델을 특정 용도에 맞게 「추가 훈련」시키는 것입니다. 밑바닥부터 새 모델을 만드는 게 맞춤 정장 제작이라면, 파인튜닝은 기성복 수선입니다 — 이미 좋은 옷(범용 모델)을 사서 내 몸(우리 회사 업무)에 맞게 소매만 줄이는 거죠.
방법은 준비한 예시 데이터를 먹이는 것입니다. 의료 상담 기록 수천 건으로 파인튜닝하면 의료 말투와 지식이 밴 모델이, 우리 회사 고객응대 기록으로 하면 우리 회사식으로 답하는 모델이 됩니다. 전체를 새로 훈련하는 것보다 비용이 훨씬 쌉니다.
기사에서는 두 문맥으로 나옵니다. 기업이 「자체 파인튜닝 모델을 만들었다」는 도입 사례, 그리고 오픈소스 모델을 파인튜닝한 파생 모델(「라마 기반 한국어 특화 모델」)의 출시 소식입니다. 자료를 바꾸면 답이 바뀌는 RAG와 달리, 파인튜닝은 모델의 「몸에 배게」 하는 방식이라는 차이도 기억해 두면 좋습니다.
기사에서 이렇게 나와요
파인튜닝과 검색 증강 생성, 뭐가 다른가
모델의 머리를 고치느냐, 답하기 전에 자료를 쥐여 주느냐
「우리 회사 자료로 AI를 학습시켰다」는 말이 둘 다에 쓰입니다. 그런데 방식이 완전히 다릅니다. 하나는 모델 자체를 다시 훈련해 성질을 바꾸는 일이고, 다른 하나는 모델은 그대로 두고 질문할 때마다 관련 문서를 찾아 함께 건네는 일입니다. 회사에서 「사내 챗봇 만들자」고 할 때 대개 필요한 쪽은 뒤쪽입니다.
| 구분 | 파인튜닝 | 검색 증강 생성 |
|---|---|---|
| 무엇을 바꾸나 | 모델 자체를 다시 훈련한다 | 모델은 그대로. 건네는 자료를 바꾼다 |
| 잘하는 일 | 말투·형식·특정 분야의 감각을 몸에 붙인다 | 최신 사실·사내 문서를 정확히 답하게 한다 |
| 자료가 바뀌면 | 다시 훈련해야 한다. 시간과 돈이 든다 | 문서만 갈아 끼우면 즉시 반영된다 |
| 출처를 댈 수 있나 | 어디서 배운 것인지 짚어 주지 못한다 | 찾아본 문서를 근거로 보여줄 수 있다 |
| 비유 | 직원을 교육시킨다 | 직원 책상에 자료를 놓아 준다 |
가를 때는말투와 형식이 문제면 파인튜닝, 무엇을 아느냐가 문제면 검색 증강 생성입니다.
파인튜닝과 LoRA, 뭐가 다른가
모델 전체를 다시 훈련하느냐, 작은 조각만 덧대어 훈련하느냐
LoRA도 파인튜닝의 한 방법이라 「둘 중 뭘 할까」라는 질문 자체가 반쯤 잘못됐습니다. 정확히는 파인튜닝이 큰 갈래이고 LoRA는 그 안에서 값싸게 하는 방식입니다. 요즘 기사에서 「파인튜닝했다」고 하면 대부분 실제로는 LoRA입니다.
| 구분 | 파인튜닝 | LoRA |
|---|---|---|
| 무엇을 훈련하나 | 모델 안의 숫자 전체 | 덧붙인 작은 조각만 |
| 비용 | 기업용 장비가 필요하다 | 개인 PC로도 가능한 수준까지 내려왔다 |
| 결과물 | 새 모델 한 벌이 통째로 생긴다 | 원본은 그대로. 작은 파일 하나가 생긴다 |
| 갈아 끼우기 | 모델을 통째로 바꿔야 한다 | 조각만 바꿔 끼운다. 여러 개를 번갈아 쓴다 |
| 비유 | 옷을 새로 짓는다 | 옷에 덧단을 댄다 |
가를 때는파인튜닝은 목적이고 LoRA는 그 목적을 싸게 이루는 방법입니다 — 둘 중 하나를 고르는 게 아닙니다.
함께 볼 용어
이 용어가 나온 기사
아직 이 용어를 다룬 기사가 없습니다. 새 기사가 나오면 여기 자동으로 붙습니다.