LoRA
Low-Rank Adaptation
모델 전체 대신 작은 「덧댐 조각」만 훈련하는 저비용 파인튜닝. 개인 PC로도 가능해졌다.
쉽게 말하면
Low-Rank Adaptation — 모델 전체를 다시 훈련하지 않고, 작은 「덧댐 조각(어댑터)」만 훈련해 끼우는 파인튜닝 기법입니다. 건물을 재건축하는 대신 방 하나만 리모델링하는 셈이라, 비용이 수백 분의 일로 줄어듭니다.
개인 PC에서도 모델 개조가 가능해진 비결입니다. 특히 이미지 생성 커뮤니티에서 「특정 화풍 LoRA」 「특정 캐릭터 LoRA」를 만들어 공유하는 문화가 크고, 그만큼 화풍 도용·초상권 논쟁도 이 단어 주변에서 벌어집니다.
LoRA와 파인튜닝, 뭐가 다른가
작은 조각만 덧대어 훈련하느냐, 모델 전체를 다시 훈련하느냐
LoRA도 파인튜닝의 한 방법이라 「둘 중 뭘 할까」라는 질문 자체가 반쯤 잘못됐습니다. 정확히는 파인튜닝이 큰 갈래이고 LoRA는 그 안에서 값싸게 하는 방식입니다. 요즘 기사에서 「파인튜닝했다」고 하면 대부분 실제로는 LoRA입니다.
| 구분 | LoRA | 파인튜닝 |
|---|---|---|
| 무엇을 훈련하나 | 덧붙인 작은 조각만 | 모델 안의 숫자 전체 |
| 비용 | 개인 PC로도 가능한 수준까지 내려왔다 | 기업용 장비가 필요하다 |
| 결과물 | 원본은 그대로. 작은 파일 하나가 생긴다 | 새 모델 한 벌이 통째로 생긴다 |
| 갈아 끼우기 | 조각만 바꿔 끼운다. 여러 개를 번갈아 쓴다 | 모델을 통째로 바꿔야 한다 |
| 비유 | 옷에 덧단을 댄다 | 옷을 새로 짓는다 |
가를 때는파인튜닝은 목적이고 LoRA는 그 목적을 싸게 이루는 방법입니다 — 둘 중 하나를 고르는 게 아닙니다.
함께 볼 용어
이 용어가 나온 기사
아직 이 용어를 다룬 기사가 없습니다. 새 기사가 나오면 여기 자동으로 붙습니다.