컴백부터 K-뷰티까지 — K-컬쳐의 모든 것을 메일로 받아보세요메일로 받아보기

METAL MEDIA

Greninja9257/LabLLM

★ 22SwiftMIT

맥 앱 하나로 처음부터 나만의 언어모델을 만들고 학습시키기

LabLLM은 애플 실리콘 맥에서 트랜스포머 구조 설계부터 학습, 파인튜닝, 채팅까지 전 과정을 로컬에서 처리하는 macOS 앱이다. 클라우드 전송이나 구독 없이 모든 데이터와 모델이 사용자의 맥 안에만 저장된다. Swift로 만들어졌고 애플의 MLX 프레임워크로 가속한다.

무엇을 하는 레포인가

  1. GPT 스타일의 디코더 구조를 앱 안에서 직접 설계하고, 허깅페이스 데이터셋이나 로컬 파일, 아이메시지 대화까지 불러와 학습 데이터로 쓸 수 있다
  2. AdamW/SGD 옵티마이저, 웜업, 코사인 학습률 스케줄, 그레이디언트 클리핑 같은 사전학습 기능과 LoRA·DPO 파인튜닝을 지원하며 학습 중 손실 곡선과 샘플 생성 결과를 실시간으로 보여준다
  3. 학습된 모델은 체크포인트로 저장·재개할 수 있고, 4비트/8비트 양자화로 내보내거나 로컬에서 OpenAI 호환 API 서버로 띄워 바로 대화할 수 있다
  4. 토큰 확률과 엔트로피를 보여주는 X-Ray 토큰 검사기, 임베딩을 2차원으로 투영해 보는 탐색기 등 모델 내부를 들여다보는 도구도 포함되어 있다
  5. 현재 22개의 깃허브 스타를 받았으며, 아직 베타 단계로 개발자 본인이 코드와 문서를 주로 작성하고 있다

왜 중요한가

클라우드 서비스나 대규모 서버 없이도 개인 맥 한 대로 언어모델의 설계부터 학습, 추론까지 전 과정을 실습해볼 수 있게 해준다는 점에서, AI를 블랙박스가 아니라 직접 만져보고 배우는 대상으로 만들어준다. 데이터가 외부로 나가지 않는 로컬 우선 구조는 개인 정보나 사내 자료로 실험하려는 사람들에게도 의미가 있다.

이 레포의 용어

  • MLX · 애플이 만든, 애플 실리콘 칩에서 머신러닝 연산을 빠르게 돌리기 위한 프레임워크
  • 트랜스포머(Transformer) · 오늘날 대부분의 언어모델이 기반으로 삼는 신경망 구조
  • LoRA · 모델 전체를 다시 학습시키지 않고 적은 파라미터만 추가로 학습해 효율적으로 파인튜닝하는 기법
  • DPO · 사람이 선호하는 답변과 그렇지 않은 답변의 쌍을 이용해 모델을 조정하는 학습 방식
  • 양자화(Quantization) · 모델 가중치의 숫자 정밀도를 낮춰 용량과 연산량을 줄이는 방법

레포 원문 소개 (영문)

build the architecture, train the weights, and watch a small LLM emerge from scratch, locally on Apple Silicon with custom data, tokenizers, checkpoints, and MLX acceleration.

GitHub에서 보기

주목받는 레포

레포 전체 보기 →

METAL MEDIA 최신 기사