컴백부터 K-뷰티까지 — K-컬쳐의 모든 것을 메일로 받아보세요메일로 받아보기

METAL MEDIA

unslothai/unsloth

★ 73,954이번 주 +3,338Python

코딩 없이 내 컴퓨터에서 AI 모델을 돌리고 학습시키는 데스크톱 앱

Unsloth는 Qwen, DeepSeek, Gemma, FLUX 같은 다양한 LLM과 이미지 생성 모델을 개인 컴퓨터에서 직접 실행하고 학습시킬 수 있는 데스크톱 앱이다. Windows, macOS, Linux를 모두 지원하며 클릭 몇 번이나 설치 스크립트 한 줄로 시작할 수 있다. 웹 UI 버전인 Unsloth Studio와 코드로 직접 다루는 Unsloth Core 방식도 함께 제공한다.

무엇을 하는 레포인가

  1. 설치 없이 바로 쓰는 데스크톱 앱과 웹 UI(Studio), 코드 기반 패키지(Core) 세 가지 방식으로 제공된다
  2. LoRA, QLoRA, 전체 파인튜닝, 강화학습(RL), GRPO, DPO 등 다양한 학습 기법을 지원하며 일반 대비 2배 빠르고 VRAM을 70% 적게 쓴다고 소개한다
  3. Claude Code, Codex 같은 AI 에이전트 도구와 한 줄 명령으로 연결해 로컬 모델을 에이전트의 두뇌로 쓸 수 있다
  4. NVIDIA뿐 아니라 AMD, Intel, Apple 실리콘, CPU까지 폭넓은 하드웨어를 지원하고 Cloudflare를 통한 원격 접속 기능도 있다
  5. 학습한 모델은 GGUF, NVFP4, FP8 등 여러 형식으로 내보내거나 배포할 수 있다

왜 중요한가

클라우드 API 없이 자기 컴퓨터에서 대형 AI 모델을 직접 돌리고 취향에 맞게 학습시키고 싶은 개발자나 연구자에게 진입 장벽을 크게 낮춰준다. 비용 부담 없이 데이터를 외부로 보내지 않고도 최신 오픈소스 모델을 다룰 수 있게 해준다.

이 레포의 용어

  • LoRA/QLoRA · 모델 전체가 아닌 일부만 적은 자원으로 학습시키는 경량 파인튜닝 기법
  • GGUF · 모델을 가볍게 압축해 일반 PC에서도 돌릴 수 있게 만든 파일 형식
  • GRPO/DPO · 사람 피드백이나 규칙 기반으로 모델 답변 품질을 강화학습으로 개선하는 방법
  • VRAM · 그래픽카드에 달린 메모리로, AI 모델 학습·실행 시 용량이 부족하면 작동이 안 된다
  • MCP(Model Context Protocol) · AI 모델이 파일, 앱, 외부 도구와 연결해 작업하도록 하는 표준 규격

레포 원문 소개 (영문)

Local UI to run and train LLMs and diffusion models, including Qwen3.8, Kimi K3, MiniMax-H3, Gemma 4, DeepSeek-V4, FLUX and more.

GitHub에서 보기

주목받는 레포

레포 전체 보기 →

METAL MEDIA 최신 기사