unslothai/unsloth
一款让你在自己电脑上运行和训练AI模型的桌面应用,无需写代码
Unsloth是一款桌面应用,可以在本地电脑上直接运行和微调各种模型,包括Qwen、DeepSeek等大语言模型以及FLUX等图像生成模型。它支持Windows、macOS和Linux系统,用一条安装脚本或下载安装包就能开始使用。它还提供网页界面版本Unsloth Studio和面向开发者的代码版本Unsloth Core。
它做什么
- 提供三种使用方式:免设置的桌面应用、网页界面Studio,以及代码版本Core
- 支持LoRA、QLoRA、全量微调、强化学习(RL)、GRPO、DPO等多种训练方法,官方称比常规方式快2倍、显存占用少70%
- 通过一条命令将本地模型接入Claude Code、Codex等AI代理工具,让本地模型充当代理的大脑
- 支持NVIDIA、AMD、Intel、Apple芯片乃至纯CPU等多种硬件,并可通过Cloudflare隧道实现远程访问
- 训练好的模型可导出或部署为GGUF、NVFP4、FP8等多种格式
为什么重要
对于希望摆脱云端API、在自己电脑上运行并定制大型AI模型的开发者和研究者来说,这大大降低了上手门槛。这意味着可以使用最新的开源模型,而无需持续支付API费用或将数据发送到外部服务器。
本仓库术语
- LoRA/QLoRA · 只调整模型部分参数的轻量级微调方法,所需算力大幅降低
- GGUF · 一种压缩后的模型文件格式,方便在普通电脑上运行
- GRPO/DPO · 基于反馈或规则、用强化学习方式改进模型回答质量的方法
- VRAM · 显卡上的内存,容量不足会导致模型无法训练或运行
- MCP(模型上下文协议) · 让AI模型连接文件、应用和外部工具的标准协议
仓库简介(英文)
Local UI to run and train LLMs and diffusion models, including Qwen3.8, Kimi K3, MiniMax-H3, Gemma 4, DeepSeek-V4, FLUX and more.
在 GitHub 打开热门仓库
- vorssaint/vorssaint-utils一个免费菜单栏应用,顶替十几款付费Mac工具
- Alishahryar1/free-claude-code一个本地代理,把编程AI助手接到49家免费或低价模型服务商,不再只能用一家付费服务
- freestylefly/awesome-gpt-image-2把532个GPT-Image2案例拆解成可复用模板的提示词工程库
- block/buzz一个让人类和AI智能体在同一空间里聊天、写代码、做审查的开源协作平台
- NousResearch/hermes-agentNous Research推出的Hermes是一款越用越聪明的AI智能体
- virgiliojr94/book-to-skill把技术类书籍PDF变成AI编程助手随时可查阅的技能包
- VoltAgent/awesome-agent-skills把上千份让AI编程助手秒变专家的操作手册集中放在一个地方
- anthropics/claude-plugins-community一个把大家做的Claude插件集中起来供安装的仓库