Greninja9257/LabLLM
一个可以从零开始搭建并训练自己语言模型的Mac应用
LabLLM是一款原生macOS应用,能在Apple Silicon芯片上本地完成语言模型的全部流程,从设计Transformer结构到训练、微调再到对话。整个过程不上传云端也无需订阅,所有数据都留在Mac本机。它用Swift编写,并借助苹果的MLX框架加速运算。
它做什么
- 可以在应用内直接设计GPT风格的解码器结构,并导入Hugging Face数据集、本地文件甚至iMessage聊天记录作为训练数据
- 支持AdamW/SGD、学习率预热、余弦学习率调度、梯度裁剪等预训练功能,以及LoRA和DPO微调,训练过程中能实时看到损失曲线和生成样本
- 训练好的模型可保存为检查点并随时继续训练,也可以导出为4比特或8比特量化版本,或在本地启动兼容OpenAI接口的服务器直接对话
- 内置模型内部检查工具,比如显示token概率和熵值的X-Ray检查器,以及把嵌入向量投影到二维平面查看的探索器
- 该仓库目前有22个GitHub星标,仍处于测试版阶段,目前主要由一名开发者独立编写代码和文档
为什么重要
它让搭建和训练语言模型这件事变成了一台Mac就能亲手完成的事情,而不是必须依赖云端算力的黑箱操作。本地优先的设计也让希望用私有数据做实验、又不想外传数据的人多了一个选择。
本仓库术语
- MLX · 苹果推出的框架,用于在Apple Silicon芯片上高效运行机器学习计算
- Transformer · 当今大多数语言模型所基于的神经网络结构
- LoRA · 一种微调技术,只训练新增的少量参数而非整个模型,以节省算力
- DPO · 利用一对更受欢迎和不受欢迎的回答来调整模型的训练方法
- 量化(Quantization) · 降低模型权重的数值精度以缩小体积、减少计算量的方法
仓库简介（英文）
build the architecture, train the weights, and watch a small LLM emerge from scratch, locally on Apple Silicon with custom data, tokenizers, checkpoints, and MLX acceleration.
在 GitHub 打开热门仓库
- vorssaint/vorssaint-utils一个免费菜单栏应用,顶替十几款付费Mac工具
- Alishahryar1/free-claude-code一个本地代理,把编程AI助手接到49家免费或低价模型服务商,不再只能用一家付费服务
- freestylefly/awesome-gpt-image-2把532个GPT-Image2案例拆解成可复用模板的提示词工程库
- block/buzz一个让人类和AI智能体在同一空间里聊天、写代码、做审查的开源协作平台
- NousResearch/hermes-agentNous Research推出的Hermes是一款越用越聪明的AI智能体
- virgiliojr94/book-to-skill把技术类书籍PDF变成AI编程助手随时可查阅的技能包
- VoltAgent/awesome-agent-skills把上千份让AI编程助手秒变专家的操作手册集中放在一个地方
- anthropics/claude-plugins-community一个把大家做的Claude插件集中起来供安装的仓库