google-ai-edge/gallery
完全在手机本地运行的AI聊天应用,不联网也能对话、识图、语音转文字
Google AI Edge Gallery是一款可以在智能手机或macOS设备上直接运行大语言模型(LLM)的应用,不依赖服务器。最新版本新增支持Gemma 4系列模型,并提供聊天、图像问答、实时语音转录、提示词实验等功能。所有推理都在设备本地完成,数据不会发送到外部服务器。
它做什么
- 通过Google Play、App Store以及macOS安装包分发,若无法访问Google Play,也可从GitHub发布页直接下载apk安装
- 新增对Gemma 4的官方支持,并推出Thinking Mode功能,可展示模型回答问题时的分步推理过程,目前从Gemma 4系列开始支持
- 提供Ask Image功能,可用摄像头或相册照片识别物体、解答视觉问题;Audio Scribe可实时将语音转成文字;Prompt Lab可调节temperature、top-k等参数来测试不同提示词
- 还包含实验性功能,例如基于FunctionGemma 270m微调(finetune)版本实现离线设备控制的Mobile Actions,以及用自然语言种植和收获虚拟花园的小游戏Tiny Garden
- 用户可以从Hugging Face浏览下载模型或加载自定义模型,统一管理模型库,并在自己的设备上运行基准测试以了解实际性能表现
为什么重要
这款应用让开发者和普通用户能亲手体验开源大语言模型在移动硬件上的实际表现。由于推理完全在设备端完成、无需云端服务器,它是探索隐私安全、可离线使用的生成式AI的实用工具。
本仓库术语
- 设备端(On-Device) · 计算在手机或电脑本身完成,而非依赖云端服务器
- 大语言模型(LLM) · 通过海量文本训练、能完成对话与写作等任务的AI模型
- Thinking Mode · 在给出最终答案前展示模型分步推理过程的功能
- 微调(finetune) · 在已训练好的模型基础上针对特定任务进行额外训练
- LiteRT · 专为设备端高效运行AI模型而优化的轻量级运行环境
仓库简介（英文）
A gallery that showcases on-device ML/GenAI use cases and allows people to try and use models locally.
在 GitHub 打开热门仓库
- vorssaint/vorssaint-utils一个免费菜单栏应用,顶替十几款付费Mac工具
- Alishahryar1/free-claude-code一个本地代理,把编程AI助手接到49家免费或低价模型服务商,不再只能用一家付费服务
- freestylefly/awesome-gpt-image-2把532个GPT-Image2案例拆解成可复用模板的提示词工程库
- block/buzz一个让人类和AI智能体在同一空间里聊天、写代码、做审查的开源协作平台
- NousResearch/hermes-agentNous Research推出的Hermes是一款越用越聪明的AI智能体
- virgiliojr94/book-to-skill把技术类书籍PDF变成AI编程助手随时可查阅的技能包
- VoltAgent/awesome-agent-skills把上千份让AI编程助手秒变专家的操作手册集中放在一个地方
- anthropics/claude-plugins-community一个把大家做的Claude插件集中起来供安装的仓库