本地大模型运行标配:一条命令跑 Kimi、GLM、DeepSeek、gpt-oss、Qwen、Gemma 等开源模型
纯 C/C++ 的 LLM 推理引擎:让大模型跑在笔记本、手机甚至树莓派上,本地推理生态的基石
DeepSeek 开源的 671B MoE 旗舰大模型:以极低训练成本比肩顶级闭源模型,引爆全球开源模型热潮
DeepSeek 开源推理大模型:纯强化学习激发推理能力,性能对标 OpenAI o1,2025 年初引爆全球开源 AI 浪潮
高吞吐、省显存的 LLM 推理与服务引擎:PagedAttention 开创者,生产部署的行业标准
在任意设备上本地运行大模型的开源生态(Nomic AI 出品,现已停止维护)
统一高效微调 100+ 大模型与视觉语言模型的框架(ACL 2024),中文社区微调首选
本地模型训练神器:以更低显存更快速度微调运行 Gemma、Qwen、DeepSeek、GLM 等模型
Karpathy 出品:“$100 能买到的最好的 ChatGPT”——从零训练完整 ChatGPT 克隆的极简全栈实现
一条命令找出你的硬件能跑哪些本地模型:覆盖数百模型与供应商