AI 基础设施
发布时间
2023年6月1日
定价
免费开源
分类
开源的高性能大模型推理引擎，凭借 PagedAttention 显著提升吞吐，已成为本地与企业级部署的事实标准。
从 Ollama、LM Studio 到 llama.cpp、vLLM，本站系统梳理本地化 LLM 部署的四层方案，覆盖个人到企业全场景。
硅基流动 (SiliconFlow)
AI 模型推理云平台，提供 Qwen、DeepSeek、Llama 等主流模型的一键部署和低成本推理。
Hugging Face
全球最大的开源 AI 模型社区，创立于 2016 年，托管百万级模型与数据集，开源 AI 生态中枢。
Ollama
2023 年 7 月开源的本地大模型运行工具，一条命令在本机跑 Llama、Qwen、DeepSeek 等开源模型。
LM Studio
2023 年上线的本地大模型桌面应用，图形化下载、运行开源模型，零代码门槛的本地 AI 入口。