AI Infrastructure29/30
vLLM
高吞吐开源 LLM 推理与 OpenAI 兼容服务框架。
Apache-2.0 开源；运行所需 GPU/云资源可能产生费用。
查看资源 →← 返回资源目录
AI Infrastructure
围绕 AI/API 开发工作流筛选的官方资源，免费条件和限制以各自官方来源为准。
AI Infrastructure29/30
Ollama
在本地运行开放模型并提供简单 API 的开发工具。
软件开源且本地运行免费；硬件、电力和模型存储成本自理。
查看资源 →AI Infrastructure29/30
Model Context Protocol
连接模型与外部工具、数据源和工作流的开放协议。
规范与 SDK 公开；具体服务器的服务成本和权限单独核对。
查看资源 →AI Infrastructure28/30
MLflow
开源机器学习与生成式 AI 生命周期管理平台。
开源可自托管；托管与存储费用另计。
查看资源 →AI Infrastructure26/30
Fireworks AI
提供开放模型推理、微调和高性能部署 API 的平台。
公开文档可评估接口；免费额度需以当前账户和定价页确认为准。
查看资源 →