相关工具
OpenRouter 热门
openrouter.ai
模型 API 聚合平台,用一个接口调用数百个模型并自动路由,方便做成本与效果对比。
Ollama 热门
ollama.com
本地运行大模型的开源工具,一行命令即可拉取并运行多种开源模型,提供本地 API。
vLLM
vllm.ai
高吞吐大模型推理引擎,用 PagedAttention 管理 KV 缓存,是企业自建推理服务的常见选择。
LangChain
langchain.com
主流的 LLM 应用开发框架,提供链式编排、RAG、Agent 与工具调用等核心能力。
LlamaIndex
llamaindex.ai
面向数据密集场景的 LLM 框架,擅长文档解析、索引构建与检索增强问答。
硅基流动
siliconflow.cn
国产 AI 推理平台,提供多款开源模型的高性价比 API 与算力服务,兼容 OpenAI 接口。