Local LLM
大模型本地部署
在客户机房、私有云或合规专区内部署开源或商用大模型推理能力：数据不出域、成本可预期，并与 Agent、知识库和业务系统对接。
最后更新： · 章鱼派 OctopAI
典型交付范围
- 模型与硬件选型、容量与 SLA 规划。
- 推理集群、网关、鉴权与调用审计。
- RAG、工具调用与现有系统的集成。
- 压测、安全加固与运维移交文档。
与 FDE 前置交付、Agent 试点 组合时，评测集与单位任务成本口径与智能体交付一致。诊断与试点按场景报价，不设公开价目表。合同按人天与交付物计价，不按 Token 用量计价。
FAQ
常见问题
采购与落地前常问的几条。诊断看场景，演示看产品。
- 本地部署和直接调公有云 API 怎么选？
- 数据不能出域、要固定推理成本或要接内网系统时，倾向本地或专有云部署。场景还在试、调用量小，可先 API 再迁。
- 交付物包含什么？
- 选型与容量规划、推理服务与网关、权限与审计、与业务系统的对接，以及上线后的性能与成本基线。可与 FDE 试点或 AgentOps 衔接。