AI 模型接口网关产品说明文档

产品定位

TapModel·触模 是一款面向学校、政府机关与企业的 AI 模型接口网关。它位于组织内的用户、业务系统与各类大模型服务之间，以一个统一接口接入国内外主流大模型与云平台，并在同一个控制面上完成身份权限、配额费用、内容安全与审计追溯等治理工作。

如果把各家模型厂商比作发电厂，TapModel·触模 就是组织内部的“智能电网”：它不研发模型，而是把分散、异构的模型能力统一接入、按需调度、安全输送到每一位用户和每一个业务系统，同时让每一次调用都可管、可控、可追溯。

核心价值

适用对象

总体架构

TapModel·触模 采用“接入方 — 统一网关 — 模型供给”的三层结构。接入方通过统一接口发起调用；网关依次完成接入、身份权限、安全防护、路由、计量与审计；模型供给侧可同时接入国产大模型、国内云平台、本地私有化模型，以及经审批开放的境外模型。

功能模块

一次调用的处理流程

1. 身份认证：校验访问令牌或统一身份登录态，确认调用者与所属组织。
2. 权限与配额校验：检查该用户或应用是否有权使用目标模型、额度是否充足、是否超出 QPS 与并发限制。
3. 敏感信息检测：识别请求中的姓名、证件号、联系方式、密钥等敏感内容。
4. 策略处理：按单位策略执行“告警并继续”“阻止请求”或“脱敏后继续”；提示词安全过滤同步进行。
5. 路由调用：按路由策略选择模型并调用；上游繁忙或异常时自动重试或切换至备用模型。
6. 输出审核：对模型返回内容进行合规审核与敏感词检测。
7. 还原与返回：在网关内将占位符还原为原文后返回给用户，原文不经过模型服务商。
8. 审计记录：记录调用元数据、用量、策略命中与处理动作，供检索与统计。

统一接入

TapModel·触模 对外提供兼容 OpenAI 规范的接口。基于 OpenAI SDK 或兼容协议开发的应用、开发工具与智能体客户端，只需将接口地址与访问令牌替换为网关签发的值即可接入，无需针对每家模型单独适配。

• 协议兼容：对话补全、流式输出（SSE）、函数调用 / 工具调用、多模态输入、向量嵌入等常用能力。
• 模型目录：管理员统一维护可用模型清单，可为模型设置别名、说明与可见范围；上游模型升级时，应用侧无需改动。
• 多端接入：同时服务 Web 对话门户、业务系统集成、开发工具与批量脚本等多种调用方式。

智能路由与高可用

同一类任务可以配置多个候选模型，网关按策略自动选择，并在异常时自动兜底，保障业务连续性。

• 主备切换与重试：上游超时、限流或报错时，按配置自动重试或切换至备用模型，过程记录在调用链路中。
• 负载均衡：同一模型可配置多个上游通道与密钥，按权重分配流量。
• 限流与熔断：按用户、应用、模型设置 QPS 与并发上限；上游持续异常时自动熔断，避免故障扩散。

身份认证与权限

• 统一身份：对接 CAS、OAuth 2.0、LDAP 等单位统一身份认证，支持组织架构同步，用户无需单独注册。
• 分级授权：按“组织—部门—项目—个人”逐级授权，下级权限不超过上级。
• 模型白名单：可按角色或人员开放模型范围，例如：基础模型全员可用，部分模型仅限教师或科研项目，境外模型须单独审批。
• 时段与场景控制：可限定可用时段、可用应用与调用方式。

配额与费用管理

密钥与应用管理

• 上游密钥集中托管：各模型服务商的密钥只保存在网关中，用户与应用不接触上游密钥。
• 应用令牌：按应用或项目签发访问令牌，可设置有效期、模型范围、额度与 IP 白名单，随时吊销。
• 开发者友好：兼容主流开发工具与智能体客户端，提供接入示例与调用日志，便于排查问题。

可观测与报表

每一次调用的完整过程均可回看：谁在什么时间、通过哪个应用、调用了哪个模型，经历了几次上游尝试，耗时多少，命中了哪些策略，消耗了多少用量。控制台提供调用趋势、模型分布、部门用量、安全事件等统计报表，并支持定期生成运营报告。

安全是网关的第一职责。TapModel·触模 在请求进入、模型调用和结果返回的各个环节设置关卡，并对全过程留痕，帮助单位在用好 AI 的同时守住数据与内容边界。

安全设计原则

敏感信息检测与脱敏

网关在请求发出前，于本地对内容进行敏感信息检测。命中后按单位配置的策略处理；选择“脱敏后继续”时，敏感内容被替换为占位符再发送给模型，模型回复中的占位符在网关内还原为原文后返回用户，原文不经过模型服务商。

内容安全

• 提示词过滤：识别并拦截违规内容与提示词注入等异常输入。
• 输出审核：对模型返回内容进行合规审核与敏感词检测，必要时阻断并记录。
• 多模态审核：覆盖文本与图片内容。
• 异常识别：对调用量突增、异常时段调用、频繁命中策略等行为告警。

访问控制与审计

所有调用均记录以下审计信息，支持按条件检索、统计与导出：

数据流向说明

需要明确的是：平台部署在单位本地，并不意味着调用云端模型时数据也留在本地。调用云端模型时，经策略处理后的内容会发送给所选模型服务商。TapModel·触模 通过以下方式帮助单位控制数据出域：

• 发送前进行敏感信息检测，按策略脱敏或拦截；
• 按数据级别路由，涉敏任务交由本地私有化模型处理，实现数据不出域；
• 由管理员控制每个模型的可用范围，并对所有出域调用留痕审计。

境外模型管理

1. 提出申请：科研人员或课题负责人说明研究用途、所需模型、使用人员与期限。
2. 单位审批：由单位指定的管理部门按内部流程审批。
3. 白名单开通：管理员为获批人员或项目开通指定模型，设置额度与有效期。
4. 受控使用：调用全程经过敏感信息检测、内容审核与审计记录。
5. 到期回收：期限届满或项目结束后自动回收权限，可续期重新申请。

TapModel·触模 支持接入国产大模型、国内云平台、多模态生成模型与本地私有化推理框架，并可在单位审批后开放部分境外模型用于科研。模型清单持续更新，具体可用范围以单位实际开通配置为准。

注：文中第三方模型、云平台名称与标识归各自权利人所有，仅用于说明接入兼容性，不代表合作或背书关系。

TapModel·触模 提供公有云 SaaS、私有化部署与混合部署三种方式，单位可根据数据敏感程度、信息化基础与运维能力选择。

部署组件

注：具体硬件配置、网络要求与高可用方案，将根据使用人数、并发规模、是否部署本地模型等因素，在实施方案中评估确定。

教育：让每位师生都能用好 AI

为学校建立统一、公平、可管理的 AI 服务入口：师生凭统一身份登录，按角色获得基础额度，课程与科研按需追加；学校看清资源流向，守住学术诚信与数据安全底线。

政务：安全合规前提下的智能化

以“数据不出域、过程可追溯”为前提，为机关单位提供统一的大模型服务底座。国产模型优先，涉敏任务走本地模型，全程审计满足监督检查需要。

企业：把大模型变成生产力基础设施

统一采购、统一接入、统一治理。研发团队用标准接口快速集成，管理者按部门与项目掌握成本，安全团队守住数据与密钥边界。

接入步骤

1. 获取访问令牌：由管理员在控制台“应用与密钥”中创建应用，获得访问令牌，并确认可用模型与额度。
2. 配置接口地址：将应用中的接口地址替换为网关地址（形如 https://<网关地址>/v1）。
3. 选择模型：在请求中填写控制台模型目录中的模型名称或别名。
4. 联调验证：在控制台调用日志中查看请求、用量与策略命中情况。

示例代码

命令行（curl）

curl https://<网关地址>/v1/chat/completions \
  -H "Authorization: Bearer <访问令牌>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek-chat",
    "messages": [{"role": "user", "content": "请用三句话介绍模型接口网关"}],
    "stream": false
  }'

Python（OpenAI SDK）

from openai import OpenAI

client = OpenAI(
    base_url="https://<网关地址>/v1",   # 替换为网关地址
    api_key="<访问令牌>",                # 由控制台签发
)

resp = client.chat.completions.create(
    model="qwen-plus",                    # 切换模型只需修改此处
    messages=[{"role": "user", "content": "帮我整理这份会议纪要的要点"}],
    stream=True,
)
for chunk in resp:
    print(chunk.choices[0].delta.content or "", end="")

注：示例中的模型名称仅为示意，请以控制台模型目录中的名称或别名为准。

常用接口

典型返回情况

注：完整接口参数、错误码与示例以随产品交付的接口文档为准。

管理控制台是单位管理 AI 资源的统一界面，所有数据可按组织维度下钻与导出。

管理角色

实施流程

培训体系

运维支持

• 驻场与远程：上线期驻场实施，日常远程运维，包括故障排查、配置调整、版本升级与性能调优。
• 响应时效：可按单位需要约定服务时段与响应时效。
• 定期报告：调用统计、资源利用、成本分析与优化建议。
• 持续迭代：持续接入新模型与新能力，单位无需重复采购或更换系统。

A　常见问题

模型接口网关和直接使用厂商 API 有什么区别？

直接对接厂商时，每接入一个模型都要单独开发、单独管理密钥与账单，也难以统一做安全检测和审计。网关把这些工作收拢到一处：应用只对接一次，模型可以随时切换或组合使用，权限、额度、安全与审计统一生效。

内容会被发送给模型厂商吗？

调用云端模型时，经过策略处理后的内容会发送给所选的模型服务商。网关在发送前完成敏感信息检测与脱敏，并按策略告警、拦截或放行；对数据要求更高的场景，可将任务路由至本地部署的模型，实现数据不出域。

可以使用境外模型吗？

境外模型仅供科研使用，开通需申请。须经所在单位审批，由管理员按白名单为指定人员或课题开放，并遵守国家有关法律法规；相关调用同样纳入脱敏、审核与审计。

会记录对话内容吗？

默认只记录调用元数据，例如时间、用户、模型、用量与策略命中情况。是否留存对话正文、留存多久，由单位根据自身合规要求配置。

上游模型繁忙或故障时怎么办？

可为每个模型配置备用模型与重试策略。上游超时、限流或报错时，网关自动重试或切换到备用模型，切换过程记录在调用链路中。

B　术语表

C　声明

• 本文档中出现的第三方模型、云平台名称与标识归各自权利人所有，仅用于说明接入兼容性，不代表合作或背书关系。
• 本文档描述的功能与界面以实际交付版本为准；模型清单持续更新，具体可用范围以单位实际开通配置为准。

一触即达，万模归一 · One Touch, Every Model.