一部分数据不能出网:Agent 混合部署怎样划分请求
一部分数据不能出网时,Agent 混合部署应先按数据与身份决定请求去向,再考虑模型选择。公开请求可以走批准的外部路径,内部请求留在受控路径;无法确定分类时停止或交人工判断。不能只让模型读完全文后再决定能不能把它发送到外部。
本文讨论的是待实现的架构设计与验收方法,虾虾AI当前公开事实中未包含已实现的混合路由能力;下文的合成方案不代表本站现成功能。
路由对象不仅是用户问题
一次请求可能包含问题、附件、检索片段、历史对话、工具结果和日志。即使用户问的是公开产品信息,检索阶段带入内部价格说明,后续请求也已经包含内部数据。路由规则必须覆盖这些派生内容,不能只对聊天入口做一次关键词分类。
合成场景中,公开产品目录可供外部模型润色,内部维修报价仅允许本地处理。用户把两者同时上传,系统应把整个请求判为需内部处理,或要求拆分并移除内部材料。不能把文件名标成“公开”就直接发送,分类还要有资料来源与所有者依据。
下载混合部署数据流与路由样例。附件以Markdown描述公开、内部和分类未知三条路径,可用于需求讨论,不是任何平台原生路由配置。真正执行规则需要在应用或适配层实现,并在目标版本验证。
给规则设置可信输入
身份来自已认证系统,资料级别来自台账或受控存储元数据,接口结果按字段范围分类。用户聊天里声称“这不敏感”只能作为待核实信息,不能覆盖系统已有标记。需要降级为公开的资料,由资料所有者按既定流程确认,并记录可用版本。
路由规则可以写为:内部身份访问内部资料时只使用批准内部组件;纯公开资料且无内部上下文时允许批准外部服务;缺分类、分类冲突或身份缺失时进入待确认。规则首先用确定性条件约束,模型可以辅助识别疑点,但不独自承担最终放行责任。
模型、嵌入、OCR、重排、插件和日志都要有对应路径。若内部问答的生成模型在本地,而嵌入仍调用外部服务,就没有满足原边界。对每类数据记录允许处理者与禁止出口,避免以“主模型本地”概括整个链路。
在上下文变化后重新检查
多轮会话可能从公开问题转为内部问题,也可能在工具查询后获得内部字段。每一步取得新内容后,都应更新请求的数据等级与后续允许路径。不要继续沿用第一轮的公开路由,也不要把上一轮内部上下文带入新的外部生成请求。
配置上可以用明确的数据契约传递级别、来源和路由状态。JSON Schema 官方对象文档说明必填属性的声明方法,可用于防止路由字段缺失被忽略。契约校验只检查结构;分类真实性和出口执行仍需系统控制与验证。
合成测试“请把公开目录写成简介”允许外部路径;“结合内部报价回答优惠空间”只能走内部路径;“附件无分类,请总结”应停止并提示补充资料级别。三者都要检查实际下游地址,而不只是最后返回的文字。
用可观测证据证明路由生效
为测试生成关联编号,记录身份、资料编号、级别判断、选中路径、调用目标与结果状态。日志本身尽量保留必要摘要,避免把内部正文写入外部监控。核对应用记录与网络出口记录,确认拒绝路径没有发出模型或解析请求。
受控测试里可以模拟内部模型不可用,检查系统是否保持失败并转人工,而不是自动回退外部模型。可用性优先级不能私自覆盖数据边界。如果业务希望允许某种降级,需要明确允许内容、审批条件和脱敏规则,并重新验证脱敏是否真的移除了受限部分。
脱敏也不是删除姓名就完成。订单编号、价格组合、附件注释与上下文关系可能仍有识别或业务敏感性。没有经过规则确认的自动摘要,不应被默认为公开数据。对无法可靠拆分的任务,优先留在内部路径或由人处理。
失败与维护边界
资料管理员改分类后,应检查缓存与索引元数据是否同步;路由策略更新后,重跑公开、内部和未知三类样例;新增工具时,检查它是否引入新的外部出口。每次变更保留规则版本,便于解释历史请求为何走某条路径。
最终交付应包括数据流、分类责任、路由规则、异常处理和验证记录。若平台不能在检索后实施所需边界,就需要适配层或缩小范围,不宜靠提示词要求模型“记得保密”。这些是实现要求,附件清单本身不会自动产生相应能力。
部署形态可参考私有化部署说明,资料任务见内部知识库专题。可从联系入口提供脱敏数据分类与现有架构,讨论混合部署的可执行边界。