飞猪货拉拉探讨企业Agent边界：拒绝全自主，用规则与校验守住生产稳定性

业务确定性优先于模型自主性

InfoQ《极客有约》近期直播中，NoDesk AI CTO王仿主持，飞猪算法专家吕德涛、货拉拉技术总监亓隆基、江苏移动AI方向CTO王上淇深入探讨企业Agent边界。核心观点在于，业务场景对确定性要求极高，而模型基于token预测的概率特性天然存在幻觉。

当Agent从回答问题转向调用真实业务能力，如修改生产系统或参与调度，一次错误可能引发实际业务风险而非仅仅是体验问题。因此，必须建立明确边界，将模型的不确定性约束在确定的业务规则内，确保关键环节的可解释、可撤回与可控。

关键环节采用规则与校验闭环

吕德涛指出，在涉及订票等复杂场景时，不能将业务ID直接交给模型。飞猪采用短ID替换机制，展示时再回溯复原，避免模型编造不存在的房型或酒店ID。同时，票种组合、价格计算等确定性强任务交由求解器或规则引擎处理，模型仅负责需求理解。

货拉拉技术总监亓隆基补充，选车逻辑如冰箱运输必须直立等专业知识，无法依赖通用模型。这些确定性与不确定性需通过Harness方式严格划分。涉及用户钱包权益的操作，必须保留人工确认环节，确保责任可追溯。

系统稳定性与算力成本管控

江苏移动王上淇强调，完全交给Agent调用大模型会导致算力和token浪费，网关承载能力受限。过去防DDoS攻击，现在还需防御Agent的无意攻击与消耗。重试次数和边界机制控制不当，可能导致toC产品被恶意利用或toB任务拥挤，甚至引发生产系统崩溃。

王仿提及某服饰企业因Agent未设限制直接调用内部数据库，导致接口宕机影响线上业务。这表明从稳定性到业务逻辑，必须保证生产确定性，服务需在合规前提下执行，严禁跳出边界行事。

复杂场景下的准确率与业务翻译

在进出口报关、宠物食品包材审核等toB场景中，准确率是最大阻力。报关涉及多模态图片解析，字段错误会导致申请驳回。包材审核涉及60至70项字段及各国政策法规，规则组合复杂。

技术团队需深入业务，进行“业务翻译”，将专家经验转化为Agent可理解的规则。若过程黑盒且无法保证90%以上准确率，Agent只能停留在演示阶段。一旦遇到异常失效，业务上无法接受。技术负责人需成为半个业务专家，理清整体逻辑才能落地。

权限管控与责任划分机制

王上淇指出，企业内部权限管控至关重要。Agent操作若出错，责任无法追责。因此需建立接口权限与MCP能力权限体系，确保只有授权人员可操作，责任落实到人。遇到复杂决策，采用Human-in-the-loop模式，按公司规章设计AI交互。

当前行业普遍面临创新点与工程化规则的平衡难题。通用模型难以习得企业内部特定知识，微调成本高。通过AI coding让业务人员将确定逻辑固化为代码，是平衡效率与稳定性的有效路径。

来源：InfoQ