网通社科技快报
模拟面试智能体上线前设三道确定性护栏 确保总评报告安全可交付
模拟面试智能体完成逐题结构化点评后,需确保总评报告可安全交付候选人。开发团队在第8篇实战中增设三道确定性规则护栏:第一道防泄题,通过禁用词表扫描全文,拦截含‘正确答案是’等引导性短语的内容;第二道防夸大,强制分数与等级、推荐结论对齐,由代码查表映射(如50分对应‘待提升’),杜绝模型描述与数值矛盾;第三道防错建议,校验单题建议非空、总评推荐与子题得分逻辑一致(如‘推荐’时各题不得低于40分)、亮点短板条数合规,异常时生成告警而非静默修正。三道护栏均以纯函数实现,独立于模型输出路径,支持离线全量测试——26个单元测试覆盖边界场景,可在无API Key环境下一键跑通。工程上采用两层分离架构:guardrails.py前置过滤原始Evaluation对象,report.py仅渲染公开字段(分数、等级、亮点、短板、建议、总结),确保答案不进入渲染层。当前方案已在Redis、MySQL等12类技术题库灰度验证,后续将扩展至多轮追问动态评分与权限分级控制。该机制确立人机协作边界:模型负责语言生成,确定性规则守好交付底线,使系统真正具备对外发布能力。