Security on 熊鑫伟（cubxxw）的简体中文博客 🇨🇳 https://cubxxw.com/zh/tags/security/ AI Builder、开源贡献者、数字游民的技术博客：Kubernetes、Go、AI 开源项目与成长思考。 熊鑫伟（cubxxw）的简体中文博客 🇨🇳 https://cubxxw.com/assets/og-image.png https://cubxxw.com/ Hugo -- gohugo.io zh-cn Wed, 15 Jul 2026 16:00:00 +0800 怎么才能放心把活交给一个没人盯着的 AI Agent https://cubxxw.com/zh/ai-agent/posts/trusting-unattended-ai-agent/ Wed, 15 Jul 2026 16:00:00 +0800 Thu, 16 Jul 2026 03:07:34 +0800 熊鑫伟 (Xinwei Xiong) https://cubxxw.com/zh/ai-agent/posts/trusting-unattended-ai-agent/ 让 agent 替你干活的真正瓶颈从来不是"能不能干"，而是"你敢不敢信它干完的"。本文拆解无人值守 AI Agent 的信任三件套：执行前授权的护栏（guardrails）、可回归的评测（evals）、早晨的 HITL 复核，用复合误差这道硬数学解释为什么 95% 准确率连做 20 步只剩三成多，并把护栏按动作可逆性分成四级、给出评测集从生产事故里冷启动的具体步骤、早晨复核清单与反模式清单。信任不靠模型自觉，靠工程。 AI LLM Agent Harness Engineering Monitoring Security Testing 怎么才能放心把活交给一个没人盯着的 AI Agent