
聊天机器人通常单轮回复。智能体可跨多个步骤调用工具,因此必须预先设计其操作范围、访问权限和停止条件。
代理包括什么?
在基本层面上,代理有一个目标、一个推理模型、一组可以使用的工具,以及确定何时停止或询问人类的规则。输入数据、访问权限以及如何记录结果也是设计的一部分。
例如,支持内部请求处理的代理可以查找指令、总结相关信息并建议后续步骤。采取重要操作应受到许可的限制,并且可能需要用户确认。
从一个小过程开始
选择投入和结果相对明确的工作。确定允许代理读取哪些数据、需要批准哪些操作、如何处理丢失的信息以及如何衡量质量。
有用的代理不一定是完全自动化的代理。良好的设计可以帮助人们了解智能体做了什么、为什么以及何时进行干预。
保持控制
最小权限、输出检查、活动日志和停止机制是实际应用中的重要保障。先从小处开始,观察效果,待流程可靠后再逐步扩展。

