AI 智能体正在从回答问题发展到直接操作电脑、登录网站和执行任务，但操作权限越大，潜在风险也越高。如何防止 AI 误删文件、误转账，已经成为智能体应用中需要重点解决的问题。
据路透社 10 月 22 日报道，美国部分大型银行开始阻止第三方 AI 智能体在客户账户中执行操作或交易。一些用户会向 AI 提供登录凭据，但银行发现部分操作存在风险时，会进行拦截。问题在于，AI 可能理解错用户的指令，甚至执行超出用户本意的操作。
那么，怎样降低这些风险？首先，要遵循最小权限原则。如果 AI 只需要读取文件，就不要授予它删除、修改文件的权限；如果只是查询银行余额，就不应该允许它直接转账。通过限制 AI 能访问的系统、文件和功能，可以减少错误操作造成的影响。
其次，涉及重要操作时，应该增加人工确认机制。例如，AI 可以帮助整理文件、填写转账信息或生成操作方案，但在真正删除重要文件、提交付款、修改生产系统配置之前，必须由用户再次确认。尤其是转账、批量删除等不可轻易撤销的操作，不能完全交给 AI 自动执行。
第三，要做好账号和数据隔离。不要随意将银行密码、管理员账号等敏感凭据直接交给 AI。企业可以采用独立的服务账号、临时授权、身份验证和多因素认证等方式，限制智能体的访问范围。同时，应避免让 AI 直接使用拥有全部管理权限的账号执行日常任务。
最后，还需要建立完整的操作日志和异常监控机制。系统应记录 AI 访问了哪些数据、执行了什么操作、使用了什么权限。一旦发现异常转账、集中删除文件或频繁修改配置，可以及时阻止操作，并在必要时撤销授权、恢复数据。
