代码执行Agent工具怎么设计
想让Agent能跑代码算数据、画图,但直接 exec 太危险,模型一不小心 rm 文件或死循环把机器跑挂。
有人这样说「我得让AI跑代码算个趋势图,可又怕它把服务器干崩了,咋整?」
能替你选的都选好了。不想动,直接点下面「交给 AI 办」,点一下就开始做;想改,就点一下要的那个。
已替你选好想改就点一下
只有你知道的不填就先空着,成品里留【待填】
还能补充
还想怎么改可以不选
高级选项一般不用动 · 这件事通常 1 分钟左右做好
示例成品全文按上面这组示例选项真跑出来的
【代码执行Agent工具方案】
一、工具设计
- run_python(code):在隔离沙箱(子进程/容器)里执行,设置30秒超时和内存上限,捕获stdout/stderr与异常一并返回,绝不在主进程直接 exec。
- read_file(path)/write_file(path, content):仅限白名单临时目录,路径穿越(含 ..)一律拒绝。
- pip_install(package):写操作,需二次确认。安装前把包名复述给用户,确认后才装,且限定白名单源。
二、危险操作护栏
执行前静态扫描危险调用(os.system、shutil.rmtree、网络请求等),命中则暂停并要求用户确认;沙箱内无外网、无宿主机文件访问。
三、调用循环
模型写代码 → run_python 执行 → 把输出/报错回填 → 模型据报错自我修正重试,最多3次 → 给出结果。
交付:含超时、异常捕获、确认拦截的 Python 完整实现与依赖。