AI ManualsAI 技术开发者索引
浏览器与电脑操作

Computer Use

Computer use(计算机操作)是一种交互方式:智能体观察屏幕截图,再通过鼠标或键盘操作图形界面,包括桌面应用。

计算机操作GUI Agent自动化
开始阅读
通过屏幕和鼠标键盘,操作图形界面
Computer Use:通过屏幕和鼠标键盘,操作图形界面计算机操作智能体读取屏幕截图,并请求鼠标与键盘动作;桌面执行这些动作后返回新截图,形成反馈闭环。计算机操作智能体根据截图定位界面桌面 / 应用窗口可见按钮与输入框鼠标点击、键盘输入新的屏幕状态输入设备动作坐标 / 按键 / 滚动屏幕截图像素画面,供下一次观察选择动作操作界面回传截图

屏幕坐标会随窗口位置与布局变化;不能把旧截图里的位置一直沿用。

工作机制与关键组成

  1. 读取界面

    获取当前界面的截图,或读取其无障碍信息。

  2. 执行操作

    通过受控运行环境点击、输入、滚动或发送键盘操作。

  3. 确认结果

    重新获取界面状态,确认操作达成预期后再继续。

如何选择

只有当 API、DOM 或直接集成无法更可靠地完成操作时,再考虑这种方式。

适合解决哪些问题

  • 操作没有 API 或浏览器自动化接口的桌面软件。
  • 在严格监督下自动化旧版图形界面流程。

使用时要留意什么

  • 界面布局、分辨率或弹窗变化时,视觉坐标容易失效。
  • 建议使用隔离账号;涉及删除、付款等操作时应要求人工确认。

使用前,先弄清楚

Computer Use 与浏览器 DOM 自动化有什么区别?

Computer Use 可以通过截图和键鼠操作图形界面,适用范围包括桌面应用;DOM 自动化依赖网页结构来定位元素。能使用稳定 API 或页面元素定位的任务,应先评估这些方式。只有界面可用时,截图操作才更有必要,同时要应对分辨率和弹窗变化。

继续核对原始资料

概念说明参考项目文档与源码;场景选择和接入建议为 AI Manuals 的整理判断。版本、价格、许可及接口细节请以项目当前说明为准。