Claw Use Android

🤖 AI Agent的Android手机远程操控框架

基于无障碍服务的Android手机AI远程控制框架,无需ADB/Root,通过HTTP API实现屏幕感知、语义操作与批量自动化,支持屏幕语义树、截图、统一动作端点及设备端Flow引擎,适合Agent工作流与批量设备管理。

收藏
3.2k
安装
1.1k
版本
2.0.0
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

claw-use-android 是一套让AI Agent拥有真实Android手机操控能力的完整解决方案,由Android端APK与CLI工具(cua)组成。核心设计哲学是Agent工作流优先:通过screen→act循环实现观察-决策-执行闭环,并支持设备端Flow引擎沉淀可复用自动化脚本。

三大核心端点

1. /screen — 语义化UI感知
返回带有稳定整数refID的结构化UI树,标注zone(区域语义)与role(交互角色)。screen -c模式仅返回可交互元素,大幅压缩token消耗,是LLM决策的首选输入。

2. /snapshot — 视觉截图
返回JPEG截图的base64编码,用于需要视觉上下文(颜色、图像、复杂布局)的场景。注意截图分辨率与UI树坐标的映射关系。

3. /act — 统一动作执行
单端点覆盖所有交互:点击(by ref/text/坐标)、输入、滑动、系统导航(back/home/recents)、应用启动等。支持批量动作序列与refID的精准寻址。

Flow引擎:设备端自动化

/flow端点将多步机械操作下沉到设备执行,100ms轮询、零LLM调用。典型场景:MIUI应用安装("继续安装"→"继续更新"→"完成")、批量权限授予。执行失败自动回退到screen→act循环。

关键工作流原则

  • 优先读`flows.md`:匹配现有flow直接执行,跳过逐步推理
  • 强制沉淀新flow:任何多步操作完成后,立即抽象可复用模式写入flows.md
  • 文本优先于坐标click "确定"tap 540 960更可靠、跨设备兼容
  • 结构化优于视觉screen -csnapshot更快、更精准、更易解析

显著优点

1. 零依赖部署:无需ADB、Root、PC连接,纯HTTP通信,跨网络可用
2. 语义化交互refID系统+文本回退,比纯坐标方案更鲁棒

3. 双模感知:结构化UI树(快、精准)+ 视觉截图(场景化)灵活组合

4. 自积累加速:Flow引擎+强制沉淀机制,Agent越用越快,token成本指数下降

5. 完整设备I/O:剪贴板、相机、音量、电池、位置、联系人、短信、文件系统全覆盖

6. 生产级可靠性:PIN解锁100%可靠、服务保活机制、OTA自更新、多设备管理

潜在缺点与局限性

1. 无障碍服务依赖:需用户手动开启,部分厂商(MIUI/HyperOS)需额外保活配置
2. 安全限制:锁屏截图返回黑图(Android安全策略);Pattern解锁实验性不可靠

3. 厂商兼容性:MIUI平板双栏设置界面、ICP备案弹窗、Chrome下载行为等需特殊处理

4. 坐标陷阱:截图缩放后的坐标≠实际屏幕坐标,混用易出错

5. 延迟与稳定性:HTTP轮询+无障碍遍历存在固有延迟,不适合高频实时游戏场景

6. iOS缺失:iOS端(cui)仍在计划中,目前仅限Android生态

适合人群

  • AI Agent开发者:需要真实手机环境执行多步任务、验证App行为
  • 自动化测试工程师:批量设备管理、回归测试、兼容性验证
  • RPA场景:定时任务执行、数据录入、跨App信息流转
  • 设备农场运营:低成本Android设备集群的远程管控
  • LLM应用研究者:探索VLM+结构化感知在手机操控中的结合

常规风险

  • 无障碍服务权限:高级系统权限,需明确用户授权,存在被滥用于恶意自动化(自动点击广告、刷单等)的理论风险
  • 局域网暴露:默认7333端口HTTP服务,建议配合防火墙/VLAN隔离,避免未授权访问
  • PIN明文存储:设备端存储解锁PIN,虽有token保护,但物理接触设备存在提取可能
  • 截屏敏感信息snapshotscreen可能捕获通知、短信验证码、银行App界面,需严格日志脱敏与传输加密(建议HTTPS反向代理)
  • OTA安全风险:LAN HTTP下载APK存在中间人替换可能,建议校验签名或改用安全通道分发

Claw Use Android 内容

手动下载zip · 11.4 kB
flows.mdtext/markdown
请选择文件